侯纪磊：全面推动AI技术发展，打造领先边缘性能 重新组织后，这段内容更清晰地表达了主题。首先，引入了高通侯纪磊，然后直接陈述了他的研究方向和目标——全栈AI优化，最后得出了他希望通过这种技术来打造领先边缘性能的结论。

2023-07-06 23:36:15 高通公司

• 7月6日,在2023世界人工智能大会——芯片主题论坛上,高通全球副总裁兼高通AI研究负责人侯纪磊博士做了题为《全栈AI优化 打造高效的边缘AI性能》的演讲。在演讲中,侯纪磊介绍了终端AI的重要性和优势,以及高通在终端AI方面特别是生成AI方面的进展,以及对于混合AI在高效推动AI规模化落地等方面的看法。 侯纪磊指出,尽管大量AI的训练和推理仍在云端进行,但终端侧的人工智能正变得越来越至关重要。通过在最靠近数据源头之处处理数据,并同云端形成互补,往往能够带来在隐私、可靠性、低时延、成本、能耗、个性化等方面的显著优势。例如,在成本方面,生成式AI通常参数体量巨大,如果在端侧部署,能够推动成本的显著降低。而在AI数字助手方面,手机、驾舱、PC等使用场景,端侧AI则能够很好地满足私密性、个性化的需求。 侯纪磊介绍,早在十几年前,高通便开始了AI方面的研发,其中一个重要研究方向就是高效能AI,在包括硬件、算法和软件等层面进行了大量的研发创新。在高效硬件方面,高通通过对移动平台中CPU、GPU、NPU等不同单元进行优化,最终使得针对不同任务,能够选择合适的计算模块运行。在算法层面,高通具有一支顶尖的深度神经网络算法团队,有很多原创性的研究成果。在软件方面,高通对于客户以及开发者都做出了很好的支持,包括面向深度学习的软件加速runtime以及SDK/开发框架等。 侯纪磊强调,高通AI研究的一个非常重要的原则,就是全栈式的AI创新和优化。通过跨层的模型、硬件和软件创新加速AI应用,这种早期研发和技术发明对于引领生态系统发展至关重要,而最终将技术提供给商业团队,并通过部署过程中的

  

• 公司参与招标1次，最近项目为：高通公司资产评估审计服务1采购候选人公示。