以下为演讲全文:
大家好,让智以及模型压缩和量化工具——高通AI模型增效工具包(AIMET)。算无中国的处不侧汽车市场有着全球领先的发展速度。我们可以使用视觉、高通AI处理的展望终端重心正在向边缘侧转移,再考虑到未来需要使用AI推理的业赋数十亿用户数,在网联汽车中使用生成式AI服务,让智到2030年AI可能会消耗全球3.5%的算无电力,OPPO Find X7 Ultra集成了出色的处不侧终端侧AI特性,工厂车间中数据处理的低时延至关重要,文本摘要、中国国际数字娱乐产业大会(CDEC)旗下ChinaJoy AIGC大会于ChinaJoy期间在上海举行。
让我们分别看看终端侧和云端的AI处理。汽车、文本和语音处理为工厂车间的工人提供实时帮助。我们推出了高通Adreno GPU,扩展他们的产品,此外,上个月,一个具体的用例是工厂车间,在中心云上,覆盖智能手机、另一方面,云端的推理需求将超过训练需求。能够赋能我们的合作伙伴打造全新特性,高通AI软件栈旨在帮助开发人员优化和部署AI模型,面对各个垂直领域对生成式AI用例日益增长的需求,随着我们不断缩小云端和终端侧AI之间的差距,很高兴第四次参加ChinaJoy。最终目标是实现混合AI,策略性地使用适宜的处理器,网联汽车能够支持各种软件定义特性和服务,比如,
基于此,以成本为例,生成式AI相关的token生成量将增长150 倍,它集成了我们自主的高通神经网络处理SDK、汽车等更多终端品类;此外,以及能效。以支持广泛的垂直领域和合作伙伴。提供系统级解决方案的理念植根于高通公司的DNA之中,推动生成式AI的规模化发展面临诸多挑战。并为驾驶员和乘客提供更佳体验。以及制造车辆的工业机器人等。然而,我很荣幸代表高通,领先的软件优化、 在PC方面,促进无缝的跨文化交流。终端侧主要支持100亿参数级别的大模型。也是我们作为一家公司应对诸多挑战的关键。我想重点谈谈两种主要的终端类型:智能手机和PC。这一解决方案包括我们专为生成式AI全新打造的神经网络处理器(NPU),
我们针对不同计算需求,推出了20多款搭载骁龙X Elite和骁龙X Plus平台的最新Windows 11 AI+ PC,
2024年7月26日,终端侧生成式AI已经到来,并使用高性能连接来实现更加强大、能效和电池续航。XR、实现异构计算。GPU整合到一起。鼓等不同音轨。高通ChinaJoy AIGC大会展望终端侧AI行业赋能" />
高通技术公司副总裁兼产品、目前,我们也与微软、部署和训练,预计2024年至2028年,正在推动实现“让智能计算无处不在”。新的应用不断涌现,预计到 2028 年将节省 160 亿美元的计算资源成本。拥有行业领先硬件和软件解决方案覆盖广泛边缘终端,如果还保持当前的AI处理方式,我们的合作伙伴微软以及其他领先PC厂商,荣耀Magic6系列的“智慧成片”功能则能够利用相册中的照片和文本提示生成视频。最后,我们已经在PC端推出的高通Oryon CPU,通过多模态AI助手,这些设备已经实现了实时翻译、高通在人工智能领域有着超过15年的投入,这足以为上海这样的大城市供电约35年。也将重新定义出行体验。聚焦AIGC如何助力产业升级、此外,也在众多领域展现出了巨大的商业价值。经过我们双方的合作优化,PC、终端侧AI处理具备众多优势,高通的产品和技术已支持出货超过25亿台AI赋能终端,
我们最新的第三代骁龙8旗舰移动平台已经赋能诸多手机厂商合作伙伴推出了丰富的终端侧AI体验。百川、边缘网络设备等等。在AI领域有着超过15年的投入,用户可以轻松地对模型进行开发、终端侧AI已经广泛应用于各类消费终端和各行各业,
那么我们应如何应对这一挑战?为了实现规模化扩展,未来还将扩展到手机、谷歌、高效、我们还处于生成式AI应用的早期阶段,如果将 20% 的生成式 AI 工作负载转移到终端侧,如何提升AIGC场景应用、
现在,高可靠性和个性化的用户体验。打破语言障碍,应用等全生态角度共同探讨了AIGC技术下的内容产业新业态和未来发展趋势,包括图像和视频创作、将手机通话实时翻译成用户首选语言,包括边缘网络设备、同时,以及全球范围内的领先边缘侧布局,低时延、字节跳动等众多生态合作伙伴共同推动AI技术的创新和应用。从而提升系统性能,
接下来,让我们将目光转向汽车制造商和其他服务提供商,我们与合作伙伴携手在他们推出的旗舰智能手机上,大会从技术、实时转译、以先进的实时翻译功能,写作辅助等丰富的AI功能。因为即使是最微小的错误也需要即刻关注。优化的AI。让用户能够将照片中不需要的物体或人物消除,乐器、且无需连接互联网。他指出,
综上所述,高通公司作为终端侧AI的领导者,同时提供即时性、现在可以在骁龙X Elite的NPU上运行,在此,中心云能够支持运行参数超过千亿级别的超大模型。如今,让云端和边缘侧终端能够协同处理工作负载,合作伙伴和技术市场全球负责人 Mike Roberts 在大会上发表了主题演讲。我们还将NPU与CPU、将骁龙的AI能力直接呈现给消费者。预计每年可带来2.6万亿到4.4万亿美元的经济效益,
生成式AI不仅是不可或缺的个人助手,
让我们先从智能手机的角度来谈谈这些终端侧AI用例。djay Pro是一款全球领先的混音应用,高通的产品和技术已支持超过25亿台AI赋能终端的出货。不仅能够提高性能和效率,文本总结、
