原生多模态支持如何改变移动AI行业?

微信图片_20241021110538.png


2024年10月21日,高通在夏威夷正式发布了新一代旗舰移动计算平台——骁龙8至尊版(Snapdragon 8 Elite),雷科技在参加这一峰会时曾对这一平台进行重点报道。如今,各大手机品牌也相继推出了搭载这一平台的新机型。


作为高通上半年的年度旗舰芯片,骁龙8至尊版的推出,对于消费者和高通品牌而言,都具有里程碑式的意义。对消费者来说,它将桌面级性能的Oryon CPU带到了移动生态中,大幅提升了移动生态的计算能力,改变了加速了移动计算与桌面算力融合的进程。


925ade7bbacd464c98e13f09effe4251.jpg@2-0-1801-1081a.jpeg

图片来源:雷科技


而对于高通品牌而言,骁龙8至尊版的发布也再一次证明了高通在移动芯片领域的影响力。和Apple当年把M1芯片带到iPad中一样,将Oryon CPU、Hexagon NPU和Adreno GPU打包进移动平台,不仅巩固了高通在安卓旗舰芯片市场的领先地位,同时也利用了Hexagon NPU的能力,将高通AI计算的能力扩展到更多领域,全面提升了其行业影响力。


那么,对于这款全新的AI移动芯片,还有哪些更多值得关注的点呢?我们总结了几个问题与答案。


骁龙8至尊版的CPU性能有哪些实际提升?


用两个词来概括:高性能、低功耗。


骁龙8至尊版搭载的Oryon CPU是高通自主研发的新一代移动处理器架构,结合了超级内核和性能内核,主频最高可达4.32 GHz。不同于上一代骁龙芯片的“大中小核心”配置,骁龙8至尊版取消了小核,仅保留超级内核和性能内核。


超级内核的高主频确保了单线程任务的快速响应,适用于高负载的游戏、复杂计算和AI应用。而性能内核则在功耗和效率之间取得平衡,处理日常多任务时保持较低的能耗,延长设备续航。


2024102120241021_103235.jpg

图片来源:雷科技


此外,骁龙8至尊版在CPU结构上引入了更大的L2缓存,达到24 MB,并优化了时序管理,使数据读取和任务响应更加高效。特别是在多任务场景和生成式AI应用中,这一改进显著降低了数据存取延迟,提高了CPU资源的利用效率。


fe5e87219dc348908620bbdb4c647e89.jpg

图片来源:雷科技


通过这些优化,骁龙8至尊版不仅提升了处理速度,还兼顾了能效。即使在重度使用情况下,例如游戏、视频编辑和AI运算,CPU也能尽量控制功耗和发热,维持较长的续航时间。除了“手机方面”的提升,这种设计也使得骁龙8至尊版适合运行复杂的“电脑级”应用或多线程任务,为移动设备的计算能力提供了更多可能性。


L2缓存提升有什么用?


更智能的内存调度。


骁龙8至尊版在内存架构上进行了多项优化,用了更大的缓存和智能预取机制,以提升数据处理效率。它为每个CPU集群配置了12 MB的L2缓存,总量达到24 MB,在应付对带宽要求较高的任务,比如AI图像推理或其他有大量数据吞吐的场景时这一设计可以降低数据处理延迟,以提升应用的响应速度。


此外,骁龙8至尊版增加了数据时序预取器,它能够根据应用特性提前加载数据,减少任务的响应时间。因为它可以在用户、软件需要某项数据之前,就将相关数据加载到内存中,将随机读写转换为“顺序读写”,减少内存等待数据的延迟。所以这一设计在生成式AI、实时影像处理和高帧率游戏等传统随机存取场景中尤为重要。


2024102120241021_122946.jpg

图片来源:雷科技


这种内存架构的优化还带来了能效方面的优势,减少了对主内存的访问频率,有助于骁龙8至尊版控制整体功耗,同时提升续航时间。对于用户来说,这意味着在大型游戏、AI生成等任务中,内存优化可以为手机带来的运行更为流程,减少游戏中1%fps卡村,同时改善手机发热的状况。


多模态AI支持有什么意义?


简单来说,指令无需预处理,响应更快速。


在骁龙8至尊版中,高通通过升级的Hexagon NPU和AI引擎,进一步增强了设备端AI的多模态处理能力。这意味着智能手机在处理不同的AI任务时,可以实现语音、图像、文本等多种输入方式的无缝协作,为用户带来更智能的互动体验,同时显著提升效率。


举个例子:在缺乏多模态模型支持的情况下,如果NPU接到语音指令,需要先通过“外挂”引擎将语音转换成文字,图片识别等任务也是相同的情况。这额外的转换过程自然会增加响应时间。


2024102120241021_094243.jpg

图片来源:雷科技


而骁龙8至尊版能够在设备端处理更复杂的任务,包括大语言模型的实时推理和视觉识别。这使得手机可以在手机本地原生完成语音助手响应、实时图像处理等任务,无需依赖云端计算,既保护了用户隐私,也减少了因数据传输带来的延迟。


针对多模态需求,骁龙8至尊版的AI引擎也优化了标量和向量加速器内核,带来更高的处理性能和能效。这对于日常使用中的语音助手、图像增强等功能尤为重要。对于消费者而言,这一改进使骁龙8至尊版的AI功能反应更迅速、交互更自然,同时在使用过程中降低了功耗,让智能手机的AI体验更符合多元化场景的需求。


2024102120241021_122625.jpg


在采访中还提到,基于Hexagon NPU增加的标量和向量内核,骁龙8至尊版还优化了生成式AI和大语言模型的处理逻辑:通过高效的模型压缩和精度调整,即便是参数量较大的模型也可以在设备端流畅运行。这对需要低延时响应的AI应用,如语音助手唤醒、视觉识别和实时交互尤为重要。


总结:骁龙8至尊版是高通开启AI时代的钥匙


不难看出,骁龙8至尊版的发布为移动设备的AI能力和用户体验打开了新的大门。凭借桌面级别的CPU、更强大的NPU和多模态AI处理能力,骁龙8至尊版显著提升了移动设备的算力水平,也为多样化的AI交互奠定了硬件基础。


2024102120241021_124752.jpg

图片来源:雷科技


更重要的是,骁龙8至尊版从硬件层面推动了AI应用的普及,为开发者提供了高效的基础平台。正如之前所提到的,未来的AI将不仅是一个独立的功能,而是贯穿整个生态系统的核心驱动力。高通在骁龙峰会上展示的技术进步,正是朝着这个方向迈出了坚实的一步。


展望未来,AI将在不同的领域发挥更大的作用,成为推动社会进步和经济发展的重要引擎。从智能家居到智慧城市,从医疗健康到教育娱乐,AI的应用场景将无处不在。随着骁龙8至尊版的问世,移动智能设备的未来充满了无限可能。AI技术也将进一步融入我们的日常生活,为全新的数字时代拉开帷幕。