新闻中心

智能座舱大模型混合算力还是全靠端侧输出

来源：杏彩体育唯一官网发布时间：2024-11-26 22:37:04

　　除了传统的LLM模型外，不少垂直领域的大模型也在快速的提升，尤其是在汽车领域，慢慢的变多的车企开始考虑在车内引入AI大模型。如今汽车此前由于车端算力的限制，大模型很难运行在智能座舱上，而全程联网跑的座舱大模型在使用体验上又有所欠缺。然而，随着新一代智能汽车算力硬件纷纷进入下一阶段，如今智能座舱开始在新车型上铺开。去年年底，理想发布了最新的OTA5.0版本，率先为Max车型升级了ADMAX 3.0智能驾驶。然而，这一次OTA还包括了最新的智能空间SS 3.0，为Max、Pro和Air车型正式引入了Mind GPT这一智能座舱多模态认知大模型。理想从零构建了Mind GPT的原始基座模型，并采用了自研的TaskFormer神经网络架构，Mind GPT使得理想语音助手“理想同学”获得了听感和自行能力全面升级，并基于其重点场景，定制了111个领域、1000种以上的专属能力，比如理解语义、多语种交流、模糊感知和行程安排规划等。从中文大模型排行榜C-Eval网站上能够正常的看到，12月4日发布的Mind GPT在当时斩获了闭源模型第一的成绩。尽管随后被荣耀、海思和vivo的大模型超过，但Mind GPT目前依然以89.7的成绩高居第四的位置。能够准确的看出，理想Mind GPT对于硬件的要求并不算高，从理想分享的Mind GPT推理引擎来看，其推理负载被分配给了云端GPT和端侧的NPU，以此来降低智能座舱的算力要求，使得更多老车型也能够轻松的享受到大模型的完整体验。蔚来宣称NOMI GPT是业内首家纯端侧部署的多模态感知大模型，新的NOMI借由这一大模型，可以在无需联网的前提下识别数千种物体，且做到快速响应，还可以根据非颜色类磁珠，完成氛围灯的颜色组合。由于是纯端侧处理，NOMI GPT做到了车主隐私数据不出车，提高了信息安全性。之所以能做到纯端侧，自然离不开计算硬件的支撑。2024款蔚来全系车型均将采用全新的中央计算平台ADAM，在智舱上搭载了高通最新的骁龙8295智能座舱芯片。在5nm工艺和架构优化下，8295相较上一代8155在性能上有了巨大的提升，除了通用计算与图形处理的CPU和GPU算力分别翻了2倍和3倍外，用于AI计算的NPU算力也提升了8倍，达到了30TOPS。除此之外，蔚来的ADAM通过系统级创新实现了舱驾融合，不但可以拓展算力，更能轻松实现跨域算力共享。如此一来，类似NOMI GPT这样的多模大模型端侧部署，就可以调用来自智驾芯片Orin X的算力，来提升CPU、GPU和NPU的使用效率。能够准确的看出，理想和蔚来在智能座舱大模型上采用了不完全一样的策略，理想的Mind GPT主打让所有L系列车主都能享受到大模型的智能空间，而蔚来则是追求极致的硬件算力，把一切推理计算都留在端侧。这两种方式都各有优劣，未来随着更多车企跟进智能座舱大模型，我们届时将看到究竟何种技术路线更受欢迎。

　　东芝1200V SIC SBD “TRSxxx120Hx系列” 助力工业电源设备高效

　　2024 瑞萨电子MCU/MPU工业技术研讨会——深圳、上海站，火热报名中

　　STM32N6终于要发布了，ST首款带有NPU的MCU到底怎么样，欢迎小伙们来STM32全球线上峰会寻找答案！

　　德州仪器新型 MCU 可实现边缘 AI 和先进的实时控制，提高系统效率、安全性和可持续性

　　全新 TMS320F28P55x 系列 C2000™ MCU 集成了边缘人工智能 (AI) 硬件加速器，可实现更智能的实时控制，故障检验测试准确率高达 99%。全 ...

　　瑞萨推出高性能四核应用处理器，增强工业以太网与多轴电机控制解决方案阵容

　　RZ T2H MPU凭借高性能应用解决能力和快速实时控制，成为工业机器人、PLC和运动控制器的理想之选2024 年 11月 26日，中国北京讯- 全球 ...

　　您是刚刚接触莱迪思半导体产品并希望评估莱迪思软件开发工具的研发人员吗？在莱迪思，咱们提供业界领先的低功耗现场可编程门阵列（FPGA）产 ...

　　了解SGMII及其在FPGA中的角色SGMII是什么？串行千兆媒体独立接口（SGMII）是连接千兆以太网（GbE）MAC（媒体访问控制）和PHY（物理层）芯片 ...

　　“边缘AI 使嵌入式设备能够更高效地使用传感器数据，并提升我们的日常体验。”嵌入式处理高级副总裁 Amichai Ron在我们的日常生活中 ...