芯智控股(02166.HK)旗下自营平台
  • 在线咨询
  • 微信咨询
  • 0755-8654 8991
  • 收藏网址

从云端到边缘:联发科Genio AIoT平台实现7B大模型本地推理

联发科新一代Genio 520和Genio 720边缘AIoT芯片,专为下一代AI驱动的物联网设备设计,采用6纳米制程,内置的第八代NPU提供高达7/9 TOPS算力,配备16GB大容量LPDDR5高速内存,支持Transformer/CNN硬件加速,支持本地部署7B大语言模型,显著提升生成式AI任务(如图像合成、文本生成)速度。两款SoC芯片均支持多任务操作系统(HLOS),并集成丰富的多媒体与接口功能,硬件兼容且共享软件栈,支持"一次开发,多端部署"能力。
在线咨询
首页 > 行业解决方案 > 从云端到边缘:联发科Genio AIoT平台实现7B大模型本地推理

从云端到边缘:联发科Genio AIoT平台实现7B大模型本地推理

联发科新一代Genio 520和Genio 720边缘AIoT芯片,专为下一代AI驱动的物联网设备设计,采用6纳米制程,内置的第八代NPU提供高达7/9 TOPS算力,配备16GB大容量LPDDR5高速内存,支持Transformer/CNN硬件加速,支持本地部署7B大语言模型,显著提升生成式AI任务(如图像合成、文本生成)速度。两款SoC芯片均支持多任务操作系统(HLOS),并集成丰富的多媒体与接口功能,硬件兼容且共享软件栈,支持"一次开发,多端部署"能力。
在线咨询
技术详情

联发科新一代Genio 520和Genio 720边缘AIoT芯片,专为下一代AI驱动的物联网设备设计,采用6纳米制程,内置的第八代NPU提供高达7/9 TOPS算力,配备16GB大容量LPDDR5高速内存,支持Transformer/CNN硬件加速,支持本地部署7B大语言模型,显著提升生成式AI任务(如图像合成、文本生成)速度。两款SoC芯片均支持多任务操作系统(HLOS),并集成丰富的多媒体与接口功能,硬件兼容且共享软件栈,支持"一次开发,多端部署"能力。


图1:Genio720和Genio520系列AIoT芯片


一、主要参数:


• 处理器:ARM Cortex-A78*2+Cortex-A55*6,8核@2.6GHz(Max)。

• GPU:Mali-G57 MC2。

• 存储器接口:UFS3.1/eMMC5.1,LPDDR4X/LPDDR5。

• 视频编解码:4K30fps编码/4K60fps解码,H.265/H.264。

• ISP接口:MIPI CSI-2,支持人脸检测。

• 无线接口:WIFI-6E/BT5.3。

• 其他接口:UART*4/ PWM*3/ PCIe2.0/ USB3.2*2/ USB2.0*3/ SPI*6/ I2C*9/ I2S*2/ SDIO3.0*2/ GbE千兆以太网等。


图2:MT8391(Genio720)框图


二、核心优势:


• AI算力:7/9 TOPS边缘算力支持,Transformer/CNN硬件加速,实时处理图像合成、文本生成等生成式AI场景。

• 本地部署:16GB LPDDR5高速内存,支持本地部署DeepSeek、Llama、Gemini等7B大语言开源模型。

• 多媒体:支持4K/5K超宽显示、双ISP架构及多路FHD摄像头接入,满足商业显示多样化配置需求。

• 连接性:预集成Wi-Fi 6/6E,可外接升级Wi-Fi 7和5G Redcap,配备PCIe/USB 3.2等高速接口。

• 系统:兼容Android/Yocto Linux/Ubuntu,支持工规级温度稳定运行。


产品差异:


• MT8391(Genio 720):高端定位,更强的算力和扩展性。

• MT8371(Genio 520):中端优化,性价比突出,适配基础AIoT需求。


图3:Genio720和Genio520系列芯片主要功能



三、应用场景:



智能家居:通过NPU 850实现语音助手实时响应,支持家庭自动化系统管理,实时进行数据分析和决策,显著提升智能化水平。

智慧零售:2.5K双屏异显,虚拟AI助手实时响应,结合千兆以太网连接识别、扫码、打印等丰富外设。

商业显示:强大的图形渲染能力,驱动UW5K(5120 x 2160)分辨率的多点触控显示屏,适用于教育课堂、数字广告牌及互动信息屏。

交通运输:车载信息娱乐系统(IVI)、高级驾驶辅助系统(ADAS)及车队管理解决方案,宽温域设计支持-40°C至85°C运行。

工业HMI:通过丰富I/O接口实现多样化设备互联,坚固设计和先进功能,满足工厂自动化控制、监控场景的多样化适配和高可靠性要求。


MTK Genio 720和Genio 520两款SoC芯片,可以为开发者构建高度扩展性的AIoT解决方案,兼具强大的边缘AI计算、多媒体处理与连接能力,为智能家居、智能零售、智能车载、工业自动化等应用场景带来全新体验。


如需了解更多的Genio720/520系列方案更多详情,申请开发资料,请和商城客服人员联系!


相关方案
    相关产品
      准备好进一步了解方案,你可能需要

      了解更多技术细节,需要一些技术咨询
      需要一定的技术开发,更多功能和接口,或性能进一步提升
      选型和替代优化,寻求可信赖的供货商

      在线与我们沟通,并转接销售和技术支持。

      在线咨询

      添加我们的微信客服,可离线为您服务。

      添加微信