
2025年8月7日,上海祥承通讯技术有限公司与阿里巴巴MNN团队于杭州阿里园区举行会谈,双方正式达成合作意向。
会议由阿里MNN引擎负责人 姜霄棠 和祥承科技创新中心软件专家 王纪清 共同参与,双方深入探讨了阿里MNN引擎与MTK天玑9300平台的深度融合及其在祥承科技边缘计算盒子H20上的应用,共同致力于打造开放共赢的合作生态。

阿里MNN引擎负责人 姜霄棠 介绍MNN架构
在本次合作中,阿里MNN引擎将与MTK天玑9300平台实现深度整合,充分发挥其高效推理能力,H20的AI应用多样性和场景覆盖。
依托MNN灵活且高效的架构,双方计划推动阿里 Qwen 系列模型在边缘设备上的高效运行,进一步加速边缘计算(Edge AI)在智能制造、零售、智慧办公等多元商业场景的广泛落地。此外,未来离线的自动语音识别(ASR)、文本转语音(TTS)以及其他多模态模型等技术也将在该平台上得到充分支持,持续拓展智能算力的应用边界。
此次合作不仅彰显了阿里MNN在边缘AI领域的技术领先优势,同时体现了祥承科技在智能硬件创新上的卓越实力。双方携手共筑智能计算新生态,为未来智能硬件赋能,开创智能算力应用的无限可能。

祥承科技边缘计算盒子 H20
MNN(Mobile Neural Network)是阿里巴巴自主研发的高性能、轻量级神经网络推理引擎,专为移动端和边缘设备的深度学习模型推理与运行而优化设计。
MNN覆盖了深度神经网络模型的优化、转换与推理,支持多种主流深度学习框架的模型部署,能够高效处理图像识别、语音处理、自然语言理解等多种AI任务。
凭借卓越的计算性能与低功耗特性,MNN可以在算力有限的硬件环境中实现快速、准确的推理,并具备良好的跨平台兼容性,支持Android、iOS以及多种嵌入式系统,方便开发者在不同设备间无缝部署AI应用。

为了在更多设备上部署大模型,MNN团队开发了 MNN-LLM 和 MNN-Diffusion,统称 MNN-Transformer,支持大语言模型(LLM)及文本生成图像(AIGC)模型的高效推理。MNN已开源,开发者可通过阿里开源平台 GitHub 访问项目,并获得详细的操作说明与示例代码,涵盖从模型转换、推理优化到性能调优的全流程指导,大幅降低了边缘AI应用开发门槛。
MNN官方文档地址:https://mnn-docs.readthedocs.io/en/latest/
MNN 及大模型推理相关代码均已开源:https://github.com/alibaba/MNN/
MNN推理端侧模型均已在魔搭社区开源:https://modelscope.cn/organization/MNN

MNN系统架构
MNN-Transformer由导出工具、量化工具、插件与引擎三部分组成:导出工具负责将各类大模型转换为MNN格式,并构建必需的资源包;量化工具可有效减少MNN模型大小,降低运行时内存占用并加快执行速度;LLM/Diffusion运行所需的分词、KV缓存管理、LoRA等功能由插件与引擎模块提供。该框架结构清晰、功能完善,被业界评价为高效且优质的边缘AI大模型解决方案。