10月11日消息:据联发科技官方微博消息,MediaTek 携手 OPPO、ColorOS,合作共建轻量化大模型端侧部署方案,共同推动大模型能力在端侧逐步落地。
图片来自 @联发科技官方微博
MediaTek 先进的 AI 处理器 APU 与 AI 开发平台 NeuroPilot,构建了完整的终端侧 AI 与生成式 AI 计算生态,可加速边缘 AI 计算的应用开发与落地,强化大语言模型和生成式 AI 应用的性能。
在 MediaTek 与 OPPO 的合作下,AndesGPT 通过采用 4 位量化技术,在精度不掉点效果下,将大模型在端侧逐步落地,并实现性能更优。
同日,基于 AndesGPT 大模型打造的全新小布助手开启新一轮公测。据介绍,AndesGPT 为 OPPO 自主训练的生成式大语言模型,在 8 月初开始随着 OPPO 智能助理小布启动对外邀测,旨在对传统语音助手进行内核级升级。
OPPO 此前表示,未来,该模型将持续加持 OPPO 智能助手小布的 AI 能力,逐步应用于更多 OPPO 核心产品中。