11月8日 消息:据寒武纪科技官方消息,近日,寒武纪思元(MLU)系列云端智能加速卡与百川智能旗下的大模型Baichuan2-53B、Baichuan2-13B、Baichuan2-7B等已完成全面适配。
寒武纪的思元(MLU)云端智能加速卡支持多种数据位宽、超大内存容量和高速内存带宽等产品优势,加上寒武纪自研的BangTransformer算法加速库,硬件和基础软件平台充分协同,适配过程中,满足了百川大模型对加速卡计算、通信和能效等多方面需求,显著加速了大模型从训练到部署的全部流程。
寒武纪表示,针对快速发展的大模型领域,2023年,寒武纪从底层硬件架构指令集的设计到基础软件迭代都针对大模型的应用场景进行相应的优化,思元(MLU)系列产品在大语言模型、视觉大模型等领域的性能进一步提升。
未来双方还会通过整合技术和资源,形成优势互补,一起来探索和推动大模型在更多的行业和场景落地。