12月26日 消息:戴尔最新宣布推出基于AMD技术的高性能计算服务器,旨在满足人工智能工作负载需求。
新推出的Dell PowerEdge XE9680服务器搭载了八颗AMD Instinct MI300X AI加速器,为企业提供更多选择,与之前搭载Nvidia GPU版本齐头并进。该服务器为企业训练和运行内部大型语言模型(LLMs)提供支持,拥有1.5GB高带宽内存(HBM3)和超过21petaFLOPS的性能。
注:图片来自戴尔官网
与此同时,戴尔强调了其对开放标准的承诺,成为Ultra Ethernet Consortium(UEC)的成员,与Nvidia采用的封闭态度形成鲜明对比。戴尔倡导采用开放的以太网标准,使来自不同供应商的交换机能够在同一系统上互操作。这与Nvidia的做法形成对比,后者主张对人工智能采用封闭网络。
戴尔还宣布了一项名为"Dell Validated Design for Generative AI with AMD"的新标准,为企业提供了一个框架,使其能够运行自己的硬件和网络架构以支持LLMs。该标准涵盖了技术集成、物理安装和性能优化的方方面面,为企业构建生成式人工智能平台提供了全方位的支持。
此次合作还涉及到使用AMD ROCm技术支持的AI框架,该框架是一个与AMD Instinct加速器兼容的开源软件包,包括流行的框架如PyTorch、TensorFlow和OpenAI Triton,这些框架在搭载AMD加速器的PowerEdge XE9680上具有本地支持。
这一系列硬件和服务的发布,是戴尔在人工智能领域的最新举措,预计将在明年上半年正式推出。这标志着戴尔对多样化选择和开放标准的坚定支持,助力企业构建更灵活、高效的生成式人工智能模型。