AMD也能跑大模型 MI300X对比NVIDIA H100/200毫不逊色

NVIDIA长期以来在AI算力领域占据主导地位，然而据国外媒体报道，AMD的最 新GPU产品MI300X在性能上终于展现出与NVIDIA H100/200相媲美的实力。根据The Information发布的评测报告，AMD的Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当，表明AMD在高性能AI计算领域取得了显着进展。

这份评测报告由MLCommons提供数据，测试了AMD的MI300X GPU及NVIDIA的H100和H200 GPU。结果显示，在AI推理任务中，MI300X GPU的性能与H100 GPU不相上下，结合对GPU成本及系统总成本的估计，MI300X GPU的表现可以与H100和H200 GPU相媲美。

需要注意的是，这些测试仅使用了来自Meta的Llama 2 70B，尽管测试存在一定局限性，但这一结果仍然表明AMD的MI300X GPU在处理大型AI模型方面展现了强大的潜力。业内人士对AMD在AI领域的发展前景持乐观态度，认为其未来有望进入主流市场。

Transformer作者及Cohere公司创始人之一艾丹·戈麦斯也对AMD及其技术持积极看法，认为AMD和其他平台如Tranium将很快在主流市场中占据一席之地。

作者：申沛

延伸阅读：

• AMD Zen 5移动平台配置确认：最高12核，入门就4核
• AMD携手瓦尔基里《七日世界》限定散热器惊艳ChianJoy