AMD跑大模型终于Yes！MI300X对比NVIDIA H100/200毫不逊色
作者:焦点 来源:焦点 浏览: 【大中小】 发布时间:2024-10-21 11:51:22评论数:
AMD跑大模型终于Yes！大模X对MI300X对比NVIDIA H100/200毫不逊色 2024年09月05日 11:03 快科技 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间
快科技9月5日消息，型终逊色据媒体报道，大模X对在AI算力领域，型终逊色NVIDIA长期占据主导地位，大模X对但AMD的型终逊色最新GPU产品MI300X在性能上终于展现出了与NVIDIA H100/200相媲美的实力。
根据The大模X对 Information发布的评测报告，AMD的型终逊色Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当，显示出AMD在高性能AI计算领域的大模X对进步。
这份评测报告由MLCommons提供数据，型终逊色在测试中，大模X对AMD的型终逊色MI300X GPU以及NVIDIA的H100和H200 GPU均得到了评估。
结果显示，大模X对在AI推理任务中，型终逊色MI300X GPU的大模X对性能与H100 GPU不相上下，加上对GPU成本及系统总成本的估计，说MI300X GPU能媲美H100和H200 GPU也不为过。
值得注意的是，这些测试仅使用了来自Meta的Llama 2 70B，尽管测试存在局限性，但这一结果仍然表明，AMD的MI300X GPU在处理大型AI模型方面具有强大的潜力。
业内人士也对AMD在AI领域的发展前景持乐观态度，Transformer作者及Cohere公司创始人之一艾丹·戈麦斯表示，他相信AMD和Tranium等平台将很快进入主流市场。