AMD跑大模型终于Yes!MI300X对比NVIDIA H100/200毫不逊色

作者:时尚 来源:时尚 浏览: 【】 发布时间:2024-10-20 01:13:28评论数:
AMD跑大模型终于Yes!大模X对MI300X对比NVIDIA H100/200毫不逊色 2024年09月05日 11:03 快科技 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间

快科技9月5日消息,型终逊色据媒体报道,大模X对在AI算力领域,型终逊色NVIDIA长期占据主导地位,大模X对但AMD的型终逊色最新GPU产品MI300X在性能上终于展现出了与NVIDIA H100/200相媲美的实力。

根据The大模X对 Information发布的评测报告,AMD的型终逊色Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当,显示出AMD在高性能AI计算领域的大模X对进步。

这份评测报告由MLCommons提供数据,型终逊色在测试中,大模X对AMD的型终逊色MI300X GPU以及NVIDIA的H100和H200 GPU均得到了评估。

结果显示,大模X对在AI推理任务中,型终逊色MI300X GPU的大模X对性能与H100 GPU不相上下,加上对GPU成本及系统总成本的估计,说MI300X GPU能媲美H100和H200 GPU也不为过。

值得注意的是,这些测试仅使用了来自Meta的Llama 2 70B,尽管测试存在局限性,但这一结果仍然表明,AMD的MI300X GPU在处理大型AI模型方面具有强大的潜力。

业内人士也对AMD在AI领域的发展前景持乐观态度,Transformer作者及Cohere公司创始人之一艾丹·戈麦斯表示,他相信AMD和Tranium等平台将很快进入主流市场。

【本文结束】如需转载请务必注明出处:快科技责任编辑:黑白文章内容举报
Baidu
map