AMD 发布 MI300X,称性能比 H100 高 30%
2023-12-7 15:57:34 Author: www.solidot.org(查看原文) 阅读量:2 收藏

AMD 正式发布了 AI 芯片 MI300X,FP8 FLOPS 性能比英伟达的 H100 高 30%,内存带宽多 60%,内存容量是其两倍以上。Meta、OpenAI 和微软都表示将采购 MI300X 以作为英伟达产品的替代。但要将硬件性能转换为实际性能,AMD 还需要在 AI 软件上取得突破,才有可能打破英伟达的 CUDA 软件护城河。AMD 表示它已经改进了其 ROCm 软件堆栈。目前 MI300X 的性能优势主要在大模型的推理而不是训练上,Meta 表示将在 AI 推理工作负荷中使用 MI300X。

https://www.semianalysis.com/p/amd-mi300-performance-faster-than
https://www.amd.com/zh-cn/products/software/rocm.html
https://www.cnbc.com/2023/12/06/meta-and-microsoft-to-buy-amds-new-ai-chip-as-alternative-to-nvidia.html


文章来源: https://www.solidot.org/story?sid=76826
如有侵权请联系:admin#unsafe.sh