推論の性能は35倍アップ！
Instinct MI325X/350/400
こちらもKTU氏の記事にないので簡単に補足。AMDは2026年までのInstinctシリーズのロードマップを公開した。今年登場するのはInstinct MI325Xで、2025年にMI350、2026年にMI400がそれぞれ投入される。
2026年までのInstinctシリーズのロードマップ。MI400がCDNA 5ではなくCDNA Nextというのもなかなか示唆的だ
まず今年中に投入されるInstinct MI325Xであるが、こちらはGCDそのものは既存のMI300Xのものと同じで、ただしHBM3eメモリーをMI300Xの24GB/スタックから36GB/スタックとしたことで、総メモリー量を288GBまで増やした。
MI300Xは2GB/ダイのHBM3eを12Hiで積層、24GBだったがMI300Xはこれを3GB/ダイに増強した模様
転送速度もMI300Xは5.2TB/秒だったのがMI325Xでは6TB/秒に強化されており、信号速度で言えばMI300Xが5.2Gbps/pinだったのがMI325Xでは5.8Gbps/pinに向上している。これによって、NVIDIAのH100のメモリーを増強したH200と比べても十分競争力がある、としている。
続くMI350Xはまだプレビューであるが、GCDを3nmに微細化、またFP4/FP6のデータタイプのサポートも追加される。このMI350Xの仮想敵はNVIDIAのB200であり、メモリー容量でB200比の1.5倍、AI compute性能で1.2倍と説明されている。
MI350Xの概要。逆にメモリーがMI325Xと同じ容量なのがちょっと気になるところ。あるいは現在は8スタックの構成を12スタックなどにして、スタックあたり24GBのまま、速度をもっと引き上げる方向に振っているのかもしれない
ただNVIDIAは2025年にBlackwell Ultraを投入するとしており、これと戦うためにはもう少し性能の上乗せが必要かもしれない。ちなみにこのMI350Xの推論における性能はMI300比で35倍になる、というすさまじい数字も示された。
MI350Xの推論性能はMI300比で35倍。なにをどうするとここまで性能が向上すると見込めるのか、よくわからない。このあたりはまた情報が公開されるのを待つしかないだろう
2026年はMI400が投入されるが、こちらに関しては一切情報がない。ただこの時期NVIDIAは新アーキテクチャーであるRubinを投入することが基調講演で示されており、このRubinと一騎打ちになると思われる。
ということで簡単だがAMDの補足情報を説明した。製品が出てくるのは7月であり、その直前にはまたもやKTU氏の死のベンチマークロードが始まるものと予想される。
週刊アスキーの最新情報を購読しよう
本記事はアフィリエイトプログラムによる収益を得ている場合があります