AMDのAI特化型チップ「MI300X」がNVIDIA製チップ「H100」と同等の環境で最大2.1倍の ...

そこでNVIDIAはTensorRT-LLMを用いた際のMI300XとH100のパフォーマンス比較を実施。1秒間に処理できるクエリの数を比較した結果、圧倒的にH100がMI300Xの関連キーワードはありません