眾所期待的 AMD 終於在 14 日宣布推出新一代人工智慧 (AI) 加速器-MI 300X，該晶片預計將與競爭對手輝達 (NVIDIA) 的 H100 相抗衡。不過，因為 AMD 在發表會上並沒有透漏未來將有甚麼樣的大客戶會進一步採用 MI 300X 的情況下，造成了市場投資人的疑慮，使得股價收盤時 3.6%。
AMD 新推出的MI 300X 採用新 AMD CDNA 3 加速器架構，支援高達 192GB HBM3 記憶體，提供大型語言模型推導與生成式 AI 工作負載運算力與記憶體效率。整個晶片總計封裝 1,530 億個電晶體，並 12 個 5 奈米製程小晶片。相較競爭對手，MI 300X 的 HBM 暫存記憶體是 NVIDIA H100 的 2.4 倍，HBM 頻寬是 H100 的 1.6 倍，AMD 可執行比 NVIDIA H100 更大的模型。
此外，AMD 推出 AMD Infinity 架構平台，將 8 個 MI 300X 加速器整合至業界標準設計，打造極致的生成式 AI 推論與訓練環境。MI 300X 第三季開始向各大客戶送樣，第四季將開始正式出貨。另外，AMD同時發表的 AMD Instinct MI 300A，為針對 HPC 與 AI 工作負載開發的全球首款 APU 加速器，當前也已開始送樣。
根據路透社的報導，AMD 執行長在蘇姿丰接受路透社的採訪時表示， MI 300X AI 加速器將有助於科技公司應對提供類似於 ChatGPT 的服務時不斷上升的成本。蘇姿丰還強調，你擁有的暫存記憶體越大，AI 加速器可以處理的模型集就越大。因此，能在客戶工作負載中看到它運行得更快，使得 MI 300X 的確與眾不同。
只是，面對蘇姿丰的說法，AMD 這次沒有說明誰將採用 MI 300X，或是採用稱為 MI 300A 的相關產品。另外，AMD 也沒有詳細說明該加速器的成本是多少，也沒有說明它將進行相關的促銷動作。因此，在這些問題沒有獲得明確回答下，使得股價在 2023 年蒸蒸日上的 AMD，這次發表會後收盤價下跌了 3.6%，反觀競爭對手輝達則是收盤價上漲了 3.9%，使得市值重回兆元大關。
報導引用 TIRIAS Research 分析師 Kevin Krewell 的說法表示，我認為沒有大客戶將使用 MI 300A 或 X 可能讓投資人感到失望。即便 AMD 說他們已經在某些設計上取代了輝達。現階段，輝達仍囊括 AI 加速器 80%~90% 的市場，在市場上幾乎沒有太大的對手。目前可以算得上的對手就是 Google 母公司 Alphabet、亞馬遜鄧網路服務提供商以雲端運算方式進行的對抗。
至於，發表會場上幫忙站台的 Meta，目前則是宣布將從 AMD 採購代號 Bergamo 的第四代 EPYC 伺服器處理器，以因應資料中心對雲端運算客戶的需求，所以採購的仍舊不是 MI 300X AI 加速器。報導強調，輝達在 AI 方面的領先地位不僅來自其晶片的算立，還有來自十多年來為 AI 研究人員提供軟體工具。對此，AMD 也同樣對抗衡輝達 Cuda 軟體的 Rocm 軟體提供了更新。
事實上，有市場人士指出，AMD 的 MI 300X AI 加速器最重要優勢在於支援高達 192GB HBM3 暫存記憶體。這可以使得許多中小或新創企業在使用 AI 模型訓練之際，可以一口氣地進行完畢。相對的，如過使用輝達的 H100 AI 加速器，就必須在某個斷點切割，花費比較多的時間與成本。此外，現階段看來雖然 H100 的算力似乎仍會高於 MI 300X，但相對購買成本也會比較高，使得 MI 300X 相對好的 CP 值能夠吸引中小或新創企業採用，因此，看來產品有不同的市場區隔，而這樣的差異是否會讓投資人青睞，則需要時間的證明。
(首圖來源：科技新報攝)
相关文章
