記者張杰倫報導
當多數企業仍在爭相囤積GPU用於訓練下一代大模型時，IBM以一紙2.4億美元合約，明確宣示AI產業已跨越關鍵轉折點——從「訓練時代」正式邁入「推理時代」。
這份為期多年的協議，對象是開源AI平台Together AI。IBM將部署搭載NVIDIA Blackwell HGX B300晶片的大規模推理叢集，全面強化其watsonx平台的推理效能。IBM執行長Arvind Krishna直言，此舉為滿足「爆炸式成長的企業AI推理需求」，更預言Blackwell等級的推理效能將使AI應用成本效益提升百倍。
這筆交易的戰略意涵有三：第一，Together AI作為中立平台，具備連結包含Meta Llama、Mistral在內逾200種開源模型的獨特優勢，這與IBM長期推動的混合雲與開源中立策略高度契合，有別於與OpenAI合作中的單一模型依賴。第二，Together AI近期完成NVIDIA及OpenAI創辦人Karpathy參與的1.06億美元融資，已從新創躍升為推理基礎建設的要角。第三，此合約金額超越其年經常性收入，顯見IBM押注的不只是當下，更是2026年至2027年間推理需求的爆發性成長曲線。
然而，龐大投資背後潛藏風險。IBM自身Sovereign Cloud平台仍處於AI功能追加階段，若企業端推理需求成長不如預期，這2.4億美元的基礎建設恐陷入產能閒置的窘境。同時，Together AI主打的開源模型雖具成本優勢，但在合規與安全性要求極高的金融、醫療等IBM主力客戶群中，能否通過驗證仍待市場考驗。
更深層的趨勢訊號是：當NVIDIA Blackwell GPU的出貨主力從訓練轉向推理，意味著AI產業的商業模式正在發生結構性重組。訓練能力是敲門磚，推理效能才是獲利的常態引擎。誰能掌握低成本、低延遲、大規模的推理基礎建設，誰就掌握了下一階段的AI話語權。
這不僅是一筆硬體採購合約，更是IBM在AI軍備競賽中的戰略轉向——從模型軍火商，轉為推理時代的電力公司。而這個賭注是否值得2.4億美元，將在未來18個月內見真章。