文/黃清晏
前言：從訓練期邁向推論期
過去十年（2015-2025）可謂AI的訓練時代，核心在於建立大規模超級運算中心，由NVIDIA通用型GPU領軍，憑藉其卓越的平行運算能力，處理海量資料以訓練複雜模型。而未來十年（2026-2035）將轉為AI的推論時代，重點轉向能源效率、終端部署與日常普及應用，專屬AI加速器（如ASIC、NPU）將取代通用GPU，成為主流，實現更高的效能功耗比。
2026年正是這兩大時代交替的關鍵轉折點，以下六大趨勢將全面啟動：
趨勢一：從「訓練為主」轉向「推論為主」
- 訓練（Training）：將海量資料輸入電腦，找出規律、建立模型。此階段運算複雜度高、不確定性強，需仰賴GPU的強大平行處理能力。
- 推論（Inference）：將新資料輸入已訓練好的模型，執行實際任務（如問答、辨識、生成）。運算模式相對固定，更要求低延遲與每瓦效能。
過去十年產業重金投入訓練，堪稱「燒錢階段」；未來十年重點將轉向推論，因為唯有推論才能將AI落地應用，實現商業變現。
趨勢二：從GPU轉向專用AI加速器
推論任務的運算模式固定，不需要GPU的高度彈性，專用晶片能提供更佳的效能與成本效益：
- NPU（神經網路處理器）：內建於手機、PC等終端，專責AI加速。
- ASIC（專用積體電路）：為特定演算法量身設計，功耗與面積最優化。
- LPU（語言處理單元）：如SambaNova、Groq等新創推動，專攻超高速文字生成與推論。
趨勢三：從雲端運算轉向終端／邊緣AI
- 雲端AI（過去十年）：集中於大型資料中心，負責大規模模型訓練，所有數據須傳送至雲端處理。
- 邊緣AI（未來十年）：將AI模型直接部署於使用者身邊的終端硬體（手機、車輛、物聯網裝置），在本地即時處理資料並做出反應，降低延遲、提升隱私，同時減少雲端頻寬成本。
趨勢四：從DRAM轉向Flash／SSD記憶體
隨著大型語言模型的上下文長度（Context Length）不斷增加，儲存先前計算結果的鍵值快取（KV Cache）需求急劇上升。DRAM與HBM容量有限且成本高昂，業界逐漸將部分KV Cache卸載（Offloading）至高容量NAND Flash或SSD，以突破記憶體容量瓶頸，並有效降低推論成本。
趨勢五：從電通訊轉向光通訊（光進銅退）
傳統伺服器內部使用銅線進行電通訊，正面臨速度與頻寬瓶頸。未來發展方向包括：
- 共同封裝光學（CPO）：將光學引擎與交換晶片封裝在一起，縮短傳輸路徑。
- 光子中介板（Photonic Interposer）：實現晶片間光學互連，大幅提升頻寬、降低功耗與延遲，是解決AI高密度運算傳輸瓶頸的關鍵技術。
趨勢六：從電運算轉向光運算
傳統AI運算依賴電子流動（GPU、加速器），面臨發熱、功耗與物理速度極限。光子運算利用光子進行資料處理，具備：
- 速度快（光速傳輸）
- 功耗低（減少熱損耗）
- 面積小、成本潛力更低
矽光子與光電混合架構將逐步導入AI推論運算，突破現行電子晶片的物理極限，成為下一世代運算的革命性方向。
總結一覽表
| 趨勢 | 過去（2015-2025） | 未來（2026-2035） |
| 運算階段 | 訓練為主 | 推論為主 |
| 運算晶片 | 通用型GPU | 專用AI加速器（NPU/ASIC/LPU） |
| 部署位置 | 雲端資料中心 | 終端／邊緣裝置（Edge AI） |
| 記憶體架構 | DRAM／HBM | Flash／SSD（KV Cache卸載） |
| 通訊方式 | 電通訊（銅線） | 光通訊（CPO、光子中介板） |
| 運算原理 | 電運算 | 光運算／光電混合 |
結論：
2026年，這些趨勢將從概念走向規模化落地，企業與開發者應及早佈局，掌握從「訓練基建」到「推論應用」的典範轉移契機。