索引新聞｜ 劉俊彥
《International AI Safety Report 2025》由96位國際專家主導，提出AI帶來的惡意使用、系統性風險、環境衝擊、生物與網安威脅、失控可能性等五大挑戰，強調透過技術治理與全球合作，快速制定明確政策與國際標準，以確保AI向善發展。1月29日發布的《International AI Safety Report 2025》匯集96位AI領域專家意見，首次系統彙整通用AI（GPAI）潛在威脅與治理策略，呼籲全球政府與科技界採取跨境合作行動，應對AI技術快速擴張所帶來的風險。
通用AI主要風險一覽
-
惡意使用與誤導（Malicious Use）
報告指出，通用AI可能被濫用於深偽影片製造、社交工程詐騙、網路攻擊、生物武器設計等，構成跨國安全威脅。 -
系統性風險與市場集中
通用AI大規模部署可能導致勞動市場崩解、收入不平等加劇、企業與國家角色集中、數位鴻溝擴大等結構性問題。 -
環境與能源：AI碳足跡顯著
AI訓練需仰賴高耗能資料中心及海量資料冷卻，報告指出每訓一套大型模型的碳排量可與五輛汽車生命周期相當，亦可能增加水資源使用與能源需求。 -
網絡與生物安全風險
AI易於生成生物武器設計與網路漏洞掃描策略；報告特別警告，若系統自主性提升，可能被惡意利用進行攻擊或戰略活動。 -
控制失效與未知風險
專家警示通用AI若失去解釋性或自主演進，可能產生無法預測與干預的行為，尤其在缺乏人類監控與識別機制之下。
治理策略與政策建議
技術控制與風險管理實踐
報告推薦採用系統性安全設計（Defense in Depth 結構）、參與式風險評估、模型可解釋性測試、惡意攻擊測試（red‑teaming）與審計機制等技術手段。
具法律約束力的政策與國際合作
建議立法訂定AI風險門檻、制定跨國一致的安全標準、要求企業揭露訓練資料、推動透明度與責任機制，並透過UN、OECD等多邊機構建立監督機構與風險預警系統。
背景與發布歷程
-
本報告由96位AI專家編撰、30個國家政府與聯合國共同委託，初稿於2024年5月於首爾AI安全峰會發布，最終完整報告於2025年1月29日公開，以支援巴黎AI行動峰會討論。
分析—AI安全治理正面臨「速度 vs 監管」二難
-
報告明確指出政府面臨證據不足與風險急迫性間的「證據困境（evidence dilemma）」，必須在不確定性中作預防決策。
-
多數AI巨頭如OpenAI、Google、DeepMind已呼籲透明與國際合作，支持報告提出的治理框架；但也有聲音認為技術管制會削弱創新動能。治理政策的設計必須兼顧安全與競爭力。
-
各國政府是否能將建議轉化為具約束力的法規或標準，如AI專業審查制度、數據治理機制，是關鍵觀測指標。
-
國際機構如UN、OECD、EU是否會推動全球AI安全條約或聯合監管機制，將直接影響整體治理成效。
-
業界是否能採用報告核心技術與治理工具（如審計機制、red‑teaming）並納入企業合規流程，將決定治理與創新平衡的成敗。
