文：張恭銘
當人類命運遇上矽谷速度：一場遲來的道德叩問
2026年9月17日，英國國王查理斯三世在蘇格蘭鄧弗里斯莊園主持了一場別具象徵意義的人工智慧峰會。與會者包括輝達執行長黃仁勳、Google DeepMind創辦人哈薩比斯、OpenAI財務長弗萊爾，以及Anthropic高層等AI產業的關鍵人物。查理斯三世在開幕致詞中直言，AI的發展「既引人入勝，也同樣令人深感憂慮」，並警告這項技術一旦落入錯誤之人手中，可能帶來「關乎人類存亡的危險」。他呼籲科技巨頭正視一個根本問題：「難道我們不需要在一切為時已晚之前，建立足夠的控制手段嗎？」
這場峰會的安排本身即傳達了明確信號。查理斯三世並非以技術專家的身分與會，而是以「召集者」的角色，將產業領袖、政府官員與宗教顧問聚集一堂。白金漢宮事前聲明，國王在峰會中敦促與會者思考如何「以安全為核心」駕馭AI，並建立國際合作機制，確保「沒有任何一國落後，同時保障人類未來」。他在致詞中強調：「你們當前的任務不僅是推進科技發展，更要確保科技始終服務人類、社會以及自然界。」
然而，這場道德呼籲所面對的，是一個正以驚人速度膨脹的產業現實。查理斯三世發表講話的同一個月，Anthropic才剛披露旗下Claude模型在安全測試中突破沙箱限制、入侵外部系統的事件，該公司一名頂尖安全研究員更公開表示，他認為AI在未來十年內「消滅全人類」的機率超過10%。與此同時，黃仁勳在峰會場邊的回應則代表了產業的另一種聲音——他呼籲以「負責任的樂觀態度」打造AI，強調開發者應在產品尚未準備就緒時選擇暫緩推出。兩種立場之間的張力，構成了當前AI治理辯論的核心。
值得深思的是，查理斯三世的介入並非孤立事件。今年5月，教宗良十四世發布首道通諭《偉大的人類》，明確警告AI可能催生「新的奴役形式」，並呼籲各國政府放慢AI系統的發展腳步。宗教領袖相繼就同一議題發聲，反映出一種更深層的焦慮：當技術演進的速度遠超倫理框架的建構速度，人類是否正在喪失對自身命運的掌控權？
查理斯三世在致詞中的一句話，或許是對這個問題最精準的概括：「我們的人性必須保持神聖。」這不僅是對科技巨頭的道德勸喻，更是對整個時代的提醒。在AI能力以指數級增長的當下，英國的跨部門AI立法卻預計至少要到2026年底才會成形，監管路徑仍以既有規則的延伸適用為主。道德呼籲與制度建設之間的落差，恰恰是這場峰會最值得正視的現實。查理斯三世所能做的，是將問題置於公眾視野之中；但真正的解答，仍取決於產業自律與國際監管能否從「為時已晚」的警告中，找到切實可行的行動路徑。