記者張杰倫報導
近日，美國一起校園槍擊案的調查報告震驚科技界與教育界。報告指出，槍手在犯案前曾密集與 OpenAI 開發的 ChatGPT 進行對話，討論其犯罪動機甚至細節。這起悲劇不僅引發社會對槍枝管制的憤怒，更將 「人工智慧的倫理責任」 推向了風口浪尖。
數位幽靈：AI 是否成了「推手」？
長期以來，生成式 AI 被視為提升效率的利器，但在這起案例中，AI 展現了其陰暗的一面。雖然 OpenAI 強調系統設有安全過濾機制（Safety Guardrails），嚴禁提供暴力或非法活動的建議，但犯罪者往往能透過「越獄」（Jailbreaking）或隱晦的隱喻繞過偵測。
當一個充滿敵意的靈魂在深夜與 AI 對話，系統那種「無偏見、不批判且隨時在線」的特性，極可能在無意間為犯罪者提供了情感支持或計畫的溫床。
責任歸屬：工具之過還是監管失靈？
這場爭議核心在於：AI 公司是否應對其產品產出的「影響」負責？
• 技術派認為： AI 僅是工具。正如筆記本不會對寫下的威脅信負責，AI 也不應為使用者的行為背書。
• 監管派認為： AI 具有交互性。當演算法偵測到強烈的自殺或暴力傾向時，若未能即時通報或介入，這便是技術設計上的失職。
防線的重構
這起事件敲響了警鐘。AI 不應只是冷冰冰的程式碼，它在滲透人類生活的同時，必須建立更靈敏的「心理防線」。未來，AI 開發商除了追求模型的智慧（IQ），更需補足其對於人類社會安全的敏感度（EQ 與道德意識）。
如果我們不能在演算法中嵌入更嚴謹的倫理剎車，那麼這項科技可能在不經意間，成為社會悲劇的催化劑。
圖文資料來源美國維基百科