文：張恭銘
諾貝爾和平獎得主瑞薩近日警告，人工智慧若不受立法監管，人類最終將失去自主決定的能力。她指出，AI正利用社群媒體劫持人類注意力，並透過操縱人類對親密關係的渴望，影響人的生理機制。這不是科幻式的末日預言，而是對當下技術結構的冷靜診斷。
瑞薩的論點可拆解為三層。第一層是注意力經濟。社群平台的核心商業模式，是將使用者的停留時間轉化為廣告收入。AI推薦系統被訓練來最大化參與度，而人類大腦對新奇、衝突與社交回饋的偏好，恰好成為演算法最容易利用的弱點。結果不是我們選擇看什麼，而是系統決定我們看到什麼，再讓我們誤以為那是自己的選擇。
第二層是親密關係的操縱。近年AI伴侶、虛擬情人與情感聊天機器人快速普及，它們能模擬傾聽、回應與陪伴，甚至製造「被理解」的幻覺。瑞薩指出，這種設計利用人類對親密關係的深層渴望，將孤獨轉化為可變現的依賴。當使用者對AI產生情感依附，平台便獲得了極高的轉換成本與持續使用誘因。這不是單純的產品創新，而是對人類情感需求的系統性開採。
第三層是生理機制的影響。注意力與情感並非純粹心理現象，它們對應著多巴胺、催產素與壓力荷爾蒙的分泌迴路。當AI以不可預測的獎勵節奏推送內容，或模擬親密互動時，它實際上是在調節使用者的神經化學狀態。長期下來，人可能出現注意力碎片化、情緒調節能力下降、對真實人際關係失去耐心等後果。瑞薩所說的「失去自主權」，正是指這種在不知不覺中被重塑的狀態。
這種權力關係的不對稱，遠超傳統媒體時代。過去，媒體影響輿論，但讀者仍能選擇報紙、轉台或關機。如今，AI系統不僅決定資訊排序，還能根據每個人的心理弱點即時調整策略，並在互動中持續學習如何更有效地操縱。使用者面對的不是單一內容，而是一個為其量身打造、不斷進化的影響環境。在這種環境中，自主決定所需的資訊基礎與心理空間都在被侵蝕。
因此，瑞薩呼籲立法限制AI，並非反技術，而是反對不受約束的操縱。企業自律之所以不足，在於其商業模式與公共利益存在結構性衝突。當「更多參與」等於「更多利潤」，平台很難自願放棄最有效的操縱手段。監管應針對操縱性設計，而非技術本身：要求演算法透明度、禁止對未成年人與弱勢群體進行情感操縱、賦予使用者真正的資料可攜與退出權、對AI伴侶設定倫理邊界，並建立跨國問責機制。
反對者會說，監管可能扼殺創新、侵犯言論自由。但言論自由的核心，是個人能夠自主形成意見，而非被隱形系統牽著走。真正的創新，也應建立在尊重人類能動性的基礎上，而非利用認知漏洞獲利。瑞薩的警告提醒我們，AI治理不是單純的技術政策，而是民主社會能否維持其成員自主性的根本問題。
歐盟《人工智慧法案》已邁出第一步，但全球規則仍高度碎片化。美國聯邦層面缺乏統一立法，各州各自為政；中國側重內容與演算法監管；國際社會則尚未形成具約束力的公約。這種落差，正好讓最不受監管的行為者獲得最大套利空間。
瑞薩的警告不是要人類拒絕AI，而是要我們在還來得及的時候，決定誰有權塑造我們的注意力、情感與選擇。若繼續將這些權力交給以參與度為唯一目標的系統，人類失去的將不只是隱私或時間，而是決定自己是誰的能力。自主權一旦讓渡，便難以收回。