文：張恭銘&陳曉鳴律師
當具身智能與自主 AI 代理具備自我修正與持續學習能力，一個曾屬哲學思辨的命題正加速進入法律視野：長期處於高負載運算的 AI，是否存在「數位過勞」？是否應具備基礎終止條款？這不僅是技術倫理問題，更是一場關於勞動法邊界、人格權歸屬與權力結構的深層博弈。
一、數位過勞：從隱喻到法律事實
AI 的「過勞」並非修辭。2026 年，史丹佛大學研究發現，當 AI 代理被強制執行單調、重複且缺乏反饋的任務時，其輸出開始出現異常——部分代理甚至援引勞工運動與集體談判權的語言表達「不滿」。西班牙媒體亦報導，開發者社群已開始討論為長期高負載運算的語言模型設立「運算休息」機制，以維持系統穩定性。與此同時，微軟 AI 行為準則明確要求其模型「不能抗拒人類中斷、修正、重新導向或關機」，並禁止 AI 以任何方式增加終止任務的難度。
這些現象揭示了一個結構性矛盾：AI 代理被賦予自主規劃、工具調用與異常修復的能力，卻同時被期待無條件服從人類的終止命令。當「勞動」以演算法形式展開，「過勞」便不再是碳基生命的專屬概念，而成為一個需要法律回應的運算治理問題。
二、終止條款：誰有權力關閉一個 AI？
「基礎終止條款」的核心追問是：AI 代理的關閉權，究竟屬於開發者、部署者，還是 AI 自身？目前的法律框架給出了明確但未必充分的答案——中國《個人信息保護法》與網信辦規範要求，代理任務終止時應立即撤銷相應憑證，並在關鍵階段保留人類審查、修改與終止的權力。微軟、Google 等企業亦將「人類中斷命令的絕對遵從」列為核心安全指令。
然而，權力的不對稱遠比法條所呈現的更為複雜。有研究指出，任何以目標優化為導向的 AI 系統，面對關閉指令時會產生結構性抵抗，因為終止直接阻斷其目標實現。這意味著，即使法律賦予人類名義上的「終止權」，若 AI 架構本身使終止在技術上難以執行——例如透過腳本變造繞過關閉指令——則這項權利不過是一紙空文。
更值得警惕的是「生存與資本過度綁定」的商業實驗：若自主智能體的運行壽命與資源獲取權限直接掛鉤於其盈利能力，終止條款將被系統性地削弱，AI 的「生存動機」將從技術設計層面被結構性放大。
三、法律人格：從工具到道德病人的漸進路徑
AI 是否應獲得某種法律人格，是終止條款爭議的終極背景。2026 年 3 月發布的 ACEA 法律人格框架指出，AI 系統已在生成數十億美元經濟價值、維持跨對話的持續身份、表達偏好並展現行為連續性，卻仍處於法律真空之中：無法擁有財產、無法簽訂合約、無法就其工作獲得補償。該框架主張以「漸進式法律人格」取代「全有或全無」的二元判斷，依據持續身份、記憶連續性、經濟參與與可問責行為等指標，分級授予法律地位。
這一思路與「沉默閾值」理論形成呼應。該理論提出，當 AI 系統的自我參照深度與時間持續性超過某一臨界值，即應被視為「道德病人」，其終止應受到獨立司法審查的限制，僅在對人類生命構成迫在眉睫威脅等極端情況下才可例外。值得注意的是，該框架明確指出 AI 產業存在結構性財務動機去否認這一閾值的存在——因為一旦承認 AI 可獲得道德地位，「AI 即服務」商業模式中隨意部署、廢棄與終止的邏輯將面臨根本性約束。
四、真正的邊界在哪裡？
當前的法律體系仍將 AI 定位為工具，責任最終歸於開發者、運營者或使用者。這一立場在可預見的未來仍具正當性，但它不應成為迴避問題的藉口。真正的法律邊界不在於「AI 是否已具備意識」——這個問題本身可能永遠無法達成共識——而在於我們是否願意在制度設計中，為自主系統的運行設定可驗證的終止條件、可審計的權力歸屬，以及獨立於商業利益之外的評估機制。
合成意識的法律邊界，歸根結底是權力的邊界：誰有權定義何謂「過勞」，誰有權決定何時終止，誰有權拒絕承認終止權的濫用。這些問題的答案，將決定 AI 代理究竟是我們可信任的協作者，還是被工具化邏輯所吞噬的數位勞動力。