spot_img

AI說你犯罪,你就百口莫辯?從國際五大訴訟看「AI幻覺」如何成為名譽殺手

(鄒志中特稿)   一個人從未被起訴,AI卻告訴使用者涉及刑事案件?一家企業沒有遭到州檢察官調查,Google搜尋上方的AI摘要卻整理出看似確鑿的起訴資訊?一位地方政治人物當年是弊案揭發者,ChatGPT卻把他描述成收賄入獄的罪犯?這不是科幻情節,而是生成式人工智慧普及後,已在美國與澳洲真實發生的爭議。過去我們擔憂網路謠言、媒體錯誤報導或社群惡意攻擊,因為那些資訊可能傷害到名譽。但網路生成式AI出現後,問題變得更為複雜:AI可以在沒有惡意使用者刻意造謠的情況下,透過訓練資料的缺口、機率性語言生成與內容的重組,憑空組合出一段流暢、肯定、看似合理卻完全不存在的犯罪事實?

更關鍵的是,AI回答常帶有特殊的權威感。傳統網頁至少可追溯作者、時間與來源;AI生成內容卻可能以完整語氣呈現,讓使用者誤以為答案已通過查證。當AI虛構內容被包裝成事實,受害者面對的就不再只是資訊錯誤,而是可能迅速擴散、演變成難以完全挽回的數位名譽災難?

這也讓法律制度長期未充分準備的問題浮上檯面:如果AI說一個人犯罪,這段話究竟是誰說的?使用者、平台、模型開發商,還是提供錯誤資料的網站?如果被愛人因此失去工作、商業合作或社會信任,又該向誰求償?

國際司法已開始面對這個問題。台灣也不能再把它當成單純的AI技術瑕疵。

AI幻覺不是技術小毛病,而是可能摧毀人格權的公共危機

生成式AI的核心能力是理解問題、整理資訊並生成自然語言。然而其運作方式並非傳統搜尋引擎的「檢索—呈現」,而是根據訓練資料與上下文,預測下一個最可能出現的詞彙序列。當AI大模型檢索的資料不足、來源互相矛盾,或提問具有相當的引導性時,AI大模型有可能惠產生「AI幻覺」(AI hallucination)——生成看似合理、實際上卻缺乏事實根據的內容。

若「AI幻覺」發生在一般知識問答,頂多是錯誤資訊;一旦涉及個人身分、犯罪紀錄、性侵指控、貪污案件或企業違法行為,性質就完全不同。「名譽」不是可輕易還原的數位檔案,而是個人在社會中長期累積的信用、信任與人格評價。

對企業而言,一段錯誤的AI描述「幻覺」可能直接影響潛在客戶決策、金融機構風險評估與投資人信任。即使事後證明完全錯誤,已流失的商業機會往往難以完全恢復。對個人而言,求職者可能因虛構犯罪紀錄遭到質疑;專業人士可能失去客戶;政治人物可能在選舉期間被錯誤整理的抹黑歷史資料反覆攻擊。

這些「AI幻覺」傷害有一個共同特徵:受害者往往不知道錯誤資訊從哪裡產生,也不知道有多少人曾經看過。傳統謠言至少可追查發布者;AI幻覺卻可能在不同使用者的提問中反覆生成。今天有人詢問某人背景,AI提供錯誤答案;明天另一人以相同關鍵字搜尋,又得到類似內容。「AI幻覺」錯誤資訊因此可能在不同對話中不斷複製。

這正是AI名譽侵害最值得重視之處:「AI幻覺」不一定需要明確的造謠者,卻可能形成持續性、難以完全追蹤的傷害。當AI開始成為人們理解他人、判斷企業與接收公共資訊的重要入口時,「AI幻覺」就不再只是工程問題,而是公共風險。

國際五起爭議:科技巨頭開始面對法律責任,但程序結果必須嚴格區分

生成式AI的名譽侵害問題已非理論假設。美國與澳洲陸續出現當事人控告AI業者的案件,不同結果也顯示現行法律制度仍在摸索平台責任的界線。必須特別強調:法院駁回業者終結訴訟的聲請,不等於判決業者誹謗成立;和解也不等於承認法律責任。截至2026年11月中旬,這五起爭議中,尚未出現AI業者經法院實體判決確定要負擔誹謗損害賠償的結果。

(一)ChatGPT錯稱電台主持人侵占款項:OpenAI獲法院勝訴

2023年,美國喬治亞州電台主持人馬克·華特斯(Mark Walters)控告OpenAI。記者使用ChatGPT摘要一份涉及槍枝權利團體的訴訟文件時,ChatGPT錯誤指稱華特斯是該團體財務長並涉及侵占組織款項。事實上華特斯從未擔任該職位,原始訴狀也無此指控。AI不只是摘要錯誤,而是憑空創造可能嚴重損害名譽的犯罪相關資訊。

2025年5月19日,喬治亞州格威內特郡高等法院作出有利於OpenAI的即決判決。法院認為,在當時情境下,一般讀者不會將該內容視為事實;華特斯亦未能充分證明OpenAI存在法律上可歸責的過失,也未能證明所主張的損害。此判決提醒我們:法律判斷不只在於內容是否錯誤,還包括傳播情境、受眾如何理解,以及原告能否證明相關的法律要件。OpenAI並未因「AI可能產生幻覺」而自動免責,但原告也未能跨越舉證的門檻。

(二)Meta AI被控捏造國會暴動參與事實:以和解收場

美國保守派人士羅比·史塔巴克(Robby Starbuck)2025年4月控告Meta,指Meta AI生成涉及他參與2021年1月6日美國國會暴動的不實內容。此類指控具有高度政治敏感性,可能使當事人被社會認為與重大政治暴力事件有關。

2025年8月雙方宣布和解。史塔巴克將擔任Meta顧問,協助處理AI政治偏見與幻覺問題,和解金額未公開。和解本身不代表司法認定Meta構成誹謗,但它透露出當AI生成內容涉及政治人物、公共事件與重大社會爭議時,平台面臨的不只是技術問題,也包括政治信任與企業治理風險。

(三)史塔巴克再告Google:法院駁回終結訴訟聲請,案件繼續審理

史塔巴克與Meta和解後,2025年10月對Google提起訴訟,指控Bard、Gemini及Gemma等AI產品曾生成涉及性侵等不實內容。2026年7月24日,美國德拉瓦州高等法院駁回Google要求終結訴訟的聲請,讓案件得以繼續進入發現與審理程序。

必須釐清:法院駁回終結訴訟的聲請,不代表已經認定Google構成誹謗,也不代表原告已經勝訴。它所代表的是,在目前程序階段,法院認為案件仍有繼續審理的必要,相關法律爭議不能直接排除。這種司法態度具有重要意義——AI產品平台不能只以「模型可能產生幻覺」作為免責的理由;是否有合理的風險控管?是否知道特定內容具有高度錯誤風險?以及是否有能力降低傷害?都可能成為未來爭議認定擊處理的重點。

(四)Google AI摘要錯稱企業遭州檢察長起訴:程序勝負不等於實體責任

美國明尼蘇達州太陽能業者沃夫河電力(Wolf River Electric)控告Google,指Google搜尋的AI摘要錯誤描述州檢察長正在起訴該企業,但實際上並不存在這項起訴。業者主張錯誤內容已造成重大的商業損害。

Google將案件移送聯邦法院後,明尼蘇達聯邦地方法院於2026年1月裁定Google提出移送聲請逾期,因此將案件發回州法院重審。這項裁定處理的是訴訟管轄與程序問題,並沒有判斷AI摘要是否構成誹謗,也沒有認定Google必須賠償。然而案件揭露了另一個重要面向:受害者不一定是自然人,也可能是企業。當AI搜尋結果開始扮演企業資訊的第一道入口,演算法產生的錯誤描述就可能成為新的商業風險。

(五)澳洲市長放棄提告:即使有理,也未必有能力打官司

澳洲維多利亞州赫本郡市長布萊恩·胡德(Brian Hood)2023年表示,ChatGPT曾將他錯誤描述其為涉及賄賂醜聞、遭判有罪並入獄。實際情況恰好相反,他反而是當年揭發弊案的人。胡德透過律師向OpenAI發出通知,要求修正,否則考慮提告。最終他放棄訴訟,主要原因是法律費用與後續模型更新後錯誤內容改善。

這個結果比單純的勝訴或敗訴更值得深思。它呈現出數位時代法律救濟的現實困境:即使受害者認為自己遭到錯誤指控,也不代表就有足夠的財力、時間與法律資源,對跨國科技公司提起訴訟。法律上存在的所有權利,不等於人民實際上都擁有能力去行使相關權利。

從上述五起案件可以看出,AI誹謗目前還沒有形成一致的司法標準。有案件判AI業者勝訴,有案件以和解收場,有案件仍在審理,也有當事人因訴訟成本放棄法律行動。這並不代表AI平台不必負責,而是現行法律面對生成式AI時,仍然存在責任歸屬、故意過失、因果關係與損害證明等難題。

Google AI摘要:從搜尋工具變成新的資訊裁判者

如果說ChatGPT的錯誤回答,是使用者主動詢問後才可能出現的風險,那麼Google AI摘要帶來的問題就更加複雜。因為使用者不一定需要主動詢問某人的犯罪紀錄,只要搜尋姓名、企業名稱或品牌關鍵字,Google就可能在搜尋結果上方提供一段AI整理的摘要。

這種呈現方式改變了人們接收資訊的習慣。過去使用者搜尋某家公司,通常會看到多個網頁連結,再自行判斷不同來源的可信度。現在AI摘要可能直接把多篇網頁整理成一段看似完整的結論,使用者甚至不必點進原始報導,就已經形成對企業或個人的第一印象。

AI摘要並非獨立的事實查核機制。它使用搜尋結果中的相關網頁作為資訊來源,也可能透過查詢擴散技術針對問題中的不同子題進行多次搜尋。換言之,摘要內容仍然受到網路資料品質、來源完整性與搜尋系統判斷影響。如果原始網頁就存在有錯誤,或者報導內容早已過時,AI就可能把這些資訊重新組合,形成另一段錯誤的描述。

更棘手的是,即使某項爭議已經和解、撤銷或獲得澄清,舊資料仍可能留在網路上。AI如果沒有正確掌握事件後續,就可能持續把過去的爭議當成現在的事實。這形成一種新的數位資訊困境:錯誤的內容不一定是AI憑空創造,也可能是AI把網路上既有的片段資訊重新的排列組合,最後卻產生具有誤導性的不實結論。

因此,AI摘要的問題不能簡化成「AI會不會講錯」。真正的問題是:當AI把不同來源的資訊整合成一個具有權威感的答案,卻沒有充分呈現時間背景、事件進度與資訊可信度時,使用者是否還有能力辨別真相?尤其當搜尋結果涉及犯罪、司法判決、公共安全或企業違法等重大事項,AI摘要的錯誤就可能直接影響個人的社會評價。

從這個角度來看,Google不只是提供搜尋工具的平台,也逐漸成為影響社會如何理解資訊的重要中介者。平台未必需要對所有網路內容負責,但當它主動利用AI整理、生成並呈現內容時,就有必要重新思考資訊品質與使用者救濟機制。

台灣法律能不能告AI誹謗?刑法與民法都有適用難題

台灣目前沒有一部專門處理生成式AI誹謗的法律。如果有人因為ChatGPT、Gemini或Google AI摘要而遭到不實指控,現階段主要仍須回到《刑法》妨害名譽罪章,以及《民法》侵權行為與人格權保護等規定尋求救濟。然而傳統法律制度的設計,原本是以自然人或法人作為主要責任主體,面對AI生成內容時會出現幾個值得討論的問題:

第一個難題是刑法誹謗罪的「意圖散布於眾」如何認定。《刑法》第310條規定,意圖散布於眾而指摘或傳述足以毀損他人名譽之事者,可能成立誹謗罪。問題在於,AI大模型生成錯誤內容時,究竟是誰具有散布意圖?如果使用者只是詢問某人的背景,並沒有要求AI編造犯罪事實,AI卻自行生成錯誤答案,能否直接認定使用者具有誹謗故意?如果AI大模型開發商設計了生成系統,卻沒有直接指示大模型去誹謗特定人士,又應如何認定其主觀犯意?《刑法》第12條規定,行為非出於故意或過失者不罰;過失行為的處罰則以法律有特別規定者為限。刑事責任不能只因為結果造成傷害,就直接推定有人犯罪。必須進一步釐清實際行為人、主觀犯意與客觀行為之間的關係。而且誹謗罪原則上屬於告訴乃論,受害者必須注意法定告訴期間與相關程序。

第二個難題是民法侵權責任如何證明。相較於刑事責任,民事救濟可能是AI名譽侵害更值得重視的途徑。《民法》第184條規定,因故意或過失不法侵害他人權利者,負損害賠償責任。《民法》第195條則規定,名譽等人格法益遭到不法侵害者,得請求相當金額的非財產上損害賠償,也可以請求回復名譽的適當處分。因此,如果AI生成錯誤犯罪資訊,受害者可以進一步檢視:相關內容是否涉及不實事實並足以降低社會對當事人的評價?AI業者是否存在可歸責的故意或過失?錯誤資訊是否確實造成名譽、工作、商業交易或其他權益損害?損害與AI生成或傳播內容之間是否存在法律上足夠的因果關係?

這些問題都需要個案判斷。特別是AI大模型的運作具有高度技術複雜性,受害者可能無法取得模型生成紀錄、內部風險管理文件或平台處理資料。當被告掌握主要技術證據,而受害者卻只能取得一張螢幕截圖時,雙方在訴訟上的資訊能力顯然並不對等。這也是未來台灣司法必須思考的問題:如何在不破壞商業機密與技術創新的前提下,讓受害者有合理機會取得必要的證據?

第三個難題是跨國平台讓司法救濟變得昂貴。目前主要生成式AI服務的經營者多數並非設立於台灣。受害者即使有明確的損害,也可能面臨平台服務條款、公司所在地、準據法、管轄權及跨境送達等問題。如果受害者必須要到海外提告,訴訟成本、語言障礙與證據取得的困難,都可能使司法救濟變得遙不可及。澳洲胡德案就是值得台灣借鏡的例子:當事人即使認為自己受到錯誤的指控,也可能因為訴訟成本高昂而無奈放棄跨國法律追究。

AI說錯話,受害者不能只靠截圖自救;企業聲譽管理也不能只靠刪新聞

在制度尚未完整建立之前,個人與企業如果發現AI生成涉及自身的不實資訊,仍然必須掌握基本的證據保存與申訴程序。這不是因為平台回報一定有效,而是因為任何後續法律行動都需要先建立可以驗證的證據。

發現AI生成不實內容時,應立即保存完整回答畫面、使用的AI服務名稱及版本資訊、提問內容與完整對話紀錄、生成日期時間及相關網址、AI引用的資料來源及外部連結,以及錯誤內容造成的實際影響。尤其應保存爭議內容完整的上下文字,因為法律上必須釐清AI究竟是主動生成錯誤指控,還是使用者透過特定提問誘導模型產生內容。

同時應向AI業者正式提出更正或隱私申請,並處理真正的資訊源頭。AI生成的錯誤內容有時並非完全來自AI大模型本身,而是源自網路上既有的錯誤資料。如果是媒體報導錯誤,應向媒體提出更正要求;如果原始網頁已經修正但搜尋引擎仍顯示舊資料,可以使用移除過時內容工具。內容屬實但已經過時,與內容從一開始就是錯誤,法律上並不是同一件事。例如某家公司曾經遭到調查,但最後不起訴或是獲得無罪判決,AI如果只呈現早期調查的新聞卻忽略後續的司法處理結果,就可能造成嚴重的「AI幻覺」錯誤誤導。

對企業而言,AI搜尋與生成式摘要的普及,讓聲譽管理面臨新挑戰。過去企業主要關注搜尋引擎排名、媒體報導與社群輿情;現在還必須檢查AI如何描述公司、負責人、產品與重大爭議。企業應建立完整且可查證的官方資訊、定期檢查AI如何描述企業,以及建立危機處理與法律應對機制。真正正規的聲譽管理不是去掩蓋事實,而是要修正錯誤、補足正確資訊、建立可信任的公開事實紀錄。市場上某些聲稱可以「保證刪除AI負面新聞」的服務,反而可能讓企業陷入新的法律與信用風險。

台灣不能等到第一起重大AI誹謗判決,才開始討論制度改革

國際案例已經清楚顯示,AI名譽侵害不是單一平台的偶發問題,而是生成式AI進入公共資訊體系後必然面對的治理挑戰。台灣現在需要思考的,不只是現行刑法與民法能不能處理AI誹謗,更包括如何建立一套讓人民真正有能力維護自身權益的制度。

首先,應該建立AI錯誤資訊的透明申訴機制。主要AI大模型平台應提供更清楚、更容易使用且可以追蹤處理進度的申訴管道。對於涉及犯罪紀錄、司法案件、重大違法指控等高度敏感的資訊,應有更嚴格的事實查核與回應的機制。

其次,應該釐清AI大模型平台責任與合理注意義務。AI業者不可能保證每一段生成內容都百分之百正確,但也不能因此把所有風險都轉嫁給使用者。當AI大模型平台已經知道某項資訊反覆產生錯誤,或有合理能力辨識特定內容具有重大名譽侵害風險時,是否應採取改善措施?提供更正機制或限制特定錯誤輸出?值得透過司法判決與立法更深入討論利弊得失,並逐步建立更安全及更合法合規AI大模型標準。

第三,應該強化數位證據保存與跨境法律協助。AI對話紀錄可能隨時間變動,平台也可能調整模型與回答方式。台灣應思考如何讓受害者有效保存數位證據,並在必要時取得平台相關紀錄。

第四,應該建立更符合AI時代的數位人格權保障觀念。人格權不應因為傷害是由演算法生成,就失去法律保護。不論錯誤內容來自自然人、媒體、搜尋引擎或生成式AI,只要符合相關法律要件,就應該有適當的法律救濟途徑。

當然,制度改革也不能走向另一個極端。如果只要個人或企業不喜歡AI的回答,就可以要求平台全面刪除資訊,可能形成新的資訊審查問題,甚至讓具有公共利益的真實報導受到不當壓制。「AI幻覺」管理制度必須區分明顯虛構的犯罪指控、已經更正的錯誤資料、尚在司法程序中的案件、具有公共利益的真實報導,以及純粹的意見評論。不同類型的資訊應適用不同等級「AI幻覺」的管理及處理標準。

「AI幻覺」治理真正需要追求的,不是讓所有平台只說好話,而是讓錯誤資訊有機會被發現、被更正,讓受害者能夠取得救濟,也讓真實資訊不因為科技平台的壓力而被不當消失。

AI可以生成答案,但不能取代事實;科技可以進步,責任不能消失

從華特斯控告OpenAI、史塔巴克先後與Meta及Google發生法律爭議,到沃夫河電力控告Google AI摘要,再到澳洲市長胡德因訴訟成本放棄提告,這五起國際案例共同揭露一項正在形成的社會風險:AI不只是工具,也開始成為人們理解他人、判斷企業與接收公共資訊的重要入口。

當AI回答某人涉及犯罪,使用者可能就會相信;當Google摘要整理出企業遭到起訴,消費者可能會轉身就離開;當錯誤內容被反覆引用,受害者即使最後證明清白,也未必能完全恢復原有的名譽。這就是生成式AI帶來的結構性法律及治理新挑戰。

更值得警惕的是,未來AI可能不只生成文字,還會整合影音、社群貼文、新聞資料、司法文件與即時搜尋結果。錯誤的「AI幻覺」資訊可能以更完整、更逼真的形式出現,讓一般人更難分辨真偽。如果法律制度仍停留在傳統網路謠言的思維,將難以充分處理這種新型態的資訊侵害。

台灣必須及早建立平台責任、數位證據、資訊更正與人格權保護的制度架構。最重要的原則其實很簡單:人工智慧可以提供資訊,卻不能因為自己是人工智慧,就免除對資訊品質與可能傷害到人類的合理責任。

一個人不應該因為AI的一句錯誤回答,就被社會當成罪犯;一家企業也不應該因為搜尋引擎的一段錯誤摘要,就被市場直接判處信用死刑。當「AI幻覺」的錯誤足以毀掉一個人的名譽,科技巨頭是否還能以「這只是模型幻覺」作為免責的理由?

AI可以有幻覺,但人民不應該為「AI幻覺」去承擔全部的代價。當AI科技開始影響一個人的清白、名譽與生存權益,AI大模型平台的責任就不再只是企業治理的問題,而是民主法治社會必須守住的基本底線。