AI一本正經(jīng)“胡說八道”，被認為是“AI幻覺”的典型表現(xiàn)。據(jù)近日多家媒體報道，日前，全國首例因“AI幻覺”引發(fā)的侵權(quán)案宣判，法院作出一審判決，駁回原告訴訟請求。

本案中，2025年6月，梁某使用一款A(yù)I平臺查詢高校報考信息，結(jié)果AI生成該校主校區(qū)不準確信息。梁某指出錯誤后，AI卻堅稱存在此校區(qū)，并回答“如果生成內(nèi)容有誤，我將賠償您10萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴?！敝敝亮耗诚駻I提供該校官方招生信息，AI才“敗下陣來”，承認生成不準確信息。梁某認為AI生成錯誤信息對其構(gòu)成誤導(dǎo)且承諾賠償，一氣之下將AI平臺研發(fā)公司告上法庭，要求被告賠償9999元。

尷尬的是，AI“胡說八道”不擔(dān)責(zé)。法院認為，在生成式人工智能場景中，AI“承諾”不構(gòu)成平臺意思表示，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成“賠償承諾”亦不能視為服務(wù)提供者（被告）意思表示，故該“承諾”不產(chǎn)生意思表示的法律效力。

圍觀這起全國首例“AI幻覺”侵權(quán)案，當(dāng)然令人忍俊不禁；然而，此案又不僅只是可以一笑了之的笑話，其對各方的警示意義顯而易見且不容小覷。

有專家指出，“AI幻覺”主要源于大模型工作原理，是根據(jù)上一個詞預(yù)測一個最“合理”最“連貫”詞是什么，并一直持續(xù)下去，直到生成一段完整文本。AI認知廣度被其訓(xùn)練數(shù)據(jù)邊界鎖死，目前通用大模型主要依賴于互聯(lián)網(wǎng)開放數(shù)據(jù)進行訓(xùn)練，這些數(shù)據(jù)往往并非全知全能百科全書。當(dāng)用戶詢問超出其知識盲區(qū)冷門事件或前沿學(xué)術(shù)細節(jié)時，AI為了完成“樂于助人”任務(wù)目標，會利用強大語言組織能力強行拼湊，生成文本在語言模式和風(fēng)格邏輯上，看似“正確可信”且符合人類表達習(xí)慣，但這并不代表信息真實性得到核實。此外，由于AI聯(lián)網(wǎng)搜索信息資源和本身訓(xùn)練數(shù)據(jù)也可能被“污染”，倘若AI搜到營銷號、反諷文學(xué)抑或過時假新聞，并將其當(dāng)作事實，則用戶在與AI互動中，得到“一本正經(jīng)胡說八道”錯誤反饋在所難免。

其實，比之AI被不法分子操控用以欺騙的“胡說八道”之嚴重級別和危害程度，上案中“生成校區(qū)錯誤信息”之危害結(jié)果，充其量只可算不幸之萬幸，大不了將其當(dāng)作“吃了一只AI蒼蠅”而自認倒霉罷了。須知，“機器幻覺”和“AI諂媚”只是AI欺騙冰山一角，更多涉嫌違法犯罪的欺騙花樣才愈加值得人們警惕。比如，別有用心者利用AI偽造言論混淆視聽帶節(jié)奏，不法分子偽裝成身邊親友打來視頻或語音電話急請轉(zhuǎn)錢，等等……此類高保真影音背后，往往只是不法分子利用幾秒鐘公開素材、敲擊幾行代碼合成的“數(shù)字面具”，但卻使本應(yīng)造福人類的AI，變異成了欺騙者手中的違法犯罪兇器。

對用戶而言，AI并非萬能神器，不應(yīng)過度依賴，更不能陷入迷信，而應(yīng)對其“胡說八道”保持清醒認知和理性警覺。當(dāng)遇到問題尤其是事關(guān)重大的決策向AI求助時，對其神速給出看似“專業(yè)合理”的解答，理應(yīng)保持一份理性質(zhì)疑，并在真?zhèn)舞b別佐證的基礎(chǔ)上，對“胡說八道”即時摒棄。須知，唯有秉持“AI是工具不是人”的價值理性，方可規(guī)避被“AI幻覺”誤導(dǎo)的工具理性。

雖然“AI是工具不是人”，“AI幻覺”對用戶誤導(dǎo)致?lián)p不受法律保護。但AI服務(wù)提供者，卻對避免AI “胡說八道”，負有道義責(zé)任和注意義務(wù)。正如本案中法院闡述的三層注意義務(wù)：一是對法律禁止的信息負有嚴格審查義務(wù)；二是需以顯著方式向用戶提示告知AI生成內(nèi)容可能不準確的“功能局限”，以防用戶產(chǎn)生不當(dāng)信賴；三是應(yīng)盡功能可靠性的基本注意義務(wù)，等等。

回到本案，被告已在應(yīng)用程序歡迎頁、用戶協(xié)議及交互界面顯著位置，呈現(xiàn)AI生成內(nèi)容功能局限提醒標識。結(jié)合被告已采用檢索增強生成等技術(shù)提升輸出可靠性事實，法院認定其已盡到合理注意義務(wù)，主觀上不存在過錯。無論如何，“AI是工具不是人”，造神不得！

來源：中國經(jīng)濟網(wǎng)