這在國內的說(shuō)合規圈也蕩起了漣漪。有聲音指出：漢堡法院的德國第案本次禁令動(dòng)作之所以在行業(yè)內引發(fā)關(guān)注，是幻覺(jué)話(huà)負因為它直接繞過(guò)了復雜的算法歸因，將X.AI認定為虛假信息的每句發(fā)布者，并課以直接責任，說(shuō)AI需要為自己“說(shuō)”的德國第案話(huà)負責。

Campact eV的幻覺(jué)話(huà)負經(jīng)理Astrid Deilmann認為，像 Grok 這樣的每句AI聊天機器人也有義務(wù)提供真相。 背后的說(shuō)X.AI 公司不能對虛假信息置之不理，必須確保謊言不被傳播。德國第案

這無(wú)疑是幻覺(jué)話(huà)負一個(gè)很?chē)栏竦囊?。Campact e.V.此前一直有資金來(lái)源爭議，每句也持續在為此進(jìn)行訴訟，說(shuō)不過(guò)，德國第案這次的幻覺(jué)話(huà)負訴訟對象變成了AI。

“失實(shí)信息的出現，通常是已有失實(shí)信息廣泛傳播、AI算法運行原理的天然成果，又或是AI服務(wù)提供者部分識別攔截機制的不健全?！币晃淮髲S(chǎng)負責內容生態(tài)的法務(wù)告訴記者。

他認為，Grok總結的內容標注了數據來(lái)源、是針對用戶(hù)詢(xún)問(wèn)解答，沿用傳統信息檢索平臺或新聞媒體報道的責任認定思路看，如無(wú)其他事實(shí)補充，Grok并沒(méi)有生產(chǎn)虛假信息的主觀(guān)意圖、也不具有謠言的“傳播擴散”事實(shí)。因此，AI生成虛假內容與AI造謠、AI誹謗并不能劃等號。

天元律師事務(wù)所李昀鍇指出，需要判斷涉案言論內容是否有明顯的侮辱、誹謗，是否存在明顯失實(shí)。如果AI歸納生成的信息來(lái)源于不具有足夠依據（比如采納的是X上的某一個(gè)人賬號的不具有可信度的發(fā)言），可能會(huì )存在未盡到核實(shí)責任的問(wèn)題。

平臺免責聲明還能作數嗎？?

由于當前該案的裁決或詳細論證尚未公布，禁令為法院的“臨時(shí)命令”，因此諸多討論尚無(wú)基石，但有一點(diǎn)共識：AI平臺的免責聲明可能不再是免死金牌。

這與此前的AI誹謗案件認定標準大不相同。2023年，美國的一名電臺主持人馬克·沃爾特斯 (Mark Walters) 指控OpenAI旗下的 ChatGPT 通過(guò)捏造指控和虛構訴訟誹謗自己。

相較于德國協(xié)會(huì )資金來(lái)源存在爭議，馬克·沃爾特斯的誹謗純屬ChatGPT瞎編。ChatGPT生成的內容顯示：馬克·沃爾特斯在一個(gè)案件中，涉嫌以SAF財務(wù)長(cháng)的職權非法挪用基金會(huì )的資金坐上被告席。而事實(shí)是，馬克·沃爾特斯亦從未任職于第二修正案基金會(huì )，也沒(méi)有牽涉進(jìn)入這一糾紛案件。

不過(guò)，美國佐治亞州法院最終駁回了馬克·沃爾特斯的訴求，認可了OpenAI關(guān)于A(yíng)I幻覺(jué)的免責聲明，讓其免除了誹謗責任。

法院指出：任何理性的人都不會(huì )將涉案AI生成的內容解讀為真實(shí)的事實(shí)斷言，尤其是考慮OpenAI 采取了廣泛的措施來(lái)警告用戶(hù)：ChatGPT 有時(shí)可能會(huì )生成不準確的輸出。

美國對AI誹謗的認定標準，在歐洲大陸并不適用。盡管德國漢堡地區法院最終會(huì )發(fā)出什么樣的審判決定還未可知，但是禁言Grok的動(dòng)作一定程度上意味著(zhù)對AI緊箍咒的態(tài)度。

“無(wú)論你的免責聲明寫(xiě)得多么詳實(shí)完整，AI的輸出構成了法律所禁止的侵權行為（如誹謗、造謠），服務(wù)商可能就得為此買(mǎi)單?！崩铌厘|提到。

“人工智能也不能凌駕于法律之上?！盋ampact e.V.的經(jīng)理Deilmann如此說(shuō)道。?

AI公司扮演何種角色？

與2023年生成式AI剛剛起步不同的是，當前的AI已經(jīng)“飛入尋常百姓家”，其生成內容的影響力如同水波一樣一層層蕩開(kāi)。

但與此相對應的，卻是普遍用戶(hù)AI素養斷檔。上海交通大學(xué)主導的“科技謠言背后的非理性群體心理與輿論生成”研究結果顯示，AI早已進(jìn)入了人們生活，有近半數的接受調查者經(jīng)常使用大模型，但對于A(yíng)I幻覺(jué)以及AI的“價(jià)值觀(guān)”，大部分受調查者卻沒(méi)有足夠的認知。?

調研對象覆蓋了全國31個(gè)省份的不同性別、不同年齡、不同收入層次的居民，數據顯示，約七成受訪(fǎng)者對大模型生成虛假或錯誤信息的風(fēng)險缺乏清晰認知，高感知比例者不足一成。

在各種社交平臺上，以AI生成內容作為權威的用戶(hù)比比皆是，他們拿著(zhù)這份未經(jīng)核實(shí)的答案作為金科玉律。也正是這種篤定，衍生出了不少糾紛案件。

21世紀經(jīng)濟報道記者了解到，AI生成內容、AI幻覺(jué)導致的侵權、糾紛案件已經(jīng)涌入國內司法領(lǐng)域，有的案件最快將于年底宣判。

這些案子讓頭部AI公司的法務(wù)頭疼不已，其背后牽涉到AI公司到底應該承擔何種責任，是內容生成者還是傳播者？AI和傳統的互聯(lián)網(wǎng)平臺有何區分？

李昀鍇認為，如果相關(guān)內容是AI平臺整合多個(gè)來(lái)源經(jīng)過(guò)判斷后歸納總結出來(lái)的內容，那這種情況下其更有可能是內容生成者，平臺提供者應該有更嚴格的審核義務(wù)，承擔的是直接侵權責任。

但上述大廠(chǎng)法務(wù)則指出，以Grok案件為例，不能簡(jiǎn)單將用戶(hù)的詢(xún)問(wèn)到Grok解答的過(guò)程，理解為“平臺主動(dòng)發(fā)布內容”。AI服務(wù)提供者并不能完全控制內容生成邏輯，內容的生成過(guò)程中，AI解答用戶(hù)問(wèn)題、滿(mǎn)足其訴求是服務(wù)的基本要求；此外，AI生成的內容，如無(wú)其他事實(shí)補充，通常不能代表AI服務(wù)提供者本身的觀(guān)點(diǎn)與立場(chǎng)。

一名研究學(xué)者則認為，從該案判斷，大模型肯定是內容生成者，但是否是內容傳播者存疑。

他指出，盡管大模型傳播了訓練數據中的內容，但需要考慮非常多技術(shù)細節，特別是用戶(hù)提示在生成中的貢獻。此外，大模型生成內容在用戶(hù)之間的傳播結果不盡相同，大模型對A生成和大模型對B生成，首先AB看到內容不一定一樣，其次即使一樣或者相似，能不能直接推出是大模型在傳播。

“AI平臺的法律角色，決定其可能承擔的責任義務(wù)的大小?！崩铌厘|指出，Grok案件或許會(huì )終結業(yè)內“模型犯錯，用戶(hù)負責”的商業(yè)模式。目前漢堡法院只是做出了臨時(shí)禁令（僅需申請人證明侵權的初步蓋然性），不是最終判決。不過(guò)，這次禁令留下一道長(cháng)期的思考題：如果AI幻覺(jué)在技術(shù)上無(wú)法避免，如何設計產(chǎn)品的合規模型使其能最大限度上降低或免除因此產(chǎn)生的侵權責任？

最新評論