形成監管、人民日報平臺、多管用戶(hù)聯(lián)動(dòng)共治

多管齊下，齊下防范AI技術(shù)濫用（民生一線(xiàn)）

本報記者 金 歆

《人民日報》（2025年11月28日 第 16 版）

人工智能（AI）、防范深度合成等新技術(shù)快速發(fā)展，技術(shù)對加快形成新質(zhì)生產(chǎn)力、濫用實(shí)現經(jīng)濟社會(huì )高質(zhì)量發(fā)展起到關(guān)鍵作用，人民日報也為人們的多管生活帶來(lái)便利。然而，齊下部分不法分子利用AI技術(shù)傳播虛假信息，防范破壞網(wǎng)絡(luò )生態(tài)，技術(shù)造成不良影響。濫用

多管齊下防范對AI技術(shù)的人民日報濫用，促進(jìn)人工智能健康發(fā)展，多管有利于維護社會(huì )共同利益。齊下《人工智能生成合成內容標識辦法》通過(guò)標識提醒用戶(hù)辨別虛假信息，明確相關(guān)服務(wù)主體的標識責任義務(wù)，規范制作、傳播各環(huán)節標識行為。

持續打擊灰色產(chǎn)業(yè)鏈

一天，林某躺在床上刷著(zhù)短視頻，一個(gè)名為“AI理財小助手”的賬號出現在屏幕上。林某在其主頁(yè)里瀏覽了一番，發(fā)現賬號粉絲數顯示“8.7萬(wàn)”，但最新視頻的點(diǎn)贊數還不到三位數。

“公式化命名、同質(zhì)化內容、異?；?dòng)數據，這些是AI起號的特征?！蹦扯桃曨l平臺內容安全部門(mén)負責人劉珊介紹。AI起號成為一些自媒體的牟利手段，利用AI生成發(fā)布吸引眼球的內容，在短時(shí)間內吸引大量粉絲，之后通過(guò)帶貨或者直接轉讓賬號變現。

“利用AI選擇漲粉領(lǐng)域，打造能夠吸粉的人設，賬號內容也可以通過(guò)AI生成?！笔圪u(mài)“AI起號課程”的“培訓師”楊某說(shuō)。一方面不受做自媒體需要的專(zhuān)業(yè)知識、制作能力限制；另一方面，可以幫助精準吸粉，并保持“人設一致”。此外，還能同時(shí)操作多個(gè)賬號，形成矩陣，互相引流，合作推廣。

“情緒急救：人生低谷期如何防止情緒崩盤(pán)”“深度療愈：看見(jiàn)潛意識中的自己”……楊某向記者展示了一個(gè)剛開(kāi)號不久的“心理學(xué)博主”的賬號頁(yè)面。每個(gè)標題看上去專(zhuān)業(yè)感十足，又直擊特定群體心理需求?！捌鋵?shí)文案全靠AI生成?！睏钅痴f(shuō)。

虛假的人設、不嚴謹的內容、夸張的畫(huà)面，如此起號，對網(wǎng)絡(luò )空間環(huán)境危害不小。

如何打擊利用AI起號的行為？

“AI起號的主要危害在于偽造，治理關(guān)鍵也在于此?！北本┼]電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心執行主任謝永江認為，除了強化執法打擊外，平臺也應提高對深度偽造內容的檢測精度，明確對AI造假起號等違規行為的界定和處罰標準等。

“起號—轉型—轉賣(mài)”的灰色產(chǎn)業(yè)鏈，是AI起號相較其他AI偽造現象的獨有特點(diǎn)。

“根據反電信網(wǎng)絡(luò )詐騙法規定，任何單位和個(gè)人不得非法買(mǎi)賣(mài)、出租、出借互聯(lián)網(wǎng)賬號?！蹦畴娚唐脚_安全運營(yíng)負責人表示，各個(gè)電商平臺均已禁止賬號轉賣(mài)。但有一些賬號交易還是通過(guò)社交媒體發(fā)布，借助“隱晦暗語(yǔ)”等私下進(jìn)行。

“賣(mài)號不僅是AI起號的變現途徑，通常還伴隨詐騙等違法犯罪行為?！北本煼洞髮W(xué)法學(xué)院教授梁迎修建議，監管部門(mén)督促平臺履行治理責任，建立違規賬號“黑名單”，對高頻、反復觸犯平臺規則的賬號主體加大處罰力度，禁止違規賬號進(jìn)行帶貨、賣(mài)課等商業(yè)活動(dòng)，持續開(kāi)展AI造假起號整治，切斷不法分子獲利渠道。

有效攔截仿冒營(yíng)銷(xiāo)內容

“今天有事請大家幫忙……先拿出300單老家的土雞蛋給大家發(fā)福利！”不久前，在某短視頻平臺上，一名廣受喜愛(ài)的運動(dòng)員“推銷(xiāo)老家農產(chǎn)品”，彈幕和評論里全是“支持”“為偶像沖銷(xiāo)量”的文字。其實(shí)，這些帶貨視頻全都是利用AI仿冒的，其中一個(gè)商品鏈接顯示已售出4.7萬(wàn)件。

據某短視頻平臺負責人介紹，冒充社會(huì )知名人士的情況主要有幾種：利用AI技術(shù)生成社會(huì )知名人士圖片，用作賬號頭像，仿冒假冒他人；利用AI技術(shù)生成社會(huì )知名人士視頻且不做標注；仿冒假冒社會(huì )名人賬號和生成內容后，博取關(guān)注，通過(guò)開(kāi)設櫥窗售貨等方式不當獲利。

如何治理這一亂象？

“AI仿冒名人，歸根到底還是利用AI造假。民法典對肖像權和聲音權利的規定以及其他相關(guān)法規，都已作出相關(guān)保護?！度斯ぶ悄苌珊铣蓛热輼俗R辦法》對人工智能生成合成內容標識提出要求?！绷河拚J為，關(guān)鍵還是要嚴格執法，公正司法。

“從平臺角度來(lái)說(shuō)，除了壓實(shí)自身責任，還要與用戶(hù)聯(lián)動(dòng)，強化共治?！彬v訊相關(guān)負責人表示，用戶(hù)發(fā)現未標注AI生成標識的短視頻時(shí)，可提交相關(guān)材料進(jìn)行投訴。經(jīng)平臺審核通過(guò)的補充說(shuō)明將以浮動(dòng)標注形式展現在原視頻頁(yè)面。

抖音相關(guān)負責人表示，平臺已為社會(huì )知名人士建立肖像保護庫，同時(shí)努力對仿冒營(yíng)銷(xiāo)內容進(jìn)行有效攔截。

多方協(xié)作建立辟謠機制

“突發(fā)爆炸！火光沖天！傷亡不明！”一則“視頻新聞”在網(wǎng)上流傳，畫(huà)面中火光沖天，引發(fā)當地群眾恐慌。后來(lái)公安機關(guān)調查發(fā)現，這是賬號所屬機構使用AI批量生成的虛假新聞。該機構一天最多能生成4000至7000篇假新聞，每天收入在1萬(wàn)元以上。

為何AI制作的虛假新聞在網(wǎng)絡(luò )上屢禁不止？

某新聞聚合平臺內容安全負責人認為，一些平臺的反虛假信息機制效率有待提升，某些賬戶(hù)在平臺發(fā)布AI生成圖片視頻后，“疑似AI技術(shù)生成”的提示語(yǔ)數小時(shí)后才出現，未能及時(shí)提醒風(fēng)險。

中南大學(xué)法學(xué)院副院長(cháng)楊清望認為，平臺應根據權威信息立即對相關(guān)謠言采取清理、標簽標記等措施，并處置違規賬號。

近年來(lái)，相關(guān)法律法規不斷健全完善，向AI使用者和平臺管理者亮明了法律底線(xiàn)。北京師范大學(xué)新聞傳播學(xué)院教授許小可建議，針對生成和傳播虛假信息的高風(fēng)險領(lǐng)域，可以通過(guò)司法解釋等形式明確各方義務(wù)邊界，進(jìn)一步制定科學(xué)合理的AI侵權責任認定指導標準。

在以技術(shù)對抗虛假新聞方面，各地監管部門(mén)也在不斷探索?！拔覀兣c科研機構、企業(yè)密切合作，進(jìn)一步提高對惡意‘深度偽造’信息的監測預警和快速識別能力。通過(guò)與相關(guān)部門(mén)合作建立網(wǎng)絡(luò )謠言巡查監測、核查反饋、會(huì )商研判、線(xiàn)索移送、打擊處置的閉環(huán)機制，對AI合成的虛假信息第一時(shí)間依法依規處理?！边|寧沈陽(yáng)市公安網(wǎng)絡(luò )安全保衛部門(mén)負責人說(shuō)。

若因虛假消息遭受損失，責任誰(shuí)來(lái)承擔？浙江師范大學(xué)特聘教授喬巴生認為，內容制作方若涉嫌欺詐，應承擔侵權責任；若平臺未盡審核義務(wù)，需依法承擔連帶賠償責任。此外，用戶(hù)也應提升對虛假信息的鑒別能力。

某短視頻平臺負責人建議，首先，警惕內容特征，如AI生成文本常出現邏輯斷層、情感表達單一或事實(shí)細節模糊；視頻可能存在面部表情不自然、光影異?；蚵曇羰д?。其次，核查信息來(lái)源，優(yōu)先選擇權威媒體或官方渠道。騰訊相關(guān)負責人建議，在一些AI生成內容明顯缺乏可信度、具有信息誤導等特征時(shí)，用戶(hù)可通過(guò)評論區互動(dòng)等形式相互提醒，并通過(guò)投訴等形式及時(shí)反饋到平臺。

監管、平臺與用戶(hù)聯(lián)動(dòng)共治，通過(guò)技術(shù)檢測、投訴機制和法律追責，共同筑牢誠信防線(xiàn)。

(責任編輯：探索)