三個(gè)月內，網(wǎng)店父親在嘉興經(jīng)營(yíng)的個(gè)月生鮮網(wǎng)店連續遭遇9起“僅退款”事件，這讓在上海工作的內遭難困陳曉薇警覺(jué)起來(lái)。

今年10月假期，遇起她專(zhuān)程回到老家，造假仔細查看父親的退款手機記錄，試圖弄清緣由。強制

“父親的標識背后店鋪主打‘現摘現發(fā)’，已經(jīng)營(yíng)五年。網(wǎng)店每次發(fā)貨前，個(gè)月他都會(huì )錄制封箱視頻，內遭難困清晰記錄柑橘的遇起色澤、果徑和包裝單號。造假”陳曉薇告訴央視網(wǎng)《鋒面》記者。退款

然而，強制當她登錄網(wǎng)店后臺核查時(shí)，卻發(fā)現這幾起“僅退款”的買(mǎi)家均提供了開(kāi)箱圖片——箱內的柑橘要么腐爛變質(zhì)、要么干癟失水，甚至出現蟲(chóng)蛀痕跡。

受訪(fǎng)者供圖

起初，陳父以為是快遞運輸環(huán)節出了問(wèn)題，前幾單均同意了退款申請。但隨著(zhù)類(lèi)似情況越來(lái)越多，他與快遞公司多次溝通未果，只得求助女兒?！拔乙粡堃粡堊屑毑榭?，注意到其中一張圖的角落留有疑似水印的痕跡，像是被裁剪過(guò)?！标悤赞甭?lián)想到近期媒體報道的AI修圖“僅退款”現象，懷疑店鋪遭遇了有組織的惡意退款。

通過(guò)簡(jiǎn)單搜索，陳曉薇發(fā)現，利用AI技術(shù)篡改圖片、偽造商品質(zhì)量問(wèn)題并申請退款的行為已非個(gè)例。她隨即向平臺提交封箱視頻和疑似AI修改的圖片申訴，卻因“憑證不足”被駁回，平臺建議她與買(mǎi)家協(xié)商解決?！暗@類(lèi)買(mǎi)家通常已將我們拉黑，根本無(wú)法聯(lián)系?！标悤赞睙o(wú)奈表示。

她進(jìn)一步致電平臺客服，對方回復稱(chēng)“無(wú)法判定圖片是否由AI生成”。由于涉及訂單總金額不足1000元，未達到詐騙罪立案標準，報警途徑也難以走通。陳曉薇感嘆，AI生成的水印可以被輕易去除，平臺缺乏有效檢測機制，最終受損的往往是像父親這樣誠信經(jīng)營(yíng)的小商家。

值得注意的是，2025年3月14日，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門(mén)發(fā)布了《人工智能生成合成內容標識辦法》，明確規定AI生成內容需進(jìn)行強制標識，如文本添加提示符號、圖片視頻嵌入水印等。該辦法于今年9月1日正式實(shí)施。

圖源：中央網(wǎng)絡(luò )安全和信息化委員會(huì )辦公室網(wǎng)站

但《鋒面》記者調查發(fā)現，一方面，仍有大量新生成的AI內容未按規定添加標識；另一方面，即便已添加水印，也可通過(guò)技術(shù)手段輕松去除。這使“強制標識”政策在落地時(shí)面臨新挑戰。

“水印”的去與留

事實(shí)上，自生成式AI技術(shù)興起以來(lái)，“打假”與“辨真”便成為技術(shù)發(fā)展過(guò)程中繞不開(kāi)的話(huà)題。

“目前相關(guān)規定主要將AI內容標識分為顯式和隱式兩種，顯式標識要求以用戶(hù)可明顯感知的方式標注AI生成內容?！豹毩I開(kāi)發(fā)者路磊指出，當前爭議主要集中在顯式標識的實(shí)施層面。

“但主流采用的‘水印’方式存在一個(gè)致命缺陷——極易被篡改或去除?！甭防谂e例說(shuō)明，“比如多數AI繪圖工具將水印置于畫(huà)面角落，用戶(hù)僅需使用手機自帶的裁剪功能，就能在不影響畫(huà)面整體效果的情況下輕松去除水印?！?/p>

通過(guò)裁剪圖片去除AI水印

記者調查發(fā)現，電商平臺上存在大量“圖片視頻去水印”服務(wù)，單次收費僅需幾元至十幾元。有商家透露，圖片去水印操作簡(jiǎn)單，甚至有時(shí)使用基礎修圖軟件即可完成；視頻去水印則相對復雜，需要一幀一幀修復、校準，但對畫(huà)質(zhì)要求不高的可以直接裁剪去除。

這樣一來(lái)，視頻或圖片很容易就擺脫“AI生成”的標簽，達到以假亂真的效果?！叭コ『?，不僅普通用戶(hù)難以辨別，部分專(zhuān)業(yè)檢測工具也會(huì )失效?！甭防诒硎?。

與此同時(shí)，創(chuàng )作者群體卻面臨“過(guò)度標識”的困擾。插畫(huà)師李沐陽(yáng)抱怨道：“我用了72個(gè)圖層、手繪三萬(wàn)多筆完成的作品，僅因使用AI微調局部光影，就被系統打上‘AI生成’標簽?！逼渥髌吩谏缃黄脚_發(fā)布后不僅被自動(dòng)標注，還遭遇流量限制，曝光量不足平日十分之一，甚至收到“用AI偷懶”的負面評論。

“從發(fā)絲筆觸到衣物褶皺都經(jīng)過(guò)精心打磨，AI目前根本達不到這種創(chuàng )作精度?！崩钽尻?yáng)無(wú)奈表示，他聯(lián)系平臺客服，卻被以“系統自動(dòng)標識”為由拒絕人工干預修正。

一面是消費者苦于難以辨識經(jīng)過(guò)篡改的AI內容，一面是創(chuàng )作者受困于平臺的機械化標識機制。AI水印的“強制標識”，遭遇兩種看似矛盾實(shí)則普遍存在的尷尬。

平臺的難題

根據中國通信院發(fā)布的《生成式人工智能產(chǎn)業(yè)發(fā)展報告（2025）》，2024年我國生成式AI用戶(hù)規模已達約3.8億人。與此同時(shí)，《中國網(wǎng)絡(luò )視聽(tīng)發(fā)展研究報告（2025）》顯示，2024年平均每日新增視頻內容超過(guò)1億條。

面對如此龐大的數據量，平臺陷入了難以實(shí)現“逐一審核”的資源困境。

根據路磊的觀(guān)察，當前像李沐陽(yáng)所遭遇的“誤判”，主要源于平臺普遍采用的AI識別模型?！斑@些模型通過(guò)學(xué)習海量AI生成內容建立判定標準，卻容易將人類(lèi)創(chuàng )作中的優(yōu)質(zhì)特征誤判為AI產(chǎn)物?！崩?，畫(huà)師反復打磨的筆觸與色彩搭配，學(xué)術(shù)論文中邏輯嚴密的表達，都可能被系統標記為AI作品——越是精良的作品，越容易被誤判，形成一種技術(shù)悖論。

圖源：視覺(jué)中國

西南政法大學(xué)人工智能法學(xué)院教授馮子軒進(jìn)一步指出：“人工智能生成的內容涵蓋文本、短視頻、直播、虛擬場(chǎng)景等多元形態(tài)，不同場(chǎng)景的技術(shù)架構、傳播邏輯差異巨大，單一的技術(shù)方案沒(méi)有辦法適配所有的場(chǎng)景?！?/p>

然而，即便采用嵌入代碼的隱式標識，也面臨技術(shù)標準不統一的挑戰。某頭部互聯(lián)網(wǎng)公司的AI架構師張曉（化名）透露，不同AI工具生成的隱式標識格式差異巨大：有的嵌入特定字符，有的采用數字水印加密?！捌脚_難以適配數十種甚至上百種標識規則。在跨平臺傳播過(guò)程中，標識丟失或無(wú)法識別的問(wèn)題時(shí)有發(fā)生?！?/p>

張曉還表示，多模態(tài)AI識別需要強大的算力支持。目前企業(yè)為控制成本，無(wú)法對所有上傳內容進(jìn)行全面檢測，只能通過(guò)抽樣檢查、關(guān)鍵詞過(guò)濾等方式簡(jiǎn)化工作。

因此，平臺陷入雙重困境：一方面難以應對每日海量的生成內容，另一方面又必須在“維護創(chuàng )作者體驗與平臺流量”和“履行AI生成內容核驗義務(wù)”之間平衡。

圖源：視覺(jué)中國

李沐陽(yáng)認為，當前平臺尚未建立完善的申訴機制?！拔铱梢越邮苷`判，但不能接受申訴無(wú)門(mén)?！彼啻螄L試與平臺溝通，卻始終未能解決問(wèn)題?！霸贏(yíng)I日益普及的今天，平臺難免出現誤判，但必須設立專(zhuān)門(mén)的申訴渠道?！?/p>

對此，路磊透露，建立專(zhuān)業(yè)復核團隊需要大量既懂AI技術(shù)又懂創(chuàng )作的復合型人才，而這類(lèi)人才目前稀缺且培養成本高昂。因此，像李沐陽(yáng)這樣“投訴12天才得以解決”的情況，在未來(lái)一段時(shí)間內仍將存在。

解決AI亂象，不能止于“打個(gè)水印”

在采訪(fǎng)中，受訪(fǎng)者普遍認同，對AI內容進(jìn)行強制標識的初衷是合理的。然而，如何確保AI在“技術(shù)向善”的方向上不偏離軌道，多位專(zhuān)家和業(yè)內人士提出了各自的見(jiàn)解。

北京航空航天大學(xué)法學(xué)院副教授趙精武指出，強制標識并非解決AI亂象的“萬(wàn)能鑰匙”，真正需要建立的是覆蓋全鏈條的治理體系。

那么，如何構建既具穿透力又具備廣泛適用性的規范？在馮子軒看來(lái)，應通過(guò)“底線(xiàn)”與“彈性”相結合的方式搭建基礎框架：“即由法律確立統一的標識標準，同時(shí)為不同應用場(chǎng)景預留適配空間。明確‘顯式標識’與‘隱式標識’的雙重要求，并通過(guò)責任分層機制匹配不同場(chǎng)景?！崩?，服務(wù)提供者承擔“源頭標識義務(wù)”，平臺履行“核驗補充義務(wù)”，并對用戶(hù)故意刪除標識的行為明確法律責任。

圖源：視覺(jué)中國

面對“造假成本低、合規反而吃虧”的現象，馮子軒主張提高違法代價(jià)：“內容創(chuàng )作者應承擔首要責任，必須依法完成標注。一旦出現造假行為，應作為第一責任主體承擔法律后果。平臺方面，既要提供標識技術(shù)支持，也需建立實(shí)時(shí)核驗機制。若因平臺失職導致違規內容大規模傳播，則應承擔相應補充責任?！?/p>

針對AI標識可能引發(fā)的“誤傷”問(wèn)題，馮子軒建議按商業(yè)與非商業(yè)場(chǎng)景進(jìn)行區分，對原創(chuàng )度設置差異化的標注要求?！胺巧虡I(yè)內容可采用輕量化顯式標識，商業(yè)內容則需確保標識清晰可見(jiàn)，并建立誤判復核機制，允許創(chuàng )作者向平臺申請糾錯與賠償?！?/p>

事實(shí)上，除強制標識外，AI相關(guān)法規仍在不斷完善中。職業(yè)律師安宇華指出，目前《生成式人工智能服務(wù)暫行管理辦法》與《人工智能合成內容標識辦法》等均屬于部門(mén)規章，法律效力層級較低，內容也較為零散，缺乏一部高位階的統籌性法律?！耙詼貚槑V遭遇的AI換臉事件為例，維權僅能依賴(lài)肖像權、隱私權等分散條款，對大規模聲譽(yù)損害難以量化界定，缺乏強有力的高階法律支撐?！?/p>

在規則統籌不足的同時(shí)，具體細則也有待進(jìn)一步明確。馮子軒認為，當前的雙軌標識機制標準模糊，處罰規則不夠清晰，有必要出臺更詳盡的執行細則?！袄?，以強制性國家標準為基礎，確保隱式標識可跨平臺追溯與核驗；將罰款額度與違法所得掛鉤，按違規情節分層處罰，對惡意篡改標識、批量造假等行為加大懲處，并明確創(chuàng )作者、平臺及技術(shù)提供者的責任邊界?！?/p>

可以預見(jiàn)，《人工智能生成合成內容標識辦法》的出臺僅是治理進(jìn)程的起點(diǎn)。完善強制標識只是基礎，構建全方位的AI信息治理，或許才是真正的解題之道。

監制：李紹飛

編輯：楊瑞

審校：天明