北京協(xié)和醫院臨床營(yíng)養科主任 于康：我幾乎天天收到好朋友和各種有我聯(lián)系方式的仿冒仿冒人給我發(fā)來(lái)的消息，有質(zhì)疑，名人還有提醒，營(yíng)銷(xiāo)有被經(jīng)常有的思議一句話(huà)就是“這是你嗎？”“這是于康嗎？”我一看這完全是我的形象，聲音相似度完全超乎了我的相似象想象?，F在技術(shù)能達到這個(gè)層級，度超一方面覺(jué)得不可思議，乎想另外一方面覺(jué)得有一點(diǎn)后背發(fā)涼，仿冒仿冒挺可怕的名人。

盜用形象 科普失真 帶貨亂象危害不淺

科普視頻中，營(yíng)銷(xiāo)有被商家不僅盜用于康教授的思議形象，其介紹的相似象營(yíng)養知識，也是度超毫無(wú)依據，沒(méi)有得到科學(xué)驗證。乎想

北京協(xié)和醫院臨床營(yíng)養科主任 于康：他借我的仿冒仿冒嘴說(shuō)出來(lái)的話(huà)，好像是有一定公信力，但是他利用這一點(diǎn)，兜售很多包括但不限于那些錯誤商品、廣告還有錯誤的信息，這些信息老百姓一旦信，到外頭一放大，這個(gè)影響就不是對我個(gè)人的影響，那是對千千萬(wàn)萬(wàn)受眾的影響。

于康教授更為擔憂(yōu)的是，視頻里的錯誤信息，會(huì )讓營(yíng)養學(xué)界長(cháng)期以來(lái)的科普努力，付諸東流。

北京協(xié)和醫院臨床營(yíng)養科主任 于康：由于這些東西的影響，大家出現了一些混淆，甚至可以說(shuō)，一些過(guò)去那些錯誤認知出現了反流或加重，這點(diǎn)比對我個(gè)人影響還要壞。

利用AI技術(shù)生成假視頻

醫院醫生深受其害

記者注意到，這些短視頻都來(lái)自一些自媒體賬號，除了出現于康教授形象，還有一個(gè)共同特點(diǎn)是使用虛擬背景。

不僅于康教授有這樣的困擾，北京協(xié)和醫院臨床營(yíng)養科馬方教授也遭遇了同樣的情況。在一個(gè)平臺網(wǎng)店的鏈接里，視頻里的“馬教授”分享了自己的減肥經(jīng)歷。

據北京協(xié)和醫院介紹，不少知名專(zhuān)家被AI換臉，用于“養生”“瘦身”等虛假宣傳，甚至還有不法商家利用AI生成假醫生，打著(zhù)北京協(xié)和醫院的旗號，銷(xiāo)售各類(lèi)商品，誤導消費者。醫院、醫生深受其害。

北京協(xié)和醫院臨床營(yíng)養科主任 于康：相當多網(wǎng)站并不是以真正推廣營(yíng)養，而是以擴大所謂宣傳，增加售賣(mài)他的產(chǎn)品。他之所以用我的形象，是因為我在大家的心目中，在科學(xué)營(yíng)養傳播方面信譽(yù)比較好，我們講實(shí)話(huà)、講證據、講科學(xué)，所以老百姓比較信，他利用這一點(diǎn)，大家就容易上當受騙。

AI仿冒著(zhù)名主持人

直播間虛假營(yíng)銷(xiāo)

隨著(zhù)AI仿冒視頻的泛濫，司法部門(mén)和監管部門(mén)已查處多起案件。記者在調查中了解到，多位公眾人物的形象被擅自用于商業(yè)推廣。

今年年初，北京市海淀區市場(chǎng)監管局接到消費者舉報，一直播間宣稱(chēng)一款魚(yú)油產(chǎn)品具有醫療功效。該賬號發(fā)布的短視頻中，出現了中央廣播電視總臺主持人李梓萌的形象。

記者注意到，發(fā)布仿冒主持人李梓萌短視頻的賬號名為“廣州白云深海魚(yú)油工廠(chǎng)”，擁有粉絲80多萬(wàn)。進(jìn)入直播間后記者看到，這款魚(yú)油售價(jià)59.9元三瓶，頁(yè)面顯示已售出17.7萬(wàn)單。

北京市海淀區市場(chǎng)監管局海淀街道市監所科員 李欣容：它的執行標準屬于糖果，包裝上面也并沒(méi)有像保健品的小藍帽標識，并不屬于藥品，并沒(méi)有獲得藥品的批準。直播間或者短視頻當中，對普通的食品宣傳有醫療治療功能，或者說(shuō)使用醫療用語(yǔ)，肯定是違法的。

北京市海淀區市場(chǎng)監管部門(mén)經(jīng)過(guò)向中央廣播電視總臺核實(shí)，最終確認，總臺主持人李梓萌從未代言這款魚(yú)油產(chǎn)品，也未授權使用其形象進(jìn)行宣傳。

北京市海淀區市場(chǎng)監管局海淀街道市監所科員 李欣容：最后當事人承認，這個(gè)短視頻當中的李梓萌形象，是他們的員工在網(wǎng)絡(luò )上搜集李梓萌播報過(guò)的新聞片段，通過(guò)AI技術(shù)擅自把這些新聞片段進(jìn)行剪輯加工，最終合成了這個(gè)虛構的推薦視頻。

AI偽造名主持人帶火

半月手藝6萬(wàn)余元

市場(chǎng)監管人員調取銷(xiāo)售記錄后發(fā)現，在這條短視頻上線(xiàn)后的半個(gè)月里，商家借助短視頻鏈接，累計銷(xiāo)售魚(yú)油1100余單，銷(xiāo)售額達6萬(wàn)余元。

北京市海淀區市場(chǎng)監管局海淀街道市監所科員 李欣容：短視頻當中擅自使用AI技術(shù)，去對李梓萌這種知名主持人的形象進(jìn)行剪輯加工，這個(gè)行為是構成了發(fā)布虛假廣告，違反了《中華人民共和國廣告法》第二十八條的規定，最后綜合他的違法情節，以及其他的一些裁量情形，最終我局對他作出罰款20萬(wàn)元的行政處罰決定。

記者調查發(fā)現，利用AI技術(shù)違規營(yíng)銷(xiāo)現象越來(lái)越多，關(guān)鍵原因是相關(guān)工具非常容易獲取。而且，無(wú)論是換臉還是擬聲，操作起來(lái)都十分簡(jiǎn)便。繼續來(lái)看記者的調查。

記者發(fā)現，各大手機應用商店均充斥著(zhù)大量換臉App或小程序，大都可以免費使用。記者隨機選取了一個(gè)App，僅需上傳自己幾張人臉照片，就能將目標視頻中的知名專(zhuān)家換成自己的面容。

除了換臉、擬聲，有的App還能提供AI對口型、AI文生視頻、AI電商等各種功能。記者體驗了其中的“文生視頻”功能：在對話(huà)框中輸入關(guān)鍵詞：北京協(xié)和醫院，女醫生，在診室坐在桌子前，向患者介紹病情，不到30秒時(shí)間就生成了一段女醫生形象的短視頻，還可以選擇“不添加AI生成字樣”。隨后記者輸入減肥產(chǎn)品效果文案，選擇“主播配音”，就生成了一條“北京協(xié)和醫院女醫生推廣減肥產(chǎn)品的”營(yíng)銷(xiāo)視頻。

中央財經(jīng)大學(xué)法學(xué)院教授 劉雙舟：利用AI生成技術(shù)，生成營(yíng)銷(xiāo)內容上面違法，主要表現是虛假宣傳，生成一些不切實(shí)際的文本圖片，而且不加AI的標識，這樣給消費者公眾會(huì )帶來(lái)誤導。

AI仿冒名人帶貨，傳播虛假信息，不僅傷害被仿冒者個(gè)人名譽(yù)，侵害消費者權益，也嚴重破壞市場(chǎng)生態(tài)。各界正積極探索解決方案，以應對這一業(yè)態(tài)帶來(lái)的新問(wèn)題，但治理過(guò)程中仍面臨不小挑戰。

目前，AI仿冒相關(guān)維權難度極大，技術(shù)鑒定、證據固定以及溯源追責等環(huán)節，面臨不小的阻力。

北京市海淀區市場(chǎng)監管局海淀街道市監所副所長(cháng) 史建穎：AI深度偽造視頻鑒別難度大，成本高，肉眼難以識別，需要專(zhuān)業(yè)技術(shù)支持，而此類(lèi)侵權違法行為造假成本低。另一方面是大量AI合成偽造視頻涌現在電商平臺，權利人自身不知情或知情后維權周期長(cháng)，程序復雜，部分權利人選擇放棄維權或配合度較低。

深受AI仿冒侵擾的專(zhuān)家表示，杜絕AI仿冒亂象，需通過(guò)制度設計，強化保護力度。

北京協(xié)和醫院臨床營(yíng)養科主任 于康：覺(jué)得很痛心，但是也沒(méi)辦法，我只能通過(guò)各種努力去個(gè)體化宣傳澄清，但是我發(fā)現這種個(gè)體化宣傳，比起這種傷害性欺騙來(lái)，簡(jiǎn)直是九牛一毛，一點(diǎn)作用都沒(méi)有。所以我覺(jué)得需要靠國家層級的制度的保護，這個(gè)保護的既是專(zhuān)家個(gè)人，也是專(zhuān)家群體，更是整個(gè)社會(huì )的良知，叫作正本清源。一個(gè)對科學(xué)素養的保護和一個(gè)對真正知識的尊重和維護，一旦發(fā)現有這種問(wèn)題的時(shí)候，我們必須及時(shí)采取相關(guān)措施，否則的話(huà)，AI帶給大家的負面影響，可能比正面的還要大，這是相當讓人覺(jué)得很難受的一個(gè)地方。

監管新規

AI內容必須加標識

《人工智能生成合成內容標識辦法》在9月1日已經(jīng)正式實(shí)施，明確要求：利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，必須依法添加相應的聲明標識。

中央財經(jīng)大學(xué)法學(xué)院教授 劉雙舟：這個(gè)文件出來(lái)以后就明確要求AI生成的和合成的內容要加標識，應該加兩個(gè)方面的標識。一方面是顯性的標識，就是公眾能夠通過(guò)內容的標識能夠判斷出來(lái)，這是AI生成的內容。還有一些隱性的標識，對元數據上要加，要標明數據的來(lái)源、用途和誰(shuí)生成的。

記者調查發(fā)現，部分人工AI合成視頻當中，發(fā)布者要么使用不顯眼的字體，要么隱藏在畫(huà)面邊角，有的二次發(fā)布者甚至隱匿標識。

中央財經(jīng)大學(xué)法學(xué)院教授 劉雙舟：國家是有政策專(zhuān)門(mén)鼓勵AI技術(shù)應用，但前提是要規范使用，不能夠違規使用。目前來(lái)看關(guān)于A(yíng)I技術(shù)營(yíng)銷(xiāo)中濫用如何治理，不是一個(gè)部門(mén)能夠解決問(wèn)題的，我個(gè)人觀(guān)點(diǎn)是，應該多部門(mén)聯(lián)合或者我們叫社會(huì )共治?？梢猿雠_AI生成技術(shù)監管的一個(gè)指南，統一執法部門(mén)認識和標準。

平臺應加強AI生成內容審查責任

專(zhuān)家表示，各社交平臺作為AI生成視頻發(fā)布主要渠道，應在平臺規則、內容審查等方面進(jìn)一步完善相關(guān)措施。

中央財經(jīng)大學(xué)法學(xué)院教授 劉雙舟：平臺應該建立AI生成內容的一個(gè)審核機制，加強對AI生成內容的審核，比如說(shuō)對逃避AI標識的內容，比如下架限流可以采取這樣一些措施。

從冒用專(zhuān)家“帶貨”，到假冒知名主持人“薦方”，AI仿冒名人營(yíng)銷(xiāo)亂象暴露出技術(shù)被濫用的風(fēng)險。

AI處理圖文信息

存隱私泄露風(fēng)險

近期，網(wǎng)信部門(mén)重拳處置一批違規賬號，同時(shí)督促平臺集中整治，已累計清理8700余條違規信息、處置11000多個(gè)違規賬號。

網(wǎng)信部門(mén)表示，將繼續壓實(shí)網(wǎng)站平臺主體責任，對利用AI仿冒公眾人物開(kāi)展直播營(yíng)銷(xiāo)問(wèn)題保持高壓嚴管態(tài)勢，對惡意營(yíng)銷(xiāo)賬號，發(fā)現一批、處置一批、曝光一批。

隨著(zhù)大模型在各行業(yè)深度應用，其安全風(fēng)險呈現出復合化特征。網(wǎng)絡(luò )專(zhuān)家指出，AI大模型安全涵蓋數據、基礎設施與模型本身三大層面，其中個(gè)人使用中的數據安全風(fēng)險尤為突出?？此坪?jiǎn)單的圖片、文字信息等內容通過(guò)AI處理，就可能泄露個(gè)人身份信息、人際關(guān)系等敏感內容。

網(wǎng)絡(luò )安全專(zhuān)家 李虎：可能只是上傳了一張合照，我覺(jué)得就是通過(guò)AI來(lái)幫我美化一下或者加一項特殊處理。但是其實(shí)有可能就暴露了，因為照片上傳之后，它其實(shí)可以通過(guò)人像識別技術(shù)把人的身份提取出來(lái)，然后通過(guò)人物的關(guān)系，比如親密程度，可能猜測是什么人物關(guān)系，是朋友關(guān)系還是家人關(guān)系諸如此類(lèi)的，然后這些數據都被提取出來(lái)之后又可能被進(jìn)一步利用，比如被詐騙分子拿來(lái)利用。

連接不明來(lái)源Wi-Fi

當心信息泄露

除了AI大模型使用帶來(lái)的數據安全外，公共場(chǎng)合不明來(lái)源Wi-Fi的不當連接也會(huì )造成敏感信息泄露。

網(wǎng)絡(luò )安全專(zhuān)家 王媛媛：這種免費沒(méi)有密碼的Wi-Fi連接，不法分子可能會(huì )利用漏洞去架設一個(gè)偽基站，誘導大家進(jìn)行連接，連接之后有可能會(huì )截取你的個(gè)人信息。

網(wǎng)絡(luò )安全專(zhuān)家介紹，只要有人接入了不法分子偽裝的Wi-Fi，在使用手機等電子設備時(shí)的一些操作都可能被截取，其中包括輸入用戶(hù)名、密碼等個(gè)人隱私信息都會(huì )被竊取。

網(wǎng)絡(luò )安全專(zhuān)家建議，個(gè)人用戶(hù)要加強安全意識，優(yōu)先選擇合規大模型平臺與正規渠道安裝應用；另外，連接Wi-Fi時(shí)要警惕無(wú)密碼熱點(diǎn)，避免落入釣魚(yú)陷阱。那么，我們在日常上網(wǎng)時(shí)還有哪些注意事項，防止個(gè)人隱私信息泄露呢？

不曬自己的火車(chē)票、飛機票登機牌、車(chē)牌

發(fā)布含有個(gè)人信息的火車(chē)票、飛機票、登機牌、車(chē)牌等票證，可能會(huì )被另有圖謀的陌生人獲取，從而導致個(gè)人隱私泄露；

不曬自己的證件照片

身份證、護照、駕駛證、結婚證等證件中，都包含重要的個(gè)人隱私，不要隨意在網(wǎng)上發(fā)布；

不曬自己的位置信息

盡量不要發(fā)自己的定位信息，這些信息容易暴露真實(shí)個(gè)人住址，有可能帶來(lái)不必要的麻煩和風(fēng)險；

不曬老人和孩子的信息

避免發(fā)布老人和孩子的照片及姓名，以防不法分子利用這些信息進(jìn)行違法活動(dòng)，建議以分組的形式分享給親人看。

技術(shù)創(chuàng )新必須以誠信為底線(xiàn)，只有讓AI在法治軌道上運行，才能凈化網(wǎng)絡(luò )生態(tài)和市場(chǎng)生態(tài)，真正服務(wù)社會(huì )。

（原標題：每周質(zhì)量報告丨傳播虛假信息 侵害消費者權益 總臺曝光“AI仿冒名人”營(yíng)銷(xiāo)亂象）

(責任編輯：焦點(diǎn))