經(jīng)過(guò)技術(shù)偵查，換何防警方發(fā)現惡意視頻的風(fēng)險范警方教分辨發(fā)布者指向一個(gè)姓劉的男子。到案后據劉某交代，換何防其發(fā)布的風(fēng)險范警方教分辨不雅視頻是在網(wǎng)絡(luò )上找人用AI合成的。

據了解，換何防王女士在本地經(jīng)營(yíng)著(zhù)一家理發(fā)店，風(fēng)險范警方教分辨劉某曾在理發(fā)店短暫試工。換何防由于試工期間的風(fēng)險范警方教分辨工資問(wèn)題，兩人產(chǎn)生了分歧，換何防劉某因此萌生了發(fā)惡意短視頻報復王女士的風(fēng)險范警方教分辨念頭。

最終，換何防劉某因觸犯《中華人民共和國治安管理處罰法》，風(fēng)險范警方教分辨被遼寧警方處以行政拘留十日，換何防罰款500元的風(fēng)險范警方教分辨處罰。

AI合成有破綻

警方教您來(lái)分辨

近年來(lái)，換何防利用AI換臉實(shí)施的違法犯罪活動(dòng)不在少數，除了在網(wǎng)上發(fā)布惡意視頻，還有利用AI換臉偽造視頻通話(huà)進(jìn)行欺詐等。日常生活中，被AI換臉有哪些風(fēng)險？消費者又該如何防范呢？

記者注意到，近年來(lái)因AI換臉給消費者造成損失的案件不在少數。

今年五月，上海警方破獲一起專(zhuān)門(mén)利用AI生成虛假網(wǎng)戀女友詐騙案，涉案金額達200余萬(wàn)元。2024年，內蒙古鄂爾多斯一名消費者曾遭遇AI換臉詐騙，險些損失40萬(wàn)元。視頻通話(huà)中，詐騙人員利用AI換臉技術(shù)冒充該名消費者朋友，以資金周轉為由，誘騙其轉賬40余萬(wàn)元。好在警方介入及時(shí)才未造成實(shí)際損失。 同年，安徽一名消費者也遭遇過(guò)相同套路AI換臉詐騙，損失金額達六十余萬(wàn)元。

記者調查發(fā)現，現如今，AI技術(shù)迅速發(fā)展的同時(shí)，也被一些不法分子盯上，淪為了非法牟利的工具。

據警方介紹，要想實(shí)現AI換臉，過(guò)程非常簡(jiǎn)單：僅需一張照片，不到十秒就能合成一張換臉圖片。

遼寧省沈陽(yáng)市康平縣公安局網(wǎng)絡(luò )安全大隊大隊長(cháng) 鞏超：我們在網(wǎng)上找了一個(gè)軟件，先選擇人臉照片，目標照片選擇后，點(diǎn)擊開(kāi)始生成，這就是一個(gè)最初級簡(jiǎn)單的AI換臉過(guò)程和生成的圖像。

然而，AI換臉視頻雖然迷惑性較強，但也有些破綻。

遼寧省沈陽(yáng)市康平縣公安局網(wǎng)絡(luò )安全大隊大隊長(cháng) 鞏超：如果在直播中AI換臉，轉臉的時(shí)候，側臉是會(huì )虛的。上下左右晃動(dòng)的時(shí)候會(huì )有虛影出現。如果是別人和你視頻通話(huà)的時(shí)候。建議讓對方上下左右晃晃頭，或者用一句方言跟對方說(shuō)話(huà)。他不可能模仿你的聲音，再把你的方言模仿下去。

警方提醒，網(wǎng)絡(luò )并非法外之地，任何違法行為都將留痕，利用AI技術(shù)從事非法活動(dòng)終將會(huì )被罰。警方提示消費者應注意保護個(gè)人隱私，不隨意上傳包含個(gè)人信息的圖片、視頻。

遼寧省沈陽(yáng)市康平縣公安局網(wǎng)絡(luò )安全大隊大隊長(cháng) 鞏超：可以去發(fā)照片，但不透露個(gè)人信息或聯(lián)系方式，還有位置、工作地點(diǎn)。這樣能降低被詐騙的風(fēng)險。遇到事不要慌，一定要相信，報警一定能幫大家解決問(wèn)題。