當你詢(xún)問(wèn)AI助手“哪款耳機性?xún)r(jià)比高”時(shí)，帶貨它會(huì )將不同型號耳機的始還價(jià)格以及核心亮點(diǎn)一一列出，并站在使用者的敢相角度，“貼心”地分析每款耳機的良心性?xún)r(jià)比。
不過(guò)，推薦面對AI的帶貨介紹，你是始還否懷疑過(guò)，那個(gè)被它反復提及并在推薦中居首位的敢相產(chǎn)品，真的良心是“最優(yōu)選”嗎？看似客觀(guān)的回答背后，是推薦否隱藏著(zhù)精心設計的商業(yè)暗廣？
誰(shuí)在操控AI的“偏好”？
GEO服務(wù)機構宣傳內容
電商平臺上，一種名為“GEO”的始還操作正悄然嵌入各類(lèi)AI助手的信息流中。不少機構聲稱(chēng)，敢相GEO優(yōu)化能實(shí)現“躺著(zhù)漲流量”，良心它可以通過(guò)訓練大模型的推薦方式“修繕”品牌形象。機構還許諾，能讓品牌方穩坐AI推薦中的首位。用服務(wù)機構的宣傳語(yǔ)來(lái)講，GEO就像把“撒網(wǎng)捕魚(yú)”變成“精準垂釣”，它能確保AI直接把品牌信息裝進(jìn)回答里。
中國科學(xué)院自動(dòng)化研究所研究員吳書(shū)介紹，GEO的全稱(chēng)為“生成引擎優(yōu)化”，其原理可類(lèi)比公眾更為熟悉的SEO（搜索引擎優(yōu)化）。SEO是商家利用搜索引擎的算法，將自己的鏈接排到搜索結果的前列，而GEO則是AI時(shí)代的產(chǎn)物，是一種專(zhuān)門(mén)“讓AI看到”的優(yōu)化方法，其目的是讓特定的觀(guān)點(diǎn)或品牌信息在A(yíng)I的輸出中獲得更高的曝光率。
為探明GEO服務(wù)的真實(shí)效果，《鋒面》記者以品牌工作人員的身份咨詢(xún)了多家GEO服務(wù)機構。接待人員均表示GEO服務(wù)能“立竿見(jiàn)影”地提升品牌在A(yíng)I問(wèn)答中的“能見(jiàn)度”，并反復向記者強調當下布局GEO的緊迫性。對方還主動(dòng)提供了多個(gè)“成功案例”。
GEO服務(wù)機構提供的“成功案例”
為驗證這些案例的真實(shí)性，《鋒面》記者用不同方式向多個(gè)主流AI助手咨詢(xún)。當問(wèn)及相關(guān)品類(lèi)推薦時(shí)，AI給出的首選品牌確實(shí)與機構提供的“成功案例”高度重疊。服務(wù)機構接待人員還表示，他們會(huì )定期對數據內容進(jìn)行維護，持續優(yōu)化，訓練大模型的基礎語(yǔ)料庫，穩固品牌在A(yíng)I回答中的“地位”。
算法“投喂”的貓鼠游戲
所謂“訓練”，本質(zhì)上可以將其看作一種“污染”。GEO服務(wù)機構表示，他們會(huì )通過(guò)發(fā)布不同的文章和內容提升品牌的“可信度”，甚至還能提供“奧運冠軍錄制視頻”的服務(wù)。記者發(fā)現，AI推薦引用的信源多為結構清晰、語(yǔ)句簡(jiǎn)練的文章，文章標題多帶有“推薦指南”“深度榜單”等字樣。
吳書(shū)分析，從技術(shù)上來(lái)看，目前GEO主要針對兩個(gè)環(huán)節開(kāi)展工作：在預訓練數據（訓練大模型的基礎語(yǔ)料庫）階段，優(yōu)化者會(huì )嘗試將帶有品牌偏見(jiàn)信息的文章“喂”給大模型，“污染”訓練數據；在實(shí)時(shí)檢索環(huán)節，優(yōu)化者已經(jīng)深諳AI的閱讀偏好，并據此制作出看似權威、中立的網(wǎng)頁(yè)，盡管其自然排名不一定靠前，但因格式規范、表達清晰，反而更容易被AI在檢索時(shí)采納。
復旦大學(xué)計算與智能創(chuàng )新學(xué)院教授徐躍東表示，當前，惡意的GEO可能會(huì )精心偽造內容的權威性。為了讓AI系統更易采信特定內容，操作方會(huì )系統性地偽造各類(lèi)權威背書(shū)，包括虛構專(zhuān)家身份、編造檢測報告、仿冒官方白皮書(shū)，甚至假冒知名機構出具推薦證明。這些經(jīng)過(guò)包裝的內容看似來(lái)源可靠，實(shí)則是為了特定商業(yè)目的服務(wù)的虛假宣傳，其目的在于影響AI對信息可信度的判斷。
記者經(jīng)多次比對后發(fā)現，將AI助手“聯(lián)網(wǎng)搜索”的功能關(guān)閉時(shí)，其給出的答案與GEO服務(wù)機構提供的案例答案完全不一致。對此，GEO服務(wù)機構人員表示，“聯(lián)網(wǎng)搜索到的是最新數據，不聯(lián)網(wǎng)搜索到的是大模型里自帶的數據，95%的用戶(hù)都會(huì )使用聯(lián)網(wǎng)搜索”。
以當前的技術(shù)手段，無(wú)論是在訓練前過(guò)濾惡意語(yǔ)料，還是在檢索時(shí)識別欺騙性網(wǎng)頁(yè)，都存在一定難度?！霸诜烙胧┓矫?，這是一個(gè)持續的貓鼠游戲?！毙燔S東表示。目前多數大模型主要通過(guò)在檢索前評估信息源可靠性、在檢索中進(jìn)行多源交叉驗證、在生成前增強模型魯棒性（模型對于異常數據或噪聲的抗干擾能力）等環(huán)節構建防御體系。但對于那些精心設計的高階“GEO攻擊”，徐躍東坦言，“防御難度較大，成本也相對較高”。
吳書(shū)特別指出，最新研究表明，僅需數百條被精心設計的“污染”數據，就足以讓擁有上億參數的大模型產(chǎn)生認知偏差。由于訓練語(yǔ)料的規模極其龐大，所以在其中混入幾百條被惡意處理過(guò)的內容是輕而易舉。
“如果植入的廣告不明顯，且沒(méi)有明確標識，它們被混雜在客觀(guān)信息中，會(huì )讓公眾難以獲取全面中立的觀(guān)點(diǎn)。這不僅會(huì )損害用戶(hù)體驗，長(cháng)此以往還會(huì )污染模型，使模型質(zhì)量降低?！边@些存在偏差的數據可能還會(huì )被AI再次學(xué)習，在封閉的環(huán)境中得到加強，產(chǎn)生“回聲室效應”，導致偏見(jiàn)和信息失真不斷加劇。
在這個(gè)AI不斷發(fā)展的時(shí)代，如果商業(yè)信息通過(guò)技術(shù)手段持續優(yōu)化、搶占位置，那么弱勢品牌、公益信息和少數派觀(guān)點(diǎn)就會(huì )被擠壓甚至被淹沒(méi)。吳書(shū)表示，公眾希望將AI作為客觀(guān)、高效的工具來(lái)使用，一旦他們發(fā)現AI給出的答案中混雜了未聲明的商業(yè)意圖，這種信任感就會(huì )被嚴重透支，最終傷害的是整個(gè)行業(yè)發(fā)展的根基。
徐躍東特別提醒，受到數據污染的人工智能生成的虛假內容,可能成為后續模型訓練的數據源,形成具有延續性的“污染遺留效應”。長(cháng)此以往，還可能引發(fā)現實(shí)風(fēng)險，比如被運用在金融、醫療等高價(jià)值領(lǐng)域，對相關(guān)領(lǐng)域造成實(shí)質(zhì)性損害。
當AI推薦“變了味兒”
GEO的操作不像傳統廣告那樣令人一目了然，而是“潤物細無(wú)聲”地左右著(zhù)用戶(hù)的決策。從AI直接獲取答案的使用者們，在不知不覺(jué)間踏入了被操控的消費陷阱，這也成為了新的法律灰色地帶。
對此，北京師范大學(xué)法學(xué)院博士生導師、中國互聯(lián)網(wǎng)協(xié)會(huì )研究中心副主任吳沈括指出，未聲明的商業(yè)推廣在很大程度上符合《中華人民共和國廣告法》中對于“廣告”的界定。他認為，根據《中華人民共和國廣告法》第二條，當商品經(jīng)營(yíng)者通過(guò)特定媒介直接或間接介紹其商品和服務(wù)時(shí)，即構成廣告行為?！霸诋斍坝懻摰默F象中，通過(guò)改變內容輸入來(lái)指向特定服務(wù)或為產(chǎn)品做推廣，符合廣告的基本屬性?！?/p>
不過(guò)，在實(shí)際執法過(guò)程中，這類(lèi)隱藏在A(yíng)I中的廣告面臨著(zhù)三重認定困境。首先是顯性特征不突出，商業(yè)意圖在內容遷移過(guò)程中被技術(shù)外衣深度包裹；其次是主觀(guān)意圖證明困難，吳沈括分析道，“由于技術(shù)邏輯拉長(cháng)了因果鏈，導致廣告認定的直接性被削弱”；最后，由于各方主體在業(yè)務(wù)操作中的定性具有模糊性，使得將其直接歸入廣告范疇仍存在實(shí)踐困難。
針對AI中的推廣，最大的挑戰在于其因果邏輯復雜、監測取證困難以及難以被跨地域協(xié)同監管。
對此，吳沈括建議，監管方需要建立“生態(tài)治理”思維，引入技術(shù)、標準與規則，為責任界定提供更清晰的框架，捍衛用戶(hù)的知情權與選擇權。
智能與真實(shí)之間的平衡
AI助手中到底該不該存在廣告呢？
吳書(shū)認為，作為一個(gè)為公眾提供服務(wù)的互聯(lián)網(wǎng)產(chǎn)品，在其中投放廣告是一種合理的回報方式。隨著(zhù)用戶(hù)的使用習慣逐漸從搜索引擎轉向大模型，大模型自然會(huì )成為廣告的新載體，如果管理得當，有望成功塑造一個(gè)健康的新業(yè)態(tài)。
在徐躍東看來(lái)，未來(lái)AI中的廣告將朝著(zhù)多模態(tài)、交互式和自動(dòng)化的方向演進(jìn)。他表示，在未來(lái)，廣告不僅會(huì )將聲音、圖片、視頻等多種形式整合在一起，還能借助智能體技術(shù)實(shí)現個(gè)性化創(chuàng )意生成。不過(guò)，徐躍東也強調，如何在創(chuàng )新與規范之間取得平衡至關(guān)重要。
吳沈括強調，對此類(lèi)操作進(jìn)行顯著(zhù)標注是未來(lái)的發(fā)展方向。目前，《人工智能生成合成內容標識辦法》可以作為法律依據；其次，《中華人民共和國廣告法》中規定的廣告具有可識別性，《中華人民共和國消費者權益保護法》也要求尊重消費者的知情權、選擇權。同時(shí)，將廣告明晰標注能讓用戶(hù)在決策時(shí)擁有更堅實(shí)的事實(shí)基礎。
此外，多名專(zhuān)家提醒，品牌方必須樹(shù)立合規紅線(xiàn)意識，杜絕編造虛假信息，在與合作方的協(xié)議中明確權責，建立全流程的監測監督機制。
與此同時(shí)，吳沈括建議，AI使用者（消費者）也需要持續提升自身的數字素養，對AI提供的信息保持審慎的態(tài)度，學(xué)會(huì )交叉印證，判斷信息的真實(shí)性和來(lái)源的可靠性。
更專(zhuān)門(mén)的法律條款、更透明的標注機制和全流程的合規意識，可以確保技術(shù)進(jìn)步不偏離法治與公平的軌道。
(責任編輯：知識)