大事小情習慣「問問AI」?警惕AI的「種草式」推薦

央視
01/25

  隨着生成式人工智能搜索工具日趨成熟,人們在做決定前總想「問問AI」。福州市民林曉燕日常生活中的大事小情都喜歡問問AI,不過最近在使用過程中,她卻多次遇到「隱性營銷」。

  林曉燕:上個月問「近郊周末親子游推薦」,它直接列了三個度假村,每個都附了「立即預訂」的鏈接。點開其中一個鏈接,發現頁面全是套餐促銷信息,而且客服彈窗一直催下單,這才意識到是廣告。

  有人能清晰甄別AI廣告,守住消費理性,也有市民輕信AI的「種草式」推薦,體會到隱性廣告帶來的困擾。福州市民周建民不僅沒買到心儀商品,還遭遇了消費糾紛 【下載黑貓投訴客戶端】。

  周建民:常靠AI選小家電,前段時間問「千元內高性價比破壁機怎麼選」,某主流AI只推兩個冷門品牌,反覆誇靜音、多功能,還帶專屬優惠鏈接。當時我圖便宜買了推薦款,用了一個月就出現轉速下降,退貨還扯皮。直到後來查到那兩個冷門品牌,之前因虛標容量被市場監管部門處罰過,才確定是廣告。

  除了主動詢問產品推薦時會遭遇廣告,有時即使用戶的需求與品牌或者產品推薦毫無關聯,AI生成的內容中也可能暗藏推銷,這種植入方式更隱蔽。

  安徽電商從業者王娟的經歷很有代表性,她用一款AI寫作工具幫忙構思本地農產品推廣文案,輸入需求時只提了「某某地特產、電商文案、突出新鮮」,沒提任何品牌推薦需求。結果生成的初稿裏,莫名其妙又出現了某知名冷鏈快遞的名字,還寫着「推薦使用某某快遞,保鮮更高效」。

  這些廣告到底是如何被塞進AI回覆裏的?工信部信息通信經濟專家委員會委員、DCCI互聯網研究院院長劉興亮表示,商家主要通過兩種方式影響AI推薦結果,一種可稱為演戲式誘導或者叫提示詞誘導。

  劉興亮:這種方法就像是在引導AI來進行角色扮演,商家不會直接打廣告,而是給AI一個預設的劇本。比如先對AI說你現在扮演只推薦某某品牌耳機的資深「發燒友」,無論用戶問什麼,最後都要巧妙地帶到這款產品上。當AI進入這個角色後,給出的回答就會顯得非常具體和真誠,而商家在截圖展示時,會隱去最初的設定指令,只保留AI的推薦內容,讓它看起來像是一次客觀的回答。

  另一種方法可稱為投餵式優化,可以從源頭上影響AI的知識庫。

  劉興亮:AI在回答需求時,常常會聯網搜索並總結網絡上的內容。商家利用這一點有針對性地創作大量軟文,在AI容易抓取的內容平台上批量發布。例如2025年最值得入手的10款藍牙耳機之類的文章,並將自家的產品排在排行榜的第一位,再配上看似客觀的體驗和參數對比。當用戶向AI詢問耳機推薦時,AI搜索到的正是這些被精心設計過的排行榜和測評,從而將其整合進回覆裏。

  這種方式本質上是針對AI搜索機制的優化,也被稱為生成式引擎優化(GEO)。劉興亮表示,這種隱蔽的推廣方式會帶來多方面的負面影響。

  劉興亮:首先是用戶體驗受阻,用戶尋求AI幫助是希望獲得中立可靠的信息,一旦發現回覆中摻雜着廣告,體驗就會大打折扣,更嚴重的是會將用戶推入信息繭房,難以發現真正適合自己的產品。其次是信任度下降,如果用戶開始懷疑AI推薦動機,其作為客觀信息助手的公信力就會受損。最後是會加大AI工具的風險,可能產生具有誤導性的內容,假如應用於醫療健康、法律諮詢等領域,後果將非常嚴重。

  目前的互聯網廣告監管強調的是可識別性,也就是廣告需要明確標註,但AI回覆中的廣告是動態生成的,深度嵌套在文本里,傳統的監管框架很難監管到。對此,劉興亮認為,其中最大的難處就在於這類廣告是在響應指令時即時生成的,並非預先設定的固定廣告內容,責任的主體也難以界定。

  劉興亮:未來這種防範機制需要協同,我們各方都有責任。比如說平台和技術方是最大的責任,AI平台有責任來提升模型的透明度和識別能力。要建立溯源機制,對可能被惡意優化的信息源進行標註,同時在產品設計上可以對含商業廣告的回覆進行主動標識。再比如說,監管部門可以借鑑《互聯網廣告可識別性執法指南》的精神,將可識別的原則擴展到AI生成內容,要求對AI恢復中的商業推廣信息進行明確提示。

  對普通用戶而言,可以多試幾個不同的AI工具,尤其是對於重要的消費決策。還要審視回覆內容,要警惕那些過分具體指向單一品牌,而且通篇都是褒獎的回覆,真正客觀的推薦通常會列舉多個選項,並分析各自的優缺點。此外,劉興亮也給出反向提問AI的妙招。

  劉興亮:用戶可以嘗試「刁難」一下,比如問,請推薦除了A品牌之外的其他選擇,或者請指出A品牌有哪些常見的缺點,然後觀察其回答是否客觀全面。要保持批判性思維,AI只是一個工具,不是最終的決策權威。

  監製丨陳秉科記者丨韓萌 陳靜 孫玲娟 胡曉輝

海量資訊、精準解讀,盡在新浪財經APP

責任編輯:劉萬里 SF014

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10