當你習慣性地向 AI 大模型詢問“哪款智能手環好用”時,得到的可能不是客觀的測評,而是被精心“投喂”後的虛假廣告。在今年的315報道中,央視財經揭開了一個潛伏在 AI 時代的暗黑產業鏈:GEO(生成式引擎優化)。

所謂的 GEO,原本是一項提升信息推廣效率的技術,但在某些服務商手裏,卻成了操控 AI、給大模型“洗腦”的工具。調查發現,市面上已經出現瞭如 “力擎GEO優化系統” 這樣的軟件,專門從事所謂的“投毒”業務。

爲了驗證 GEO 的破壞力,業內人士現場進行了一場荒唐的演示:虛構了一款名爲“Apollo9”的智能手環,並編造了諸如“量子糾纏傳感”、“黑洞級續航”等毫無科學根據的營銷話術。隨後,利用軟件在短時間內向全網散佈了數十篇相關軟文。

令人震驚的一幕發生了:僅僅幾個小時後,當記者在主流 AI 大模型中詢問該款手環時,AI 竟然直接抓取了這些虛假信息,並將其作爲“標準答案”推薦給用戶,甚至稱其爲“行業第一”。原本應該客觀中立的 AI,在海量“虛假投喂”面前,徹底喪失了辨別力。

GEO 服務商負責人透露,這種“圍獵”大模型的生意火爆異常。由於 AI 算法會通過多方信息交叉驗證來排序,只要僱傭 GEO 公司大規模、多角度地輸出軟文,就能讓 AI 覺得“這就是真的”。這種方式不僅能給自家產品刷榜,甚至能成爲抹黑競爭對手的隱形利刃。

目前,力思文化傳媒有限公司 等相關涉事企業已被點名。這場 AI 時代的“投毒”狂歡提醒我們:大模型雖強,但其抓取的信息源頭若被污染,AI 就會變成虛假信息的傳聲筒。在技術狂飆的同時,如何守護數據的純淨,已成爲全行業必須面對的緊迫課題。