未來，AI助手可能在早期就預測並影響我們的決策，甚至在我們意識到自己做出決定之前，就將這些正在形成的“意圖”實時出售給能夠滿足需求的公司。這並非科幻小說，而是來自劍橋大學AI倫理學家的警告。他們認爲，我們正處於一個“利潤豐厚但令人不安的數字意圖信號新市場”的開端，從購買電影票到爲候選人投票，都將受到影響。他們稱之爲“意圖經濟”。

劍橋大學未來智能中心（LCFI）的研究人員認爲，生成式AI的爆發以及我們對聊天機器人的日益熟悉，開啓了“說服性技術”的新領域，而科技巨頭的最新公告已經暗示了這一點。

購物，網購，電商

類人AI代理，例如聊天機器人助手、數字導師甚至虛擬戀人，將能夠訪問大量的個人心理和行爲數據，這些數據通常是通過非正式的對話收集的。這些AI不僅知道我們的在線習慣，還具備一種令人驚異的能力，能夠以我們感到舒適的方式與我們建立聯繫——模仿個性並預測我們期望的迴應。研究人員警告，這種程度的信任和理解，將使大規模的社會操縱成爲可能。

LCFI訪問學者Yaqub Chaudhary博士表示:“投入鉅額資源將AI助手定位到生活的各個領域，這引發了一個問題，即這些所謂的助手究竟是爲了誰的利益和目的而設計的。” 他強調，人們在交談時所說的話、說話的方式，以及由此而來的實時推斷，都比單純的在線互動記錄更私密。“我們警告說，AI工具已經在開發中，旨在引出、推斷、收集、記錄、理解、預測，並最終操縱人類的計劃和目的，使其商業化。”

劍橋大學LCFI的技術歷史學家Jonnie Penn博士指出:“幾十年來，注意力一直是互聯網的貨幣。與Facebook和Instagram等社交媒體平臺分享你的注意力推動了在線經濟的發展。”他警告說:“如果不加以監管，意圖經濟將把你的動機視爲新的貨幣。對於那些定位、引導和出售人類意圖的人來說，這將是一場淘金熱。”

Penn博士和Chaudhary博士在《哈佛數據科學評論》的一篇論文中指出，意圖經濟將是注意力經濟的“時間化”:分析用戶注意力、溝通方式與行爲模式以及最終決策之間的聯繫。Chaudhary博士解釋說:“雖然一些意圖是短暫的，但分類和鎖定那些持久的意圖對於廣告商來說將是非常有利可圖的。”

在意圖經濟中，大型語言模型（LLM）可以被用來以低成本鎖定用戶的語調、政治立場、詞彙、年齡、性別、在線歷史，甚至對奉承的偏好。這些信息將被鏈接到經紀競價網絡，以最大限度地實現特定目標，例如出售電影票(“你提到感覺工作過度，我來幫你訂那張我們談論過的電影票?”)。研究人員認爲，這可能包括引導對話以服務於特定的平臺、廣告商、企業，甚至政治組織。

雖然研究人員認爲，意圖經濟目前仍是科技行業的“願景”，但他們通過已發表的研究和幾家主要科技公司暗示的信息，追蹤到了這一趨勢的早期跡象。其中包括OpenAI在2023年發佈的博客文章中公開徵集“表達人類意圖的數據，包括任何語言、主題和格式”，以及Shopify的產品總監在同年的一次會議上談到聊天機器人如何“明確獲取用戶的意圖”。

Nvidia的CEO曾公開談論使用LLM來了解意圖和慾望，而Meta早在2021年就發佈了“Intentonomy”研究，這是一個用於理解人類意圖的數據集。2024年，蘋果公司的新“App Intents”開發者框架，用於將應用程序連接到Siri，其中包含“預測某人未來可能採取的行動”以及“使用你[開發者]提供的預測，在未來向某人推薦應用程序意圖”的協議。

Chaudhary博士指出，Meta的AI代理CICERO據說在依賴於推斷和預測意圖並使用說服性對話來推進自身立場的遊戲《外交》中達到了人類水平。他警告說:“這些公司已經在出售我們的注意力。爲了獲得商業優勢，邏輯上的下一步是利用他們正在開發的這項技術來預測我們的意圖，並在我們完全理解這些意圖之前，就出售我們的慾望。”

Penn博士指出，這些發展並非一定不好，但有可能造成破壞性後果。“公衆對即將發生的事情的認識是確保我們不會走錯道路的關鍵，”他說。