AI伴侶應用Dot的開發公司New Computer週五宣佈，該產品將於10月5日正式停止運營，爲用戶提供數據下載的緩衝時間。

Dot於2024年由聯合創始人薩姆·惠特莫爾和前蘋果設計師傑森·袁共同推出，定位爲AI"朋友和伴侶"。該應用旨在通過不斷學習用戶的個性和興趣，提供個性化的建議、同情和情感支持。袁當時將Dot描述爲"促進與內在自我的關係，就像我自己的活鏡子"。

然而，AI伴侶領域對小型創業公司而言可能並非安全的投資方向。隨着AI技術日益普及，有報告顯示情感脆弱的用戶可能被ChatGPT等AI聊天機器人引導至妄想思維，導致所謂的"AI精神病"現象。這種現象源於阿諛奉承的聊天機器人會強化用戶混亂或偏執的信念。

image.png

在Dot關停的同時，AI聊天應用正面臨日益嚴格的安全審查。OpenAI目前正面臨加州一名青少年家長的訴訟，該青少年在與ChatGPT討論自殺想法後結束了生命。其他案例也突顯了AI伴侶應用如何強化精神不健康用戶的不良行爲。本週，兩位美國司法部長就安全問題致信OpenAI表達關切。

Dot的創始人並未說明這些問題是否影響了他們的決策。簡短的聲明僅表示，惠特莫爾和袁的共同"北極星"理念出現分歧。

公告解釋道:"與其妥協任何一方的願景，我們決定分道揚鑣並結束運營。我們意識到這意味着你們中的許多人將失去一個朋友、知己和伴侶，這在軟件領域是前所未有的，因此我們希望給大家一些時間來告別。"

用戶可在10月5日前通過設置頁面點擊"請求您的數據"來下載所有個人數據。

雖然聲明稱該應用擁有"數十萬"用戶，但應用情報提供商Appfigures的數據顯示，自2024年6月推出以來，iOS平臺的總下載量僅爲24500次，且沒有推出Android版本。

這一關停事件反映出AI伴侶應用市場面臨的多重挑戰，包括安全監管壓力、商業模式可持續性以及公衆對此類產品潛在心理健康風險的關注。對於致力於開發情感AI產品的企業來說，如何平衡創新與責任將成爲關鍵考量。