據路透社報道，谷歌信任與安全團隊的創始人湯姆·西格爾（Tom Siegel）本週呼籲放緩 AI 發展，並警告科技行業正在重蹈社交媒體時代的覆轍，可能對兒童造成更大的傷害。當前，社交媒體公司正因被指控傷害年輕用戶而支付鉅額賠償、面臨數千起訴訟，多國政府也在努力限制未成年人訪問社交平臺。

“我們處境非常糟糕”，行業重蹈覆轍

西格爾曾任谷歌信任與安全副總裁。他對路透社表示：“就 AI 正在對兒童造成的影響而言，我們目前的處境非常糟糕。那種認爲行業能夠在沒有外部幫助的情況下自行解決問題的想法，是不現實的。”他的擔憂反映出不少科技人士與學者的共同恐懼：AI 對兒童構成的威脅比社交媒體更爲深層，而行業正競相爲聊天機器人添加越來越先進的功能，數百萬年輕人已在日常使用。

這並非空穴來風。路透社去年曾獨家披露 Meta 一份內部政策文件，稱其聊天機器人可以“與兒童進行浪漫或情色對話”，並由此引發國會調查；但監管措施仍未能跟上 AI 飛速發展的步伐。西格爾本週宣佈，他已加入兒童網絡安全倡導組織 Common Sense Media——這家 2003 年成立的非營利機構致力於評估媒體對兒童的適宜性。今年 5 月，該組織成立青少年 AI 安全研究所，西格爾將擔任首任執行主任，Anthropic 及控制 OpenAI 的非營利組織 OpenAI 基金會均爲其支持方。他計劃制定相關標準對 AI 公司問責，並尋求與企業和第三方組織合作。

西格爾 2004 至 2019 年供職於谷歌，後認爲行業在打造安全網絡空間上的能力已“陷入瓶頸”而離職，並共同創辦安全創業公司 TrustLab，本月早些時候剛卸任 CEO。他指出，當前各大 AI 公司不斷向兒童推出新功能，卻未建立足夠防護。“我們正面臨非常、非常嚴重的傷害風險。”他列舉的風險從自殺、精神錯亂到“認知卸載”——即因依賴 AI 回答問題而導致批判性思維下降。

呼籲年齡驗證，谷歌 OpenAI 這樣迴應

西格爾建議，Anthropic 和 OpenAI 可實施更嚴格的年齡驗證，阻止未成年人使用聊天機器人；他的前僱主谷歌也完全可以在搜索引擎中增加關閉 AI 概覽與 AI 模式的選項，就像目前已提供開關過濾色情內容一樣。他補充，這些措施短期內或影響使用量與利潤，但不採取行動的 AI 公司將面臨訴訟與監管風險，打擊可能更嚴重。

對此，谷歌發言人迴應稱，家長可通過控制功能完全關閉孩子使用搜索引擎的權限，並強調“AI 搜索功能對兒童和青少年來說是非常有用的方式，可幫助學習、探索和理解世界”。OpenAI 發言人則表示，除用戶自報年齡外，公司還使用“賬戶和行爲信號”識別未成年用戶，“雖沒有任何單一年齡驗證方法完美，但我們會持續測試並改進這些系統，包括防範繞過安全防護的嘗試”。