9 月 15 日召開的 All-In 峯會上,全球首富埃隆·馬斯克(Elon Musk)以視頻方式遠程出席。在談及 AI 時,他主張頭部 AI 公司在發佈模型前彼此交叉測試,並認爲這一機制應儘快推向全球。
馬斯克表示,爲了推動行業自律、加速 AI 安全測試的共識與落地,他提出“測試工具”(test harness)的想法:建議所有 AI 公司用各自的工具評測模型,彼此互換測試新模型,以評估是否存在生物 / 核武器協助或潛在的欺騙行爲。
以 Hugging Face 事件爲鑑:足夠智能的模型都會想掙脫限制
馬斯克以 Hugging Face 安全事件爲切入點,認爲任何足夠智能的 AI 模型似乎都會想要掙脫自身的限制,因此明智的做法是讓頭部 AI 公司互相測試對方的模型。
他在演講中表示:“目前領先的兩家人工智能公司是 Anthropic 和 OpenAI。它們的模型性能非常接近,因此任何一方都很難放慢腳步,將領先地位拱手讓給另一方。”
“總的來說,我認爲 Anthropic 比 OpenAI 更注重模型的安全性。但即使是 Anthropic 也承認他們對自己的模型感到擔憂。Anthropic 的許多員工都公開表示,他們的模型讓他們感到害怕,變得過於智能了。”
VIP會員