OpenAI 表示,正在與 Anthropic 與 Google 就一項理念合作,該理念源自 Google DeepMind 的 Demis Hassabis 提出的提案,意在建立一個自我監管機構,模仿美國監管經紀商與投資公司的金融行業監管局(FINRA)的模式。
在七月,Hassabis 呼籲美國建立一個機構,在向公眾發布前對最強大的 AI 系統進行測試。
「資金需要相當可觀,而且很可能主要來自產業界,以吸引世界級的技術人才並提供進行大規模測試所需的計算資源,」Hassabis 如是寫道。
OpenAI 首席執行官山姆·奧特曼(Sam Altman)週二表達了對整個產業協作的支持,並承認公眾對於公司間以及國家間競爭可能會忽視安全性的擔憂。
「我認為對於我們的行業而言,大家走到一起、能夠協調,確保有足夠的時間以安全方式推進,這是很重要的事,」奧特曼在一個由 Salesforce 在舊金山主辦的會議上表示。
「當出現任何暗示……行業內的某些人可能「不做對的事」,我認為這就是人們變得非常害怕的時候,」奧特曼補充道。
一些科技界人士擔心 AI 巨頭之間的合作會把小型競爭對手排擠出去。
加拿大 AI 公司 Cohere 的首席執行官最近指責美國主導的 AI 實驗室以「安全」為名義籌組成一個「卡特爾」。
「AI 需要護欄。這不是爭議的核心,也從未如此。爭議在於誰來制定這些規範、誰能參與、以及這些規則所保護的利益屬於誰,」 Cohere 的聯合創始人兼 CEO 艾丹·戈麥斯(Aidan Gomez)於週日的一篇博客文章中寫道。
週一,前 Google DeepMind 研究人員比拉爾·丘格塔伊(Bilal Chughtai)也呼應了考森等人提出的憂慮。
「我真心相信,AI 具有可能將我們全數帶走的能力,而我們可能已經快沒時間阻止這一結果,」丘格塔伊在社群媒體上寫道。
週六,Anthropic 的執行長達里奧·阿莫代伊(Dario Amodei)呼籲放慢 AI 發展步伐,這一觀點得到了 OpenAI 的山姆·奧特曼、伊隆·馬斯克與 Hassabis 的支持。
「當人類未來受到威脅時,我們需要具有法律約束力的國際安全規則,而非產業自願的標準,」桑德斯在華盛頓的一場 AI 安全活動中表示。
奧特曼警告稱,AI 事故無論大小都可能是不可避免的。
「任何新技術的事故都是不可避免的,我們應該有一個培養透明報告這些事故的良好文化,」奧特曼說。
「快速從中學習,並在發生時作出調整,我認為對我們的行業有益,也許我們可以避免更大、甚至更具災難性的事件,」奧特曼繼續說。
美國總統唐納德·特朗普週一把有關 AI 風險的警告斥為「騙局」。
NVIDIA 的執行長黃仁勳也表示反對,認為有關 AI 的警告是一場協調行動的一部分。
黃於週一在洛杉磯的一場會議上表示,特朗普在他於台上發言時打電話給他,稱讚他「看穿」這些 AI 警告。
通話中,黃向特朗普表示感謝,稱讚他「看透」這些關於 AI 的警告。
NVIDIA 站在 AI 革命的核心,其晶片提供了絕大多數系統的支撐,黃仁勳也因此成為特朗普非正式的顧問。