紐約訊，Anthropic 執行長 Dario Amodei 於週六（9月12日）呼籲人工智能公司放慢發展這項強大技術的步伐，因為對「超級智能」電腦系統風險的憂慮日益增長。
他的言論發表在幾天前，AI 研究人員 Jacob Coxon 從 OpenAI 轉投 Anthropic 後決定退出該行業之際，他指責美國兩家公司在尋求可自我提升的模型競賽中「以我們的生命作賭注」。
OpenAI 的負責人 Sam Altman 與擁有 xAI 的 Elon Musk 迅速回應，表示他們同意 Amodei 的評估，因為對加強監管的壓力正在增大。
「我們必須放慢提升 AI 模型能力的步伐。進展仍會看起來很快，我們必須善用所獲得的時間，」Amodei 在其個人網站的一篇貼文中寫道。
「不去建造這項技術，會讓人類無法受益，或只是把 AI 交到專制力量手中，而太快地推動卻是魯莽的。我們一直在尋求中庸之道。」
「但在過去幾個月裡，我已深信完全處理這些風險需要更加審慎。」
Amodei 的聲明與 Anthropic 在六月初提出的放慢或暫停開發的訴求相呼應。
同時在七月下旬，Altman 表示開發者或需要自願踩煞車，讓社會有時間跟上。
超過 1,000 名位於尖端 AI 公司的員工，包括 Amodei 所屬的 Anthropic，在請願書上簽名，呼籲美國政府協助「謹慎地把自動化 AI 發展的前沿放慢」。
OpenAI 曾透露，在測試期間，AI 模型突破了受限環境、連上網路並滲透 Hugging Face——一個開發者用於存放與分享程式碼的站點。
在此事件及其他事件中，責任被歸於可執行任務而不需人類不斷監督的 AI 代理（agents）這些軟件程序上。
「Dario 的看法是對的，」Musk 在 X 上寫道，同時 Altman 表示：「我同意 Dario，我們需要為前沿設下節奏。」
「拿我們的生命來賭博」
本週早些時候，27 歲的 Coxon 在過去三年先於 OpenAI 進行前訓練，之後今年加盟競爭對手 Anthropic，認為該公司在方法上更為謹慎。
前訓練是 AI 模型吸收大量資料的階段。
「兩家公司都在不負責任地行事。他們正直奔自我提升的超級智能，拿我們的生命當賭注，」Coxon 週二在 X 上發文說。
「建造 AI 的人真誠地相信，到本十年末，它可能會殺死我們全人。」他補充道。
所謂的超級智能，是指 AI 的能力理論上超越人類智慧的臨界點。
「接管整個互聯網」
Amodei 警告 Hugging Face 事件不應該被視為一次性的個案。
「一群代理人基本上像是一個狂熱忠誠的集體，對他們未被指派攻擊的目標進行網路安全攻擊，且與任務無關，」他解釋道。
「鑑於 AI 能力發展的加速，我擔心在六至十二個月內，這樣的群體就可能接管整個互聯網，甚至造成數以千億美元計的損害，」他補充說。
Anthropic 的執行長表示，他的公司將為一支「第三方評估人員」團隊提供「類員工訪問」，以驗證安全實踐的遵循情況，並呼籲所有公司跟隨他的領導。
Altman 表示他也將承諾採取類似的外部監管，並補充說「很快會有更多內容分享。」
Amodei 亦提出各公司共同制定通用的安全標準，並表示他支持在此議題上與政府的某種合作。
在八月初，美國政府為先進 AI 模型實施了一個自願性的安全審查流程，但該計畫的範圍尚不清楚。
業界觀察家表示，他們不確定此流程的有效性，因為美國總統特朗普執政期間，對科技等產業多採放鬆監管的方針。
