TOKYO：與其被認為會毀滅我們人類的流氓式人工智能代理相比，北京現實的惡夢更迫在眉睫：這項技術可能先幫助人類撕裂社會。
在矽谷過去一周不斷煽動AI會毀滅人類的恐慌之際，中國拒絕他們所稱的「煽恐言論」。國家安全部長陳希洵於週日（9月13日）另撰寫一篇文章，窺見該國最大的幾個恐懼之點。文稿中並未提及人類滅絕。最核心的關注是技術透過深度偽造、影響力作戰與大規模的認知戰，可能如何破壞社會穩定。次一是網絡威脅，可能讓竊取敏感及個人資訊變得更容易。
最近的一起事件顯示，這兩個風險或許會彼此交織。本月初，在加州的一小隊網安研究人員公布研究結果，顯示他們能夠模擬對微信的重大入侵——這個超級應用幾乎是中國日常生活的數字基礎設施。名為 Calif 的帕洛阿爾託基地公司發布所謂的「WeWorm」威脅，並證實微信母公司騰訊控股已減緩該風險。
但他們的示範仍足夠讓人不安，足以讓北京官員夜不能寐：研究團隊詳述他們如何利用 AI 工具創建一個漏洞，能在幾秒內完全控制一個微信帳戶。普通用戶所看到的只是聯繫人名單中的某人來電。
希望的理由？
不過，仍有值得期待的地方。騰訊的資訊披露進展順利，沒有出現技術阻礙，加州 Calif 的 Bruce Dang 通過郵件告訴我，工程師反應迅速，問題「很快就被解決」。這場可能動搖一個被十多億人用於經營生意、支付貨物與溝通的平台的災難，正是因為跨境合作的快速而被挫敗。
在一篇博文中，Calif 的首席執行官 Thai Duong 將這次實驗描述為一個「呼籲美國、中國及其他政府與私營部門共同合作，安全地開發與部署 AI」的行動。最值得注意的是，他補充說，將 AI 歸咎於問題、限制其進一步發展是「錯誤的教訓」。漏洞早已存在，改變的是 AI 能「發現並修復它們」。換句話說，微信事件不是要放慢比賽步伐，而是讓透明度成為一條可行的前進路徑，在華盛頓與北京都具備政治可接受性。
儘管矽谷的末日警告不斷升高，習近平主席在新德里舉行的 BRICS 峰會致辭時仍強調北京推動「開放式 AI 生態系統」的路線。習近平呼籲建立「以共識為基礎」的治理框架，意味著規則不再由美國單方面決定。這與其最高情報官員陳希洵同時呼籲的全球風險合作相吻合，同時避免讓單一國家壟斷 AI 力量（對美國的含蓄抨擊）。北京很可能不會同意華盛頓所要求的暫停，但若要在這一技術領域領先全球，必須願意與其他國家就至少彼此能同意的風險攜手合作。這樣的舉動或許無法阻止競賽，但卻是朝著讓競賽不再那麼魯莽的一個初步步伐。
拖慢步伐的微弱呼聲
美國最新的安全呼籲口號，是那句極其空洞的「放慢前沿發展」（pace the frontier），這是一個由 Anthropic 的 Dario Amodei 提出、難得得到 OpenAI 的 Sam Altman 與 xAI 的 Elon Musk 一致贊同的術語性主張。支持此觀點的聲明已獲得硅谷幾乎所有領先 AI 公司超過千名簽署者的支持。然而，很少有人真的理解這到底意味著什麼。如果他們真心擔心自我提升的 AI 會結束人類，模糊地呼籲放慢步伐，顯然是一種極其薄弱的回應。
然而，對於這些公司而言，將資源花在「造機器神」上不如花更多心力，確保他們的產品不被濫用。他們不能同時釋出網絡武器又販售防禦措施。與其以自我為中心「放慢」AI 發展的說法作為對策，政策制定者必須要求對他們現在所觀察到的風險實現最大程度的透明披露，而不是事發數月後才披露。
值得稱道的是，Amodei 自己也在其超過3,800字的宣言中表示支持，該宣言是在他的一名員工辭職並發出警鐘後發布，指出正在打造 AI 的人「相信它可能會殺死我們所有人」。不論他們作出什麼承諾，Amodei 說：「公眾有權知道正在發生的事情」。他是對的。
在 AI 治理方面，北京與華盛頓也許難以達成諸多一致，但微信事件證明跨境風險共享是可能的。AI 已經改變了我們所認知的互聯網與隱私。想像一場網絡攻擊，暴露你曾經發送過的每段私人通訊，將會在企業與社群之間造成多大的混亂。為研究人員與公司打造分享所見、標註新興威脅的機制，將天然地抑制某些競賽動力，為更艱難的辯論開出空間。若美中兩國無法就這些現有的危險展開合作，那麼在 AI 開發者警示的可能終結性威脅方面，幾乎沒有多少希望能共同應對。
