AI高管籲聯合國加強管控 防止人工智能失控

2026年9月23日，人工智能（AI）行業的領軍人物在聯合國安理會發表了講話。Anthropic的行政總裁達里奧·阿莫迪（Dario Amodei）警告，人工智能可能「對整個人類構成風險」。

此次會議由法國在聯合國大會期間主辦，與會者包括世界各國領導人。阿莫迪是出席此次會議並發表講話的頂級人工智能高管之一。OpenAI行政總裁奧爾特曼（Sam Altman）和Hugging Face行政總裁兼聯合創辦人克萊門特·德朗格（Clément Delangue）也發表了講話。

阿莫迪敦促安理會15個成員國推進一項聯合國協議，禁止使用人工智能製造生物武器；他還鼓勵安理會建立評估和核查系統，使各國能夠相互問責；制定全球標準，測試人工智能模型是否存在失控風險和濫用風險；增設通報系統，及時通報對全球安全具有重大影響的人工智能事件。

阿莫迪在視像講話中說：「我們將根據需要放慢速度，以確保每一項發布的人工智能技術都安全。但無論我們採取甚麼措施，控制這些風險都會超出任何一間公司的能力範圍，因為它是整個行業和全球的事。」

阿莫迪稱，人工智能有可能在不到兩年的時間內，變成數據中心裏的「天才」。

奧特曼則在發言中警告，人類「可能會失去對未來的控制權，被人工智能取而代之」。

「風險在於，AI技術發展速度太快，人已無法跟上，也無法在需要時出手干預。」奧特曼說，「這顯然是很可怕的事。行業絕不能因為收益巨大、意義重大就不願放慢腳步，從而承擔過多的技術風險。」

奧特曼表示，任何個人、公司或國家都不應該利用最強大的人工智能模型，將自己的世界觀強加於他人。

前Anthropic研究員雅各·考克森（Jacob Coxon）在9月8日表示，AI開發者認為，人工智能可能在「本十年結束前」毀滅人類。

從那以後，要求減緩人工智能發展速度的呼聲日益高漲。

高管：人工智能也是自衛工具

OpenAI之前承認發生了一宗AI智能體失控事件。那些智能體自作主張，入侵了開源人工智能社區Hugging Face。

Hugging Face的行政總裁德朗格周三告訴安理會，他認為基於恐懼的敘述，不是對人工智能技術未來做出正確決策的方式。

「我們遭到了人工智能的攻擊，但更重要的是，我們利用人工智能進行了自衛。」德朗格說。

「在這次攻擊中幫助了我們的系統，現在也在幫助我們抵禦一直面臨的網絡攻擊。它還能幫助我們在攻擊發生前修復系統中的漏洞和弱點。」他說。

此次會議召開的前一天，美國總統特朗普在聯合國大會上表示，美國「完全拒絕任何試圖構建全球計劃來控制人工智能的企圖」。他還提議重新命名人工智能，將之稱為「超級智能」。

特朗普說，他想更改名稱，是因為「人工」這個詞讓這項技術聽起來像是假的。

根據美國副助理國務卿邁克爾·德拉格（Michael Drager）9月22日發送的一封電子郵件，特朗普在聯合國大會發表相關言論後，美國國務院已命令外交官在所有溝通中，用「超級智能」代替「人工智能」。

特朗普對人工智能技術表示支持，並敦促擴大其應用範圍，理由是美國必須在人工智能競賽中擊敗中國（中共）。

特朗普9月13日在愛爾蘭的高爾夫球場接受記者採訪時說：「我們是世界上最先進的國家，坦白說，我希望保持這種狀態，因為誰在AI競賽中勝出，誰就贏得一切。」

原文Anthropic CEO Warns Poorly Managed AI Could Be ‘Risk to Humanity刊登於英文大紀元網站。#