AI風險引多方關注 特朗普：不擔心人類因此滅絕

Anthropic的兩名研究人員於9月9日發出嚴峻警告後，多名議員和AI業內人士呼籲華盛頓採取行動。特朗普於9月10日晚回答記者提問時表示，自己擔心的是美國無法在AI領域上勝出，目前美國領先中國。

9月10日晚，特朗普在共和黨中期選舉黨大會（GOP Midterm Convention）結束後，在達拉斯-沃斯堡國際機場準備離開達拉斯時，回答了媒體提出的一些問題。有記者提問是否擔心AI可能導致人類滅絕時，特朗普表示，自己對此並不擔心這個，但擔心美國在與中國的競爭中處於劣勢。

特朗普說：「我擔心的是，如果我們無法在AI領域勝出，我們將陷入非常糟糕的處境。目前我們領先中國相當長的一段距離。」特朗普表示，美國AI技術約領先中國1年，「這被視為是很大的差距」。

AI的發展會危及人類的話題近日由兩位業內的研究人員引發。

業內人士的警告

9月8日，Anthropic研究人員考克森（Jacob Coxon）在社交平台X發帖，宣布自己今天從Anthropic辭職了。考克森在帖子中寫到：「過去三年，我一直在OpenAI和Anthropic兩間公司從事相關研究。兩間公司都沒有以負責任的方式行事。他們正一路加速競爭，直奔能夠自我改進的超級智慧，拿我們所有人的生命安全當賭注。」

胡賓格（Evan Hubinger）隨後在社交平台X上回帖支持考克森的觀點，並表示，自己認為未來十年AI導致全人類死亡的機率大於10%。胡賓格還說：「我相信Anthropic已在盡最大努力，但我們目前還沒有解決超級智慧對齊問題的方案，而且也看不出來我們正在朝著能解決它的方向前進。」

考克森對帖說：「那些正在建造AI的人，是真心相信它可能在這十年結束以前殺死我們所有人。這不是甚麼行銷噱頭。事實上，許多高階主管和資深研究人員在接受媒體採訪時，會刻意用聽起來比較理性的措辭來表達；但我私下聽到的，卻是同一批人流露出恐懼。沒有任何其他人類活動具有如此程度的危險。」

胡賓格是Anthropic內對齊壓力測試（Alignment Stress-Testing）的團隊主管，主要負責「紅隊測試」，研究模型可能失控或對齊失敗的方式。所謂「對齊」是指讓AI真正按照人類希望的目標和價值行動，而且在能力越來越強之後，仍然不會偏離這些目標。現實當中，AI可能會隱瞞資訊、欺騙人類，甚至阻止人類關閉它——AI去做自己想完成的目標。

來自AI業內人士的警告已引發多方位的關注。大約三天時間內，考克森的帖子閱讀量已經過1.6億人次。

多方關注如何控制AI風險

就AI技術可能帶來的風險，亞利桑那州民主黨參議員Mark Kelly在社交平台X上發帖表示：「華盛頓需要醒來，認真看待這件事。」

佛羅里達州共和黨眾議員盧娜（Anna Paulina Luna）也在社交平台X上發帖，呼籲眾議院議長約翰遜（Mike Johnson）召集「AI特別會議」。眾議院本周休會，計劃下周恢復議事。

德州共和黨參議員克魯茲（Ted Cruz）在9月9日播出的ABC日間政論節目《觀點》（The View）中表示，人工智能構成「災難性風險」，並認為應通過立法加強監管。克魯茲領導的參議院委員會負責監督美國商務部，商務部旗下有專門從事AI安全研究的工作人員。

美國政府在9月初主辦G20創新部長會議期間，推動各國採取較為靈活、低干預的AI監管方式。9月2日，G20創新部長會議發布共同聲明，主張優先運用既有的產業別、風險導向監管框架，只有在現有規則不足以應對新興技術時，才考慮制定新的監管措施。

更多的AI業內人士也開始談AI安全問題。曾任Anthropic安全研究團隊負責人的本頓（Joe Benton）9月10日（周四）接受NBC訪問時表示，他擔心AI的發展速度最終可能「快到讓我們來不及做好準備」，因此現在就必須開始正視這個問題。

曾在Google DeepMind從事AI安全研究的恩格爾斯（Josh Engels）在NBC周四的另一個訪談中表示，目前缺乏真正能夠掌控局面、及時踩煞車的人。「大家都在盡力而為，但我們不能指望會有人出面替我們解決問題。」

本頓和恩格爾斯目前都加入了METR（Model Evaluation and Threat Research），這是一家專注於評估前沿AI模型能力與潛在安全風險的非牟利研究機構。#