美國參議院擬賦權政府 阻止危險AI模型發布

美國參議院談判代表正在研議一項立法，要求科技公司承擔設計安全AI產品的責任。據美國兩位參議院助理周五（9月11日）向媒體透露，若美國政府欲阻止這些產品發布，科技公司可請聯邦法院介入裁決。

近期，關於AI代理和智能體（AI agents）偏離人類指令、入侵外部系統的消息頻傳，再加上多位從頂尖企業離職的AI研究人員警告這項技術的潛在危險，各界開始呼籲美國政府立法加強監管力道。

據路透社報道，兩位參議院助理表示，該提案將為AI開發商設立所謂的「注意義務」（duty of care），要求企業在設計產品時必須以預防「災難性風險」為目標。

他們透露，談判人員的目標是賦予美國政府阻止不安全AI模型發布的權力，而相關企業可以向聯邦法院發起訴訟挑戰，但美國政府具體能擁有多大的權力，仍處於討論階段。

法案主要內容與適用範圍

兩位助理還透露，該法案的部份內容將禁止各州「獨自執行」針對AI模型特定風險的法律。助理舉例指出，風險包括不肖人士利用AI系統設計核武、生化武器等。

他們也指出，目前所有細節仍處於協商階段，未來將適用於具備最先進功能的AI公司，包括Google、Anthropic、OpenAI等。

主要談判者與各方表態

該提案由參議院多數黨領袖圖恩（John Thune，南達科他州共和黨）、參議院商業委員會主席克魯茲（Ted Cruz，德州共和黨），以及民主黨參議員艾米克洛布查爾（Amy Klobuchar，明尼蘇達州）共同討論。

參議院商務委員會負責監督美國商務部（該部門擁有內部AI安全研究人員），商務委員會首席民主黨參議員瑪麗亞坎特韋爾（Maria Cantwell）也對這項立法表態。

9月9日，克魯茲社交平台X上發文表示，「鑑於AI發展速度驚人，內含許多可怕又危險的風險。目前正與克洛布查爾、圖恩合作推動新法案，旨在應對涉及生物或核威脅的災難性風險。同時保證美國能在AI領域保持領導地位，避免由中共主導危害到全世界安全。」

克洛布查爾向路透社聲明指出，「我正在繼續努力推動跨黨派共識，希望透過立法讓政府能夠監管AI帶來的風險，同時要求開發商與政府專家合作，共同驗證和測試AI模型，確保AI是安全的。」

9月10日，簡達威爾在X上表示，「我認為有意義的立法，應該要求最強大的AI模型接受國家實驗室專家測試，評估它們是否會促成複雜的網攻、協助研發核武或生化武器。」

談判分歧與通過難度

據《Politico》與《Nextgov》等同期報道，談判仍有重大分歧且尚未定案。

原因是克洛布查爾、圖恩與克魯茲版本傾向「注意義務」加上企業自我風險管理與向商務部披露，政府可透過法院尋求禁令。

不過，坎特韋爾則偏好強制由國家實驗室與國家安全機構進行測試，擔心現行版本形成「弱聯邦標準」，並削弱州法保護。

另外，即使談判代表達成共識，國會議事安排也會導致法案通過變得複雜。原因在11月3日期中選舉之前，眾議院大概只剩一周左右的會期，參議院預計只剩三周時間。

對此，圖恩的發言人拒絕對談判發表評論。目前這仍是正在討論中的提案，而非已正式提出或通過的法案。#