四AI巨頭代表出席美市議會聽證 無人願提供安全保證

紐約市議會10月5日就人工智能（AI）安全舉行全體委員會聽證，OpenAI、Anthropic、Google及Meta四間公司代表在宣誓後接受議員質詢。

10月5日的AI安全聽證會吸引了很多市民旁聽。（施萍／大紀元）

議員要求企業說明如何評估AI失控風險、若系統造成傷害，誰應負責，以及是否願意承諾未通過安全檢測的AI模型不予發布。

四間公司均表示重視AI安全，但在具體風險數字、法律責任及第三方安全驗證等問題上，都沒有做直接或者正面的回答。

代表OpenAI作證的是政策發展與營運主管德懷爾（Morgan Dwyer）。市議會議長朱曼寧（Julie Menin）要求她估計AI造成災難性後果的可能性。德懷爾表示，她無法給出具體百分比，但無論風險是1%、10%還是20%，都不能接受。她說，OpenAI不應該訓練「公司無法有力證明可以保持在人類控制之下」的模型。

當議長進一步詢問，如果AI系統失控，造成重大財務損失、洩露敏感資料、導致人員受傷甚至死亡，OpenAI是否承擔法律責任時，德懷爾沒有直接回答。

對於「如果模型沒有通過內部安全測試或獨立第三方驗證，是否一定不發布」的問題，德懷爾表示OpenAI不會發布公司認為不安全的模型，也曾經因安全問題延後產品發布，但沒有作出「任何一項測試未通過便一律不得發布」的承諾。

Anthropic派出高階AI安全測試團隊主管格雷厄姆（Logan Graham）作證。他介紹了Anthropic對AI模型進行安全評估的方式，包括網絡安全及「失去控制」等風險，但同樣沒有給出AI造成災難性後果的具體機率。

格雷厄姆還表示，Anthropic過去曾因測試發現模型具備較強的軟件漏洞利用能力，而沒有直接向公眾發布相關模型，而是限制其使用範圍。他說，公司會根據安全評估結果決定模型是否可以發布。

Google人工智能及新興科技政策主管弗蘭德（Alice Friend）則表示，目前沒有嚴謹的科學方法，可以為未來發生災難性AI事件的可能性給出可靠的百分比。

在法律責任問題上，弗蘭德的回答較為直接。她表示，Google認為現有法律框架同樣適用於AI，並說：「如果沒有AI時是違法的事情，那麼有了AI仍然是違法的。」她表示，Google會繼續與政府合作，建立適合AI發展的安全規則。

Meta人工智能政策與立法主管卡希爾（Shane Cahill）則表示，他不希望在沒有足夠依據的情況下提供一個不精確的風險數字。當議員追問，如果Meta的AI系統造成重大損害，公司是否承擔法律責任時，卡希爾表示自己並非Meta法律部門人員，因此不願就具體法律責任作推測。

四間公司對市議會提出的「第三方驗證」也沒有作出完全相同的回答。

市議會提出了一個提案，要求部份AI模型在紐約市使用前接受獨立第三方驗證，並涉及人工關閉系統的能力。企業代表中沒有一家承諾，「如果未通過內部或第三方任何一項安全測試就不會發布」。

此次聽證涉及市議會正在審議的一系列AI監管措施，包括第三方安全驗證、人工緊急關閉機制、AI傷害受害者的訴權，以及鼓勵企業內部人員舉報安全問題的吹哨人獎勵機制。

市議會表示，希望通過立法，在AI快速發展的同時增加安全保障和企業責任。據稱這是全美第一個市議會舉辦類似的聽證會。#