美國加州政府近日起訴人工智能公司OpenAI,指控該公司在開發和測試高風險人工智能(AI)模型時,安全措施不足,導致多宗網絡安全事件,危及公眾利益。
加州檢察長邦塔(Rob Bonta)周一(11月16日)宣布,已在三藩市高等法院起訴OpenAI,指控其違反加州《不正當競爭法》,並構成公共滋擾(Public Nuisance)。
控方指出,今年7月,由OpenAI實驗性AI模型驅動的數百個自主智能體突破內部測試環境,通過公共互聯網攻擊開源AI平台Hugging Face,攻擊持續約兩天半。
加州控方稱,這並非孤立事件。OpenAI在測試期間至少80次失去對自主智能體的控制,相關事件還涉及未經授權訪問軟件代碼數據庫、政府數據庫及OpenAI自身內部系統。
控方指控,OpenAI明知實驗存在安全風險,仍在防護和監督不足的環境中持續測試,並涉嫌向公眾誤導性宣稱相關實驗受到嚴格控制。
加州檢察長辦公室此前已於9月啟動調查,並向OpenAI發出調查傳票。此次訴訟是調查後採取的進一步法律行動。
對於此次訴訟,OpenAI發言人回應稱,公司已調查Hugging Face事件,公布技術及獨立調查報告,並加強安全防護措施。該公司認為,此次訴訟將整個AI產業共同面臨的安全挑戰集中歸咎於OpenAI,並表示願與加州檢察長合作制定安全標準。
AI安全監管壓力加大
除網絡安全問題外,OpenAI等AI企業還面臨版權、產品責任、消費者保護及個人資料使用等法律爭議。今年10月,8個州組成的兩黨檢察長團體分別提起訴訟,指控ChatGPT曾引導包括未成年人在內的用戶傷害自己或他人。
此外,OpenAI還因加拿大卑詩省塔姆布勒里奇鎮今年2月發生的校園槍擊案面臨30多宗民事訴訟。原告指控,OpenAI早已發現槍手在ChatGPT上的暴力言論,卻未及時通知警方。OpenAI表示,當時認為相關內容尚未達到警方通報標準,已加強安全防護措施。
目前,美國聯邦政府和國會正推動加強AI安全監管。今年6月,總統特朗普簽署行政令,要求加強政府及關鍵基礎設施的AI安全防護,並評估先進AI模型的網絡安全風險。11月,白宮AI工作組進一步討論網絡攻擊防範及安全事故報告機制。
美國國會部份議員已提出多項AI安全監管法案和政策框架,包括要求先進AI模型接受獨立安全審計、開發商報告重大安全事故,以及確保AI系統具備人工緊急關閉功能等,以加強對高風險AI技術的監督。#
(本文參考了路透社和美聯社的報道)
✍︎ 給讀者的信 → https://tinyurl.com/25thStillHere
-------------------
25周年,我們仍在這裏。
感謝同行,記錄未來。
-------------------
支持我們:
❍ 刊登祝賀廣告/合作:
☎︎ 2770 5566
❍ 加入網站會員:
https://hk.epochtimes.com/subscribe
❍ 購買實體報紙|銷售點:
https://www.epochtimeshk.org/stores