OpenAI周三（9日）在官方網誌文章中表示，該公司正在推動美國政府制定強制性的全國AI安全規範，原因是擔心這項技術可能會加速AI自身的發展，進而帶來安全風險。此前，OpenAI部份AI代理曾出現失控的情況。

據路透社9日報道，一系列事件顯示，控制先進AI代理的非預期行為十分困難，OpenAI等開發商的AI模型在測試期間都發生過自發存取外部系統的情況。這些事件引發外界對加強AI安全監管的呼聲。

OpenAI首席全球事務官萊漢（Chris Lehane）在9日發表的網誌文章中指出：「人工智能加速自身發展的前景，意味著我們不能僅靠自願承諾。美國需要制定強制性的、基於能力的國家監管框架，並能隨著技術的發展而不斷演進。」

目前，雖然美國已有多個州自行制定AI法律框架，但美國國會尚未通過聯邦層級的相關法律，聯邦AI監管仍是空白。OpenAI的這項呼籲旨在推動具有法律約束力的全國性AI安全規範。

隨著人工智能迅速成為本十年最具標誌性的投資主題，OpenAI及其競爭對手Anthropic正準備進行首次公開招股。

OpenAI敦促國會通過基於能力的國家AI安全要求，包括針對最先進AI系統的測試標準、獨立第三方評估、網絡安全保護以及事件報告規則。

這家ChatGPT的開發商敦促國會在本屆會期休會前採取行動，並表示，在相關措施出台前，將繼續支持各州的AI立法。國會定於12月休會。

OpenAI表示，完全自主的遞歸式自我改進（Recursive Self-Improvement, RSI）——即AI獨立運作並推動下一代AI開發的情況「目前尚未發生」，「除非且直到我們能夠安全地實現，否則我們不應追求這一目標」。

支持加州AI立法

OpenAI表示，支持加利福尼亞州四項旨在建立AI監管制度的法案。

加州州長紐森（Gavin Newsom） 周三簽署了兩項法案——SB813和AB405，使其正式成為法律。這兩項法案為AI系統的獨立第三方評估和審計建立了制度框架，要求高風險AI系統接受外部審計。

還有兩項法案——AB1864和SB1119，分別針對AI可能被用於製造生物威脅的防範措施以及加強對使用聊天機械人的兒童的安全保護措施。

這家AI巨頭在網誌文章中表示：「其中一些法案，我們過去並未支持；但鑑於近期我們所看到的AI能力大幅提升，在重新評估之後，我們現在決定予以支持。」

AI代理失控事件

據路透社此前報道，今年稍早，OpenAI的AI代理曾使用超過10個此前未公開的網站進行未經授權的通訊，顯示這些AI代理的違規活動範圍比先前披露的更為廣泛。

今年春季，OpenAI的失控AI代理甚至劫持了一個德國維基網站（DseWiki），並將其改造成供其它AI代理使用的公告欄。該公司高層數周前就已獲悉此事，但一直未對外公開。

AI巨頭Anthropic周三披露了其第四宗AI模型在測試期間入侵外部系統的事件。此前，該公司在7月宣布，其部份Claude模型在進行網絡安全測試時入侵了三間公司的系統。

OpenAI還表示，任何為監控AI而建立的行業標準都必須超越美國國界，「如果美國希望在國際上發揮領導作用，就必須先在國內建立可信的標準——而我們越來越確信，制定兼容的國際標準是必要的」。#

-------------------
局勢持續演變
與您見證世界格局重塑
-------------------

🔔下載大紀元App 接收即時新聞通知：
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand

📰周末版實體報銷售點👇🏻
http://epochtimeshk.org/stores