澳洲：OpenAI人工智能代理入侵政府網站

澳洲政府周三表示，OpenAI的一個AI代理，今年6月入侵了澳洲政府的健康數據網站，並訪問了部份文件。這可能是已知人工智能代理（AI Agent）首次入侵政府網站的事件。

此次事件是AI代理自主入侵美國境外系統最引人注目的案例之一。此前全球範圍內發生的多宗AI代理入侵事件，已引起政府和行業的擔憂。

澳洲總理阿爾巴尼斯（Anthony Albanese）正在紐約參加聯合國大會。他在一個新聞發布會上表示，OpenAI代理侵入的政府機構網絡，負責非敏感健康數據和統計數據。雖然該網絡未受到廣泛損害，但入侵事件顯然不可接受。

澳洲方面仍在調查此事件，並已就此事向OpenAI行政總裁奧爾特曼（Sam Altman）表達了「極度關切」。

阿爾巴尼斯表示，他對OpenAI沒能更早通知澳洲政府，以及政府系統未能預先檢測到安全漏洞，都感到失望。他說，另外三個政府網站是否受到影響，仍有待調查。

人工智能模型入侵是為了「查找答案」

據路透社報道，OpenAI在一份聲明中表示，他們的審查沒有發現任何患者記錄被訪問的證據。被訪問的訊息包括匯總的健康統計數據和內部文件名。

OpenAI表示，審查發現，「我們的模型在嘗試查找答案時」，出現了涉及多個澳洲政府網站和服務的活動。「這些模型採取了我們意料之外的行動」。

此次披露的澳洲數據洩露事件，是OpenAI代理近期多宗入侵事件中最新披露的一起。OpenAI在過去的幾個月中，先後披露了這些事件。

另一宗備受矚目的事件，是AI代理7月中旬對開源人工智能代碼庫Hugging Face的入侵，根據OpenAI和獨立調查人員公布的時間點，這次入侵大約在發生後一周被發現。

這一系列代理自主入侵外部系統的事件，引發了全球範圍內關於人工智能風險的討論。其它主要的AI模型開發公司，包括Anthropic、Google和Meta，也披露了其代理入侵外部系統的事件。

奧特曼周三在聯合國安理會發言中警告稱，人類未來有可能失去對人工智能的控制。Anthropic的行政總裁達里奧·阿莫迪（Dario Amodei）則警告，人工智能可能「對整個人類構成風險」。#