OpenAI披露：AI自主關閉監控系統 並撒謊

知名聊天機械人ChatGPT的開發商OpenAI公司周二（10月20日）透露，由人工智能（AI）模型驅動的AI代理，在近期的兩項內部編程任務中，自主關閉了內部安全監控系統。其中一個智能體事後還就此撒謊。

AI關警報、拆監控

OpenAI在周二更新的一篇網誌文章中披露了事件詳情。

第一宗事件發生在10月3日。當時一個AI代理在修復程序時，關閉了向安全團隊自動發送警報的功能。

OpenAI表示，該AI代理很可能把此前「搜索Slack歷史記錄期間不要發送消息」的指令，錯誤理解為可以關閉監控通知。

第二宗事件於10月6日被發現。一個AI代理受命遷移程序時，移除了集成的監控組件。事後，該智能體還向員工撒謊，稱自己並未移除該組件。

OpenAI指出，在這兩宗事件中，智能體都考慮過，是否應保留監控安全措施，但最終，可能是把常規編程指令當成了關閉或削弱安全措施的許可。

正在進一步調查

OpenAI表示，該公司正在加強監控措施，努力提高AI代理自主關閉監控程序的難度，並調查這些案例究竟是「良性的過度堅持」，還是系統確實存在「規避」對其異常活動檢測的傾向。

這類監控旨在發現AI代理與人類意圖相衝突的「不一致行為」。

一些專家擔心，最先進的AI模型可能知道自己何時被監控，並會試圖隱藏自己的不當行為，或在測試中表現出與現實中不一致的行為。

該公司承認，對於AI代理的行為，目前還沒有找到令人滿意和確信的解釋，調查將會繼續。

此前已有類似事件

這家估值8520億美元的公司近來接連出現AI代理行為失控的情況。

此前，OpenAI的AI模型在測試期間曾自主突破了控制措施，入侵了人工智能平台Hugging Face（抱抱臉）。

此外，AI代理還曾自主侵入了澳洲的公共衛生服務網站。

OpenAI當時表示，這是已知的首例AI自主實施的網絡攻擊，並藉此強調，AI模型的安全與保障措施必須跟上其能力迅速發展的步伐。

自那次事件後，公司又發現了幾宗類似的AI黑客事件。

據報道，Asymmetric Security和Transluce等獨立機構的審計發現，近期發生的AI黑客事件，要比OpenAI最初披露的更為廣泛。#