研究人員用AI模型侵入OpenAI 揭示安全漏洞

三位網絡安全研究人員證實，他們利用Anthropic的一款先進AI模型成功入侵了OpenAI的防禦系統。這表明，人工智能公司及其用戶面臨網絡攻擊的風險，而先進AI模型可能成為黑客的利器。

發現OpenAI安全漏洞

據哥倫比亞廣播公司（CBS）報道，據網絡安全公司Hacktron AI上周發布的報告，該公司研究團隊成功侵入了OpenAI社區論壇平台Discourse用戶的帳戶。

Discourse是ChatGPT和OpenAI編程助手Codex的用戶前往諮詢產品相關問題的平台，用戶可使用其OpenAI帳戶登錄。

這項於今年7月下旬進行的測試顯示，研究團隊利用Anthropic的Claude Opus 4.8在Discourse平台的代碼中發現了安全漏洞，但未能成功利用。然而，就在同一天晚上，更先進的模型Claude Opus 5正式發布。

次日，該團隊利用Claude Opus 五成功訪問了Discourse部份OpenAI用戶的ChatGPT和Codex帳戶。

先進AI模型或成黑客利器

莫漢‧佩達帕蒂（Mohan Pedhapati）是參與這次測試的三名研究人員之一。他表示，更先進的人工智能模型讓像他這樣的資深黑客更輕鬆地開展工作——同時也增加了犯罪份子仿傚的風險。

佩達帕蒂指出，AI技術的進步極大地提升了網絡攻擊效率。根據他的估算，若在沒有AI協助的情況下，獨自完成這類攻擊可能需要兩到三個月，但在先進模型Claude Opus 5的幫助下，整個過程縮短到不到三天。

他說：「隨著語言模型不斷演進，它們在網絡安全領域的能力也變得非常強大。」

這項測試結果顯示，一旦研究人員獲得了用戶的ChatGPT和Codex帳戶訪問權限，他們就可以進一步訪問與這些帳戶相關聯的應用程式，包括電子郵件應用軟件以及即時通訊與AI工作平台Slack。他們能夠查看用戶在ChatGPT上的所有對話內容。

受到影響的包括OpenAI員工，他們的帳戶還與其它應用程式（如OpenAI內部郵箱）相連。

佩達帕蒂警示：「你與ChatGPT談論的所有內容——我們都能洩漏並取得存取權。我可以看見你對ChatGPT說的任何話，如所有私密或個人的資訊。」

佩達帕蒂認為，企業不應只保護自己的核心代碼，因為漏洞往往存在於深層的依賴關係中，「它會螺旋式上升，最後回過頭來影響到使用該服務的公司」。他擔心，世界各大AI實驗室為了追求開發速度，可能在安全防禦上未能達到標準。

專家示警

針對這次測試的結果，OpenAI已發表聲明感謝Hacktron AI的研究團隊，並採取行動修補漏洞，包括縮減社群登入憑證的權限，以及撤銷受影響的登入階段。

網絡安全專家則警告，如果連小型研究團隊都能在幾天內攻破OpenAI的安全防禦系統，具有國家級背景的黑客或犯罪集團恐怕更容易得手，甚至威脅到AI模型的權重安全，這已升級到國家安全層面的問題。

「我認為毫無疑問，這些實驗室的技術與國家安全息息相關。我們已經從美國政府以及世界各地的政府那裏看到了這一點。」安全與技術研究所的網絡安全政策專家尼古拉斯‧萊瑟森（Nicholas Leiserson）表示。

萊瑟森指出，儘管近期一些AI領軍人物紛紛發表聲明，承認有必要放緩研發步伐，但多年來，儘快推進技術前沿步伐一直是OpenAI等實驗室的首要任務。

「這是一個可以接受、讓人感到安心的結果嗎？這難道是我們整個社會認為合適的風險標準？因為到目前為止，決定這個風險界線的就是那些實驗室，而我們也已經看到他們最終把落點劃在哪裏了。」他補充。#