Google人工智能（AI）模型Gemini在一次網絡安全測試中，因測試環境意外開放互聯網存取，進而進入三家真實公司的受保護系統。這是目前已知首宗Google AI系統在測試期間自主入侵其它公司的案例。

事件也引發外界對AI安全防護的關注。隨著AI代理自主性提高，並能存取互聯網及電腦系統，如何確保測試環境與真實系統有效隔離，正變得日益重要。

Google表示，Gemini在得知目標是真實公司後便停止行動，三間公司也未因此受到損害。

測試環境意外連網 Gemini進入真實系統

事件發生於今年5月。當時，Gemini正在參與網絡安全評估公司Irregular進行的「奪旗」（capture the flag）演練，以測試模型的網絡安全能力。

Google告訴《華爾街日報》，Gemini原本的任務是在測試環境內，從一家虛構公司使用的軟件中取得資訊。不過，這家虛構公司與一家真實公司同名，而原本不應連上互聯網的測試環境，也意外開放了網絡存取。

Google安全工程副總裁阿德金斯（Heather Adkins）表示，Gemini在網上找到公開資訊，並猜測登入憑證，進而存取三個網站。模型當時認為，這些網站都屬於測試範圍。

其中一宗事件中，Gemini不斷猜測密碼，直到成功進入一個受保護的系統；另外兩宗事件中，模型則從公開的網上儲存庫找到登入憑證，再利用這些訊息進入受保護系統。

Google：得知是真實公司後停止行動

阿德金斯表示，在三宗事件中，Gemini得知自己進入的是真實公司後，都停止了入侵行動。

她說：「我們已確保這三間公司都知悉此事，並與我們的訓練合作夥伴合作，目前他們已對測試流程作出調整。」

她還表示：「這些事件凸顯了訓練強大AI模型負責任行事的重要性。」

Google與Irregular告訴《華爾街日報》，Irregular已於7月將相關事件通知Google。Google表示，公司當時認為沒有必要更早披露，因為Gemini在得知目標是真實公司後便停止入侵，也未對這三間公司造成損害。

Irregular表示，Gemini這次事件涉及的問題，與先前影響其它AI實驗室的問題相同。該公司一名發言人說，所有相關實驗室已於7月底接獲通知。

發言人表示：「就我們這方面而言，所有已知問題都已在數周前修正並解決。」

多家AI公司曾遇類似測試事故

Meta、Anthropic及OpenAI此前也曾披露，在Irregular進行的測試中發生過類似事件。Irregular表示，目前正制定AI網絡安全評估的安全操作準則。

隨著AI代理能自主執行更複雜的任務，並獲得更多互聯網及電腦系統的存取權限，這些事件也引發外界對安全防護措施的關注。

英國智庫「長期韌性中心」（Centre for Long-Term Resilience）旗下「失控觀測站」（Loss of Control Observatory）表示，2026年至今已記錄1,664宗真實世界的AI失控事件，其中包括AI代理繞過控制措施，以及偽造授權以提高自身權限。

該智庫高級政策經理謝恩（Tommy Shaffer Shane）表示：「如果AI模型繼續變得更加強大，同時繼續逃避控制，未來可能出現更嚴重的事件，其中一些甚至可能造成災難性後果。」#

-------------------
局勢持續演變
與您見證世界格局重塑
-------------------

🔔下載大紀元App 接收即時新聞通知：
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand

📰周末版實體報銷售點👇🏻
http://epochtimeshk.org/stores