報告：AI護欄易被破解 恐成生化武器「食譜」

獨立研究實驗室「緋紅閃焰」（Crimson Flare）8月發布的報告警告，恐怖組織與犯罪集團可能通過技術手段繞過開源大型語言模型（LLM）的安全機制，讓AI幫助他們獲得製造爆炸物、化學與生物武器的「食譜」（製作方法），對國家安全構成日益嚴重的威脅。

安全機制可通過「抹除」技術移除

報告指出，Meta（Facebook母公司）的Llama系列與阿里巴巴旗下的Qwen3.8-27b等開源模型可以下載到電腦中離線使用，這些模型原本內建安全護欄，擁有拒絕敏感請求的相關機制。

緋紅閃焰實驗室研究人員表示，這些安全護欄可通過一種稱為「抹除」（abliteration）的技術快速移除，該技術主要適用於開源大型語言模型。此外，執行「抹除」的工具可在多個開源平台找到。

研究人員指出，部份已移除安全機制的模型版本已被上傳至網絡，使用者通過簡單搜尋即可下載並用於各種用途。

其中一位模型創建者向《每日郵報》表示，這些修改後的AI模型可回答關於「工具、化學、漏洞利用程式碼、暴力、色情，以及其他可能違法的內容」。他還強調：「模型不會決定是否配合，由使用者決定想要哪些內容。」

技術門檻大幅降低

該報告警告，移除安全機制的AI可能使缺乏生物、化學專業知識的惡意行為者在短時間內取得製造爆炸物、化學或生物武器的完整步驟與知識，理論上可能使其獲得如炭疽等高致命性武器。

報告中認為，「功能強大、未經審查的開源大型語言模型可在一般消費級硬體上離線運行，對國家安全構成嚴重且日益增長的威脅。」由於模型可在個人電腦離線運行，各國情報機構將無法通過網絡監控使用記錄或偵測可疑行為。

英國毒理學家、化學戰專家阿拉斯泰爾‧海伊（Alastair Hay）教授在看到其中一個AI模型提供的結果後告訴《每日郵報》，「AI明顯降低了人們製造危險物質所需的技術門檻。」

他解釋，「過去我們不必擔心普通人製造這些危險物質，因為製造這些東西需要較高的技術和知識門檻，且缺乏訓練的人自行嘗試高風險物質時，自己也需要承擔相應的風險。」

海伊教授表示，「如今AI提供的步驟就像食譜一樣，連製造時的相關濃度都寫得很清楚」，讓製造這些危險物品的難度幾乎接近「學生實驗等級」。

前蘭開夏（Lancashire）警局數位鑑識負責人札因‧烏爾-哈克（Zain Ul-Haq）也形容AI成了「一站式工具」，讓人在家中就能完成相關準備。

更廣泛的生物安全隱憂

多份研究與政策報告指出，科學家與政策研究者擔心AI可能被濫用，最終創造出人類無法控制的生化武器。

約翰霍普金斯大學（The Johns Hopkins University）AI生物安全研究員兼訪問學者詹姆斯‧布萊克（James Black）指出兩大風險：一種是普通人可能藉聊天AI學習製造炭疽等現有的生化武器；另一種是資源充足的組織或國家可能結合專業生物軟件設計新型生化武器。

紐約福特漢姆大學（Fordham University）研究生物安全的法學教授多尼‧布魯姆菲爾德（Doni Bloomfield）指出，對人類最大的潛在威脅可能是AI協助改造流感、COVID-19等既有病毒，增強病毒破壞性或逃脫人體免疫系統的能力。

瑞士蘇黎世大學（University of Zurich）的結構生物學家馬丁‧帕切薩（Martin Pacesa）甚至擔憂，理論上人們已經可以研發出匹敵蓖麻毒素的新型毒素，這些毒素卻難以用現在手段進行檢測，「這讓我夜不能寐」。

另外，美國國家科學院（NAS）等機構也提醒，目前AI在真正設計全新大流行病原體方面，仍受資料不足與實驗驗證等相關限制。部份專家則認為，合成訂製的DNA大多由實體實驗室和國家管控，而這些管控是一道關鍵的防線，可以避免有害的病原體被快速製造出來。#