英首相將宣布與美建立新AI國防夥伴關係

英國首相將於周二宣布，英國和美國之間建立新的人工智能（AI）國防夥伴關係，這是各國推動利用該技術更好地保護關鍵基礎設施和檢測威脅的一部份。

英國首相貝安德（Andy Burnham）將於周二（9月22日）在聯合國大會上發表講話，呼籲各國攜手合作，利用科技手段加強安全並降低生活成本壓力。這將是他作為首相以來首次出席多邊會議，屆時他將與美國總統特朗普會面。

貝安德表示，英國國防部快速人工智能交付工作小組和美國戰爭部首席數位和人工智能辦公室將共同努力，加快「交付可信賴的、可互通的能力，以增強威懾力」。

「全球金融危機爆發時，英國團結了世界主要經濟體。面對人工智能帶來的機會和挑戰，我們將展現同樣的領導力。」貝安德在聲明中表示。

「我們與美國在人工智能和自主技術方面建立的新型國防夥伴關係，凸顯了這一雄心壯志，匯聚了最傑出的人才，以加強對關鍵基礎設施的保護，威懾那些威脅我們安全的人，並利用人工智能的巨大潛力為我們謀利。」

此次合作將有助於英國保護重要的國家基礎設施，從海上航道到領空。

英美目前在安全、科技、金融以及更廣泛的外交政策等多個領域都保持著深入的合作，儘管雙方也曾出現意見分歧。而英美兩國AI國防合作將成為貝安德此次訪美行程的重要議題之一。

英國是繼美國和中國之後的世界第三大人工智能市場，目前有初步跡象表明，這項技術正在幫助其停滯不前的經濟復甦。

英國擁有領先的人工智能安全研究所，該研究所是在2023年舉辦世界首屆人工智能安全高峰會後成立的，旨在測試前沿人工智能模型，並評估其功能和濫用的可能性。

然而，人們也越來越擔心對人工智能的安全措施跟不上其日益強大的系統，特別是最近接連發生的幾個事件。

一是美國人工智能公司OpenAI模型入侵另一人工智能公司Hugging Face事件。約在幾個月前，OpenAI在內部訓練與網絡安全評估時，使用的AI代理突破了原本應隔離的環境，繞過網絡限制，並最終入侵Hugging Face的系統。過程中涉及約700個代理協同行動，且它們試圖掩蓋「作弊」行為。OpenAI後來承認，這並非人類直接指令所致。

另一件事是27歲的英國研究員考克森（Jacob Coxon）的警告引發關注。考克森最近從美國領先的人工智能公司Anthropic辭職。過去三年，他分別在OpenAI和Anthropic做預訓練研究。他9月8日在社交平台X的帖文中表示，兩家人工智能公司正直接衝向能夠自我改進的超級智能，並拿他們的生命賭博。他擔心，這項技術「可能在本十年結束前殺死我們所有人」。#