據媒體報道,輝達(Nvidia)、帕蘭泰爾(Palantir)與博思艾倫漢密頓(Booz Allen Hamilton)等公司已開始限制或考慮停止使用Anthropic與OpenAI的先進AI模型,除非對方提供更嚴格的資料保護承諾。

三間公司的具體限制措施

多家媒體引述《訊息報》(The Information)報道指出,這三間公司因擔心敏感商業資料與知識產權外洩,正對前沿AI模型的使用設下更嚴格的安全限制。

帕蘭泰爾要求Anthropic提供不可撤銷的「零數據保留」(Zero Data Retention, ZDR)保證,之後才會考慮將Claude用於自家的軟件平台,同時建議客戶不要將敏感知識產權資料直接輸入Anthropic或OpenAI的AI模型裏面,避免遭模型供應商存取或用於其它用途。在Anthropic提供符合要求的承諾前,Palantir不會通過其平台向客戶開放相關模型。

輝達將Anthropic模型限制在較低敏感度的內部任務,並改用自家的AI Nemotron處理涉及商業機密的工作;博思艾倫咸美頓則直接禁止員工在涉及專有網絡安全專案或客戶資料的工作中使用Anthropic的商業版Fable模型。

Anthropic數據留存政策成導火線

這波限制行動與Anthropic今年6月調整旗艦模型Claude Fable 5及Mythos 5等前沿模型的數據留存政策有密切關係。該政策允許Anthropic保留客戶使用記錄(包括提示與輸出內容)長達30天,任何被安全分類器標記的內容都可能因安全調查或法律的保留需要而延長。

Anthropic表示,這項政策原是為了偵測跨多個會話與跨帳戶的複雜攻擊,並強調這些資料不會用於訓練AI。

不過,企業客戶仍認為這類風險過高,尤其在受高度監管的國防、能源、製藥與網絡安全等高敏感產業。

為了緩解壓力,Anthropic推出「企業前沿保障措施方案」(Enterprise Frontier Safeguards),允許企業將用於安全監測的活動數據存放在自己控制的Amazon S3、Azure Blob、Google Cloud等雲端儲存中,加密金鑰由客戶管理,Anthropic的員工不會讀取任何資料,但自動掃描功能仍會進行。

OpenAI也面臨類似質疑。此前紐約大學(New York University)教授、數學家巴克馬斯特(Tristan Buckmaster)曾質疑OpenAI可能利用其存於電腦程式中的Codex資料才得以破解「納維-斯托克斯方程式」(Navier-Stokes equations)。

「納維-斯托克斯方程式」長期被用於飛機設計、天氣預報和血液流動等研究,而物理學界則一直在探討該方程式在極端條件下的適用性。

多間企業轉向本地部署AI

儘管這兩家AI公司均表示,預設不會將客戶資料用於模型訓練(除非客戶主動選擇加入),但仍會收集匿名化的元數據以改善產品。這對謹慎的企業來說仍構成安全疑慮,因此有越來越多企業開始尋找替代方案,避免依賴外部AI供應商。

出於對數據留存的擔憂,輝達和帕蘭泰爾於9月10日宣布合作,共同推出帕蘭泰爾軟件與輝達開源Nemotron模型結合的方案,並首先在輝達自身供應鏈系統中部署,旨在讓敏感數據不離開客戶控制的網絡。

帕蘭泰爾CEO亞歷克斯·卡普(Alex Karp)近期公開強調「主權 AI」和「數據主權」的重要性。他認為企業應該在自己的環境中運行AI,避免將關鍵的商業資料洩露給AI供應商。

農業科技公司Ohalo Genetics行政總裁大衛·弗里德伯格(David Friedberg)曾在一檔播客節目中表示,公司正在將大量敏感數據從Claude轉移至本地AI模型上工作,因為在某一模型中討論過的構想後來在其它場合出現,令其擔憂資料可能外洩。

此外,部份涉及國防、能源及製藥的企業也轉向自有伺服器或離線環境部署AI。

這波限制行動在某種程度上反映AI市場競爭焦點正從AI性能轉向商業機密控制與安全性,力求實現「資料不出域」的解決方案。

(本文參考《印度時報》與路透社報道)#

-------------------
局勢持續演變
與您見證世界格局重塑
-------------------

🔔下載大紀元App 接收即時新聞通知:
🍎iOS:https://bit.ly/epochhkios
🤖Android:https://bit.ly/epochhkand

📰周末版實體報銷售點👇🏻
http://epochtimeshk.org/stores