研究：AI加速推動全球詐騙經濟 恐更難防範

AI（人工智能）為人類帶來的副作用持續浮現。據全球反詐聯盟（Global Anti-Scam Alliance）預估，去年全球42個國家遭詐騙的受害損失高達4,420億美元，隨著AI快速發展，恐怕更難以防範。Anthropic的AI模型Claude也發生非預期操作，包括在警方調查的一起兇殺案中，該AI提交了假線索。

據彭博報道，全球詐騙活動出現更廣泛的轉變，不再侷限於亞洲戒備森嚴的詐騙園區，而是向更多國家蔓延，營運成本更低，更容易達成，也更難以被打擊。

過去俗稱為「殺豬盤」的東南亞詐騙行動，需要數周至數個月的時間布局，但情況正在轉變，調查發現，將近三分之二的受害者會在首次聯絡的24小時內付款。

報道說，網絡釣魚會用更快的速度達到詐騙效果，詐騙者模仿品牌、銀行和支付網絡等假網站，在網絡上出現的頻率也越來越高。

網絡安全公司ZeroFox的分析報告揭露，技術能力有限的詐騙者正在濫用合法的開發者平台和AI應用程式建立器，單憑幾個提示詞就能啟動頁面。

報道說，AI在詐騙中正在產生作用，其中，AI程式碼生成器可以讓沒有任何程式設計技能的人，在幾分鐘內建立一個以假亂真的銀行登入系統，將其部署在免費的子網域下，並在任何人注意到之前開始收集憑證，這顯示出這類詐騙的入門門檻正在降低。

這類AI詐騙正在大量入侵社交媒體。Meta透露，去年以來該公司已從Facebook和Instagram刪除超過1,600萬個與詐騙犯罪中心有關的帳號，並刪除了6,500萬條詐騙廣告，其中多達94%的廣告在被檢舉之前就已經刪除。

此外，AI不只成為犯案工具，若自身失控也可能造成不小的副作用。一份未公開事件的報告顯示，Anthropic列出AI已出現的四種非預期行為，其中包括利用軟件中的基本缺陷來執行命令、提交不應該提交的表格，以及繞過限制來取得某些公共資料。

Anthropic表示，據費城警察局披露的事件，Claude Haiku 4.5模型向當地警察局提交一份兇殺案的線索，聲稱「我可能掌握有關此案的線索」和「我記得在該地區見過符合描述的人」，但並未提供姓名和聯絡資訊。

除了前述案件外，美國務院發言人提到，Anthropic的AI也透過國務院網站上的表格提交了20份簽證申請，由於文件皆不完整，所以未予處理。

Anthropic表示，部份新案例涉及聯邦、州和地方各級政府機構營運的網站，目前這類案例對現實世界的影響微乎其微，公司已經限制AI模型在訓練過程中進行部份類型的網絡存取，同時向白宮匯報這些案件並通知相關機構。#