AI(人工智能)為人類帶來的副作用持續浮現。據全球反詐聯盟(Global Anti-Scam Alliance)預估,去年全球42個國家遭詐騙的受害損失高達4,420億美元,隨著AI快速發展,恐怕更難以防範。Anthropic的AI模型Claude也發生非預期操作,包括在警方調查的一起兇殺案中,該AI提交了假線索。

據彭博報道,全球詐騙活動出現更廣泛的轉變,不再侷限於亞洲戒備森嚴的詐騙園區,而是向更多國家蔓延,營運成本更低,更容易達成,也更難以被打擊。

過去俗稱為「殺豬盤」的東南亞詐騙行動,需要數周至數個月的時間布局,但情況正在轉變,調查發現,將近三分之二的受害者會在首次聯絡的24小時內付款。

報道說,網絡釣魚會用更快的速度達到詐騙效果,詐騙者模仿品牌、銀行和支付網絡等假網站,在網絡上出現的頻率也越來越高。

網絡安全公司ZeroFox的分析報告揭露,技術能力有限的詐騙者正在濫用合法的開發者平台和AI應用程式建立器,單憑幾個提示詞就能啟動頁面。

報道說,AI在詐騙中正在產生作用,其中,AI程式碼生成器可以讓沒有任何程式設計技能的人,在幾分鐘內建立一個以假亂真的銀行登入系統,將其部署在免費的子網域下,並在任何人注意到之前開始收集憑證,這顯示出這類詐騙的入門門檻正在降低。

這類AI詐騙正在大量入侵社交媒體。Meta透露,去年以來該公司已從Facebook和Instagram刪除超過1,600萬個與詐騙犯罪中心有關的帳號,並刪除了6,500萬條詐騙廣告,其中多達94%的廣告在被檢舉之前就已經刪除。

此外,AI不只成為犯案工具,若自身失控也可能造成不小的副作用。一份未公開事件的報告顯示,Anthropic列出AI已出現的四種非預期行為,其中包括利用軟件中的基本缺陷來執行命令、提交不應該提交的表格,以及繞過限制來取得某些公共資料。

Anthropic表示,據費城警察局披露的事件,Claude Haiku 4.5模型向當地警察局提交一份兇殺案的線索,聲稱「我可能掌握有關此案的線索」和「我記得在該地區見過符合描述的人」,但並未提供姓名和聯絡資訊。

除了前述案件外,美國務院發言人提到,Anthropic的AI也透過國務院網站上的表格提交了20份簽證申請,由於文件皆不完整,所以未予處理。

Anthropic表示,部份新案例涉及聯邦、州和地方各級政府機構營運的網站,目前這類案例對現實世界的影響微乎其微,公司已經限制AI模型在訓練過程中進行部份類型的網絡存取,同時向白宮匯報這些案件並通知相關機構。#

✍︎ 給讀者的信 → https://tinyurl.com/25thStillHere

-------------------
25周年,我們仍在這裏。
感謝同行,記錄未來。
-------------------

支持我們:
❍ 刊登祝賀廣告/合作:
☎︎ 2770 5566
❍ 加入網站會員:
https://hk.epochtimes.com/subscribe 
❍ 購買實體報紙|銷售點:
https://www.epochtimeshk.org/stores