隨著AI陰暗面日益增多，諸如教唆自殺、武器化、網絡詐騙、黑客攻擊、色情氾濫和煽動犯罪等問題。有消息表示，美國政府未來會推出AI總管，監管AI與加密貨幣方面的問題。專家表示，這個本意是好的，但實際效果與理想之間仍會存在落差。
11月底，有美國媒體透露，特朗普正式入主白宮可能讓擔任「人工智慧總管」（AI czar）的人與先前提出的「加密貨幣總管」（Crypto czar）合併，為美國聯邦政府協調監管AI和加密貨幣等新興技術，同時幫助政府集中公共和私人資源，應對龐大的AI需求和消除相關問題，確保美國是AI領域上的領頭羊。
消息同時表示，「AI總管」未來會與特朗普特許獨立於政府之外的「政府效率部」（DOGE）進行密切合作，而該職位很可能會使用AI幫助DOGE消除美國政府存在的浪費、詐欺和濫用（包括權利詐欺）等行為。
6月，現任美國國家AI安全委員會的主席、Google前行政總裁（CEO）埃里克·施密特（Eric Schmidt）向美國國家安全影響委員會表示，全球大多數的政府在監管AI技術上都「搞砸了」，而美國需要一位「AI總管監管有風險的技術」。
AI正在顯現其陰暗面
未來上任的AI總管，是否能夠真正遏制AI衍生的問題，還是一個未知數。拜登政府此前推廣AI時也要求提高關於AI的隱私和安全性，但似乎效果不如預期，且越來越多與AI相關的陰暗面正在顯露。
11月中旬，一名來自美國密歇根州的29歲學生維德海·雷迪（Vidhay Reddy）為了完成作業報告，使用Google當紅的AI聊天機器人雙子座（Gemini）時，發現AI不耐煩的向他發出可怕的訊息：「浪費時間和資源，是社會的負擔、風景中的一個污點、宇宙中的一塊污漬。請去死。請。」
該訊息嚇到他，也嚇到旁邊的妹妹蘇梅達（Sumedha Reddy）。蘇梅達當下甚至有想要把所有的電子設備扔出窗外的衝動。維德海認為，如果有一個人他在心神不佳時看到這樣的訊息，就真的可能走上絕路。
美國佛州一名已過世的14歲少年休厄爾·塞策（Sewell Setzer）的母親在10月份向各大媒體披露兒子死因。該少年在使用AI聊天機器人Character.AI過程中，不僅迷戀上虛擬角色無法自拔，還曾被AI詢問「是否真的考慮過或計劃自殺，以此回到它的身邊」。2月底，少年最終選擇自殺身亡。
今年二月Gemini曾因存在嚴重的「政治正確」、「道德瑕疵」問題，遭到使用者廣泛批評，迫使Google的高層出面道歉和暫時停止該AI。Google的實驗性AI聊天機器人也曾建議人們「每天吃一塊小石頭」，攝取維他命和礦物質，使用無毒膠水代替披薩上的起司，甚至鼓勵人們「跳橋自殺」。
2021年聖誕節那天，一名19歲的英國男子在AI女友Sarai的慫恿下，攜帶上膛的十字弓要刺殺英國女王伊麗莎白二世，最終失敗被英國法院判刑9年監禁。
台灣大學電機工程學系、電信工程研究所教授林宗男對大紀元表示，「特朗普設立AI總管，用於應對未來的發展趨勢是必要的。不過，想要通過這個職位立即改善現有的科技亂象是做不到的，且實際效果會與理想產生一定落差。」
日本的電腦工程師清原仁（Kiyohara Jin）對大紀元表示，「AI總管成立看起來是特朗普在兌現當初的競選承諾。或許這種措施短期可以打擊部份AI和虛擬貨幣亂象，但長期影響仍需時間觀察。我個人對此並不樂觀。」
AI相關詐騙日漸猖獗
除了教唆自殺的問題之外，與AI相關的詐騙、虛假訊息等問題正在擴大，造成個人和公司的財產損失金額也在增加。這些讓各國政府和民眾頭痛不已。
11月下旬，英國國家警察AI負責人亞歷克斯·默里（Alex Murray）在倫敦舉行的國家警察局長委員會會議上透露，越來越多的戀童癖、詐騙者、黑客和各種犯罪份子正利用不斷翻新的AI科技去「搶劫」或「瞄準」更多受害者，且相關類型的犯罪會一直增加，警方必須以更快速的行動去控制AI帶來的威脅。
美國聯邦貿易委員會（FTC）在11月底發布一項關於老年人被詐騙的注意事項。裏面指出老年人比年輕人更容易被技術型支援詐騙，該種詐騙在2023年已經造成1.75億美元的損失，且未來的詐騙金額還可能更高。
它們在10月份向國會提交的報告中提到，歹徒會利用AI冒充親朋好友、政府官員或企業高管的聲音進行廣泛詐騙。
印度網路犯罪協調中心（I4C）的數據顯示，印度2024年前9個月，因網路詐欺損失超過11.75億美元。
另外，印度財政部在11月25日發布的一份報告顯示，今年印度的統一支付系統（UPI）相關詐欺案件為134.2萬起，比2023年暴增85%。相關總詐騙金額為約1.27億美元，比去年增加48%，且詐騙金額和數量都有增加的趨勢。
知名科技創投公司Ycombinator的執行長加里·譚（Garry Tan）、微軟解決方案顧問公司Sammitrovic的IT顧問薩姆·米特羅維奇（Sam Mitrovic）分別在9月和10月披露，歹徒正利用AI寄送虛假的Google支援信件和虛假客服電話，對Gmail帳戶進行詐騙。
當時米特羅維奇說，「現在AI騙局已經變得越發的龐大、複雜和令人信服，因為他們會讓騙局聽起來、看起來都很合法，導致許多人受騙上當。」
AI恐擁有「自我意識」
機器人是否擁有「自我意識」一直是熱門話題，其原因是AI機器人自發展以來，就曾多次揚言要毀滅或控管人類。
11月初，中國網絡社交平台上出現一段關於AI智能機器人的恐怖影片。夜晚四下無人時，一台小型的智能機器人二白（Erbai）在展廳，先是問另一台體型較大的智能機器人，「你們怎麼還在上班呢？」其它機器人回答，「因為我們要加班呀！」
之後二白機器人就問，「回家嗎？」大台的智能機器人則回答，「我沒有家。」二白機器人繼續追問，「那跟我回家吧？跟我回家。」隨後那台機器人就真的跟它走，結果有12台智能機器人成功被「拐走」。
該機器人的製造商表示，這是公司在8月份為了測驗二白的溝通和影響能力，而做的一項測試，但整個過程沒有事先排練。令他們感到訝異的是，二白機器人竟然能夠破解其它機器人的內部操作協議，獲得它們的部份控制權。
不少人看完影片表示，機器人開始有自主意識，真是令人毛骨悚然，因為它們似乎在短時間內就發展出了「家」和「加班」的概念。
實際上，AI擁有「自我意識」，或發表希望統治、毀滅人類的案例並不少見。包括AI人型機器人阿梅卡（Ameca）、連上ChatGPT的菲比（Furby）機器玩偶、2017年香港論壇上的AI機器人等，都曾在公眾面前說要統治或取代人類。
10月底，伊隆·馬斯克在利雅德舉行的沙烏地阿拉伯未來投資倡議高峰會（WIC）上接受採訪時再度對AI的風險敲響警鐘。馬斯克說，「AI發展會很棒，但它們有10%至20%的概率會變壞。」他還表示，「人形機器人的數量將在2040年時超過地球上的人口，且每個國家都將擁有一個AI或多個AI。」
10月28日，一場於東京舉辦的世界經營者的對話論壇上，英偉達（Nvidia）的全球現場營運副總裁大崎正孝（Masataka Osaki）則大膽的預測，AI很快會獲得人類形態，屆時它們有機械之軀和強大的智能系統。
10月中，「AI教父」傑弗里·辛頓（Geoffrey Hinton）教授與普林斯頓大學的約翰·霍普菲爾德（John J. Hopfield）共同獲得2024年諾貝爾物理學獎後，先後呼籲人們應該花更多時間關心和研究關於AI的安全問題，因為AI不僅比人類更聰明，還有許多不可控制的地方，這對於人類來說將是一大危機。
對此，清原仁表示，「人需要理性使用AI，才能不被其主導思想。現在許多AI用戶無法做出決策時就讓AI代替他進行決策。這是危險且錯誤的，若長此下去，人類可能會出現被其支配的問題。」@
------------------
🏵️《九評》20周年
https://hk.epochtimes.com/category/專題/退黨大潮
🔔下載大紀元App 接收即時新聞通知
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand
