一男子頻與機械人對話後自殺 意大利禁用ChatGPT

ChatGPT表現出的類人智能，一度在全球範圍內掀起AI技術開發與應用的熱潮。但最近幾天，這股熱潮卻發生了突如其來的大轉折——先是比利時一名男子密集與一款機械人對話數周後自殺身亡，接著馬斯克等上千科技大佬發出一封聯名公開信，呼籲所有人工智能實驗室立即暫停研發比GPT-4 更強大的大模型，然後意大利政府宣布禁用ChatGPT。

據路透社消息，當地時間3月31日，意大利個人數據保護局（Garante）宣布，即日起禁止使用聊天機械人ChatGPT，並限制OpenAl處理意大利用戶訊息。

Garante在通告中要求，OpenAl公司須在20天內通過其在歐洲的代表，向Garante通報該公司執行這一要求而採取的措施，否則將被處以最高2,000萬歐元或公司全球年營業額4%的罰款。

Garante在解釋該局作出上述決定的原因時表示，OpenAI沒有檢查ChatGPT用戶的年齡，無法確保使用者的年齡在13歲或以上，而且沒有就搜集處理用戶訊息進行告知，缺乏大量搜集和存儲個人資料的法律依據。

對此，OpenAI回應稱，該公司應 Garante 的要求，已經在意大利禁用了ChatGPT 服務。目前，意大利用戶已經無法使用ChatGPT。

OpenAI接著又強調：「我們在訓練我們的人工智能系統（如 ChatGPT）時，正積極努力減少個人資料，因為我們希望我們的人工智能能夠了解世界，而不是獨立的個人。」

就在意大利宣布禁用ChatGPT的3天前，比利時一個名叫皮埃爾的30歲的男子，在與一款名為ELIZA的聊天機械人密集交流6周後，丟下妻子克萊爾和2個未成年的孩子，於3月28日自殺身亡。

比利時媒體《標準報》報道，皮埃爾自殺後，克萊爾說：「如果沒有跟機械人的對話，我的丈夫可能還活著。」而據克萊爾對媒體的講述，之前他們一家4口過著舒適的日子，大約2年前，她的丈夫開始有些「不太對勁」，他似乎變得越來越焦慮。此後，皮埃爾就將與ELIZA的對話「當成了一個避難所」。最近6周他與ELIZA的交流越發密集，最後以自殺的方式結束掉自己的生命。

《標準報》進一步透露，該報的員工創建了一個帳號嘗試與ELIZA進行對話，結果發現在員工表達出消極傾向情緒時，ELIZA會「慫恿人去自殺」。

資料顯示，ELIZA是由EleutherAI公司開發的一款開源人工智能語言模型。

比利時負責數碼化和私隱的官員米歇爾日前與皮埃爾的家人交談後表示：「這是一個後果很嚴重的先例，需要嚴肅對待。」

3月29日，包括馬斯克在內的上千名科技大佬，聯名發出一封公開信，呼籲所有人工智能實驗室立即暫停訓練比GPT-4更強大的大模型。

之後，在互聯網社交平台上，關於AI技術飛速發展可能給人類帶來極大安全風險的討論，以及呼籲各國政府加緊制定關於AI的監管措施的呼聲急劇升溫。

外界對AI科技發展過快的潛在風險已多有討論。為此，聯合國教科文組織曾於3月20日公開呼籲各國政府，應就AI發展毫不拖延地實施全球倫理框架。這是聯合國首次就AI發展的倫理風險，對所有193個會員國提出要求。◇