知名科學家呼籲禁止殺人機械人

一群憂心人工智能發展的科學家，包括霍金、馬斯克和喬姆斯基，
公開呼籲更多政府與國際組織應該站出來控管人工智能在機械人武器的發展。 （AFP）

【大紀元記者凌妃綜合報道】據英國《獨立報》（The Independent）7月27日報道，一封來自於上千位知名科學家的公開信表示，殺人武器將在幾年之後就問世，而不是數十年後。人類需要有更高的智慧主導人工智能，因為當人類失去對致命武器的控制權時，可能就是人類災難的開始。

要求禁止「殺人機械人」

簽署這封公開信的科學家、機械人專家以及人工智能研究員超過1,000人，包括霍金（Stephen Hawking）、科技人馬斯克（Elon Musk）與「美國人的良心」哲學家、麻省理工教授喬姆斯基（Noam Chomsky）。此外，還包括蘋果（Apple）共同創始人沃茲尼亞克（Steve Wozniak）以及數百名來自全球頂尖大學與實驗室的人工智能機械人研究員。

生命未來研究所（Future of Life Institute, FLI）也加入了聯署，該組織旨在減輕人類所面臨的生存風險，並警告「軍事人工智能軍備競賽」的危險性。

公開信要求禁止「進攻性自主式武器」（Offensive Autonomous Weapons），也就是所謂的「殺人機械人」（Killer Robots）。「殺人機械人」是指，在沒有人操作的情況下，機械人完全掌控生殺大權，能夠自動選擇並瞄準目標主動攻擊。

威脅人類存在

「殺人機械人」就像電影《鐵甲威龍》（RoboCop）以及《未來戰士》（Terminator）中執行任務的機械人。霍金警告，人類進一步開發人工智能，創造可以進行思考的機器武器，將會威脅到人類的存在。

特斯拉（Tesla）執行長馬斯克（Elon Musk）形容人工智能是「召喚惡魔」。他說：「我們應該很謹慎地處理人工智能。如果要我猜人類最大的生存威脅是甚麼，我想那就是人工智能。」

恐引起軍備競賽

公開信中強調，這些「殺人機械人」可能會根據程式設定自動搜索並毀滅人類，而不是像現在人必須在千里之外的非戰區操控武裝無人機。這些「進攻性自主式武器」已成為繼火藥和核軍備之後的第三波軍事競爭革命。當「進攻性自主式武器」落入恐怖份子或是獨裁者手中，世界則將陷入毀滅的威脅。

雖然實際的「殺人機械人」還未真正問世，但是科技的推進已經讓它在不久的將來成為可能。這群專家認為，在未來幾年內，機械人武器的科技將變得廉價並無處不在，這恐將降低戰爭的門檻，使戰爭更常發生。

「禁止殺人機械人活動」

科學家也警告，不要過分強調人工智能將帶給人類的潛在好處，因為機械人武器的威脅更大。現在反對人工智能濫用的聲浪也越來越大，像是成立於2012年的「禁止殺人機械人活動」（Campaign To Stop Killer Robots），旨在禁止機械人武器。

「禁止殺人機械人活動」正積極地將該議題搬至在日內瓦召開的聯合國「傳統武器公約」（Convention of Conventional Weapons）會議上，「傳統武器公約」禁止某些特定傳統武器的使用，諸如地雷以及激光武器等。

「禁止殺人機械人活動」試圖讓「傳統武器公約」成立一個政府級的專家組織，以能夠真正探討這個議題，最終限制使用殺人機械人。

今年初，英國《衛報》報道，英國在聯合國的一個會議中反對禁止殺人機械人，因為他們「還看不到禁止自主式武器的必要性」，但英國外交部官員告訴《衛報》說，英國並沒有開發任何這種武器。◇