大家好,歡迎大家訂閱關注新聞看點,我是李沐陽。

3月10日,埃塞俄比亞302號空難,造成157人喪生。知情人向《華爾街日報》透露,初步判斷是飛機垂直墜落前,飛行控制系統可能自動啟動了。在3月28日美國航空管理局(FAA)的高級簡報會上,調查人員作出了目前最強烈的暗示。

雖然官方還沒最後公佈具體原因,但人們都在懷疑波音公司推出的一項新功能。調查發現,這起空難與去年印尼獅航(Lion Air)610號墜毀的原因相似,可能都是受了波音公司那項新功能影響。

美國總統特朗普也發出批評,如今的飛機設計得太過於複雜,呼籲飛機的設計應該回歸簡單的形式。由此引發了人們的討論,人和機器之間,究竟應該由誰來最終主導?換句話說,是機器說了算,還是人說了算?

飛行控制系統斷送數百生命?

基於黑盒子提取的數據,印尼獅航610號波音373 MAX 8型班機起飛後不久,駕駛艙就出了問題。面對刺耳的警報聲,飛行員曾奮力與控制系統爭奪飛機控制權,26次嘗試將機頭拉高。駕駛員和飛機之間進行了11分鐘的「人機大戰」,飛機最終奪走了控制權,飛機墜入海中。

也就是說,飛行控制系統可能斷送了機上189人的性命。

調查人員推測,故障的感應器向自動防失速系統「機動特性增強系統」(MCAS)傳達了錯誤信息。

駕駛過波音737的前飛行員韋茨(Mark Weiss)也認為,墜機原因可能是這個新增的自動防失速系統造成的。安裝這個系統是為了防止機頭過高造成失速,於是自動壓低機頭。但如果傳感器發送錯誤數據觸發這個系統,就會造成飛機的「死亡俯衝」。

其實按照法律規定,駕駛員擁有對電腦的最終決定權,飛行員可以關閉MCAS。但是根據調查報告,獅航的飛行員沒有這麼做。或許是高度緊張之下沒有意識到,也可能根本不知情。

《華爾街日報》報道,目前世界各地的行業和政府官員已經獲知,MCAS系統可能會在一些情況下,反覆壓低飛機機頭,阻礙飛行員重新手動控制飛機。

其實,美國航空管理局的國際安全專家小組幾年前就曾得出結論:機組人員在接受培訓時,往往強調一點,電腦通常比飛行員更能平穩有效地處理異常情況。就是說,過於相信了人工智能的自動駕駛系統。

過於相信人工智能的自動駕駛系統

但是第二宗事故發生後,人們開始懷疑了。安全專家、行業官員們都認為,理應保障飛行安全的人工智能自動防失速系統,已經成了肇事的罪魁禍首。

其實各種飛機都有輔助系統,就是為避免飛行員在壓力過大的情況下操作失誤。這種考慮是必要的,儘量地保證飛行安全。

但它有個前提,就是這個系統必須能夠順暢運行,否則可能事與願違。德國之聲指出,這種情況已經在多起空難或近乎墜機的事故中發生過了。

因為機器和系統,都是人編程設計的。既然是人設計的,就不可能絕對沒有任何問題,或者說不可能百分之百確定沒有錯誤。很可能當初的編程存在某些疏失,導致飛機在飛行中自動報錯。往往這個時候,飛行員會做出不同操作反應,這種情況並不罕見,不同型號、不同製造商的飛機都出現過類似的情況。

因為只要機器判斷有問題,它就會報錯。就像我們開車一樣,經常會看到儀表盤上某個燈亮,提示司電單車子可能有了故障,但實際車子沒有問題,我們都會根據經驗做出一些判斷和排除。

飛行駕駛也是一樣,這個時候就相當關鍵了。飛行員如果最終能掌控飛機,很可能會根據經驗做出相應的處理。但是如果人沒有最終控制權,那後果難以預料。有過驚魂遭遇的飛行員告訴德國之聲,事發時他們幾乎無法繼續控制飛機,只能拼盡全力去對抗這個自動糾錯系統。

空難後特朗普發推文表示,現在飛機設計太複雜,難以駕駛。他認為「還是老的簡單點的方法更好」,「複雜性容易引發危險」。

不少人和特朗普的觀點不謀而合,認為機器是為人類服務的,最終決定權應該在人。

專家:人必須擁有最終決定權

德國人工智能研究中心(DKFI)項目負責人帕賈尼(Alain Pagani)指出,人必須擁有最終決定權,不應該讓機器掌握主導權。

波恩大學電腦科學系馮·策茨施維茨(Emanuel von Zezschwitz)指出,機器應該為人類提供輔助,應該配合人,非機器主導。

而波音的兩宗空難,都可能由於「自動」系統引起,這已經給人類敲響了警鐘。

大家知道,現在「高科技」已經相當發達。尤其是人工智能領域,在一些方面不僅能夠幫助人,甚至有替代人的趨勢。就目前來說,它已經滲透到了各行各業、各個領域。未來它還可以代替人駕駛汽車、診斷病情、檢驗產品等等。

不過事情有兩面性,利弊同在。「高科技」可以幫助到人,但如果人對它失去控制,那可能會被「高科技」帶入自毀之路。

去年去世的知名物理學家霍金曾對人工智能做出過預言:未來人工智能也許會是人類的終結者。這是一個很可怕的預言,但卻並不是危言聳聽。

已經有越來越多的科學家與霍金有了相同的觀點,一旦智能機器發展出自己的思想,它就會不斷加快速度重新設計自己,慢慢地就會取代人類主宰這個世界。那個時候,很難說不會是人類的災難到了。

感謝您關注新聞看點,再會。#