15/09/2017
人工智能—潘朵拉的盒子
近年來,人工智能即AI的發展神速和愈來愈廣泛應用,引起全球關注。
去年,Google 子公司DeepMind 開發的AlphaGo 打贏了世界棋王,如今它可以同時跟全球50大高手對戰,照樣完勝,進步的速度非常驚人。不只這樣,現在機器人可以在幾小時內,學會如何走路,學習速度比任何生物都要快。許多人都關注未來5年、10年、20年人類生活在怎樣的世界?最基本的問題是,在大量的工作被機械人取代的情況下,會不會造成失業率高漲?
美國電動車大廠Tesla 的總裁馬斯克(Elon Musk)在「全國州長協會」會議中表示,政府監管機構必須針對人工智能設立規範,因為這對「人類文明的存在構成重大風險」。
從美歐到中國,全世界大國都投入了發展AI 的競賽。AI 的應用潛力令人期待,但如果進展太快,會不會反而變成「召喚惡魔」,毀滅人類?
「人類真的要擔心,」馬斯克近年來不斷呼籲,AI 學習速度突飛猛進,已對人類文明存亡造成根本性威脅。如果不盡早管制,最可怕的情況,是AI 有可能自行散佈假新聞,挑起戰爭,就像電影《未來戰士》(The Terminator)的「天網」那樣,帶來人類末日。
這樣的預言實在太聳動,近日引來另一位矽谷科技巨頭、Facebook創辦人朱克伯格(Mark Zuckerberg)公開批評,指這種說法「不負責任」,馬斯克立即回應,指「他對這個議題的理解很有限。」
無論如何,馬斯克建議政府一定要先搞懂AI 有多大本事,還是值得注意的建議。
台灣《天下》雜誌第628期,將馬斯克參加幾場關於AI的座談會發言加以重點整理。
馬斯克說:「我從小時候就想知道,人生的意義是甚麼、為甚麼我們會在這裏。隨著年紀增長,我發覺人生愈來愈讓人困惑。因為許多事情都在飛快演變。」
例如電子遊戲。40年前,我們玩的是模擬乒乓球比賽的「乓」(Pong),黑色螢幕上,就只有左右兩個小方塊,中間是一個小白點,讓玩家打來打去。在那個年代,我們覺得這樣就已經很好玩。到了今天,大家玩的是擬真畫面的遊戲,不但非常逼真,還可以讓數百萬人同時上線,現在又加入了虛擬實境和擴增實境。就算每年只進步0.1%,按照這種速度推斷未來發展,總有一天,電子遊戲將會讓人分不清甚麼是真實,甚麼是虛擬。到時,就會產生混淆:我們怎麼知道某件事以前是否真實發生過?怎麼知道自己是不是正在虛假的遊戲裏?
未來是很難預測的。1903年,萊特兄弟發明了第一架可操控的動力飛行器;66年之後,人類就登上了月球。如果你在1900年代問人們登月的可能性,他們會說你在開玩笑。網際網路?更是天方夜譚。
但如今,只要百多美元的裝置,你就能跟全世界進行視訊會議;只要有無線網路,你就能用社群媒體跟幾百萬人進行直播;你可以在網上搜尋幾乎每件事,而且幾乎馬上看得到搜尋結果。這些進展,過去根本不可能預測得到。
50年後的未來會變成甚麼樣,我們今天所做的任何預測,都將是錯誤的。但馬斯克說:「我可以告訴你我希望的未來是甚麼樣,我希望那時的人類已經登上火星、甚至木星的幾個衛星,我希望那時我們可以在太陽系到處旅行,或許還準備去探索其他星系。」
但短期之內,比如10年,馬斯克覺得是清楚的,就是「自動駕駛」和「人工智能」這兩種科技,會出現突飛猛進的變化。
10年後,馬斯克認為幾乎所有的新車都將具備自動駕駛的功能,去年10月後出廠的所有Tesla 汽車都已配備了自動駕駛所需的感測器,也擁有足夠的運算能力,可讓自動駕駛比人類開車更安全。他相信其他的汽車製造商也會跟進。所以,坐車將會像搭電梯一樣,你告訴車子要去哪裏,它就會把你安全地載到目的地,而這將成為常態,自動駕駛必將普及。
他認為最令人不安的,不是自動駕駛這一類用來達成某種特定功能的狹義人工智能,而是深度的人工智能,有些人把它稱為「通用人工智能」(AGI),它會比地球上最聰明的人更加聰明。
馬斯克認為這很危險。他說:「不妨這麼想像,如果你相信,未來10年、20年將會有超級智慧的外星人出現在地球,那麼,AI這種數碼超級智能的影響,將會像外星人降臨。」
他說:「我接觸過最尖端的人工智能,所以認為大家應該要擔心,並要不斷對外發出警告。但是,除非有一天,人們親眼看到機器人在街頭殺人,否則大家恐怕都不會作預警反應。」
馬斯克說他反對政府過度管制,但是,人工智能,是少數他認為應該主動立法管制的議題,並且必須盡早加以管制,確保企業不會為了市場競爭一味開發而犧牲公眾利益。因為等到我們被動去規範它,那就已經太遲了。
應該要求開發AI的業者確保他們的技術是安全的,否則,就要減慢研發的速度。政府首先該做的,是做好功課,盡可能搞懂人工智能是甚麼,了解這項科技的最新進展和成就。
最危險也最難懂的,是人工神經網絡中的深度智慧。它能做甚麼呢?它可以挑起戰爭:藉由散佈假新聞、製造假郵件帳號、偽造新聞稿,以及操縱訊息。
舉一個假設性的例子,幾年前,一架馬來西亞航空客機在烏克蘭上空被擊落,曾導致俄羅斯和歐盟的緊張升高。假設你是一家人工智能公司,你想要讓股票價值最大化,一個方法就是把業務重心放在軍事領域。發動一場戰爭吧,怎麼做?AI可以駭入某航班的伺服器更改航道,讓它飛入戰區領空,然後再匿名檢舉,說有一架敵方飛機正在飛越,就這樣。
未來會有很多工作被取代。全世界的工作有12%都跟運輸有關,運輸業將會是最早走向全自動駕駛的行業。機器人可以把每件事做得比人類還好,這真的是最可怕的問題。
繼7月公開呼籲政府以法規管制人工智能發展後,馬斯克在8月中旬再同116位各國科技公司的總裁和投資者,聯名向聯合國發表公開信,希望馬上禁止國際間開發人工智能自動武器,包括無人機、無人坦克和其他可結合AI 技術操作的武器計畫。這些科技專業人士警告,這類型武器將可能為人類帶來第3次武器革命,不但執政者或恐怖份子能利用,黑客也可以藉入侵網路系統、操控這些人工智能自動武器。這就像是潘朵拉的盒子,一旦被打開,其帶來的傷害恐怕是人類難以控制、也無法面對的。
本文摘自香港電台第一台 (FM92.6-94.4) 李怡主持的《一分鐘閱讀》。該節目逢周一至周五播出,並存載於港台網站 (rthk.hk)。
《經濟通》所刊的署名及/或不署名文章,相關內容屬作者個人意見,並不代表《經濟通》立場,《經濟通》所扮演的角色是提供一個自由言論平台。
《說說心理話》【奧運劍擊熱】大師兄張小倫親身分享!贏在起跑線=壓力?如何培育子女有卓越成就?► 即睇