現在不管以後就太遲了

10年後，搭車將會像搭電梯

我認為，成為多星球的物種，在不同星系間殖民，對人類的延續至關重要，這就像替全人類買保險一樣。而這一切，都有可能在50年後發生。

另方面，我認為短期之內，“自動駕駛”和“人工智慧”這兩種科技，即將出現突飛猛進的變化。

我猜10年後，幾乎所有的新車都將具備自動駕駛的功能，就像現在的特斯拉汽車都已配備了自動駕駛所需的感測器，也擁有足夠的運算能力，可讓自動駕駛比人類開車更安全。

去年10月後出廠的所有特斯拉汽車都是這樣，其他的汽車製造商也會跟進。所以，搭車將會像搭電梯一樣，你告訴車子要去哪裡，它就會把你安全地載到目的地，而這將成為常態，自動駕駛必將普及。

比人類更聰明也更危險

我認為最令人不安的，是人工智慧。這不是指車輛自動駕駛這一類，用來達成某種特定功能的狹義人工智慧，而是深度的人工智慧，有些人把它稱為“通用人工智慧” （AGI），它會比地球上最聰明的人更加聰明，我認為這很危險。

不妨這麼想像，如果你相信，未來10年、20年將會有超級智慧的外星人出現在地球，那麼， AI這種“數位”超級智慧的影響，將會像外星人降臨。

我接觸過最尖端的人工智慧，所以認為大家應該要擔心，也不斷對外發出警告。但是，除非有一天，人們親眼看到機器人在街頭殺人……，大家一定不曉得如何反應。

人工智慧，是少數我認為應該主動立法管制的議題，因為等到我們被動去規範它，那就已經太遲了。

以往政府立法管制某個行業，通常是發生了一些不好的意外，引發公憤，抗議多年後，政府終於成立監管單位來規範。過程中，會有很多業者跳出來反對，說法規會綁手綁腳等等。

過去這種被動立法，影響還不算嚴重，但人工智慧不同。人工智慧是攸關人類文明存亡的根本性威脅，嚴重遠不是車禍、墜機、藥害或食物中毒所能比擬，這些不幸事件，只對社會中某些人造成傷害，不會傷及整個社會，而人工智慧卻是整個文明的威脅。我認為人們不了解這一點。

誰都不喜歡被監管，像我們在汽車業被美國運輸部、環保署，還有各國不同單位監管；在航太業被聯邦航空總署（FAA）監管。但你會希望FAA消失，相信廠商在造飛機的時候，不會為了省錢偷工減料？一般人大概會說不行，這太可怕了。（笑聲）

即使是極端的自由市場派人士，也會認為應該有所監督，確保他們做出好飛機、好汽車等。所以，監管單位扮演着重要的角色。

政府第一步：搞懂AI的能耐

我反對政府過度管制，這點毋庸置疑，但是，對於人工智慧，我們必須儘早加以管制，確保企業不會為了市場競爭一味開發而犧牲公眾利益。監管機構應該介入，要求業者確保他們的技術是安全的，才能繼續發展，否則，就要減慢研發的速度。

政府首先該做好功課，盡可能搞懂人工智慧是什麼，了解這項科技的最新進展和成就。

去年，Google子公司DeepMind開發的AlphaGo打趴了世界棋王，如今它可以同時跟全球50大高手對戰，照樣完勝，進步的速度非常驚人。不只這樣，現在機器人可以在幾小時內，學會如何走路，學習速度比任何生物都要快。

事實上，最危險也最難懂的，是人工神經網絡中的深度智慧。它能做什麼呢？它可以挑起戰爭：借由散布假新聞、製造假郵件賬號、偽造新聞稿，以及操縱訊息。

舉一個假設性的例子，幾年前，一架馬來西亞航空客機在烏克蘭上空被擊落，曾導致俄羅斯和歐盟的緊張升高。假設你是一家人工智慧公司，你想要讓股票價值最大化，一個方法就是把業務重心放在軍事領域（而不是消費）。

發動一場戰爭吧，怎麼做？AI可駭入馬航班機的伺服器更改航道，讓它飛入戰區領空，然後再匿名檢舉，說有一架敵方飛機正在飛越，就這樣。

未來會有很多工作被取代。全世界的工作有一二%都跟運輸有關，運輸業將會是最早走向全自動駕駛的行業。機器人可以把每件事做得比人類還好，我其實也不確定該怎麼辦，這真的是最可怕的問題。