[摘要]人工智能研究具有巨大的潛力和影響力，它既是經濟發展的引擎，也是建立軍事優勢的手段。
【騰訊科技編者按】馬克-扎克伯格（Mark Zuckerberg）一直都認為，埃隆-馬斯克（Elon Musk）對人工智能的擔憂，完全就是杞人憂天。
這位SpaceX和電動汽車公司特斯拉的創立者曾一再通過電視和各種社交媒體渠道提醒全世界，人工智能“可能要比核武器更危險”。
因此在2014年11月19日，Facebook首席執行官扎克伯格一度邀請馬斯克到自己位于加州帕洛阿爾托的家中共進晚餐，并且出席的還有Facebook人工智能實驗室的兩名頂級研究人員以及另外兩位Facebook高管。
在晚餐進行中，Facebook的代表們試圖讓馬斯克相信自己之前的觀點是錯誤的，但好像并沒有起到任何作用。“我真的認為這很危險，”馬斯克在餐桌上表示。當時這次晚餐的參與者之一，包括了Facebook人工智能團隊的首席科學家Yann LeCun。
馬斯克對人工智能的恐懼，從本質上來說其實不難理解。如果我們創造出比人類更聰明的機器，就會對我們不利（參考一下《終結者》、《黑客帝國》以及《2001太空漫游》等電影）。我們再一次面臨了這樣的場景，當科技發展到一定程度之后，我們將它向全世界推廣，往往會帶來很多意想不到的后果。
無論是馬斯克還是扎克伯格，一定都不會過多的透露這頓晚餐所討論的細節，之前媒體也沒有報道過、也沒有討論過二人長期以來對人工智能觀點的分歧。
“超級智能”這一概念的誕生，是一種技術的突破，將人工智能提升到了一個新高度。并且能夠創造出新型的機器，不僅可以完成普通人類能完成的狹義任務（比如駕駛汽車），甚至還能超越人類，聽起來就像科幻小說一般。但圍繞未來人工智能的爭論，已經蔓延到了整個科技行業。
最近，有4000多名谷歌員工簽署了請愿書，抗議谷歌公司與五角大樓簽署了一份價值900萬美元的人工智能合同。這筆交易對于谷歌這家科技巨頭來說是穩賺的買賣，但是卻讓很多人工智能領域的員工深感不安。上周，一位安撫員工情緒的谷歌高管表示，在明年自己的工作合同到期后，不會繼續為谷歌工作。
人工智能研究具有巨大的潛力和影響力，它既是經濟發展的引擎，也是建立軍事優勢的手段。因此五角大樓已經開始積極的向科技領域尋求幫助，距離研制出一種新型自主武器的日子已經并不遙遠了。
有各種各樣的觀點都已經加入到了這種激烈的辯論中，從加州中部海岸的哲學家到聚集在加州棕櫚泉的科學家年度會議都是如此，亞馬遜首席執行官杰夫-貝索斯（Jeff Bezos）甚至還成為了這次會議的主持人。
“現在關于人工智能風險的討論，并沒有表面上看起來像小說一樣夢幻。”牛津大學先進技術研究中心人工智能未來研究所的Allan Dafoe表示。
在過去的幾個月中，Facebook和其它已經上市的科技公司，都不同程度的引發了外界對于硅谷這項新的研究成果所帶來后果的討論。
今年4月，扎克伯格用連續兩天的時間回答了美國國會議員關于數據隱私和Facebook在2016年大選期間所扮演角色的問題。就在上個月，他又在歐洲面臨了同樣的考驗。
Facebook已經認識到，自己對正在發生的事情理解速度還是不夠快，因此這家科技巨頭也罕見的出現了自我反省的行為。要知道一直以來，科技行業始終秉持這樣一種觀點，不管世界是否喜歡或接納，只要能讓世界變得更美好，就是好的技術。
即使是像微軟創始人比爾-蓋茨（Bill Gates）以及已故的物理學家史蒂芬-霍金（Stephen Hawking）這樣有影響力的人物，也同樣表達了對人類創造出比自己更聰明機器的擔憂。盡管超級智能概念的提出已經超過十年，但很多人依然堅持認為，我們應該在付諸實踐之前認真的考慮所能產生的后果。
“我們正在創造的這種系統非常強大，”康奈爾大學計算機科學教授、貝爾實驗室前研究員Bart Selman說，“我們現在還無法理解它的影響力。”
不完美的信使
Pacific Grove是加州中部海岸的一個小鎮。1975年冬天，一群遺傳學家聚集在這里，討論了基因編輯技術最終是否會對這個世界帶來傷害。2017年1月，人工智能領域在這個海濱小鎮進行了類似的討論。
在Asilomar酒店舉辦的這場私人聚會，是由“生命研究所”組織，這是一個為討論人工智能和其它技術存在風險而建立的智庫。
全世界人工智能領域重量級的人物聚集在這里，其中包括在上面提到出席扎克伯格邀請馬斯克晚宴的Facebook人工智能負責人Yann LeCun。他曾開發出了一種神經網絡，這也是當今人工智能領域最重要的工具之一。出席會議的還包括了2014年出版《超級智能：道路、危險和戰略》一書的Palo Alto，這本書對人工智能會造成恐慌的概率進行了深入的討論。還包括了前華盛頓大學計算機科學教授、前西雅圖艾倫人工智能研究所負責人的Oren Etzioni、以及大名鼎鼎的DeepMind人工智能研究實驗室負責人Demis Hassabis。DeepMind也是谷歌在倫敦建立最有影響的人工智能機構。
馬斯克也是如此，他在2015年向馬薩諸塞州的Cambridge研究所捐贈了1000萬美元。同年他還出資建立了獨立人工智能實驗室OpenAI。這家實驗室的目標是開發確保不會失控的超級智能技術。顯然這個目標與Bostrom的觀點保持了一致。
后來，馬斯克參加了一個9人的專家小組，專門討論超級智能的問題。每個小組成員都被問及了超級智能是否最終會實現的問題。當麥克風被擺到馬斯克面前時，他與前面幾位成員的態度截然相反。這引發了與會者的笑聲，每個人都知道馬斯克對超級智能的觀點，不僅不可能，而且還非常危險。
在小組討論結束之后，有人問馬斯克，人類社會如何才能最完美的與超級智能共存。馬斯克表示人類需要大腦與機器之間的直接聯系。幾個月之后，馬斯克創辦了一家名叫Neuralink的初創公司，該公司的投資總額高達1億美元，旨在通過電腦與人類大腦的連接創造出所謂的“神經界面”。
當然，關于人工智能風險的警告已經存在多年，但這些預言家們很少有人擁有馬斯克這樣的地位和說服力。要知道幾乎沒有人花那么多的時間和資金在這方面，也沒有哪個國家的技術有如此復雜的歷史。
就在馬斯克結束了扎克伯格晚宴后的幾周，他又打電話給Yann LeCun，詢問了那些可以為特斯拉Autopilot技術工作的頂級人工智能研究人員名單。（最近發生了兩起特斯拉致命事故，并且都開啟了Autopilot功能。其中一起發生在2016年5月的佛羅里達州，另外一起發生在今年3月）。
特斯拉在最近的一次電話財報會議中披露，他并不同意外界對公司財務以及汽車質量的擔憂，甚至批評媒體過度關注事故中死亡的新聞點而忽略的之前自動駕駛技術拯救人類生命的作用。這對一位一直持有反對人工智能技術、認為其具有極大危險性立場的人來說，是一種了不起的觀點。
來自棕櫚泉的分歧
在硅谷有句諺語：我們會高估三年內的成果，但低估10年后的成績。
2016年1月27日，谷歌旗下的DeepMind實驗室打造了一款可以擊敗人類最頂尖圍棋高手的機器。在一次對決中，這臺名叫AlphaGo的機器擊敗了歐洲圍棋冠軍樊麾，后者在五場對決中完敗。
即使是最頂尖的人工智能研究員也認為，機器還需要10年的時間才能解決這個問題。圍棋是一種極其復雜的棋類運動，它有成千上萬種可能，而最好的選手通常不僅是依靠純粹的計算，還包括了自己的直覺。在Alpha亮相的兩周之前，LeCun還表示這種機器是不存在的。
但幾個月之后，AlphaGo又擊敗了李世石，后者是過去十年中這個星球上最出色的圍棋選手。雖然AlphaGo讓很多人類專家感到困惑，但最終并沒有阻礙自己取得完勝。
包括DeepMind和OpenAI負責人在內的很多研究人員都認為，AlphaGo的自我學習技術為“超級智能”提供了一種路徑。他們相信在未來的幾年中，這一領域會有飛速的進步。
OpenAI最近“訓練”了一種可以玩賽車游戲的系統，并且想要讓它更多的贏得比賽。而正是這種不可預測性讓人們對人工智能的崛起產生了嚴重的憂慮，包括超級智能。
今年3月，在亞馬遜創始人貝索斯在棕櫚泉舉辦的會議上，人們對人工智能的擔憂情緒空前高漲。
麻省理工學院的機器人專家Rodney Brooks與神經學家、哲學家和播客作者Sam Harris討論了人工智能的潛在危險，這是一種比較具有代表性的聲音。根據《泰晤士報》獲取的錄音片段來看，這場辯論極具個人主義。
Harris警告說，全世界目前已經處于對人工智能的“軍備競賽”中，研究人員可能沒有足夠的時間來確保超級智能的建立是以安全為前提。
但Brooks對此觀點進行了反駁，他認為Harris的論點并不科學，而不能被論證對錯的結論，是科學家們所不能接受的。
最終由于討論過于激烈，主持人不得不主動中止了談話，并且開始向觀眾提問。艾倫研究所的負責人Etzioni也表達了自己的觀點，他認為今天的人工智能系統依然非常有限，花太多時間去擔心它的安全性，完全沒有意義。
而那些接受馬斯克觀點的人，大多數是哲學家、社會科學家、作家，而不是在人工智能領域工作的研究人員。人工智能領域的科學家，都對馬斯克的“超級智能威脅論”的觀點不夠重視。
扎克伯格與華盛頓
自從三年前的晚宴結束后，扎克伯格與馬斯克之間的分歧變得越來越大。去年夏天，扎克伯格在Facebook上直播了一段視頻，在視頻中他和妻子在自家后院燒烤。扎克伯格表示馬斯克對人工智能的看法“相當不負責任”。
扎克伯格說，人工智能發展的早期出現恐慌情緒，可能會威脅到諸如自動駕駛汽車和人工智能醫療等諸多益處的發展。
“特別是在人工智能方面，我非常樂觀。那些唱反調的人，去鼓吹世界末日的場景，我真的不明白。”扎克伯格說。
扎克伯格的言外之意，就是諷刺馬斯克有些過于超前。“已經和馬斯克討論過這件事，他對這個問題的理解非常有限。”
今年4月，扎克伯格在出席國會聽證會的時候解釋了Facebook如何解決隱私問題，其中一種方式就是依靠人工智能。但在他的證詞中，扎克伯格承認科學家們目前還沒有弄清楚某些類型的人工智能是如何進行學習的。
“這將是一個非常核心的問題，我們如何看到未來10年及以后的人工智能系統。現在很多人工智能系統都還是以無人理解人類的方式做出決策。”扎克伯格說。
科技巨頭和科學家可能會嘲笑馬斯克在人工智能上的“目光短淺”，但事情似乎正朝著他的觀點去發展。
在谷歌內部，已經有一群人正在探索人工智能技術的缺陷，這種缺陷可以讓計算機系統誤認為不存在的東西。研究人員警告稱，自動生成效果逼真的圖像及視頻的人工智能系統很快就會在網上呈現出不存在的東西。
但作為DeepMind的創始人，Harris依然認為馬斯克的觀點很極端，同時他對扎克伯格的觀點表示認同。雖然他們都認為威脅不存在，但Facebook卻已經對此問題提出了警告。
Hassabis說：“我們需要利用時間好好考慮，為未來幾十年的發展做好準備。現在的時間很寶貴，我們要好好利用。”（編譯/音希）
