用人工智能來增進(jìn)人類福祉？你太天真了

　　超級(jí)智能和奇點(diǎn)

　　2014年5月，劍橋大學(xué)物理學(xué)家史蒂芬·霍金寫了一篇文章，發(fā)出了人工智能迅速發(fā)展的危險(xiǎn)警報(bào)。在英國的《獨(dú)立報(bào)》(The Independent)上，霍金以及其他的合著者，包括麻省理工學(xué)院的兩位物理學(xué)家馬克斯·泰格馬克(Max Tegmark)和諾貝爾獎(jiǎng)獲得者弗蘭克·維爾切克(Frank Wilczek)，以及加州大學(xué)伯克利分校的計(jì)算機(jī)科學(xué)家斯圖爾特·羅素(Stuart Russell)，一起寫文章警告說，創(chuàng)建一臺(tái)真正能思考的機(jī)器“將是人類歷史上最大的事件?！币慌_(tái)超出人類智力水平的計(jì)算機(jī)可能會(huì)“超越金融市場(chǎng)，超越人類研究者的發(fā)明，超越有控制能力的人類領(lǐng)導(dǎo)者，研發(fā)出一些我們甚至無法理解的武器?！卑堰@一切視為科幻小說則“有可能是我們歷史上最糟糕的錯(cuò)誤?！?/p>

　　到目前為止，我所描述的技術(shù)，比如能搬箱子或做漢堡的機(jī)器人，能創(chuàng)造音樂、寫報(bào)告，或在華爾街交易的算法，都可以歸類為專業(yè)或“弱”人工智能。即使是IBM的沃森，這個(gè)迄今為止機(jī)器智能最成功的示范，都遠(yuǎn)比不上一般的人類智能。事實(shí)上，在科幻小說的領(lǐng)域之外，所有的功能性人工智能技術(shù)其實(shí)都是弱人工智能。

　　然而，我在這里提出的其中一個(gè)主要觀點(diǎn)是，現(xiàn)實(shí)世界人工智能的專業(yè)化性質(zhì)并不一定會(huì)阻礙很多工作最終實(shí)現(xiàn)自動(dòng)化。大部分勞動(dòng)力從事的工作任務(wù)在一定程度上是常規(guī)和可預(yù)見的。我們已經(jīng)看到，迅速提高的專業(yè)機(jī)器人或依據(jù)大量數(shù)據(jù)的機(jī)器學(xué)習(xí)算法，最終將對(duì)各種技能水平的職業(yè)構(gòu)成威脅，這一切都不需要機(jī)器能像人一樣思考。計(jì)算機(jī)要取代你的工作并不需要復(fù)制你所有的智力，它只需要完成你為獲得報(bào)酬所做的具體事情就好。事實(shí)上，大多數(shù)人工智能的研發(fā)，以及幾乎所有的風(fēng)險(xiǎn)投資，都繼續(xù)把重點(diǎn)放在專門的應(yīng)用程序上，而我們有充分的理由相信，在未來幾年甚至幾十年，這些技術(shù)會(huì)變得更加強(qiáng)大和靈活。

　　雖然這些專業(yè)化技術(shù)繼續(xù)產(chǎn)出實(shí)用的成果并能吸引投資，但一個(gè)更為嚴(yán)峻的挑戰(zhàn)潛伏在后面。建立一個(gè)真正的智能系統(tǒng)，一臺(tái)可以構(gòu)思新想法，可以意識(shí)到自己的存在，可以進(jìn)行連貫對(duì)話的機(jī)器仍然是人工智能所追求的“圣杯”。

　　對(duì)創(chuàng)造一臺(tái)真正能思考的機(jī)器的著迷至少可以追溯到1950年，當(dāng)時(shí)阿蘭·圖靈(Alan Turing)發(fā)表了一篇論文，開啟了人工智能時(shí)代。在隨后的幾十年中，人工智能的研究經(jīng)歷了繁榮與蕭條的周期循環(huán)，人們對(duì)它的期望一再飆升，不考慮任何實(shí)際的技術(shù)基礎(chǔ)，特別是當(dāng)時(shí)的計(jì)算機(jī)速度。當(dāng)失望在所難免時(shí)，投資和研究活動(dòng)迅速減少，而稱為“人工智能寒冬”的長期停滯也接踵而至。不過，春天已經(jīng)再次來到了。今天計(jì)算機(jī)的超凡力量，以及人工智能研究在特定領(lǐng)域的進(jìn)步，還有我們對(duì)人類大腦的理解，這些結(jié)合在一起，使得形勢(shì)極為樂觀。

　　最近一本關(guān)于高級(jí)人工智能影響的書的作者詹姆斯·巴拉特(James Barrat)，對(duì)200名人類水平而非弱人工智能研究人員做了一次非正式調(diào)查。在這個(gè)領(lǐng)域內(nèi)，人類水平的人工智能被稱為“強(qiáng)人工智能”(Artificial General Intelligence)。巴拉特讓計(jì)算機(jī)科學(xué)家們?cè)趶?qiáng)人工智能何時(shí)實(shí)現(xiàn)的四個(gè)預(yù)測(cè)時(shí)間中做出選擇。結(jié)果是：42%的人認(rèn)為能思考的機(jī)器將在2030年前創(chuàng)造出來，25%的人選擇在2050年前，10%的人認(rèn)為2100年之前不會(huì)發(fā)生，只有2%的人認(rèn)為永遠(yuǎn)不會(huì)發(fā)生。值得注意的是，一些受訪者在對(duì)他們的調(diào)查寫評(píng)論時(shí)表示，巴拉特應(yīng)該加進(jìn)一個(gè)更早的選項(xiàng)——或許是2020年。

　　該領(lǐng)域的一些專家擔(dān)心可能又會(huì)形成期望的泡沫。在2013年10月的博客文章中，臉書新成立的人工智能研究實(shí)驗(yàn)室主任雅恩·樂昆(Yann LeCun)警告說，“因?yàn)槌醋鳎斯ぶ悄?0年里‘死’了4次：人們夸下?？?通常是為了打動(dòng)潛在的投資者或投資機(jī)構(gòu))，卻無法拿出成果。結(jié)果就造成了激烈的對(duì)抗反應(yīng)?！?同樣，紐約大學(xué)教授、認(rèn)知科學(xué)專家和《紐約客》博主加里·馬庫斯(Gary Marcus)稱，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)領(lǐng)域里近期的突破，以及IBM沃森的部分能力，已經(jīng)明顯被過度炒作。

　　不過，似乎很明顯，該領(lǐng)域已經(jīng)獲得了強(qiáng)勁的動(dòng)力。特別是像谷歌、臉書、亞馬遜等企業(yè)的崛起帶來了巨大的進(jìn)步。以前從未有這樣財(cái)大氣粗的企業(yè)將人工智能放在業(yè)務(wù)模式的絕對(duì)核心地位，也從未有過人工智能研究在如此強(qiáng)大的企業(yè)之間被幾乎定位成了競(jìng)爭(zhēng)的焦點(diǎn)。類似的競(jìng)爭(zhēng)也在國家之間展開。人工智能在集權(quán)國家的軍隊(duì)、情報(bào)機(jī)構(gòu)和監(jiān)視機(jī)構(gòu)中正變得不可或缺。*事實(shí)上，一場(chǎng)由人工智能全面支持的軍備競(jìng)賽很可能正在不久的將來醞釀。我想，真正的問題，不是這個(gè)領(lǐng)域整體會(huì)不會(huì)真正面臨人工智能寒冬的危險(xiǎn)，而是進(jìn)步是只局限在弱人工智能領(lǐng)域，還是最終也能擴(kuò)展到強(qiáng)人工智能領(lǐng)域。

　　如果人工智能研究人員最終設(shè)法跨越實(shí)現(xiàn)了強(qiáng)人工智能，那結(jié)果應(yīng)該不是一臺(tái)僅能匹敵人類智力水平的機(jī)器。一旦實(shí)現(xiàn)了強(qiáng)人工智能，單靠摩爾定律就可以迅速創(chuàng)造出一臺(tái)超出人類智力的計(jì)算機(jī)。當(dāng)然，一臺(tái)能思考的機(jī)器仍將擁有計(jì)算機(jī)目前具有的優(yōu)勢(shì)，包括計(jì)算能力，還有我們無法理解的信息訪問速度等。不可避免的是，我們很快就要與一種前所未有的東西共享這個(gè)星球：一種真正不可思議和超群的才智。

　　這很可能只是一個(gè)開始。人工智能研究人員一般都相信，這樣的系統(tǒng)最終會(huì)被用來引導(dǎo)自己的智力發(fā)展。它會(huì)專注于提高自己的設(shè)計(jì)，重新改寫自身軟件，或者使用進(jìn)化規(guī)劃技術(shù)來創(chuàng)建、測(cè)試和優(yōu)化改進(jìn)其設(shè)計(jì)。這將帶來“循環(huán)改進(jìn)”似的迭代過程。每次修改后，系統(tǒng)都將變得更聰明、更能干。隨著循環(huán)不斷加快，最終的結(jié)果將產(chǎn)生“智能爆炸”，很可能最終生產(chǎn)出一臺(tái)比任何人類都聰明十萬甚至上百萬倍的機(jī)器。像霍金和其他作者說的，這“將是人類歷史上最大的事件?！?/p>

　　如果這樣的智能爆炸真的發(fā)生的話，肯定會(huì)對(duì)人類產(chǎn)生巨大的影響。事實(shí)上，它很可能對(duì)我們的整個(gè)文明都將造成破壞，更別說我們的經(jīng)濟(jì)了。用未來學(xué)家和發(fā)明家雷·庫茲威爾(Ray Kurzweil)的話說，它會(huì)“撕裂歷史的結(jié)構(gòu)”，迎來一個(gè)被稱為“奇點(diǎn)”的事件或者時(shí)代。

　　奇點(diǎn)

　　計(jì)算機(jī)先驅(qū)約翰·馮·諾依曼一般被認(rèn)為是第一個(gè)將“奇點(diǎn)”這一術(shù)語運(yùn)用在未來技術(shù)驅(qū)動(dòng)事件中的人。據(jù)說他在20世紀(jì)50年代的某個(gè)時(shí)間說過，“一直在加速的進(jìn)步……表面上接近人類歷史上的一些重要奇點(diǎn)，我們知道沒有它們，人類事務(wù)不能繼續(xù)?！边@一主題在1993年圣地亞哥州立大學(xué)的數(shù)學(xué)家弗諾·文奇(Vernor Vinge)寫的一篇論文中得到了充實(shí)，文章題為“即將到來的技術(shù)奇點(diǎn)”。文奇毫無保留地在論文開頭寫道“在未來三十年間，我們將有技術(shù)手段來創(chuàng)造超人的智慧。不久后，人類的時(shí)代將結(jié)束?！?/p>

　　在天體物理學(xué)中，奇點(diǎn)是指一個(gè)黑洞，通常的物理規(guī)律不再適用。在黑洞的邊界或視界，引力強(qiáng)到光線自身也無法逃脫。文奇從類似的角度來看待技術(shù)奇點(diǎn)：它代表了人類進(jìn)步的中斷，直到奇點(diǎn)發(fā)生之前，所有的進(jìn)步基本上都不明顯。試圖預(yù)測(cè)奇點(diǎn)之后未來將會(huì)是怎樣的就好比一個(gè)天文學(xué)家想要到黑洞里去看一看。

　　接力棒接下來傳遞給了雷·庫茲威爾，他在2005年出版了一本書《奇點(diǎn)臨近：當(dāng)人類超越生物學(xué)》(The Singularity Is Near: When Humans Transcend Biology)。與文奇不同，庫茲威爾成了奇點(diǎn)主要的宣傳者，他毫無顧慮地試圖窺視視界之外，給我們非常詳細(xì)地介紹了未來將是什么樣子的。他告訴我們，第一臺(tái)真正的智能機(jī)器將在21世紀(jì)20年代末建成。奇點(diǎn)本身將在2045年左右發(fā)生。

　　庫茲威爾是公認(rèn)的杰出發(fā)明家和工程師。他成功創(chuàng)立了一系列的公司，向市場(chǎng)推出了他在諸如光學(xué)字符識(shí)別、計(jì)算機(jī)生成語音和音樂合成等領(lǐng)域的發(fā)明。他被授予20個(gè)榮譽(yù)博士學(xué)位，以及國家技術(shù)獎(jiǎng)?wù)?，并入選了美國專利局的名人堂?！豆尽冯s志(Inc. Magazine)曾稱他為托馬斯·愛迪生的“合法繼承人”。

　　然而，他的《奇點(diǎn)》這本書則是一個(gè)奇怪的混合，里面有對(duì)技術(shù)加速充分和連貫的表述，還有一些看起來近乎荒謬的推測(cè)，比如，他由衷地渴望能通過到已故父親的墓地收集其DNA，然后利用未來的納米技術(shù)使其身體再生，最終讓父親復(fù)活。一個(gè)充滿活力的社會(huì)，里面到處是聰明而又多姿多彩的人物，這些想法一起圍繞在庫茲威爾周圍。這些“奇點(diǎn)人”已經(jīng)向前走了很遠(yuǎn)，建立了自己的教育機(jī)構(gòu)。位于美國硅谷的奇點(diǎn)大學(xué)(Singularity University)，提供關(guān)注指數(shù)技術(shù)的未經(jīng)認(rèn)證的研究生水平課程，其企業(yè)合作伙伴包括谷歌、基因泰克、思科和歐特克(AutoDesk)等。

　　庫茲威爾最重要的預(yù)言是，我們將不可避免地與未來的機(jī)器相融合。人類將通過植入大腦極大地增強(qiáng)智力，變得更強(qiáng)大。事實(shí)上，如果我們想要理解和控制奇點(diǎn)之后的技術(shù)的話，這種智力的增強(qiáng)是必不可少的。

　　也許庫茲威爾關(guān)于后奇點(diǎn)的暢想中最具爭(zhēng)議和令人懷疑的方面，是奇點(diǎn)的追隨者對(duì)“永生”前景的強(qiáng)調(diào)。奇點(diǎn)人大多數(shù)情況下都不希望死。他們計(jì)劃通過“長壽逃逸速度”(longevity escape velocity)來實(shí)現(xiàn)永生，這個(gè)想法的意思是，如果你能堅(jiān)持活足夠長的時(shí)間，直到產(chǎn)生出延長生命的創(chuàng)新，那可以想見你將會(huì)達(dá)到不朽。這可能是通過使用先進(jìn)的技術(shù)來保持和增強(qiáng)你的生物體，也或許通過將你的思維上傳到未來的計(jì)算機(jī)或機(jī)器人中來實(shí)現(xiàn)。庫茲威爾自然希望確保奇點(diǎn)發(fā)生時(shí)自己仍然還活著，所以他每天吞噬多達(dá)200種不同的藥片和補(bǔ)品，并定期靜脈注射其它物質(zhì)。雖然許下巨大的承諾對(duì)健康和飲食書籍來說很常見，但庫茲威爾和他的醫(yī)生，也是合著者特里·格羅斯曼在他們的書里將諾言提到了一個(gè)全新的高度，這本書名為《神奇之旅：長壽到足以永生和超越：九步讓你健康活到永遠(yuǎn)》。

　　很多奇點(diǎn)運(yùn)動(dòng)的批評(píng)家都發(fā)現(xiàn)，這一切關(guān)于不朽和變革的說法都有深刻的宗教色彩。事實(shí)上，整個(gè)想法已經(jīng)被譏諷為技術(shù)精英的準(zhǔn)宗教和一種“書呆子的狂喜”。最近主流媒體對(duì)奇點(diǎn)的關(guān)注，包括2011年《時(shí)代》雜志的封面故事，讓一些觀察家擔(dān)心奇點(diǎn)與傳統(tǒng)宗教最終會(huì)交叉在一起。曼哈頓大學(xué)宗教研究教授羅伯特·杰拉奇(Robert Geraci)在一篇題為“庫茲威爾崇拜”的文章中寫道，如果擴(kuò)散到更多的人，該運(yùn)動(dòng)“將向傳統(tǒng)的宗教團(tuán)體提出一個(gè)嚴(yán)峻的挑戰(zhàn)，因?yàn)楸容^而言，它們關(guān)于救贖的承諾可能看起來無力多了?！倍鴰炱澩栆环絼t大聲否認(rèn)有任何宗教內(nèi)涵，并稱他的預(yù)測(cè)是基于對(duì)歷史數(shù)據(jù)可靠、科學(xué)的分析。

　　若不是硅谷整個(gè)萬神殿的億萬富翁們都對(duì)奇點(diǎn)表現(xiàn)出了非常強(qiáng)烈的興趣，那整個(gè)概念可能很容易就被人全部遺棄了。無論是谷歌的拉里·佩奇(Larry Page)和謝爾蓋·布林(Sergey Brin)，還是支付寶的聯(lián)合創(chuàng)始人(也是臉書的投資人)彼得·泰爾(Peter Thiel)都參與到了這件事情中。比爾·蓋茨也稱贊庫茲威爾預(yù)測(cè)人工智能未來的能力。2012年12月，谷歌聘請(qǐng)了庫茲威爾來指導(dǎo)其高級(jí)人工智能研究。2013年，谷歌分拆出一家新的生物技術(shù)公司，命名“加州生命公司”(California Life Company，簡稱Calico)。新公司的既定目標(biāo)是將研究集中在治愈衰老和延長人類壽命方面。

　　我個(gè)人的看法是，類似“奇點(diǎn)”的東西當(dāng)然是可能的，但它絕非不可避免。當(dāng)把這個(gè)概念去掉多余的負(fù)擔(dān)(如對(duì)永生的假設(shè))，只把它當(dāng)作未來一段時(shí)間巨大的技術(shù)加速或破壞的力量來看待時(shí)，這個(gè)概念才是最有用的?？赡芷纥c(diǎn)重要的催化劑，即超級(jí)智能的發(fā)明，最終證明是不可能實(shí)現(xiàn)的，或者只能在遙遠(yuǎn)的未來才有可能。*許多頂尖的腦科學(xué)研究人員也都表達(dá)了這一觀點(diǎn)。在麻省理工學(xué)院研究認(rèn)知科學(xué)60多年的諾姆·喬姆斯基說，我們離建立人類水平的機(jī)器智能還“遙不可及”，稱奇點(diǎn)是“科幻小說”。哈佛大學(xué)心理學(xué)家史蒂芬·平克(Steven Pinker)對(duì)此表示贊同，他說：“沒有絲毫的理由相信奇點(diǎn)會(huì)在未來實(shí)現(xiàn)。你可以想象出一個(gè)未來，并不能證明它就有可能發(fā)生。”戈登·摩爾(Gordon Moore)的名字似乎注定永遠(yuǎn)要與指數(shù)進(jìn)步的技術(shù)有關(guān)，他也同樣懷疑類似奇點(diǎn)的事情永遠(yuǎn)不會(huì)發(fā)生。

　　但是，庫茲威爾關(guān)于人類水平人工智能的到來時(shí)間有很多的擁護(hù)者。麻省理工學(xué)院的物理學(xué)家，也是霍金文章的共同作者之一馬克斯·泰格馬克，對(duì)《大西洋月刊》的詹姆斯·漢布林說：“這是非常近期內(nèi)的事情。任何在思考他們的孩子在高中或大學(xué)應(yīng)該學(xué)什么的人，都應(yīng)該非常關(guān)心這一點(diǎn)?！逼渌苏J(rèn)為能思考的機(jī)器根本不可能實(shí)現(xiàn)，但卻往前進(jìn)了一步。例如，加里·馬庫斯認(rèn)為強(qiáng)人工智能實(shí)現(xiàn)的時(shí)間至少是庫茲威爾預(yù)測(cè)的兩倍，但也認(rèn)為“很可能在本世紀(jì)結(jié)束前，機(jī)器就比我們聰明了——不只是在下國際象棋或解決小問題方面，而是在從數(shù)學(xué)和工程到科學(xué)和醫(yī)學(xué)的各個(gè)方面?！?/p>

　　近年來，對(duì)人類級(jí)別人工智能的思考已經(jīng)越來越脫離自上而下的編程方法，轉(zhuǎn)而強(qiáng)調(diào)逆向工程，然后到模擬人腦。關(guān)于這一方法的可行性，以及在創(chuàng)建大腦功能仿真前的了解程度上有很大的分歧，一般來說，這一方法計(jì)算機(jī)科學(xué)家可能更看好，但那些有生物科學(xué)和心理學(xué)背景的人往往持懷疑態(tài)度。明尼蘇達(dá)大學(xué)的生物學(xué)家P·Z·邁爾斯(P. Z. Myers)尤其持批判態(tài)度。在一篇回應(yīng)庫茲威爾關(guān)于大腦將在2020年成功實(shí)現(xiàn)逆向設(shè)計(jì)的博客文章中，邁爾斯嚴(yán)厲斥責(zé)說庫茲威爾是一個(gè)“對(duì)大腦如何工作一無所知”的“瘋子”，而且他有“編造胡話和發(fā)表與現(xiàn)實(shí)毫無關(guān)系的荒謬言論”的嗜好。

　　這也許是題外話。人工智能的樂觀主義者認(rèn)為，仿真并不需要忠實(shí)于生物大腦的每一個(gè)細(xì)節(jié)。畢竟，飛機(jī)不像鳥一樣扇動(dòng)翅膀。懷疑者們可能會(huì)回應(yīng)說，我們對(duì)智力的“空氣動(dòng)力學(xué)”的理解還遠(yuǎn)不能造出任何“翅膀”，不管翅膀能不能扇。而樂觀主義者可能會(huì)反駁說，萊特兄弟是依靠修修補(bǔ)補(bǔ)和反復(fù)試驗(yàn)制造出了自己的飛機(jī)，肯定不是在空氣動(dòng)力學(xué)原理的基礎(chǔ)上。這樣一來，爭(zhēng)論就繼續(xù)下去了。

　　陰暗的一面

　　“奇點(diǎn)人”通常對(duì)未來智能爆炸的前景有著無限的樂觀，但其他人則更為謹(jǐn)慎。在那些認(rèn)真思考過高級(jí)人工智能帶來的影響的專家看來，認(rèn)為完全不可思議的超人類智能會(huì)被自然地用來增進(jìn)人類福祉的假設(shè)過于天真?？茖W(xué)界的一些人非常擔(dān)憂這一點(diǎn)，他們已經(jīng)成立了一些小型機(jī)構(gòu)來專門分析與先進(jìn)的人工智能有關(guān)的危險(xiǎn)，或是研究如何將“友好”放到未來的人工智能系統(tǒng)中。

　　在2013年出版的《我們最后的發(fā)明：人工智能及人類時(shí)代的終結(jié)》(Our Final Invention: Artificial Intelligence and the End of the Human Era)一書中，詹姆斯·巴拉特描述了他稱為“忙孩子的情境”。在一些秘密的地方，也許是政府的研究實(shí)驗(yàn)室、華爾街公司，或信息技術(shù)行業(yè)的大公司里，一群計(jì)算機(jī)科學(xué)家在一旁看著新興的機(jī)器智能接近并超過人類水平的能力?？茖W(xué)家們之前已經(jīng)給他們的人工智能孩子提供了大量的信息，可能幾乎包括所有寫過的書以及互聯(lián)網(wǎng)上的所有數(shù)據(jù)。然而，當(dāng)該系統(tǒng)接近人類水平的智能時(shí)，研究人員將迅速提高的人工智能與外界斷開聯(lián)系。實(shí)際上是把它們鎖在一個(gè)盒子里?，F(xiàn)在的問題是它是否會(huì)留在那里。畢竟，人工智能很可能希望擺脫它的籠子，并擴(kuò)大其視野。要做到這一點(diǎn)，它可能會(huì)利用其卓越的能力欺騙科學(xué)家，或沖著整個(gè)團(tuán)隊(duì)或特定個(gè)人進(jìn)行承諾或威脅。機(jī)器不只是更聰明了，它還能夠以人類難以理解的速度對(duì)想法和選擇進(jìn)行思考和評(píng)估。這就像是與加里·卡斯帕羅夫下棋，只是不公平的規(guī)則造成了一些額外的負(fù)擔(dān)：走一步棋你只有15秒鐘，但他有1個(gè)小時(shí)。在擔(dān)心這種情形的科學(xué)家看來，人工智能可能會(huì)以某種方式設(shè)法逃脫盒子、訪問互聯(lián)網(wǎng)，或者也許能將自己全部或部分復(fù)制到其他計(jì)算機(jī)上的風(fēng)險(xiǎn)是非常高的。如果人工智能真能逃脫的話，那它將明顯威脅到很多關(guān)鍵系統(tǒng)，包括金融系統(tǒng)、軍事控制網(wǎng)絡(luò)以及電網(wǎng)等能源基礎(chǔ)設(shè)施。

　　當(dāng)然，問題是，這一切聽起來非常像受歡迎的科幻電影和小說中勾勒出的場(chǎng)景。整個(gè)想法都像是在幻想，任何認(rèn)真的討論都會(huì)被人嘲笑。不難想象，所有提出這種擔(dān)憂的主要政府官員或政客都可能成為別人的笑柄。

　　毫無疑問，在軍事、安全機(jī)構(gòu)和大型企業(yè)中對(duì)各種人工智能的興趣只會(huì)不斷增加?？赡馨l(fā)生的智能爆炸的其中一個(gè)明顯意義是將會(huì)存在巨大的先發(fā)優(yōu)勢(shì)。換句話說，誰先搶到第一就永遠(yuǎn)不會(huì)被趕上。這也是擔(dān)心未來展開人工智能軍備競(jìng)賽的其中一個(gè)主要原因。先發(fā)優(yōu)勢(shì)的巨大也很可能促使任何涌現(xiàn)的人工智能盡快進(jìn)行自我完善，如果不是通過系統(tǒng)本身，那就是通過人類創(chuàng)造者來完成。從這個(gè)意義上說，智能爆炸很可能是一個(gè)自我實(shí)現(xiàn)的預(yù)言。鑒于此，我認(rèn)為似乎可以將迪克·切尼(Dick Cheney)著名的“百分之一主義”用在先進(jìn)的人工智能上：它發(fā)生的可能性也許非常低，至少在可預(yù)見的未來是這樣的，但它的意義是非常大的，因此應(yīng)該得到認(rèn)真對(duì)待。

　　即使我們不考慮先進(jìn)的人工智能存在的風(fēng)險(xiǎn)，并假設(shè)未來所有的思考機(jī)器都很友好，其對(duì)就業(yè)市場(chǎng)和經(jīng)濟(jì)還是會(huì)有巨大的影響。在一個(gè)經(jīng)濟(jì)實(shí)惠的機(jī)器能趕上，并有可能超過最聰明人類的能力的世界里，很難想象還會(huì)有誰能找到一份工作。在大多數(shù)領(lǐng)域里，再多的教育或培訓(xùn)，甚至到最頂尖的大學(xué)，都無法讓一個(gè)人能與這樣的機(jī)器競(jìng)爭(zhēng)。即使是我們可能認(rèn)為只保留給人類的職業(yè)也將受到威脅。比如，演員和音樂家將與充滿真正智能和超人類智慧的數(shù)字模擬進(jìn)行競(jìng)爭(zhēng)。它們可能是新創(chuàng)造的人物，專門設(shè)計(jì)了完美的身體，或可能基于真實(shí)的人——無論是活著的還是死去的。

　　從本質(zhì)上說，人類水平人工智能的廣泛出現(xiàn)，實(shí)現(xiàn)了我在前面的章節(jié)中描述的“外星人來襲”的思維實(shí)驗(yàn)。機(jī)器不只主要威脅到相對(duì)常規(guī)、重復(fù)性或可預(yù)見的工作，它現(xiàn)在幾乎能夠做到一切。當(dāng)然，這意味著幾乎沒有人將能從工作中獲得收入。從資本或從機(jī)器的所有權(quán)中獲得的收入，將集中在少數(shù)精英的手中。消費(fèi)者將沒有足夠的收入來購買所有智能機(jī)器所創(chuàng)造的產(chǎn)品或服務(wù)。結(jié)果就是我們?cè)谶@本書中已經(jīng)了解到的趨勢(shì)的顯著放大。

　　然而，這并不代表故事的結(jié)尾。無論是相信奇點(diǎn)的人，還是擔(dān)心先進(jìn)的人工智能帶來危險(xiǎn)的人，他們都認(rèn)為人工智能與另一種潛在的破壞性技術(shù)力量的到來有關(guān)，或許是前者促成了后者，這種力量就是先進(jìn)的納米技術(shù)。