沃森已經(jīng)長大成人，我們應(yīng)該害怕它嗎？

　　2015年的第一個周末，一群人工智能領(lǐng)域頂尖專家來到Puerto Rico參加一個很特別的私人會議。之所以特別，則是因為這次會議的主題。如今，不論人工智能的發(fā)展對于人類發(fā)展是否有益，絕大多數(shù)討論都停留在非專業(yè)群體領(lǐng)域，缺少來自人工智能領(lǐng)域的看法。而此次會議的組織者也很有意思，這是一家名為Future of Life Institute的智庫舉辦，該智庫由MIT宇宙學(xué)家Max Tegmark運(yùn)營，Max Tegmark的名氣來自他曾經(jīng)出版的一本書，他在書里提出宇宙是一個數(shù)學(xué)結(jié)構(gòu)的假設(shè)。而這個智庫的支持者，則站著Skype聯(lián)合創(chuàng)始人Tallinn、特斯拉 CEO 伊隆馬斯克，他們當(dāng)天也來到會場。

　　與會者們有兩大主張。第一個派別認(rèn)為人類正在進(jìn)行一次前所未有的嘗試。MIT經(jīng)濟(jì)學(xué)家 Erik Brynjolfsson這樣說到：「我們正站在歷史變革的中途?！惯@些人還預(yù)測了機(jī)器全面超過人類的時間，他們給出的保守時間為2050年。

　　第二種主張相對來說更復(fù)雜，因為這一主張認(rèn)為這種歷史性創(chuàng)新并不是件好事。知名的科技從業(yè)者都不斷呼吁人類要關(guān)注AI帶來的威脅，這些人中不僅包括馬斯克、比爾蓋茨這樣的企業(yè)家，還有科學(xué)家霍金，他最近公開指出：真正的人工智能會導(dǎo)致人類滅絕，至于馬斯克，他曾在去年宣稱：人工智能是人類召喚的惡魔。

　　作為會議組織者，Tegmark 要讓與會者勾勒出這個「惡魔」的模樣，以此讓更多科學(xué)家、企業(yè)家以及普通民眾重視起來。Brynjolfsson等經(jīng)濟(jì)學(xué)家們認(rèn)為，越來越聰明的機(jī)器將帶來人類新一輪失業(yè)浪潮，從而加劇人類的不平等。從學(xué)術(shù)和行業(yè)的角度出發(fā)，與會者們則詳細(xì)介紹了機(jī)器腦的發(fā)展情況，如今機(jī)器腦能夠理解和產(chǎn)生被稱之為「信仰」的概念;法律人士闡釋如何界定計算機(jī)在處理類似電車試驗時的法律挑戰(zhàn)。

　　周日傍晚的會議以牛津哲學(xué)家Nick Bostrom提出的「智能爆炸」(即機(jī)器的能力會迅速的超越人類)為題，Tallinn回顧了他所投資的人工智能公司DeepMind是如何指示算法去玩雅達(dá)利的Breakout游戲，這個游戲的玩家需要用一個彈力球擊碎多排磚塊獲得積分。計算機(jī)程序并沒有球或彈板之類的概念，也并沒有得到如何贏得積分的解釋。然而，兩小時之內(nèi)，計算機(jī)程序知道了游戲的玩法;四小時之內(nèi)，它就已經(jīng)懂得了如何贏得游戲——即利用彈力球在磚排中開一個隧道，從而很快從后面擊碎磚排。Tallinn認(rèn)為這能讓我們瞥見了未來——它迷人又可怕。對于擔(dān)心人工智能的人來說，每一次機(jī)器智能的進(jìn)步都會再次引發(fā)如何掌控它們的問題。

　　資本主義社會的生活經(jīng)驗告訴我們，如果億萬富豪警示你的工作將引發(fā)道德問題時，那么你所做的工作就是意義深遠(yuǎn)的。不久后，馬斯克為研究院捐款1000萬美元用于人工智能方面的研究，另外包括所有與會者在內(nèi)的上千位人工智能領(lǐng)域研究者將簽署由Tegmark起草的、旨在保證智能機(jī)器有益于社會的聲明。當(dāng)我問到Tegmark這些問題為什么突然變得如此緊要時，他說道：「人工智能的運(yùn)作已處于走出實驗室進(jìn)入社會的階段了?！?/p>

　　機(jī)器人已然可以感知周圍世界并完成實際任務(wù)：無人駕駛汽車已經(jīng)成為現(xiàn)實;而(機(jī)器人可以獨立為你準(zhǔn)備菜肴的)全自動廚房也計劃將于2017年實現(xiàn)。社會機(jī)器人方面也有很多進(jìn)展——機(jī)器已經(jīng)能以接近人類的水平解釋其所見事物，我們也教他們理解人類表情背后的情緒從而使它們可以模仿我們的經(jīng)驗。臺下觀眾中，有些AI從業(yè)者在日常工作中苦于機(jī)器的缺陷，因此他們更傾向于認(rèn)為進(jìn)展是漸進(jìn)的而非爆發(fā)式的，對于他們來說臺上討論的警告顯得有點華而不實。在聽到Bostrom的觀點后，AAAI(美國人工智能協(xié)會)會長、俄勒岡州立大學(xué)教授Tom Dietterich咕噥道：「算法不是以這種方式運(yùn)行的?！顾蟾嬖V我說：「人們問我人與機(jī)器的關(guān)系是什么，我給他們一個顯而易見的答案：機(jī)器就是我們的奴隸?！沟荄ietterich還是簽署了Tegmark的公開信，并且在幾周后的AAAI年度大會上重點討論了機(jī)器人倫理。

　　「機(jī)器是否可稱得上有社會性」之所以成其為一個問題，很大程度上來源于IBM的一個名叫沃森的智能機(jī)器。它是紐約州威斯特徹斯特縣北部IBM研究中心的一個研究小組花了近十年時間建造的成果。IBM的工程師們原打算要建造一個可以在電視智力競賽Jeopardy!中擊敗最強(qiáng)人類高手的人工智能機(jī)器人——這需要掌握押韻、典故、雙關(guān)等語言的精妙之處。

　　沃森在2011年的勝利成為了人機(jī)戰(zhàn)爭中的一個里程碑，而且自此后沃森繼續(xù)演進(jìn)——它的思考變得更有創(chuàng)意、它的設(shè)計變得更有效，從而可以更準(zhǔn)確的滿足我們的需求。

　　沃森目前已經(jīng)接受了分子生物和金融領(lǐng)域的培訓(xùn)，它還寫過一本烹飪書，也在石油勘探這一行「工作過」?，F(xiàn)在，它正在學(xué)習(xí)如何幫助人們解決犯罪問題。早前，《連線》雜志還預(yù)測道，沃森很快便會成為世界上最好的醫(yī)療診斷專家。按照IBM的說法，沃森也會被運(yùn)用在17個國家的75個行業(yè)當(dāng)中，使成千上萬的人可以在工作中使用沃森 。沃森的這些經(jīng)歷很好詮釋了時下人們對于人與機(jī)器探索的曖昧關(guān)系——既需要他們滿足人類需要，又給人類帶來恐慌。

　　全新的體驗所帶來的，不經(jīng)意的，迷失般的靈光乍現(xiàn)，往往是通往哲理的不二法門。沃森的創(chuàng)造者，那些自它誕生以來就一直在從事這個項目的IBM工程師們，在談?wù)撍麄兊臋C(jī)器-時，有著不同于Tegmark的觀點。工程師們看到的是一部體驗、技術(shù)提升與改進(jìn)性失敗的編年史，就好像這個機(jī)器有它的自傳一樣。其中一些人會使用更私人化的詞語來形容他們和沃森之間的關(guān)系，他們將自己比作沃森的父母。

　　去年十月，IBM給這個項目搬了新家，這是一座位于紐約亞斯特坊廣場的辦公大樓。看起來，沃森的成長道路很像像：在郊區(qū)家庭環(huán)境中度過童年;接著上課，接受教育，為進(jìn)入一個更復(fù)雜的世界做準(zhǔn)備;然后為了賺錢，搬去曼哈頓東村，找一個東家。這也意味著，它有可能會像我在最近某個下午所做的那樣，離開辦公室，穿過曼哈頓區(qū)，乘電梯上樓，駐足在球場的屏幕前，注意到角落里那個像一小堆硬盤的東西，并思索著人類在萬事萬物中的地位，然后聽到一個平靜的計算機(jī)聲音說，「你好，我是沃森，今天我們要做些什么?」

　　IBM在全球的雇員共有40萬人，它本身就是一個龐大的帝國。它的總部設(shè)在美國紐約州的阿蒙克市，研究中心設(shè)在約克敦海茨，這兩個地方都看似與創(chuàng)新中心——硅谷相隔十萬八千里。IBM研究院位于一座長長的拱形建筑物內(nèi)，由建筑師埃羅·沙里寧(Eero Saarinen)于半個世紀(jì)前設(shè)計修建。正如尚在施工的蘋果公司新總部大樓一樣，IBM研究院的建筑也成為了這個烏托邦企業(yè)的符號和象征。然而，它也是上個時代的古董，因為陳設(shè)和家具都來自沙里寧最初的設(shè)計，看起來更像一個修道院，而不像新潮的科技公司(大多數(shù)辦公室都是完全相同、沒有窗戶的隔間)。樓下陳設(shè)著許多獎?wù)?，紀(jì)念13位獲得諾貝爾獎的IBM科學(xué)家。一位名叫戴夫·費魯奇(Dave Ferrucci)的工程師告訴我：「這座大樓里裝滿了歷史。而IBM的歷史，正是計算的歷史?！?/p>

　　沃森項目就開始于這里。從一開始，它就屬于費魯奇。這是一位53歲的計算機(jī)科學(xué)家，來自布朗克斯區(qū)(紐約市最北端的一區(qū))。從1994年，他在美國倫斯勒理工學(xué)院獲得博士學(xué)位起，就一直為IBM全職工作。他是一個可愛、健談、熱情的人——刮得短短的山羊胡子，整齊的頭發(fā)，有著外區(qū)(outer-boroughs，紐約市除曼哈頓外的其他四個行政區(qū))特有的元音口音。在研究生期間，他曾開發(fā)了一個項目叫做Brutus，可以給它確定一個主題(比如，背叛)，然后它就能自由發(fā)揮，原創(chuàng)出一篇小說。今天，費魯奇依然保留著那個項目的理想主義。他說：「語言就是圣杯，映射著我們看待世界的方式?！顾钢约旱念^，繼續(xù)說：「是進(jìn)入這里的路?！?/p>

　　建造一臺能贏得「危險邊緣(Jeopardy!)」游戲的機(jī)器，是具有IBM特色的人工智能研究方法，也是一記來自上個世紀(jì)90年代的清晰回聲——那時候，IBM的弈棋計算機(jī)「深藍(lán)」成功擊敗了國際象棋冠軍加里·卡斯帕羅夫(Garry Kasparov)。除了技巧之外，沃森項目的科學(xué)家還必須在費魯奇帶領(lǐng)下，沖鋒陷陣，占領(lǐng)一個新的高地——語言。因為語言是和埃里克斯·崔柏克(Alex Trebek，危險邊緣的主持人)溝通的唯一工具。過去，為了把語言教給機(jī)器，程序員們會用數(shù)學(xué)的方式，逐字逐詞地把每個概念描述給機(jī)器——先用一個公式來解釋「大」和「小」，再用第二個公式解釋「昂貴」。這種方式對一個項目來說，簡直是天方夜譚。2007年，當(dāng)費魯奇的團(tuán)隊開始工作時，為了提高效率，他們利用了大數(shù)據(jù)和機(jī)器學(xué)習(xí)算法。沃森不再需要那些線索背后的公式，而只需要依靠上下文的語義環(huán)境、接近度和統(tǒng)計模式，就像小孩子愛玩的Memory游戲(譯者注：一種撲克牌配對游戲)。費魯奇的團(tuán)隊上傳了一個巨大的文本數(shù)據(jù)庫，包括百科全書、網(wǎng)站和參考書，還開發(fā)了數(shù)百個程序，每一個用來仔細(xì)檢查線索的不同方面，并各自生成一個備選的答案，然后權(quán)衡和排序。比如說，符合「英國作家」和「埃文河畔斯特拉特?！沟拇鸢甘鞘裁茨?用足夠多的程序，跑足夠多的文本，生成了一些候選答案，并讓核心算法評估這些答案，很快你就能得到一個答案——威廉·莎士比亞。沃森項目的科學(xué)家約翰·普拉格(John Prager)解釋說：「準(zhǔn)確性優(yōu)化了，但理解力并沒有提高。」比如說，沃森能說出：「克里特島是什么?」「誰是莫里斯·舍瓦利耶?」然而，它卻無法理解，因為它不明白舍瓦利耶究竟是何方神圣。(譯者注：危險邊緣游戲中，參賽者需要用問句來回答。上例中的兩個問句，都是沃森對問題的回答。這里的意思是說，沃森懂得用問句來回答問題，但它并不理解這個問句的意思。)

　　沃森的確有著人工智能的標(biāo)志：它能從經(jīng)驗中學(xué)習(xí)。當(dāng)它觀看「危險邊緣」的檔案片時，每當(dāng)它對一個線索作出正確的回答，它就會牢牢記住面對此類問題，哪一個程序是值得信任的。沃森的工程師還教會它識別節(jié)目制作人所玩的語言游戲。沃森學(xué)習(xí)了如何更好地從語法上分析每個線索。慢慢的，年復(fù)一年，它的反應(yīng)變得越來越迅速，也越來越精準(zhǔn)。到2010年，它的正確率與節(jié)目的總冠軍們已經(jīng)相差無幾。一開始，沃森的反應(yīng)速度相當(dāng)慢，以至于工程師們都習(xí)慣于在飯前給它一個線索，然后讓它慢慢計算著，而自己去吃午飯。而現(xiàn)在，IBM的工程師們已經(jīng)讓這個時間降到了三秒鐘。

　　結(jié)果證明，對于機(jī)器來說，語言是一個奇妙的、私密的空間。一旦進(jìn)入了這個空間，沃森就可以仔細(xì)精讀「整個人文語料庫」，一位IBM科學(xué)家后來這樣告訴我。這是人類為彼此解釋而寫下的所有東西。沃森精讀了語料庫的所有內(nèi)容，不帶任何成見和偏好。慢慢的，它逐漸諳熟于挖掘那些曾被人們趨之若鶩后又拋諸腦后的信息。沃森就是人類失落知識的一聲回響。與此同時，它也可以非常幼稚。在2010年的測試比賽中，它開始在每個以字母n結(jié)尾的答案后加上一個「d」的聲音——比如說，「什么是巴基斯坦『的』?」它的口音聽起來就像那位激進(jìn)的黑人思想家馬爾科姆。還有一次，沃森被問到第一位進(jìn)入太空的女性是誰，它調(diào)皮地說：「神奇女俠是誰呢?」IBM的自然語言處理專家珍妮佛·楚-卡羅爾(Jennifer Chu-Carroll)說：「我真的很喜歡它這樣?！刮稚瑫r也會犯那些小孩可能出現(xiàn)的錯誤，比如發(fā)錯新單詞的音，混淆現(xiàn)實和神話的界限，曲解成人沒法清楚表達(dá)的意思。

　　在「危險邊緣」的一期特別節(jié)目上，沃森終于出現(xiàn)了。它面臨的對手是創(chuàng)造了74場連勝紀(jì)錄的肯·詹寧斯(Ken Jennings)，以及最終打敗了詹寧斯的布拉德·魯特(Brad Rutter)。根據(jù)IBM的計算，沃森有70%的幾率贏得比賽?！敢粓鰟俾屎芨叩馁€博，但依然只是賭博，」費魯奇說。中場休息時，鏡頭搖過擁擠的觀眾，抓住了費魯奇——整齊的頭發(fā)往后梳，看起來很緊張?！冈谀莻€時候，你完全失去了控制力，」費魯奇的副手埃里克·布朗(Eric Brown)說，「你只能交叉手指，祈禱好運(yùn)。」在問題類別「練習(xí)曲，笨拙的?(Etude, Brute?)」中，沃森所向披靡，成功地猜出了幾位古典音樂作曲家的名字。同樣的，它也答上了類別「帶刺的(hedgehogs)」中的所有問題。它聲稱，它想要賭6435美元的「每日二重彩」。主持人崔柏克有些遲疑地說：「要是我，就不會賭?！购髞恚矊幩乖谙乱惠啽荣愔猩晕㈥匾痪?。當(dāng)沃森正在冥思苦想丹澤爾·華盛頓和肖恩·潘的名字時，它的對手也想出了答案，但沃森的模式識別以絕對的優(yōu)勢勝出。到最后，沃森已經(jīng)贏得77000美元，比詹寧斯和魯特各自的三倍還多。

　　「《危險邊緣》從來不是我的目標(biāo)。」費魯奇這樣說道。在最后幾天的準(zhǔn)備中，工程師們已經(jīng)著手拓展沃森的能力范圍，使得它不僅是一個仿真機(jī)器。這一部分是由于競爭的需要。Chu-Carroll注意到沃森在某些類型的問題上還是顯得笨拙，在這些類型問題中有一個至關(guān)重要的信息被隱藏。

　　比如在聽到George Mallory(英國探險家，在嘗試攀登珠穆朗瑪峰途中喪生——譯者注)的尸體被發(fā)現(xiàn)的敘述后，沃森告訴記者，他仍然認(rèn)為George Mallory是第一個登頂珠峰的人。正確的答案其實Edmund Hillary，他曾在登頂珠峰中存活下來(而Mallory那時不幸去世)，但「George Mallory」這個答案深深植入到沃森「頭腦」里。此時，機(jī)器需要理解的概念是珠峰，這在沃森關(guān)注領(lǐng)域的文本中隨處可見。但因為它不是答案，Chu-Carroll作了調(diào)整，當(dāng)機(jī)器注意到看起來像這樣圍繞著答案的短語，它會運(yùn)行一個二次查詢，包括搜索這句話，如果偶然在文本庫中發(fā)現(xiàn)了一個不起眼的文檔，就會按研究者相同的方式開放查詢——發(fā)現(xiàn)新的聯(lián)系，并把這些聯(lián)系建立起來。機(jī)器可以自行探索。不久以后，一個暑期實習(xí)生寫出了一個程序，讓沃森把互聯(lián)網(wǎng)引入從而拓展它的認(rèn)知范圍。沃森像被下了魔法一樣開啟了一段傳奇。

　　機(jī)器開始逐漸提升自己的能力。IBM收購了一家澳大利亞公司來「教沃森理解人情世故」;計算機(jī)視覺專家的任務(wù)則是「教沃森如何觀察。」就在我開始拜訪沃森工廠的那個冬天，那里的人們也不再談?wù)撚嬎銠C(jī)只能生成備選答案了，計算機(jī)還可以產(chǎn)生假設(shè)并迸發(fā)新想法。

　　「只要換個名字，你會突然大幅拓展它的潛在應(yīng)用」，Brown說。從這個角度來看，一個更高階的人類思想的特性——創(chuàng)造力——似乎不那么難以捉摸或者神秘。

　　Ferrucci讓我想象一個百老匯作曲家，坐在鋼琴旁尋找某個完美樂句的結(jié)尾方式?！杆袃蓚€音符，而他正在尋找第三個，」Ferrucci說。他會怎么辦呢?他不會戳著他的食指去尋找另一個偉大發(fā)現(xiàn)，也會搖搖頭像個憤怒的大師。「不」，第三次，這一次Ferrucci豁然開朗，他的食指指向空中?！赴」?」音樂大師!Ferrucci很高興。尋找一個統(tǒng)計模式的關(guān)閉，使它與經(jīng)驗匹配——這正是計算機(jī)能做的。音樂大師的行為表現(xiàn)得像一個實驗機(jī)器，但音樂大師其實并不知道這一點?！缸髑摇龅木褪鞘巧珊蜏y試!」

　　沃森并不真正明白女人的痛苦。但即便如此，他實際上做了醫(yī)生要做的事情——指出精確的臨床報告的相關(guān)部分，發(fā)現(xiàn)疾病，確定它的生物學(xué)原因。

　　在《危險邊緣》勝利之后，F(xiàn)errucci在超過40場活動中顯示這個世界上最著名的機(jī)器人。他與Tegmark爭論人工智能的影響，在大學(xué)做的報告，在計算機(jī)歷史博物館接受一個長長的訪談。Ferrucci很不習(xí)慣這樣的行程，這幾乎使他崩潰。但在他旁邊，則是一個從來不知疲倦、并已成為某種公眾符號的沃森。

　　這個項目從一開始就被一個困惑所纏繞，并隨著沃森的成名而不斷增長。這個困擾就是「沃森到底是什么?」它的確具有一定意義上人的屬性：它能獨立學(xué)習(xí);你可以認(rèn)為它會產(chǎn)生新的想法。Brown曾被問到沃森是否可以通過有名的圖靈試驗(機(jī)器是否能讓人類把它誤認(rèn)做人類)。他的回答是它可能在某些嚴(yán)格設(shè)限的情況下(比如成為《危險邊緣》節(jié)目參賽者)成立，但更普遍的模仿是不成立的。專家認(rèn)為，人工智能的另一種模式，被稱為深度學(xué)習(xí)，將很快帶來一個遠(yuǎn)比沃森更加靈活可塑的機(jī)器。在理解人類的表達(dá)和導(dǎo)航物理世界上其他機(jī)器會更擅長。也許沃森并不能代表AI的最前沿，它仍然是罕見的與人互動的通用智能機(jī)器。沃森的傾向已經(jīng)人格化?！改銜吹揭粋€機(jī)器像人一樣站在那里回答問題，這是一件非常自然的事情，」Ferrucci說，「我需要的僅僅是一些線索。兩只眼睛。一個微笑。是的，我就在這里?！?/p>

　　彼時，IBM助長了這種困惑。公司的營銷主管曾探討，是否該給機(jī)器配置一個仿人類的臉和身體，以便其出現(xiàn)在電視熒幕上。雖然最終他們放棄了這種想法，但當(dāng)沃森出現(xiàn)在Jeopardy!上時，它有著細(xì)小的聲音，機(jī)械的手指，以及企業(yè)標(biāo)志做成的臉。更重要的是，它有自己的名字?，F(xiàn)在沃森的大部分都處于云端，但困惑仍然存在。上個月，IBM的CEO，Ginni Rometty在Charlie Rose的節(jié)目上發(fā)言時，一開始用「它」來描述沃森，很快，就換了用詞。她說道「他會查看你的醫(yī)療記錄，他由世界上最好的醫(yī)生所培養(yǎng)教育?！筊ose沒有打斷她，從某些功能上來說，事實的確如此。不同領(lǐng)域的專家教會沃森項目獨特的語言以及他們的專業(yè)知識，評估機(jī)器回答的問題哪些是正確的。(其中一個項目要求醫(yī)學(xué)學(xué)生向沃森解釋他們?nèi)绾卫斫饧膊〖爸委煼椒?，這樣，機(jī)器就能回答醫(yī)療執(zhí)照考試的問題。)沃森為其職業(yè)生涯做好了準(zhǔn)備。

　　和沃森一起工作是令人十分愉悅的。如果你是個專家，你花費大半職業(yè)生涯建立了工作捷徑和自己的直覺，但卻難以傳授給他人。這時來了一臺機(jī)器和一些工程師，他們對你所說的直覺非常好奇——他們詢問，測試，判斷哪些是真實的，并將這些知識轉(zhuǎn)變成真正的數(shù)學(xué)。像是偵探描述他們?nèi)绾纹平夥缸飭栴};設(shè)備調(diào)度員解釋他們在發(fā)生突發(fā)狀況時如何行動。Sloan-Kettering的肺腫瘤專家Mark Kris告訴我，沃森最困難的方面在于做出微妙的判斷：當(dāng)患者需要一種非常規(guī)的治療方法，或者當(dāng)一項新研究如此引人注目，需要改變病人的治療方式時。他們沒法編碼他們的直覺。

　　事物總有兩面性，沃森有時也想要了解跟它一起工作的人。(為了人工智能能夠真正的工作，F(xiàn)errucci認(rèn)為「機(jī)器應(yīng)該以你自己為模型?！?和一家石油開采公司合作的IBM工程師們已經(jīng)為沃森開發(fā)了一系列問題，沃森可以向每個地質(zhì)學(xué)家提問，以便它理解科學(xué)家對風(fēng)險的承受能力，并據(jù)此判斷他可能會有的偏見，并衡量他的建議。一家名為Elemental Path的公司正在建設(shè)一個問答玩具恐龍，它將采用沃森的技術(shù)了解孩子的興趣和理解能力，并針對性的做出回應(yīng)。

　　沃森正在變得奇怪，并新穎——一個剛開始理解的專家。一天，一個名叫Mike Barborak的年輕工程師和他的同事們寫了一些他所能想到的最簡單的規(guī)則，將之從代碼翻譯成英語的話，簡單來說就是事事相關(guān)。他們打算將該規(guī)則作為基礎(chǔ)和指令，開始制作一系列的推導(dǎo)，讓每一個結(jié)論自動跳到下一個。Barborak從描述一個老婦人因震顫進(jìn)入醫(yī)生辦公室的病人筆記中摘選出的部分語句創(chuàng)建了一個醫(yī)療場景。他開始運(yùn)行這個程序—事事相關(guān)——并讓沃森自行發(fā)展。

　　在很多方面，沃森最真實的表達(dá)是一張圖表，一張概念圖，包含了集群和連接線，顯示出它做出的跳躍連接。Barborak開始研究它的集群，這是沃森探索出的成百上千的想法，很多都很奇怪或模糊。Barborak說：「人工做這些搜索只是因為沒有辦法。」當(dāng)Barborak檢查它時，發(fā)現(xiàn)推論使它得出一個結(jié)論，大腦中叫做中腦黑質(zhì)的那部分因帕金森病而發(fā)生了病變。Barborak認(rèn)為這非常讓人驚訝。沃森并沒有真正理解這個女人的痛苦，但即便如此，它仍然精確的做出了醫(yī)生會做的事—-針對臨床報告的相關(guān)部分，辨認(rèn)出疾病，并確定生物病因。為了能做出這樣的連接性跳躍，你所需要做的就是像機(jī)器一樣貪婪而完美的閱讀。

　　很難得聽到這樣的故事并且對人類將擁有怎么樣的超凡技術(shù)不再懷疑。在Baylor，一個名叫Lawrence Donehower的癌癥教授談到，他在研究中發(fā)現(xiàn)一種癌癥基因，命名為p53。他預(yù)計所有腫瘤研究者都立志將為此研究出新的治療藥物。沃森「閱讀」了所有70000篇與p53有關(guān)的學(xué)術(shù)論文，并且發(fā)現(xiàn)8個新目標(biāo)。這些來自俄羅斯新發(fā)現(xiàn)被淹沒在海量的論文里，以人腦的查閱能力被完全忽略，事實上，這些論文非常重要。Donehower認(rèn)為他們重新發(fā)現(xiàn)真令人興奮，他說：「我在變老，而你會得到更多希望?！?/p>

　　站在沃森「父母」，也就是IBM工程師的角度來看，似乎沃森已經(jīng)長大成人?！肝矣幸粋€十幾歲的女兒,」Chu-Carroll笑著說：「感覺很像沃森已經(jīng)獨立長大成人。離開了安樂窩?！?/p>

　　當(dāng)我打電話給他談?wù)撐稚瓡r，Max Tegmark告訴我：「對于人工智能越發(fā)強(qiáng)大并能獨立完成一些事情，人類有一些憂慮，就在不久之前，你還依靠人類的專家資源完成一些事情?！箤?Tegmark來說，人類的一些專業(yè)技能可以避免被人工智能替代，「如果你仔細(xì)想想,為什么人類比獅子更文明呢?這是因為我們更聰明。因為我們有更多的專業(yè)知識?！?/p>

　　Ferrucci 和 Tegmark簡直就是「天造地設(shè)」的組合：一個是理論家，另一個是工程師，他們都非常有學(xué)問和魅力的人，并都參與了關(guān)于人類未來問題的討論。如果你認(rèn)為沃森和類似這樣的機(jī)器會變得造型更酷和更靈活，并進(jìn)一步進(jìn)化到做更多人類并不擅長的事務(wù)，那么你在AI這個問題上，更多的是從如何以最少的人力推動社會進(jìn)步。

　　在這個問題上，F(xiàn)errucci是絕對論主義者。從機(jī)器的角度來看，人類真的需要機(jī)器的版主，人類思考方式很狹隘，對事物的判斷要么來自有偏見的個人經(jīng)驗，要么來自于不完善的信息。

　　來自普林斯頓大學(xué)的諾貝爾獎得主Daniel Kahneman，作為一位在認(rèn)知偏差和人類非理性方面的理論家，他在IBM宣傳視頻和一個訪問IBM的先進(jìn)實驗室研究總部的兩次談話中指出：「毫無疑問，人類的這些認(rèn)知偏差的存在是令人擔(dān)憂的。」

　　與人類相比，機(jī)器想要擺脫創(chuàng)造它的文化基因并不那么容易。IBM花了數(shù)十年時間向商業(yè)公司銷售電腦以期幫助公司雇員彌補(bǔ)認(rèn)知能力的不足。從某種意義上說，機(jī)器越具智慧，就越容易暴露人類的缺點。一位名叫Dario Gil的行政主管告訴我，他在沃森參與的一個項目中工作，該項目的應(yīng)用程序致力于提高如何在風(fēng)暴來臨時有效分配資源的能力。傳統(tǒng)的決策過程依賴于一些荒誕故事，Gil默默地伸出一根手指在地圖上說道，「比如說，當(dāng)暴風(fēng)雨來自北方和狗被吹了起來」之類的。如果近年來Kahneman的觀點沒有變得如此流行，或者他的住處遠(yuǎn)離Yorktown Heights，亦或者項目的開發(fā)在硅谷進(jìn)行，沃森也許會獲得不同的使命。但沃森來自一個獨特的公司，在這里成功源自合作，個體要有所限制，機(jī)器為了團(tuán)隊而不是某個超人。

　　IBM為沃森的商業(yè)化制定了兩套方案：以服務(wù)的形式和以授權(quán)技術(shù)的方式。潛在的客戶會被邀請到Astor Place參觀，這里的機(jī)器是由硬盤豎直堆起的存儲器構(gòu)成，其內(nèi)部的運(yùn)行被投放到屏幕上面，這些屏幕環(huán)繞在人的周圍就像一個私人的天文館。

　　展示以兩個年輕職業(yè)女性的視頻作為開始，她們一個是廚師，另一個是律師?！肝覀兛吹接行┑胤揭蚬P(guān)系根本不存在，」一個講解員說道，他表示人類解決問題的方式和占星術(shù)一樣不科學(xué)?！肝覀冞^于自負(fù)并犯下重大錯誤」名叫Frederik Tunvall的年輕人類向?qū)В钢渡涞轿覀兒竺娴钠聊簧系膹N師的形象說道，「她堅信橄欖油是是做好地中海菜品的唯一用油，或許因為這一偏見她會錯過某些機(jī)會?！拐f到這里的時候，Tunvall顯得有些難為情。他告訴我最近他把這一報告提交給了一批意大利的金融高管，當(dāng)他們聽到烹飪意大利菜的時候除了橄欖油之外還可以放其他任何東西的時候他們被激怒了。Tunvall的語氣暗示這件事情既有趣又可笑。對于意大利食物，一邊是諳熟海量潛在食物配方的超級計算機(jī)，一邊是出生在博洛尼亞附近有些狗屎運(yùn)的銀行家，那么，你賭哪邊知道的更多呢?

　　沃森也像學(xué)習(xí)其他食物那樣學(xué)習(xí)如何下廚。它會「閱讀」整個由Bon Appétit撰寫的菜單數(shù)據(jù)庫，并從中搞清楚墨西哥廚師和法國廚師在操作方式上的不同之處。接著，在工程師也是首席大廚James Briscione的「催促」下，沃森開始琢磨新菜品。沃森的特色菜是從哪些傳統(tǒng)的名菜或調(diào)味品里挑出一部分，然后進(jìn)行組合。于是就有了諸如 Tanzanian-Jewish matzo-ball湯、Czech pork-belly moussaka等菜品，而另一個名叫Harlem雞肉的靈感來自于非洲裔美國人和西非國家中使用的食材和做法。當(dāng)沃森 精通了菜譜，就嘗試新餐品，Briscione便開始審視這些菜品中各個食材的關(guān)系。其效果令人鼓舞，Briscione說道：「這讓我不得不去思考我會如何將番茄與羅勒(一種芳香植物，多用于烹調(diào))放在一起烹制?！?/p>

　　我把一本上月出版的《跟沃森大廚學(xué)烹飪》(Cognitive Cooking with Chef 沃森)送給洛杉磯一家頗具創(chuàng)意的餐廳主廚Ari Taymor。Ari Taymor翻完沃森的菜譜后認(rèn)為，沃森的確表現(xiàn)出某種認(rèn)知行為特征，但似乎還是和人類不同。Ari Taymor說：「我還是無法想象這些菜品能夠登上餐廳的菜單」沃森 在廚藝上的震撼表現(xiàn)讓Briscione有著被智力所拋棄的感覺。而對Ari Taymor來說，沃森似乎無法理解食物帶來的意義，他說：「(食物)應(yīng)該是那種能喚起特定地點特定體驗」，比如家的感受，這是機(jī)器所無法復(fù)制的。

　　現(xiàn)代對于人工智能的恐懼源于人工智能可以相當(dāng)完美地和人類的不足和缺陷吻合，使得我們察覺不到它如何圍困人類。比如，直到無人駕駛汽車橫沖直撞，軍用無人機(jī)瞬間可以獨立思考，「機(jī)械姬」里惡魔般聰明的機(jī)器人開始勾引它的主人，我們才會警惕起來。從那本對Elon Musk影響很大的書–「超級智能」，Nick Bostrom引用了一個很荒謬的例子：「原先用來工廠生產(chǎn)管理的AI最后開始執(zhí)行大批量生產(chǎn)回形針的任務(wù)，把從地球到宇宙任何可觀察到的更大的物質(zhì)塊變成回形針?！?/p>

　　但是仔細(xì)觀察，有關(guān)人工智能的恐懼，甚至普遍存在的不確定性的氛圍，也會讓人與科技之間有隔閡。哪怕世界上最資深的技術(shù)人員，他們都和普通人一樣是保持警惕。這和你如何看待這個風(fēng)險毫無關(guān)系，因為它取決于還沒有完全實現(xiàn)的科技，因此難以判定和下定論。而我覺得這個很大程度上依賴于你對人類本身作何思考：對于人類的限制和非理性的智力戰(zhàn)爭，你如何站隊，你多大程度上同意Ferrucci的觀點—我們?nèi)祟愗叫鑾椭?/p>

　　2013年底，Playwrights Horizons劇院推出了一部Madeleine George的戲劇–The (Curious Case of the) Watson Intelligence。它是由四個有關(guān)于被圍困的科學(xué)助手的小故事組成。他們都叫沃森: 偵探福爾摩斯的助手，著名科學(xué)家貝爾的助理，一個虛構(gòu)的 IT 員工以及電腦本身。Eric Brown住在Connecticut，趕去看了兩次獨立的演出。每一次，他都留下來參與劇后的專題討論。Brown回憶說說，「那個有關(guān)助理的概念很有遠(yuǎn)見。助理扮演的角色以及在某些時候他們是否得到了他們應(yīng)得的?！挂驗锽rown為Ferrucci做了好幾年的助理工作?！钢皇?，」Brown說，「你是否欣然于為比你更出名的人當(dāng)助理。」

　　在一個歷史意義重大的深冬，一個冰冷的周一晚上，我驅(qū)車前往York-town Heights去Ferrucci家赴約。自從他完成博士學(xué)業(yè)回到IBM，他一直住在這個死巷里。當(dāng)時正是IBM大量投資研發(fā)人工智能的階段。在他的起居室，他給我展示了從《危險邊緣》得來的一個極為珍貴的紀(jì)念品—一個有關(guān)于沃森比賽的廣告海報，上面有他團(tuán)隊所有成員的簽名。

　　Ferrucci兩年前離開IBM，后來在韋斯特波特著名的對沖基金B(yǎng)ridgewater Associates謀了一份工作。他說：「我忠實地愛過IBM，IBM曾是我的家?！顾岬疆?dāng)他還是高中生時在地下室鼓搗一臺古老的Apple電腦，沉迷于人工智能的時候，他第一次發(fā)現(xiàn)了IBM的研究。當(dāng)時IBM在他父親經(jīng)營的雜志里投廣告，還召集了一大幫科學(xué)家搞研發(fā)，并保證他們研發(fā)的絕對自由。

　　盡管他曾經(jīng)一度覺得IBM正在做的沃森是件很有意思的事，策略上也很高明，可這已不是他的菜。「真的是純商業(yè)，這只是不再那么有意義了?！?/p>

　　對沖基金的工作有很多不錯的津貼，盡管這份工作也許使他離人工只能研究的突破口遠(yuǎn)了一點，但是Ferrucci還是經(jīng)?；叵胛稚瑫r對人工智能領(lǐng)域未來的發(fā)展方向浮想聯(lián)翩。

　　他講述了一個柴可夫斯基《第六交響曲》的故事，一個對作曲者本身意義深刻的作品，柴可夫斯基認(rèn)為此作品描繪了人類的整段歷程。在圣彼得堡首演的那一晚，這個曲子徹底失敗了。柴可夫斯基一直到深夜都未入睡，對編曲做出了不小的改動，根據(jù)曲目介紹冊子說明，這晚他的改動主要重新闡釋了此首交響曲的意義。

　　第二天晚上演奏的時候，表演大受好評。Ferrucci談到那晚柴可夫斯基的表現(xiàn)，稱其為「人肉模擬裝置」——具備了一種對人類能回應(yīng)的和不能回應(yīng)的事物都理解領(lǐng)會的能力。一部計算機(jī)永遠(yuǎn)也做不出那些改動來的，他說，除非它能在一個比數(shù)據(jù)統(tǒng)計更深的層面上對世界進(jìn)行模擬。 Ferrucci表示，「這將是我從今以后畢生致力于的事，也就是真正的人工智能。」

　　晚餐時，F(xiàn)errucci的妻子，伊麗莎白，做了一道用 「法國蒸汽浴」(Sous-vide)烹飪的海鮮與牛排?！笇ξ襾碚f，深度哲學(xué)上的問題比會發(fā)生的經(jīng)濟(jì)和社會改變等問題更會讓我們恐懼?！?Ferrucci邊吃邊說道，「當(dāng)機(jī)器能比人類更勝任幾乎任何任務(wù)時，你的自我認(rèn)可要往哪兒擱?」

　　人類的進(jìn)化過程中，首領(lǐng)在一開始時體格最龐大最強(qiáng)壯的人(因為他能傷害任何人)，到后來首領(lǐng)是最聰明的人，對吧?你在解決社交場景的時候有多機(jī)靈?那么商務(wù)場景呢，或者說解決復(fù)雜的科學(xué)、工程問題的時候。如果人工智能發(fā)展先進(jìn)到你會輕易地優(yōu)先給一臺計算機(jī)布置任務(wù)，而不是給一名人類布置任何任務(wù)，你會怎么評價你自己?”

　　Ferrucci說盡管他覺得 Tegmark 對世界毀滅的敏感性很令人著迷，但他本人不認(rèn)為近期就會發(fā)生毀滅性的大事件。他還未在Tegmark的公開信上簽字。 未來有些職業(yè)將會消失，而政策制定者將會與智能機(jī)器帶來的「社會后果」進(jìn)行一番搏斗。但這些對他來說都將只是短暫的過渡?！冈谖铱磥?， 最后階段(endgame) 是強(qiáng)大又美妙的，人類將終于能夠做他們享受做的事——探索自己的心靈、探索思想的過程，他們對世界的概念。機(jī)器在這個過程成為了 思想的伙伴。」

　　這讓我想起我讀過的一篇關(guān)于英國激進(jìn)分子的報告。他們在報告中提議，當(dāng)我們能依賴于機(jī)器人的勞動力后，人類一周只工作十個小時。他們的標(biāo)語是：「為所有人能享受的奢侈」。太多對于人工智能的反應(yīng)都是相對的——億萬富翁害怕被篡權(quán)、失去控制，中產(chǎn)階級的工程師則幻想著安逸閑暇的生活。Ferrucci對 最后階段(endgame)的愿景的背后，是他認(rèn)為，人類也許生來本不適應(yīng)完成復(fù)雜的認(rèn)知類工作。因為，從基本的生物學(xué)角度來說，人類不是為此而生，也許是因為有更好的東西在等著我們。

　　Ferrucci給我看了他平板電腦上一段他女兒彈奏鋼琴的長視頻。當(dāng)視頻結(jié)束后，他又再次按下「播放」，接著我們又看了一遍那個鋼琴獨奏的視頻。他說道，「我沒什么好怕的。」

　　本文原載《紐約雜志》，機(jī)器之心翻譯出品，參與成員：光磊、葉雨溪、汪汪、鄭勞蕾、柒柒、Viola、補(bǔ)、泥泥劉、Karalli、趙賽坡。