“我見過的事，你們?nèi)瞬粫嘈?。”在電影《銀翼殺手》(Blade Runner)末尾，魯特格爾?豪爾(Rutger Hauer)飾演的反派將哈里森?福特(Harrison Ford)飾演的角色拉回屋頂，饒了他一命，然后說出了這句話。在這句話里，“人”是最重要的字，因?yàn)榱_伊?巴蒂(Roy Batty)不是人類，他是個(gè)機(jī)器人。他從太空殖民地逃到地球，向自己的創(chuàng)造者“泰勒公司”(Tyrell Corporation)實(shí)施報(bào)復(fù)。

　　這才是我認(rèn)為的“殺手機(jī)器人”(killer robot)，一個(gè)在消滅你之前，能與你進(jìn)行一場高智商談話的存在。電影《銀翼殺手》改編自菲利普?迪克(Philip K. Dick)的反烏托邦奇幻小說《機(jī)器人會夢見電子羊嗎?》(Do Androids Dream of Electric Sheep)。影片上映于1982年，當(dāng)時(shí)它還是一部科幻電影，如今卻有點(diǎn)像真的，反正對于人工智能研究人員來說已經(jīng)足以成真了，前不久他們警告要謹(jǐn)防出現(xiàn)自主式武器軍備競賽的危險(xiǎn)。

　　包括特斯拉汽車(Tesla Motors)創(chuàng)始人埃倫?穆斯克(Elon Musk)、理論物理學(xué)家斯蒂芬?霍金(Stephen Hawking)在內(nèi)，這些專家們所擔(dān)心的殺人機(jī)器，與《銀翼殺手》里的“連鎖”(Nexus)復(fù)制人相比的話，只是原始級別的終結(jié)者?！躲y翼殺手》里的瑞秋(Rachael)開槍殺死哈里森?福特的敵人時(shí)，這位男主公愛上了她——瑞秋是個(gè)女機(jī)器人，她并不知道自己是復(fù)制人。但是當(dāng)一臺配備武器的四軸飛行器干掉敵方士兵時(shí)，沒人會愛上它。

　　機(jī)器人可以殺死我們，但它們無法理解我們。自主式殺人機(jī)器正在成為現(xiàn)實(shí)，以色列已經(jīng)擁有了哈比(Harpy)反雷達(dá)無人機(jī)，它可以在空中漫無目的地飛行，然后自主選擇目標(biāo)并加以摧毀。但是想創(chuàng)造出一架具備常識，能理解人類情緒，預(yù)測人類行為，擁有感知能力的復(fù)雜機(jī)器，仍是個(gè)遙遠(yuǎn)前景。

　　理論上講，這種機(jī)器人是能造出來的。人工智能研究人員看不到任何原則上的障礙，阻止機(jī)器人發(fā)展出更高水平的推理能力，或是人類那種靈活的身體。汽車裝配線上目前僅剩下能夠敏捷地?cái)Q螺絲的工人，以及一些能夠到車身外殼里焊電線的工人，機(jī)器人暫時(shí)還無法勝過他們。

　　機(jī)器還占有一定的優(yōu)勢。它們不必為了適合顱骨大小而壓縮處理裝置，它們也不需要氧氣供應(yīng)——這是個(gè)高度耗能的技術(shù)。它們的再造也不受進(jìn)化法則限制，完全可以變得越來越聰明。

　　但盡管機(jī)器在學(xué)習(xí)、視覺及語音識別、神經(jīng)網(wǎng)絡(luò)處理(這些元素都在改變?nèi)斯ぶ悄艿臐摿?方面發(fā)展迅速，機(jī)器人還是不能理解人類。計(jì)算機(jī)可以在國際象棋上輕松擊敗人類，但它們玩不了最高水平的撲克牌游戲，因?yàn)樗鼈兊每创κ值奶搹埪晞荨?/p>

　　斯坦福大學(xué)(Stanford University)人工智能實(shí)驗(yàn)室主任李飛飛說：“計(jì)算機(jī)在感知任務(wù)上正變得越來越好。它的算法已經(jīng)能識別數(shù)千種汽車，而我只能認(rèn)出三種。但在認(rèn)知、同理心和情感層面，機(jī)器還無法接近人類?！?/p>

　　我也經(jīng)歷過一些事，你們這些人不會相信——谷歌的無人駕駛汽車。最近我坐著它游覽了加州的山景城，震驚地發(fā)現(xiàn)它感覺上就像人類。它自信地，甚至是果斷地從交叉路口加速，縮小與前方車輛的距離，讓其他車輛無法插入。如果所有司機(jī)都能這樣冷靜和理性，我們的生命會更安全。

　　在谷歌無人駕駛汽車?yán)铮憧梢钥吹剿绾斡脗鞲衅骱蛙図斃走_(dá)進(jìn)行感知。一位谷歌工程師手持一臺筆記本電腦，行人、公交車和其他車輛等周圍物體的輪廓呈現(xiàn)為空心的、移動(dòng)的圖形顯示在屏幕上。這些物體按照不同顏色分類，因此無人駕駛汽車知道該對它們作出反應(yīng)，以及該從多遠(yuǎn)避開。

　　換言之，如果你在自動(dòng)駕駛汽車的車頂安裝一個(gè)導(dǎo)彈發(fā)射器，并且在車身兩側(cè)裝上機(jī)槍(當(dāng)然啦，這并不是說谷歌會干這種事)，它完全能化身“殺手機(jī)器人”。它可以悠閑地穿越城市，掃描搜尋有熱度的、緩慢移動(dòng)的粉紅色目標(biāo)加以摧毀。

　　因此，科學(xué)家們警告人工智能研究領(lǐng)域存在與自主武器相結(jié)合的情況，并非是危言聳聽。互聯(lián)網(wǎng)本身就發(fā)源于美國國防部在上世紀(jì)60年代資助的研究課題，而且在開發(fā)尖端技術(shù)方面，軍事和航天計(jì)劃擁有最雄厚的財(cái)力和最強(qiáng)烈的興趣。要有多蠢，才會認(rèn)為“殺手機(jī)器人”的出現(xiàn)就意味著機(jī)器將接管全世界。

　　破壞事物比理解或創(chuàng)造事物更容易。人工智能(掃描、處理和分析大型數(shù)據(jù)集的能力)并不等同于“強(qiáng)人工智能”(artificial general intelligence)，后者才具有執(zhí)行大多數(shù)人類任務(wù)的能力。

　　一些人警告說機(jī)器將搶走目前由人類完成的工作，但就連他們也同意，管理、專業(yè)和藝術(shù)工作仍然是安全的，因?yàn)檫@些工作需要具備高水平的推理能力、同感能力以及創(chuàng)造能力。機(jī)器人的能力仍非常有限，它可以通過掃描一系列特征來識別一個(gè)女人，卻無法體會她的情緒，也無法運(yùn)用常理來解決意料之外的難題。

　　羅伊?巴蒂已經(jīng)在對決中戰(zhàn)勝了人類賞金獵人，卻又在對手墜下屋頂時(shí)伸手救了他一命。接著他對賞金獵人說道：“活在恐懼里的滋味不好受吧?這就是當(dāng)奴隸的感受。”我們千萬不要讓自己淪為奴隸。

　　譯者/彩云