蓋茨想讓機(jī)器人交稅，還有公司談起它們的言論自由，這只是想多了么？

“工人工作要繳所得稅、繳社保。機(jī)器人也做同樣的工作，也應(yīng)該同樣收稅。寧愿增加稅收，也要降低自動(dòng)化的速度。”

不久前，比爾·蓋茨在一次媒體采訪中說(shuō)道。

蓋茨說(shuō)的不是瘋話。如果不糾結(jié)像人一樣走路、說(shuō)話，機(jī)器人搶走的工作已經(jīng)不少。

以機(jī)器人普及的汽車制造業(yè)來(lái)說(shuō)，1955 年通用汽車雇了 57.6 萬(wàn)人造車。現(xiàn)在，通用汽車產(chǎn)量翻了一倍不止，雇員少了一半，而且當(dāng)中只有 5 萬(wàn)在工廠工作。

因?yàn)榫蜆I(yè)反對(duì)生產(chǎn)力是一個(gè)跨越兩百年的運(yùn)動(dòng)。1811 年，英國(guó)諾丁漢的織布工人就用大錘砸爛過(guò)織布機(jī)。

正在砸紡織機(jī)的盧德分子

但之后兩個(gè)世紀(jì)，新技術(shù)和機(jī)器替代了人類的工作這件事已經(jīng)變得平常。

30 年前，個(gè)人電腦、智能手機(jī)成了新一批提高人類效率的機(jī)器。比爾·蓋茨也是其中重要的推動(dòng)者之一。

這個(gè)話題又被提起來(lái)，無(wú)非是最近幾年，機(jī)器人從能力上越來(lái)越像，甚至超越了人。

在 Siri 之后，微軟的 Cortana、微軟小冰等等已經(jīng)可以處理簡(jiǎn)單任務(wù)，聊天對(duì)答越來(lái)越像樣。

假裝成人類棋手的人工智能，把中國(guó)最優(yōu)秀的圍棋手全都打敗了。

至今，科學(xué)家還弄不清楚人腦到底怎么運(yùn)作。什么是思維和記憶，意識(shí)是怎么產(chǎn)生的還處于假設(shè)。所以要制造出來(lái)跟人完全一樣的人工智能還是一個(gè)遙遠(yuǎn)的設(shè)想。

但在代碼和硬件表面看來(lái)，機(jī)器人是越來(lái)越像人了。它們也在做越來(lái)越多之前由人來(lái)做的事。

Uber 宣布研發(fā)自動(dòng)駕駛汽車的時(shí)候，它的 CEO 直接說(shuō)司機(jī)是自己最大的成本，如果全部換成人工智能開(kāi)車，服務(wù)可以更便宜。而《華盛頓郵報(bào)》已經(jīng)用人工智能寫(xiě)了數(shù)百篇體育新聞。

蓋茨提到的工作問(wèn)題已經(jīng)顯而易見(jiàn)。

具體應(yīng)該怎么做，卻還沒(méi)有定論。

但即使還沒(méi)有答案，這個(gè)問(wèn)題仍需要被關(guān)注和討論。于是我們摘抄了各種不同的觀點(diǎn)。機(jī)器人應(yīng)不應(yīng)該被收稅或者限制？人類工作未來(lái)會(huì)是如何？或許以下的卡片能給你帶來(lái)一些靈感。

機(jī)器人取代人討論了幾十年，但真正發(fā)生的時(shí)候這不會(huì)是一件輕松的事

喬治梅森大學(xué)的經(jīng)濟(jì)學(xué)教授泰勒·科文（Tyler Cowen）在最近一篇專欄文章里談到，“機(jī)器人取代人的工作”這件事已經(jīng)討論了幾十年，但最新的一波技術(shù)發(fā)展，可能會(huì)帶來(lái)比以往更大的社會(huì)問(wèn)題，光是渡過(guò)技術(shù)發(fā)展的“過(guò)渡期”就足夠難的。

“這次為什么會(huì)不同？”當(dāng)談到機(jī)器人和自動(dòng)化會(huì)取代未來(lái)的工作，這是最常聽(tīng)到的回應(yīng)。這是因?yàn)槲鞣绞澜邕^(guò)去成功地把農(nóng)業(yè)用工轉(zhuǎn)入了工業(yè)用工，并且持續(xù)看到經(jīng)濟(jì)增長(zhǎng)。

所以這次也一樣嗎，自動(dòng)化和人工智能取代人類的工作之后，不也會(huì)帶來(lái)新的工作機(jī)會(huì)，惠及人們？那些被自動(dòng)駕駛汽車取代了工作的卡車司機(jī)，不也能找到一份照顧老人的工作，或者給交通業(yè)做維修工作，創(chuàng)造新的工作模式嗎？

工業(yè)革命里的紡織機(jī)工人

經(jīng)濟(jì)上來(lái)說(shuō)沒(méi)錯(cuò)。但歷史上來(lái)說(shuō)，這種觀點(diǎn)還缺了一個(gè)重要部分。雖然從農(nóng)業(yè)工作中轉(zhuǎn)成工業(yè)，最終對(duì)人類整體來(lái)說(shuō)是種好事，但它也帶來(lái)過(guò)嚴(yán)重的問(wèn)題……

工業(yè)革命期間的薪水變化史，就已經(jīng)足夠讓人擔(dān)心。盡管統(tǒng)計(jì)的時(shí)間不一，工業(yè)革命開(kāi)始時(shí)間一般被認(rèn)為是 1760 年左右，至少在英國(guó)是這樣。從 1760 年到 1831 間，英國(guó)的人均消費(fèi)這個(gè)數(shù)字只增長(zhǎng)了 22%。對(duì)于一個(gè)長(zhǎng)達(dá) 71 年的時(shí)間段來(lái)說(shuō)，這增長(zhǎng)速度一點(diǎn)都不快。雖然在這 70 年間，有很多的新財(cái)富被創(chuàng)造出來(lái)，但由于經(jīng)濟(jì)變化帶來(lái)的騷動(dòng)，（農(nóng)業(yè)轉(zhuǎn)工業(yè)）調(diào)整帶來(lái)的成本，還有戰(zhàn)爭(zhēng)，工人回報(bào)變得很低。

根據(jù)加州大學(xué)的經(jīng)濟(jì)歷史學(xué)家格雷戈里·克拉克（Gregory Clark）估計(jì)，在 1770-1810 這 40 年間，英國(guó)人的薪水一直在下降?？死斯烙?jì)，在工業(yè)革命開(kāi)始之后，經(jīng)歷了 60-70 年的過(guò)渡期，然后英國(guó)的工人才看到真正意義上的收入增長(zhǎng)。

想象一下，如果讓當(dāng)代美國(guó)也經(jīng)歷類似的收入變化？那么我們中的大部分人都可能會(huì)遇上政治動(dòng)亂，估計(jì)也沒(méi)有什么人會(huì)認(rèn)為這“過(guò)渡期”很成功。但我們已經(jīng)走在這條車軌上了，美國(guó)家庭收入中位數(shù)從 1999 年開(kāi)始下跌，還有人認(rèn)為 1969 年男性收入的中位數(shù)比現(xiàn)在還高。更多悲觀的統(tǒng)計(jì)引發(fā)了持續(xù)的討論，從目前事實(shí)和數(shù)據(jù)的暗淡結(jié)果來(lái)看，這過(guò)渡期的代價(jià)可能比很多經(jīng)濟(jì)學(xué)家預(yù)想的還要高。

……

工作從農(nóng)業(yè)轉(zhuǎn)出，也有對(duì)經(jīng)濟(jì)政策有害的一面。美國(guó)政府每年要花掉 200 億美元補(bǔ)貼農(nóng)民，盡管所有經(jīng)濟(jì)學(xué)家都認(rèn)為這筆支出是浪費(fèi)。歐盟的情況更糟糕。盡管歐洲有一大堆問(wèn)題要解決：銀行償付能力有問(wèn)題、意大利和希臘的債務(wù)問(wèn)題、難民問(wèn)題，但它們還是花了歐盟預(yù)算的 38% 去補(bǔ)貼農(nóng)業(yè)。農(nóng)業(yè)在整體就業(yè)率中的占比很低（大概 2%），但農(nóng)民這樣的職業(yè)不會(huì)消失，更何況，農(nóng)業(yè)的就業(yè)情況從好幾百年前就已經(jīng)開(kāi)始降低了。

因?yàn)樽詣?dòng)化和機(jī)器人而過(guò)時(shí)的工作，也在這個(gè)邏輯里。如果我們決定在未來(lái)的幾百年都去補(bǔ)貼和保護(hù)舊有的工作，那么對(duì)于長(zhǎng)遠(yuǎn)的經(jīng)濟(jì)增行來(lái)說(shuō)是一種傷害。

關(guān)于自動(dòng)化，我的觀點(diǎn)依然是“開(kāi)足馬力前進(jìn)”，如果我生活在 18 世紀(jì)末期，我依然會(huì)這么說(shuō)。從工業(yè)革命歷史找寬慰，不能停止我對(duì)此的擔(dān)憂。

支持蓋茨的人覺(jué)得，至少機(jī)器人稅是討論政府介入的契機(jī)

《衛(wèi)報(bào)》專欄作者本·塔爾諾夫（Ben Tarnoff）則覺(jué)得蓋茨的擔(dān)心不無(wú)道理，因?yàn)闄C(jī)器人的普及可能會(huì)讓貧富差距加劇，現(xiàn)在提機(jī)器人稅還為時(shí)未晚。

機(jī)器人帶來(lái)的真正威脅，并不是令 Elon Musk 輾轉(zhuǎn)反側(cè)的走上邪路、大開(kāi)殺戒，而是它們可以把經(jīng)濟(jì)差距擴(kuò)大到一種極端的程度，極端到大多數(shù)人的生活無(wú)以為繼。對(duì)機(jī)器人征稅以避免這種情況，也可能不是有效的政策工具。但這是重要討論的良好開(kāi)端。大規(guī)模的自動(dòng)化提出了一個(gè)嚴(yán)肅的政治問(wèn)題——迫切需要一個(gè)嚴(yán)肅的政策方案。

這一次的不同點(diǎn)在于，出現(xiàn)了一種可能性：技術(shù)將變得非常精巧純熟，以至于能把人類的工作侵占殆盡。假如 ATM 不僅能給你現(xiàn)金，還能給你提供浮動(dòng)利息貸款，將是怎樣的情景？盡管當(dāng)前對(duì)于人工智能的稱頌有些夸大其詞，但過(guò)去數(shù)年中，這項(xiàng)技術(shù)確實(shí)有著顯著的進(jìn)展。更大突破的問(wèn)世也并非意料之外。技術(shù)不僅僅是改進(jìn)工作，更可能的是逐漸消弭工作。與其說(shuō)是使更少的勞動(dòng)力創(chuàng)造更多的財(cái)富成為可能，自動(dòng)化更可能在創(chuàng)造更多財(cái)富時(shí)，消除勞動(dòng)力的投入。

無(wú)需勞力的財(cái)富有什么問(wèn)題？這取決于財(cái)富的主人是誰(shuí)。在資本主義制度下，工資是工人勞動(dòng)力價(jià)值的一部分。相對(duì)于流向資本家的回報(bào)，這部分一直微乎其微。過(guò)去幾十年里，它變得越來(lái)越?。汗べY在國(guó)民收入中的占比持續(xù)縮水，而資本的份額卻在增長(zhǎng)。技術(shù)提高了工人的生產(chǎn)力，但利潤(rùn)是在增長(zhǎng)而非下降。1973-2011 年間，生產(chǎn)力增長(zhǎng)了 80.4%，但實(shí)際時(shí)薪的中位數(shù)僅僅增長(zhǎng)了 10.7%。

境遇已經(jīng)如此糟糕的情況下， 大規(guī)模自動(dòng)化可能讓它雪上加霜。如果你意識(shí)到了不平等的問(wèn)題，想象一下一個(gè)有錢人僅靠自己就能變得更有錢的世界吧。從勞動(dòng)中解放出資本，并不僅僅意味著勞動(dòng)的結(jié)束，也意味著工資的終結(jié)。失去了工資，工人也就失去了獲取財(cái)富的唯一途徑，也失去了他們唯一的生存手段。同時(shí)，他們還失去了社會(huì)權(quán)力的原始來(lái)源。只要工人們還控制著生產(chǎn)的關(guān)鍵節(jié)點(diǎn)，就能將其關(guān)停。罷工仍然是工人所擁有的最有效的武器，即便他們很少再使用它了。在完全自動(dòng)化的經(jīng)濟(jì)當(dāng)中，他們不僅會(huì)失業(yè)，也會(huì)失去權(quán)力。

與此同時(shí)，機(jī)器人資本將使得精英們完全脫離社會(huì)。從私人飛機(jī)到私人島嶼，富人們已經(jīng)投入了大量時(shí)間和金錢與他人隔絕。但是，即使是最為固若金湯的奢華地堡，也與外部世界息息相關(guān)，只要資本家需要?jiǎng)趧?dòng)力的話，大規(guī)模的自動(dòng)化使切斷最后的維系成為可能。裝備有無(wú)限供應(yīng)的、無(wú)需工人的財(cái)富，精英們可以圈出與世隔絕的樂(lè)土，無(wú)需操心失業(yè)人群的死活。

如果這種情況不夠慘淡，只需要想想，大規(guī)模自動(dòng)化可能帶來(lái)的后果并不只是工人的貧困，還會(huì)導(dǎo)致他們的消失。彼得·弗瑞斯（Peter Frase）在他的著作《四種未來(lái)》（Four Futures）中推測(cè)，站在關(guān)閉的天堂大門之外的這些失業(yè)人群并不會(huì)忍耐太久。畢竟，他們會(huì)不安惶恐——那將是大量潛在的危機(jī)?！叭绻罕姵蔀橥{，但已經(jīng)不再是工人階級(jí)，因而對(duì)統(tǒng)治者毫無(wú)價(jià)值，會(huì)發(fā)生什么？”弗瑞斯寫(xiě)道，“一些人最終會(huì)覺(jué)得，還是擺脫掉他們更好?！彼麨檫@種未來(lái)賦予了一個(gè)相當(dāng)駭人的名字——“滅絕主義”，一個(gè)富人對(duì)窮人發(fā)動(dòng)種族滅絕的世界。

這些反烏托邦聽(tīng)來(lái)可能像科幻小說(shuō)，但沿著目前的發(fā)展軌跡，它們看上去完完全全合理。機(jī)器人和人工智能的技術(shù)將持續(xù)發(fā)展——但若沒(méi)有實(shí)質(zhì)性的政策改變，對(duì)大多數(shù)人來(lái)說(shuō)，最好的后果將是艱難度日，更糟則可能是末日的圖景。這就是為什么最近對(duì)機(jī)器人稅的討論值得重視。這為政策響應(yīng)的提出提供了契機(jī)，趁現(xiàn)在為時(shí)未晚。

反對(duì)蓋茨的人覺(jué)得，機(jī)器人稅只是資本主義還是社會(huì)主義的老調(diào)重彈

英國(guó)的亞當(dāng)·史密斯研究院的成員提姆·沃爾斯托（Tim Worstall）說(shuō)，我們不需要給機(jī)器人上稅，也不需要過(guò)度擔(dān)心機(jī)器人帶來(lái)的極端貧富差距，因?yàn)檫@就跟資本主義和社會(huì)主義的爭(zhēng)論一樣，競(jìng)爭(zhēng)會(huì)解決很多問(wèn)題。

不，我們不需要（機(jī)器人稅）。我們需要做的就是明白資本主義是怎樣被競(jìng)爭(zhēng)所調(diào)和的。這里真的需要爭(zhēng)論的，是資本主義和社會(huì)主義的老問(wèn)題，機(jī)器人稅說(shuō)白了是一種掩蓋。

那些社會(huì)主義者的基本論點(diǎn)是，工人應(yīng)該擁有機(jī)器，能從機(jī)器里獲得收入。

這樣的爭(zhēng)論之前也有，現(xiàn)在只是換了一個(gè)偽裝。我們也知道為什么我們不需要機(jī)器人稅，因?yàn)橛懈?jìng)爭(zhēng)本身。

這些（機(jī)器人稅）的政策推薦者有一個(gè)問(wèn)題，他們不理解自己的這些預(yù)言不會(huì)成真。不僅是理論層面，還是現(xiàn)實(shí)都如此。

所以，現(xiàn)在大家的分析是，機(jī)器人來(lái)了，我們的生產(chǎn)力將會(huì)大大提高。假設(shè)在所有工作崗位上，它們都比人的大腦處理得更好，它們?nèi)〈巳祟愃械墓ぷ?。那些擁有機(jī)器的人，所謂資本主義的“走狗”，最后就會(huì)獲得了所有的錢，以及所有的生產(chǎn)物資。我們，這些被機(jī)器奪走工作的人，就會(huì)沒(méi)有收入，會(huì)在街頭餓死，而富人們會(huì)在自己筑了高墻的城堡上俯視我們。

這不可能真的發(fā)生。如果我們沒(méi)有任何收入，我們不能購(gòu)買這些機(jī)器人生產(chǎn)的任何東西，所以富人們也不會(huì)從我們身上賺到多少錢，他們自己也不會(huì)有錢了。當(dāng)然，富人可以消費(fèi)機(jī)器人給他們生產(chǎn)的東西，但這就不是富人的定義。

進(jìn)一步講，如果我們不能從機(jī)器人制造的產(chǎn)品里面獲得什么，我們?yōu)槭裁匆淖兾覀儸F(xiàn)在的經(jīng)濟(jì)呢？

我們對(duì)于住所、食物和娛樂(lè)的需求依然會(huì)存在，而機(jī)器人不會(huì)給我們提供任何物資，因?yàn)槲覀儾荒芙o他們錢。所以人類會(huì)自己生產(chǎn)這些物資，就像現(xiàn)在這樣。

這么說(shuō)來(lái)，機(jī)器人經(jīng)濟(jì)就結(jié)束了，因?yàn)樗麄冎皇墙o自己的主子提供服務(wù)。而正常的、大眾的經(jīng)濟(jì)，還是會(huì)像現(xiàn)在這樣。

所以說(shuō)以上的事情不可能成真。要么，我們能從機(jī)器人生產(chǎn)的東西里獲益跟富人一起致富，要么，我們將會(huì)活在跟我們現(xiàn)在經(jīng)濟(jì)完全不同的環(huán)境里。

“蓋茨的做法實(shí)際上是減緩創(chuàng)新，是一種保護(hù)主義”

哈佛大學(xué)教授、美國(guó)總統(tǒng)奧巴馬 2009 年到 2010 年的經(jīng)濟(jì)學(xué)顧問(wèn)勞倫斯·蘇摩爾斯（Lawrence Summers）覺(jué)得，按照蓋茨的邏輯，我們應(yīng)該給所有自動(dòng)化程序上稅，如果是這樣，社會(huì)的生產(chǎn)效率又怎么會(huì)提高呢？

首先，把機(jī)器人當(dāng)作是工作摧毀者沒(méi)有什么邏輯可言。按這個(gè)邏輯，那些機(jī)場(chǎng)可以打印登機(jī)牌的機(jī)器人呢？那些可以加速整理文檔的文字處理程序呢？可以在手機(jī)上使用銀行服務(wù)的科技產(chǎn)品呢？自動(dòng)駕駛的汽車呢？那些防止人得病的疫苗，也是在摧毀醫(yī)療業(yè)的工作嗎？有很多種創(chuàng)新可以用更少的勞力輸入帶來(lái)更好的產(chǎn)品輸出。為什么專門挑機(jī)器人來(lái)說(shuō)呢？蓋茨真的認(rèn)為在特朗普政府，或者他參與的科技委員會(huì)，能夠區(qū)分什么行為是“節(jié)省人工”和“增強(qiáng)工人的能力”？即使專家能夠在這兩種行為中畫(huà)一條界線，美國(guó)國(guó)家稅務(wù)局要怎么執(zhí)行，也是一個(gè)疑問(wèn)。

第二，很多創(chuàng)新的行為，包括類似于機(jī)器人這樣的，會(huì)參與創(chuàng)造比原來(lái)好得多的產(chǎn)品和服務(wù)，并不只是在原有的輸入上，榨取更多的輸出而已。例如，自動(dòng)駕駛汽車將會(huì)比人類駕駛安全得多；機(jī)器人已經(jīng)幫助外科醫(yī)生實(shí)施手術(shù)，比醫(yī)生自己實(shí)施的手術(shù)更好；線上預(yù)訂系統(tǒng)，比起旅行代理來(lái)說(shuō)更快更方便。再者，因?yàn)楦?jìng)爭(zhēng)和淘汰，創(chuàng)新者只在這些創(chuàng)新中獲取了一小塊利益。

第三，最根基的原因是，為什么用稅收來(lái)縮小一塊蛋糕，而不是來(lái)保證更大的蛋糕能被很好的分配？想象一下，如果 50 人做出來(lái)的機(jī)器人，能做 100 個(gè)人的 工作，如果給機(jī)器人收很高的稅，會(huì)阻止人們生產(chǎn)這樣的機(jī)器人。讓社會(huì)分享這額外的輸出，比起建立一個(gè)稅收體系來(lái)保護(hù)那些被取代的工人要更好。很難理解為什么要縮小這塊蛋糕？讓蛋糕越來(lái)越大，然后重新分配才是一條前進(jìn)的正確道路。

最后一個(gè)爭(zhēng)論點(diǎn)是，國(guó)際貿(mào)易已經(jīng)成為標(biāo)準(zhǔn)了。打開(kāi)國(guó)門，讓國(guó)際貿(mào)易流通，跟讓科技進(jìn)行變革是類似的?？萍甲兏锊粫?huì)被看作是壞事，貿(mào)易也是，糟糕的是保護(hù)主義。蓋茨的機(jī)器人稅很有可能是反科技進(jìn)程的保護(hù)主義。

而且這措施不能減少工作崗位和不平等問(wèn)題，只是一個(gè)幫助那些不幸運(yùn)工人的糟糕策略。另外，在公開(kāi)世界里還有更深遠(yuǎn)的問(wèn)題，對(duì)于科技收稅，可能會(huì)導(dǎo)致科技產(chǎn)業(yè)離岸，而不是在本地創(chuàng)造就業(yè)機(jī)會(huì)。

不過(guò)不管搶不搶工作，我們都需要機(jī)器人來(lái)代替我們工作

在《紐約時(shí)報(bào)》工作了 29 年的科技記者約翰·馬爾科夫（John Markoff）說(shuō)，現(xiàn)在已經(jīng)不是考慮機(jī)器是否應(yīng)該替代工人的時(shí)候了，因?yàn)槿蚶淆g化來(lái)得更快更嚴(yán)重，勞動(dòng)力人口都不夠了，機(jī)器人做了人類工作是必要的。

“我以前堅(jiān)信機(jī)器人會(huì)改變生產(chǎn)。我當(dāng)時(shí)跟 Daniel Kahneman（《思考，快與慢》的作者）說(shuō)，機(jī)器人會(huì)顛覆在中國(guó)的工廠。

他說(shuō)，你沒(méi)搞明白狀況，對(duì)于中國(guó)來(lái)說(shuō)，機(jī)器人來(lái)得正是時(shí)候。因?yàn)槿耍绕涫枪ぷ魅丝诓粔蛄?，去年，中?guó)的工作人口減少了 500 萬(wàn)，跟計(jì)劃生育政策有關(guān)系。但這并不只是中國(guó)的問(wèn)題，也是韓國(guó)、日本和美國(guó)的問(wèn)題，世界正在老化（除了非洲），但沒(méi)有人明白這點(diǎn)。我們需要機(jī)器人。

我不是說(shuō)技術(shù)、機(jī)器人變化不重要，但人口變化比技術(shù)變化重要得多，因?yàn)樗挠绊憗?lái)得快得多。這是其一，還有一個(gè)數(shù)據(jù)是“依賴比例”，也就是提供照料和需要照料的人的比例。去年是世界首次，65 歲以上的人口比 5 歲以下新生人口多，本世紀(jì)中葉，80 歲以上的人會(huì)翻倍，到世紀(jì)末，會(huì)增長(zhǎng) 7 倍，所以說(shuō)自動(dòng)駕駛汽車，可能是世界上首批照料長(zhǎng)者的工具……什么時(shí)候，有個(gè)能安全的給長(zhǎng)者洗澡的機(jī)器人重要得多。”

馬爾科夫也曾經(jīng)在著作《與機(jī)器人共舞》里提到過(guò)這種照顧老人的機(jī)器人的問(wèn)題，最后也是人和機(jī)器人關(guān)系的問(wèn)題：

“但是，這些機(jī)器什么時(shí)候才能符合人們對(duì)他的期待呢？那些被照顧的人又應(yīng)該怎么去接受這些機(jī)器呢？這些仍舊是問(wèn)題。盡管有大量數(shù)據(jù)表明，隨著語(yǔ)音識(shí)別和語(yǔ)音合成技術(shù)的不斷改善，傳感器成本的下降，如果機(jī)器人專家能研制出更加靈活的機(jī)器，我們還是會(huì)心懷感激地接受它們……機(jī)器人擔(dān)任老年護(hù)理員、服務(wù)工人、司機(jī)和士兵，這是一種必然趨勢(shì)。但是人類與這些機(jī)器人的關(guān)系目前還很難預(yù)測(cè)。魔像一類的傳說(shuō)已經(jīng)把樂(lè)于服務(wù)的奴隸形象編織進(jìn)了人類的思想和神話，在傳說(shuō)中，這些奴隸實(shí)現(xiàn)了人類提出的每一個(gè)愿望?！?/p>

自動(dòng)決定人類生死的機(jī)器已經(jīng)被廣泛使用，沒(méi)有多少人不安

羅納德·阿金博士在喬治亞理工大學(xué)實(shí)驗(yàn)室研究了 20 多年機(jī)器人學(xué)，他說(shuō)，重來(lái)一次，他可能會(huì)想想要不要做這樣的研究，因?yàn)樽约杭铀倭藨?zhàn)爭(zhēng)自動(dòng)化速度。以下的發(fā)言，選自他 2013 年的演講“怎樣才能不造一臺(tái)‘終結(jié)者’”。

我們已經(jīng)有很多用于戰(zhàn)爭(zhēng)的機(jī)器人，不只是美國(guó)，上次我看到的數(shù)字是 53-76 個(gè)國(guó)家正在研發(fā)、派遣這樣的機(jī)器人，情況已經(jīng)很普遍了。

機(jī)器人已經(jīng)在地面、空中、海上、海底都有，例如，新的復(fù)仇者無(wú)人駕駛戰(zhàn)斗機(jī) Predator C 就是一個(gè)很經(jīng)典的機(jī)器。

還有一個(gè)韓國(guó)的 Comat Robot，我來(lái)念一下它的功能：自動(dòng)檢測(cè)，自動(dòng)安全開(kāi)火，自動(dòng)找到海軍工程目標(biāo)甚至人類目標(biāo)的能力，然后你還可以選擇用什么武器平臺(tái)……

我工作中得出的結(jié)論是，就是自動(dòng)化致死（Lethal Autonomy）是不可避免的。

為什么這么說(shuō)？因?yàn)樗嬖谟诖藭r(shí)、此地。每個(gè)人對(duì)于機(jī)器人的定義不一，但要我說(shuō)，即使是反步兵地雷也算是機(jī)器人，因?yàn)樗鼈兡芨兄⑶壹せ畋ā鼈儗?duì)所有人都有危險(xiǎn)性，不能分辨這是一個(gè)小孩，還是一個(gè)士兵。

還有一些系統(tǒng)，例如愛(ài)國(guó)者導(dǎo)彈，它是有人類的操作者的，導(dǎo)彈瞄準(zhǔn)了之后，操作者有 9 秒鐘去按按鈕關(guān)掉系統(tǒng)。只有 9 秒鐘怎么能判斷這個(gè)目標(biāo)是不是正確的呢？還是說(shuō)人類被陷害了？他們只是這個(gè)殺人鏈條里的最后一步，是為錯(cuò)誤判斷負(fù)責(zé)任的“替罪羊”。

作為機(jī)器學(xué)家，我們正在讓?xiě)?zhàn)爭(zhēng)變得越來(lái)越快，這是我們工作的后果。這也意味著，智能化、自動(dòng)化正在被推進(jìn)得越來(lái)越遠(yuǎn)，已經(jīng)到了頂尖的地步，我們讓軍方來(lái)給這些機(jī)器做決定，無(wú)論他是一個(gè)“發(fā)射不理（Fire-and-Forget）”系統(tǒng)，還是以色列的導(dǎo)彈系統(tǒng)，可以自己通過(guò)雷達(dá)的信號(hào)，找到地上的目標(biāo)然后打擊，不需要問(wèn)任何人……這些東西正在改變以及挑戰(zhàn)人類參戰(zhàn)的方式。

但“自動(dòng)化致死”的定義跟哲學(xué)家的不同，哲學(xué)家認(rèn)為自動(dòng)化是有自由意志的道德載體。但機(jī)器人真的應(yīng)該承擔(dān)行為的責(zé)任嗎？機(jī)器人真知道自己在做什么？作為機(jī)器學(xué)家，我們對(duì)此的定義不一樣，我們要用機(jī)器去指明打擊目標(biāo)，換句話說(shuō)，就是扣下扳機(jī)。

當(dāng) 1970 年代，基因工程學(xué)第一次能做克隆 DNA 的時(shí)候，生物道德委員會(huì)呼吁讓他們停止研究，他們明白了這點(diǎn)：天吶，我們的新技術(shù)讓我們可以復(fù)制人！我們應(yīng)該后退一步，讓哲學(xué)家、公眾、生物工程師、政治家一起聊聊這個(gè)話題。

而我們面對(duì)“自動(dòng)化致死”卻沒(méi)有這種不安，但我們真的應(yīng)該談?wù)?，去提供這樣的討論的土壤也是社會(huì)的作用，而不是等著別人給我們做這件事。但我們現(xiàn)在就是等著，我們把自己的科技和未來(lái)委以政府和當(dāng)局了。

這是不對(duì)的，我們科學(xué)家應(yīng)該更有自主意識(shí)，我們要跟人們分享我們的觀點(diǎn)。這 20 年，我迷失在發(fā)現(xiàn)新知識(shí)的喜悅中，抬頭才看明白我自己在做的科技到底是什么。走出實(shí)驗(yàn)室，去真實(shí)的世界吧，重新思考一下要不要這么做，我希望不要等你們 20 年后才去想。

在我探索的項(xiàng)目當(dāng)中，我認(rèn)為應(yīng)該問(wèn)這些問(wèn)題：

我們應(yīng)該讓士兵變成機(jī)器人嗎？

我們應(yīng)該讓機(jī)器人變成士兵嗎？它們能變得更像人嗎？他們能在道德層面超越人類嗎？

機(jī)器人跟人應(yīng)該是什么關(guān)系？關(guān)鍵在于“設(shè)計(jì)師”

這是托斯丹·凡勃倫 100 年前寫(xiě)的一篇文章，當(dāng)時(shí)還沒(méi)有能讓人失業(yè)的計(jì)算機(jī)和人工智能。但他說(shuō)，政治力量會(huì)轉(zhuǎn)向工程師等專家崗位，工程師將會(huì)成為新經(jīng)濟(jì)的控制者。在機(jī)器越來(lái)越聰明的時(shí)代，工程師的作用就愈發(fā)明顯：

起初，在機(jī)械工業(yè)的早期發(fā)展中，尤其是在工業(yè)革命直接催生的機(jī)械工業(yè)新增長(zhǎng)當(dāng)中，工業(yè)專家和企業(yè)經(jīng)理之間的分歧并不明顯。

這一階段在新的工業(yè)體系走上逐步專業(yè)化和復(fù)雜化的道路之前，也是在商業(yè)規(guī)模遠(yuǎn)未擴(kuò)張之前；這樣，即使是當(dāng)時(shí)并未受過(guò)技術(shù)訓(xùn)練的商人，仍然可以對(duì)全局有著智能的監(jiān)督，以及理解他們所投資和從中獲益的機(jī)械生產(chǎn)流程的需求。尋常的情況是，工業(yè)流程和設(shè)備的設(shè)計(jì)者仍然掌控著財(cái)務(wù)，同時(shí)也管理店面。

但是，早期的發(fā)展階段中，分化就開(kāi)始出現(xiàn)，比如將設(shè)計(jì)和管理工業(yè)流程的人，與設(shè)計(jì)和管理商業(yè)交易和掌控財(cái)務(wù)的人分開(kāi)。這亦導(dǎo)致了商業(yè)管理和技術(shù)專家之間權(quán)力的分割。

這成為了技術(shù)專家的工作：在技術(shù)上決定產(chǎn)業(yè)中什么是可行的，并找到可行的方式和方法；但商業(yè)管理層總是可以決定，出于商業(yè)原因應(yīng)該做多少工作，以及生產(chǎn)出什么樣的和什么質(zhì)量的商品和服務(wù)；而商業(yè)管理層往往是最終拍板的人，持續(xù)地設(shè)置生產(chǎn)上限。

隨著專業(yè)化的不斷發(fā)展，專家們?cè)诠I(yè)事務(wù)中的話語(yǔ)權(quán)理應(yīng)越來(lái)越大；但一如既往的是，他們關(guān)于生產(chǎn)中要做什么和怎么做的結(jié)論，仍有待于企業(yè)經(jīng)理依據(jù)什么有利于商業(yè)獲益再做定奪。這種商業(yè)管理和工業(yè)管理間的分裂持續(xù)加速地向前行進(jìn)，因?yàn)槿魏慰煽康母咝ЫM織和工業(yè)流程所需要的專業(yè)培訓(xùn)和經(jīng)驗(yàn)，都在不斷變得更為苛刻，這要求具備專業(yè)知識(shí)和能力的人各司其職，且對(duì)于手頭的工作有著未分割的所有權(quán)收益和全心全意的關(guān)注。

但是，這些擁有技術(shù)知識(shí)、能力、興趣和經(jīng)驗(yàn)的專家，越來(lái)越多地以這種方式參與其中——發(fā)明家、設(shè)計(jì)師、化學(xué)家、礦物學(xué)家、土壤專家、作物專家、生產(chǎn)經(jīng)理和各式各樣的工程師——繼續(xù)成為產(chǎn)業(yè)首腦的雇員，也就是為金融首腦工作，而金融首腦們的工作則一直是將工業(yè)專家的知識(shí)和能力商業(yè)化，并將其轉(zhuǎn)化為自己的利益。

機(jī)器人都會(huì)最終引發(fā)人的身份認(rèn)同危機(jī)，我們?nèi)祟惖降资鞘裁?/p>

要思考制造怎樣的機(jī)器人，怎么給機(jī)器人制定行為準(zhǔn)則，這最后也會(huì)逼迫人類工程師重新思考這個(gè)問(wèn)題：我們?nèi)祟愂鞘裁矗?/p>

日本機(jī)器人學(xué)家、大阪大學(xué)教授石黑浩，研究了多年“仿生機(jī)器人”之后，石黑浩做出了一系列跟人長(zhǎng)得很像的機(jī)器人，例如以下這個(gè)女孩子，名字叫做 Erica。

“當(dāng)我 10 歲、11 歲的時(shí)候，我的一個(gè)基本問(wèn)題是：什么是人？什么是思考、什么是感覺(jué)。我沒(méi)有得到正確的答案，但我一直通過(guò)開(kāi)發(fā)機(jī)器人來(lái)尋找答案。”

“如果用機(jī)器替換身體，我們將會(huì)永遠(yuǎn)活著。作為人類，我們的最終目標(biāo)是成為一個(gè)機(jī)器人，從而突破時(shí)間的限制。”

石黑浩（右邊）和自己仿生機(jī)器人（左邊）

石黑浩的觀點(diǎn)跟俄羅斯億萬(wàn)富翁迪米特·伊茲科夫（Dimitry Itskov）類似，他在之前接受采訪時(shí)表示：“人的身體是硬件，人腦是軟件?！?/p>

“人的身體不能長(zhǎng)久保存，但只要把意識(shí)提取，移到機(jī)器人身上就可以讓人一直活下去。而且這么做，對(duì)環(huán)境可能更好——因?yàn)闄C(jī)器人不需要消耗食物?！?/p>

但這還是不是人類呢？

未來(lái)不需要我們？

創(chuàng)辦了太陽(yáng)計(jì)算機(jī)系統(tǒng)（Sun Microsystems）的計(jì)算機(jī)科學(xué)家比爾·喬伊在 17 年前就開(kāi)始擔(dān)心技術(shù)失控的問(wèn)題。在他的眼里，機(jī)器人和基因工程、納米技術(shù)，都是潘多拉魔盒，一旦這些技術(shù)快速發(fā)展，人類可能會(huì)成為瀕危物種。以下是比爾·喬伊在 2000 年發(fā)布的文章《為什么未來(lái)不需要我們》的節(jié)選：

我們 21 世紀(jì)最厲害的科技——機(jī)器人、基因工程和納米科技，正在威脅著人類，讓人類變成瀕危物種。

我還記得《星際迷航》里的一個(gè)角色“博格人”（Borg），他是個(gè)半人半機(jī)器人，有很強(qiáng)的暴力傾向。博格人這種類型的災(zāi)星，是科幻小說(shuō)中常常出現(xiàn)的角色，但為什么我就沒(méi)有更早擔(dān)心機(jī)器人帶來(lái)的負(fù)面影響？為什么其他人也像我這樣，不怎么擔(dān)心這種噩夢(mèng)般的場(chǎng)景成真呢？

一部分原因在于我們對(duì)于新事物的態(tài)度——我們更傾向于，很快熟悉一件事情，并且毫無(wú)誡心地接納它們。我們都習(xí)慣了每天都能聽(tīng)到的科技新進(jìn)展，卻還沒(méi)有人明白到 21 世紀(jì)吸引人的技術(shù)：機(jī)器人、基因工程和納米技術(shù)，跟其他技術(shù)不一樣，正在成為威脅。具體來(lái)說(shuō)，機(jī)器人、經(jīng)過(guò)改造的有機(jī)體、納米技術(shù)都具有同一個(gè)問(wèn)題：它們能自我復(fù)制。一個(gè)炸彈只能炸一次，但一個(gè)機(jī)器人能自我復(fù)制成很多個(gè)，很快就會(huì)失去控制。

在過(guò)去 25 年中，我主要工作是計(jì)算機(jī)網(wǎng)絡(luò)研究，在網(wǎng)絡(luò)上，信息的收發(fā)，給失控的復(fù)制創(chuàng)造了機(jī)會(huì)。在計(jì)算機(jī)網(wǎng)絡(luò)上的復(fù)制讓人心煩，但最糟糕的情況也就是讓網(wǎng)絡(luò)和計(jì)算機(jī)癱瘓。而這些新科技帶來(lái)的不受控制的復(fù)制品，會(huì)造成更大危險(xiǎn)：損害到物理世界。

這些新技術(shù)還帶來(lái)了一些承諾：永生的前景，讓庫(kù)茲韋爾帶著機(jī)器夢(mèng)想前景；基因工程能很快為大部分疾病提供治療方案，或者治愈方案；納米技術(shù)和納米醫(yī)療，能治愈更多病人。所有這一切將會(huì)極大提高我們的平均壽命及生活質(zhì)量。然而，對(duì)于其中任何一項(xiàng)技術(shù)，持續(xù)不斷的微小、個(gè)別的行為，將會(huì)積聚成巨大的力量，還有巨大的危險(xiǎn)。

什么東西讓 20 世紀(jì)不一樣？新技術(shù)讓產(chǎn)生大規(guī)模殺傷性武器（WMD），例如核武器、生物武器、化學(xué)武器，成為巨大的威脅。但建造核武器至少需要一段時(shí)間，還需要接觸到稀有的、高度保密的資料；研發(fā)生物武器和化學(xué)武器，也需要開(kāi)展大規(guī)模的活動(dòng)。

而 21 世紀(jì)的技術(shù)——基因工程、納米技術(shù)和機(jī)器人，能激發(fā)新的意外和武器濫用情況，所以威力強(qiáng)大。最危險(xiǎn)的是，個(gè)人或小型組織就能接觸和濫用這些技術(shù)，這是歷史上首次。它們不需要巨大的開(kāi)發(fā)能力或稀少的原材料，只要有相關(guān)技術(shù)知識(shí)就能利用它們。

我想這么說(shuō)不是夸張：我們正處在創(chuàng)造“極端邪惡”的邊緣，這一邪惡力量的傳播，將會(huì)超越國(guó)家制造的大規(guī)模殺傷性武器，成了極端個(gè)人的可怕力量。

我進(jìn)入計(jì)算機(jī)行業(yè)的時(shí)候，沒(méi)有任何人告訴我，我可能需要面對(duì)這樣的問(wèn)題。