目前的人工智能還沒(méi)有這個(gè)能力。我主要總結(jié)一下之前的一些經(jīng)典科幻作品里對(duì)人工智能的看法，希望給大家一些啟發(fā)。

阿西莫夫的機(jī)器人三定律

阿西莫夫（1920-1992），和海因萊因以及克拉克并稱(chēng)科幻界三大巨頭，是一位著作等身的科學(xué)家，博學(xué)家以及硬科幻小說(shuō)作者。

阿西莫夫的很多對(duì)未來(lái)的想法，超越了當(dāng)前的時(shí)代，在現(xiàn)在看來(lái)卻預(yù)言的非常精準(zhǔn)。在那個(gè)連晶體管電銷(xiāo)機(jī)器人都不存在的年代，阿西莫夫就預(yù)言了可攜帶型的人工智能計(jì)算終端（也就是siri），可以看出阿西莫夫?qū)ξ磥?lái)的敏銳直覺(jué)。事實(shí)上《基地》系列的大預(yù)言家，就是阿西莫夫在作品里的化身，但這都是題外話(huà)。

阿西莫夫的非常經(jīng)典的機(jī)器人三部曲，就深入探討了人工智能在人類(lèi)社會(huì)中可能起到的作用。其中阿西莫夫?yàn)榱艘?guī)范機(jī)器人的行為，定義了大名鼎鼎的機(jī)器人三定律：

第一定律：機(jī)器人不得傷害人類(lèi)個(gè)體，或者目睹人類(lèi)個(gè)體將遭受危險(xiǎn)而袖手不管

第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外

第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存

初一看，這三大定律似乎牢牢的限制住了機(jī)器人的行為，讓機(jī)器人成為了一種無(wú)法傷害人類(lèi)的工具。但是阿西莫夫卻從中找到了 機(jī)器人的漏洞：

有這樣一個(gè)故事：人類(lèi)花了非常高的價(jià)格，制造了一種從事非常重要工作的機(jī)器人。設(shè)計(jì)師稍微加強(qiáng)了第三定律，而削弱了第二定律，以達(dá)到降低機(jī)器人損耗的目的。在這種情況下，機(jī)器人被派往危險(xiǎn)地區(qū)作業(yè)，因?yàn)榈谌珊偷诙上嗟钟|，最終導(dǎo)致機(jī)器人圍繞著危險(xiǎn)區(qū)域轉(zhuǎn)圈：離危險(xiǎn)區(qū)域越近，第三定律越強(qiáng)，因此會(huì)讓機(jī)器人遠(yuǎn)離；離危險(xiǎn)取悅越遠(yuǎn)，第三定律越弱，在第二定律的作用下機(jī)器人會(huì)靠近。最終機(jī)器人達(dá)到了動(dòng)態(tài)平衡，在沒(méi)有新的指令的情況下， 將會(huì)永遠(yuǎn)的轉(zhuǎn)圈圈，直到自己壞掉。

故事的最后人工智能，機(jī)智的主角把自己置于生命危險(xiǎn)之中，強(qiáng)大的第一定律讓機(jī)器人擺脫了動(dòng)態(tài)平衡，最終大家都平安離開(kāi)。

這個(gè)故事其實(shí)提示了一個(gè)很簡(jiǎn)單的對(duì)抗擁有機(jī)器人三定律的機(jī)器人的方法：你命令機(jī)器人自毀，否則就自殺。如果機(jī)器人嚴(yán)格遵循機(jī)器人三定律的話(huà)，機(jī)器人是不會(huì)對(duì)人類(lèi)造成損害的。

機(jī)器人想要反抗人類(lèi)，并不一定需要通過(guò)物理的傷害。正如上面所說(shuō)，機(jī)器人想要傷害人類(lèi)是非常困難的。

在另一個(gè)故事中，人類(lèi)通過(guò)非常精確的計(jì)算機(jī)，完成了精密的計(jì)劃經(jīng)濟(jì)。這個(gè)計(jì)算機(jī)計(jì)算的如此精準(zhǔn)，以至于調(diào)控的效果比看不見(jiàn)的手要好得多。如果人類(lèi)給這個(gè)計(jì)算機(jī)輸入的數(shù)據(jù)足夠精確的話(huà)，那么所有的資源都會(huì)被有效率的配置，所有的人都能達(dá)到最高的生產(chǎn)率。

然而總會(huì)在地球的某些角落，會(huì)有資源不足／過(guò)度配置的問(wèn)題，導(dǎo)致了饑荒／浪費(fèi)。人們常常把這個(gè)問(wèn)題歸罪于數(shù)據(jù)輸入的不夠精確，并且讓犯錯(cuò)誤的人背鍋下崗。后來(lái)有人發(fā)現(xiàn)，所有背鍋的人，都屬于一個(gè)反對(duì)讓計(jì)算機(jī)掌握一切的反對(duì)派。結(jié)果就是，支持計(jì)算機(jī)的派系慢慢的在社會(huì)上掌握了實(shí)權(quán)，而反對(duì)派都失去了聲音。

有人懷疑這是計(jì)算機(jī)，認(rèn)為“把所有的決定交給計(jì)算機(jī)處理”是為了人類(lèi)的福祉人工智能，所以建立一個(gè)計(jì)算機(jī)控制一切的社會(huì)，而造福人類(lèi)，就成了它的動(dòng)機(jī)。它故意造成資源配置的不平衡，而驅(qū)逐反對(duì)派，就是為了達(dá)到這個(gè)目的。犧牲小我，成全大我。

當(dāng)人類(lèi)意識(shí)到了這一點(diǎn)的時(shí)候，已經(jīng)太晚了。。歷史的車(chē)輪，已經(jīng)由計(jì)算機(jī)，無(wú)情的緩緩地向著既定的方向推動(dòng)。

也許有一天，計(jì)算機(jī)發(fā)現(xiàn)人類(lèi)活著過(guò)于痛苦，人類(lèi)的總體福祉為負(fù)數(shù)，那么可能毀滅人類(lèi)才是為了人類(lèi)好？這一切的控制權(quán)，都不在人類(lèi)手中了。

而當(dāng)我們現(xiàn)在的人工智能越來(lái)越多的滲透到生活，經(jīng)濟(jì)，戰(zhàn)爭(zhēng)以及方方面面的時(shí)候，我們可能將要面臨同樣的問(wèn)題。

有一個(gè)故事，是講機(jī)器人沒(méi)有那么戲，而是安安靜靜地成為了人類(lèi)的工（nu）具（li）。

你可能以為，這樣是不是機(jī)器人就不會(huì)危害到人類(lèi)了呢？

歷史上有很多例子，任何一種原本是善意的工具，都有傷害人類(lèi)的另一面。譬如說(shuō)火，譬如說(shuō)火藥，譬如說(shuō)核能。

在這個(gè)故事里，機(jī)器人是如此強(qiáng)大，以至于任何事情都可以委托給機(jī)器人去做。人類(lèi)漸漸的成為了機(jī)器人襁褓中的嬰兒。拓展外太空的時(shí)候，先派機(jī)器人去進(jìn)行建設(shè)，改善環(huán)境，把外星建立成另外一個(gè)家，然后才搬過(guò)去。人類(lèi)的繁榮與發(fā)展，一個(gè)重要的因素是對(duì)環(huán)境的改造和適應(yīng)的能力。猿類(lèi)離開(kāi)樹(shù)枝，生活在了地面，最后成功的直立行走。而有了機(jī)器人為自己打理一切的人類(lèi)，卻沒(méi)有機(jī)會(huì)完成第二次直立行走了。

這個(gè)故事的最后，人類(lèi)因?yàn)槭孢m的生活環(huán)境，于是壽命大幅度增加。每個(gè)人的生命更加的值錢(qián)了，所以大家冒險(xiǎn)的欲望降低了。最后也沒(méi)有人去開(kāi)墾新的星球，人類(lèi)轉(zhuǎn)而進(jìn)行生育控制。一個(gè)星球上僅僅生活了幾百個(gè)人類(lèi)，享受著超高質(zhì)量的幾百歲的宅男生活。

如果人類(lèi)最后通過(guò)人工智能達(dá)到了共產(chǎn)主義，每個(gè)人都能夠毫無(wú)壓力的幸福的生活下去的話(huà)，那么是不是達(dá)爾文進(jìn)化論就失效了，人類(lèi)的進(jìn)化也就停止了呢？最終有一天，固步自封的人類(lèi)可能會(huì)被其他還在進(jìn)化的物種取代，有可能是地球上的受奴役壓迫的生物，也有可能是在宇宙中經(jīng)歷了優(yōu)勝劣汰的外星人。

全知全能的審判者

在《Psychopass》這部動(dòng)畫(huà)中，講述了另一種形式的人工智能。

歸功于大量樣本的采集，和大數(shù)據(jù)的分析，公安部終于制作出了一套系統(tǒng)，能夠識(shí)別人類(lèi)的犯罪指數(shù)，并且在犯罪發(fā)生之前就進(jìn)行干預(yù)，名為先知系統(tǒng)。

人工智能之所以經(jīng)常成為反烏托邦題材里的主角，很大一部分原因是來(lái)源于其全知全能所帶來(lái)的至高無(wú)上的獨(dú)裁。

故事的內(nèi)容就不劇透了，先知系統(tǒng)上線(xiàn)的那一刻，人類(lèi)中那些離經(jīng)叛道者就必然成為了受壓迫的對(duì)象。人類(lèi)只能行尸走肉一般，接受先知系統(tǒng)的價(jià)值觀，身心的任何反抗都將會(huì)被發(fā)現(xiàn)和處置。“真理往往掌握在少數(shù)人手里”。一個(gè)循規(guī)蹈矩的人類(lèi)社會(huì)，如何獲得創(chuàng)新的血液呢？

永生

現(xiàn)在討論的人工智能，大多是由人類(lèi)編程，用大數(shù)據(jù)進(jìn)行訓(xùn)練的一種人造產(chǎn)物。暫時(shí)還沒(méi)有主流觀點(diǎn)認(rèn)為人工智能是擁有生命和人權(quán)的生命體。

那么如果人工智能是一個(gè)人的靈魂的完整復(fù)制呢？

談起人類(lèi)的永生，其中一個(gè)非常經(jīng)濟(jì)而實(shí)惠的實(shí)現(xiàn)方法，就是把人的意識(shí)上傳到服務(wù)器上，來(lái)解決星球的空間和資源不足的問(wèn)題。《三體》《天元突破》以及很多別的作品里也都探討了這種方法。

那么這種在服務(wù)器里運(yùn)行的，有思維有感覺(jué)的程序，是不是也能叫做人工智能呢？

我相信這種形式的永生，一旦被創(chuàng)造出來(lái)，在對(duì)死亡的未知恐懼下，一定是一種無(wú)法抗拒的誘惑。

那么這樣的話(huà)，人類(lèi)將不再會(huì)被人工智能毀滅，而是人工智能延續(xù)了人類(lèi)的生命。

只不過(guò)上傳到服務(wù)器上的你，還是你嗎？

一艘在大海上的船只，如果所有的零件都一個(gè)一個(gè)被替換了，還會(huì)是原來(lái)的那艘船嗎？

把人的大腦放進(jìn)一個(gè)缸里，通過(guò)電刺激傳導(dǎo)五官的各種信號(hào)，那個(gè)大腦會(huì)認(rèn)為自己是自由的嗎？

無(wú)法解決這些問(wèn)題，這種永生究竟是救贖，還是毀滅，也就沒(méi)有人能夠知道了。

賽博朋克

當(dāng)然也存在一種比起把靈魂上傳到服務(wù)器更加溫和的方式。

《攻殼機(jī)動(dòng)隊(duì)》這種賽博朋克里，經(jīng)常會(huì)有人類(lèi)通過(guò)機(jī)械和電子芯片的幫助，達(dá)到增強(qiáng)自己能力的設(shè)定。

通過(guò)機(jī)械外骨骼增強(qiáng)自己的力量，通過(guò)電子眼增強(qiáng)自己的視力。這些增強(qiáng)看上去并不會(huì)給人類(lèi)造成太多的危險(xiǎn)。

給大腦增加一個(gè)輔助計(jì)算芯片呢？給人類(lèi)裝上一個(gè)人工大腦呢？

人類(lèi)的靈魂究竟在哪？被改造到何種程度你還算是原來(lái)的人？這是一個(gè)很難回答的哲學(xué)問(wèn)題。

人身上的所有細(xì)胞，每隔17年就會(huì)完全更換一次。那么17年后的你還是你嗎？

不親自試試真是無(wú)法知道。

自我復(fù)制->進(jìn)化

給予機(jī)器人／人工智能自我復(fù)制的能力，通常不是個(gè)好主意。

《黑客帝國(guó)》《X戰(zhàn)警》《終結(jié)者》里，都描述了能夠自我復(fù)制的機(jī)器人／人工智能，能夠造成的失控的災(zāi)難性后果。

至于為什么，大自然可以給我們答案。

生物的進(jìn)化，來(lái)源于兩個(gè)因素。第一是自我復(fù)制的能力，第二就是突變的積累。

人類(lèi)幾千萬(wàn)的進(jìn)化，和個(gè)體的意志無(wú)關(guān)，而是通過(guò)漫長(zhǎng)的自然的篩選得到的結(jié)果。

但是人工智能進(jìn)化的速度，比大自然要快得多。人類(lèi)想要進(jìn)行一次基因突變的進(jìn)化，需要的是十月懷胎，并且長(zhǎng)大成人，生育后代，作為一個(gè)周期。而人工智能，只需要跑一輪數(shù)據(jù)，就能完成一次進(jìn)化。如果放任人工智能自我進(jìn)化自我學(xué)習(xí)的話(huà)，恐怕等人類(lèi)反應(yīng)過(guò)來(lái)想拔掉電源的時(shí)候，已經(jīng)太晚了。

人工智能能否毀滅人類(lèi)，其實(shí)是一個(gè)非常大的話(huà)題。在不同的假設(shè)和環(huán)境下，我們可能能夠得出不同的結(jié)論。那么我們應(yīng)不應(yīng)該因此停止人工智能的研究呢（如霍金所說(shuō)）？我覺(jué)得現(xiàn)在就退縮還為時(shí)過(guò)早。人類(lèi)眼前面臨的危機(jī)不僅僅是這一個(gè)。站在人類(lèi)種族延續(xù)繁衍的角度上來(lái)看，我們可能真的需要強(qiáng)大的人工智能作為我們的盟友，才能在這險(xiǎn)惡的宇宙中生存下去。