機(jī)器人競(jìng)選市長(zhǎng)了！

沒(méi)錯(cuò)，這種存在于小說(shuō)中的劇情如今照進(jìn)了現(xiàn)實(shí)生活中。近日，日本一個(gè)機(jī)器人提名為多摩市市長(zhǎng)候選人，承諾將對(duì)所有市民一視同仁，不偏不倚，競(jìng)選口號(hào)為“為每個(gè)人提供公平、均等的機(jī)會(huì)”。

機(jī)器人競(jìng)選日本多摩市市長(zhǎng)

初人們以為這僅是競(jìng)選者的cosplay，而后來(lái)發(fā)現(xiàn)，這是一個(gè)如假包換的機(jī)器人，其后AI候選人開通了自己的官方推特宣傳賬號(hào)，還給出了自己競(jìng)選的政見(jiàn)：讓政治變得更加公平。

其后，機(jī)器人還列舉出了自己的幾大競(jìng)選優(yōu)勢(shì)：

機(jī)器人沒(méi)有情緒也沒(méi)有欲望，在處理政務(wù)時(shí)，既不會(huì)夾帶私人感情也能防止腐敗；

機(jī)器人不用休息，可以長(zhǎng)時(shí)間高強(qiáng)度工作；

相對(duì)人類隨著年齡增長(zhǎng)的記憶力退化，機(jī)器人可以始終保持大量信息存儲(chǔ)

。..。..

圖源：AImayor

無(wú)獨(dú)有偶，此前的一位來(lái)自新西蘭的機(jī)器人公務(wù)員“薩姆”也賺足了眼球，“薩姆”能夠回答市民提出的有關(guān)住房、教育和移民的問(wèn)題，而且其自己曾“表示”，在做決定時(shí)將會(huì)考慮每個(gè)人的立場(chǎng)。

事實(shí)真的如此嗎？機(jī)器人當(dāng)市長(zhǎng)這件事兒靠譜嗎？智能相對(duì)論分析師柯鳴認(rèn)為，想要機(jī)器人真正勝任市長(zhǎng)一職，甚至讓機(jī)器人大范圍的替代傳統(tǒng)公務(wù)員，不得不思考這幾個(gè)問(wèn)題。

機(jī)器人能否成為道德主體？

既然要辦事，那么就要為自己可能出現(xiàn)的錯(cuò)誤承擔(dān)責(zé)任。但機(jī)器人是否能夠獨(dú)立承擔(dān)自身責(zé)任成為道德主體呢？我們先來(lái)看看著名的約翰·希爾勒（John Searle）“中文房間”實(shí)驗(yàn)：

想象一位只說(shuō)英語(yǔ)的人身處一個(gè)房間之中，在封閉的房間中其只攜帶一本寫有中文翻譯程序的書。寫著中文的紙片通過(guò)小窗口被送入房間中。根據(jù)Searle，房間中的人可以使用他的書來(lái)翻譯這些文字并用中文回復(fù)。雖然他完全不會(huì)中文，Searle認(rèn)為通過(guò)這個(gè)過(guò)程，房間里的人可以讓任何房間外的人以為他會(huì)說(shuō)流利的中文。

“中文房間”實(shí)驗(yàn)

當(dāng)然，“中文房間”實(shí)驗(yàn)也引起了起了人們對(duì)于人工智能的一些爭(zhēng)論。

但在這場(chǎng)爭(zhēng)論中，人們并沒(méi)有排除人工智能體自主道德設(shè)計(jì)的可能性，而實(shí)際上人工智能體的設(shè)計(jì)與智能體作為道德主體的建立還是有區(qū)別的。關(guān)于意識(shí)、理解力等概念的認(rèn)識(shí)與如何才能使機(jī)器人的行為符合道德規(guī)范的實(shí)際議題基本上是不相干的。

那么，我們?cè)賮?lái)看看人類道德在機(jī)器人領(lǐng)域是否有一定的適用性。

道德規(guī)范在我們的日常生活中普遍存在，也存在于有組織的社會(huì)活動(dòng)中，在馬克思看來(lái)，道德是對(duì)特定經(jīng)濟(jì)基礎(chǔ)反應(yīng)的上層建筑。

但由于人工智能科學(xué)日新月異，以及自主機(jī)器人廣泛的存在與應(yīng)用，自主機(jī)器人早已參與了我們繽紛多彩世界中的生活，世界不論怎樣都已不得不討論自主機(jī)器人的道德地位了。

溫德爾·瓦拉赫與科林·艾倫教授合著的《道德機(jī)器：如何讓機(jī)器人明辨是非》一書中對(duì)于機(jī)器人是否應(yīng)當(dāng)或者能夠擔(dān)負(fù)起道德責(zé)任、人工道德智能體（AMAs）提出了解決方案：

一種是自上而下式的理論進(jìn)路，是指通過(guò)將機(jī)器人所要掌握的知識(shí)與能力轉(zhuǎn)化為一系列算法規(guī)則，把這些規(guī)則植入機(jī)器人的“大腦”，從而獲得“認(rèn)知”；

另一種是自下而上式的發(fā)展進(jìn)路則是通過(guò)模擬孩童的成長(zhǎng)過(guò)程，讓機(jī)器人在不同環(huán)境的相互作用中習(xí)得復(fù)雜行為與認(rèn)知的能力與知識(shí)。

從目前服務(wù)類（如公務(wù)員）機(jī)器人的表現(xiàn)來(lái)看，其、高度自動(dòng)化等依然是其固有痼疾的基礎(chǔ)上，談?wù)摍C(jī)器人自身的道德主體性也許行之過(guò)早了。

機(jī)器人公務(wù)員真的能夠毫無(wú)偏見(jiàn)嗎？

從日本AI機(jī)器人競(jìng)選市長(zhǎng)到新西蘭機(jī)器人“薩姆”，無(wú)一不是宣揚(yáng)其具有公正性、無(wú)任何私情。

然而，在還未到達(dá)“超人工智能”的當(dāng)下，機(jī)器人難以形成自身思想之前，算法的偏見(jiàn)，似乎一直都是難以克服并為人詬病之處。

所謂的“算法偏見(jiàn)”是指在看似沒(méi)有惡意的程序設(shè)計(jì)中，卻不自覺(jué)的帶有設(shè)計(jì)人員或開發(fā)者的偏見(jiàn)，或者中擬定程序的過(guò)程中，采用的數(shù)據(jù)是具有一定偏見(jiàn)性的。

這種情況帶來(lái)的后果是巨大的，例如，Google搜尋被曲解、合格的考生無(wú)法進(jìn)入醫(yī)學(xué)院就學(xué)、聊天機(jī)器人在推特（Twitr）上散布種族主義和性別歧視信息等。

算法偏見(jiàn)造成最棘手的問(wèn)題之一是，從事程序設(shè)計(jì)的工程師，即便本身沒(méi)有種族、性別、年齡歧視等傾向，也有可能造成偏見(jiàn)。AI本質(zhì)上就是為了自行學(xué)習(xí)而設(shè)計(jì)，有時(shí)它的確會(huì)出錯(cuò)。

在AI招聘領(lǐng)域，一個(gè)最為典型的案例就是頂級(jí)管弦樂(lè)隊(duì)選角，古典音樂(lè)過(guò)去一直以為主，但在20世紀(jì)70年代引入了盲目的試鏡，這使頂級(jí)樂(lè)團(tuán)的女音樂(lè)家增加了五倍以上。

但是，這并沒(méi)有解決根本性的問(wèn)題，第一批通過(guò)盲目試鏡入選的女性依然無(wú)法融入日常演奏，樂(lè)隊(duì)不得不尋找其他男性演奏家。

而我們的AI招聘：就像管弦樂(lè)隊(duì)的幕布一樣，是一種范式轉(zhuǎn)變，有可能消除長(zhǎng)期存在的偏見(jiàn)，但它本身并不能解決幾個(gè)世紀(jì)的偏見(jiàn)。

回到機(jī)器人公務(wù)員領(lǐng)域，其工作內(nèi)容中也不乏“價(jià)值判斷”的部分，如材料完整度如何可以報(bào)賬？組織部評(píng)價(jià)評(píng)優(yōu)又是以何為尺度？而作為市長(zhǎng)的日常事務(wù)的裁斷更是需要一定的標(biāo)準(zhǔn)。而目前的機(jī)器人深度學(xué)習(xí)能夠?qū)崿F(xiàn)的就是“算法裁決”，這又再次落入了算法偏見(jiàn)的窠臼之中。

服務(wù)類公務(wù)員機(jī)器人，你敢安心讓它上崗嗎？

事實(shí)上，大眾并不敢讓機(jī)器人完全代替公務(wù)員工作，包括市長(zhǎng)。

AI市長(zhǎng)在日本的競(jìng)選中敗了，而且很徹底。截止至最后日本多摩市的公投結(jié)果顯示，“AI市長(zhǎng)”僅獲4013票，較現(xiàn)任多摩市長(zhǎng)阿部裕行獲得的34603票相距甚遠(yuǎn)。

《人工智能》里大衛(wèi)和媽媽的一段對(duì)話讓人印象深刻。當(dāng)大衛(wèi)詢問(wèn)媽媽晚飯吃什么時(shí)，媽媽告訴它，機(jī)器人是不能吃飯的。大衛(wèi)卻說(shuō)：“我知道，但是我喜歡和家人一起坐在餐桌上。”

正如劇中男主角所說(shuō)，大衛(wèi)既然懂得愛(ài)，那他也應(yīng)該懂得恨。當(dāng)人工智能愈發(fā)先進(jìn)、愈發(fā)智能時(shí)，人類會(huì)不會(huì)被科學(xué)這把利刃劃破雙手？

正如當(dāng)下機(jī)器人動(dòng)手術(shù)、機(jī)器人管理金融等領(lǐng)域，許多人對(duì)此依然無(wú)法完全信任。機(jī)器人終究是少了一點(diǎn)“人氣”，在公務(wù)員領(lǐng)域，沒(méi)有了面對(duì)面的噓寒問(wèn)暖，只是例行公事地辦證取證，工作似乎也少了許多樂(lè)趣。

此外，機(jī)器人公務(wù)員的應(yīng)用范圍也是相當(dāng)狹窄的。從目前來(lái)看，隨著世界數(shù)據(jù)化程度不斷加深，與個(gè)人相關(guān)的數(shù)字類信息可由機(jī)器人逐步替代，如社保處理、出國(guó)簽證、納稅等；另一類型的公務(wù)員機(jī)器人則與富士康工場(chǎng)里機(jī)器人替代傳統(tǒng)的工人類似，通過(guò)生物識(shí)別確認(rèn)人員身份等類型的工作均可由機(jī)器人充當(dāng)。

但是，AI也未達(dá)到完美的程度。比如許多開發(fā)者經(jīng)常會(huì)把他們的偏見(jiàn)寫入人工智能項(xiàng)目，最近一項(xiàng)研究也發(fā)現(xiàn)，AI的語(yǔ)言翻譯已經(jīng)具有種族主義和性別歧視的偏見(jiàn)。

阿西莫夫在《我，機(jī)器人》一書中曾提出機(jī)器人三定律：

第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管；

第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外；

第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。

顯然，目前機(jī)器人仍然遵循著這基本的要求，但隨著機(jī)器人技術(shù)的日益發(fā)展，會(huì)有更多類型的機(jī)器人出現(xiàn)，當(dāng)真正機(jī)器人與人類倫理發(fā)生沖突時(shí)，如何協(xié)調(diào)人工智能與人類的關(guān)系也將成為當(dāng)今時(shí)代下必須重視的課題。

當(dāng)然，也希望霍金的預(yù)言永遠(yuǎn)也不會(huì)成為現(xiàn)實(shí)。