據(jù)英國(guó)《每日電訊》報(bào)12月1日?qǐng)?bào)道，美國(guó)五角大樓計(jì)劃研制“有道德的”新型機(jī)器人戰(zhàn)士，它并不像電影《終結(jié)者》中的T-800機(jī)器殺手那樣不分青紅皂白地亂殺一氣。事實(shí)上，美國(guó)陸軍和海軍現(xiàn)在都聘請(qǐng)了道德方面的專(zhuān)家來(lái)研制機(jī)器人，以防制造出可能濫殺無(wú)辜的“機(jī)械殺人狂”。

　　機(jī)器戰(zhàn)士在道德上不犯錯(cuò)

　　《每日電訊》的報(bào)道指出，到2010年，美國(guó)將投資40億美元進(jìn)行“自控系統(tǒng)”的研究，“自控系統(tǒng)”是美軍對(duì)新型機(jī)器人的內(nèi)部稱(chēng)呼，采用這一設(shè)計(jì)的產(chǎn)品不會(huì)受到恐懼感或復(fù)仇欲望的影響，因而也不會(huì)犯道德層面上的錯(cuò)誤。

　　目前，美國(guó)海軍已經(jīng)聘請(qǐng)了一名英國(guó)專(zhuān)家做顧問(wèn)，研制不會(huì)違反《日內(nèi)瓦公約》的下一代機(jī)器人。印第安那大學(xué)的學(xué)者柯林·艾倫剛剛出版了一本書(shū)《道德機(jī)器：教機(jī)器人分辨是非》，概述了自己對(duì)這類(lèi)問(wèn)題的觀點(diǎn)。“現(xiàn)在需要得到回答的問(wèn)題是，我們能否制造出順從戰(zhàn)爭(zhēng)法的自動(dòng)武器，能否利用道德理論幫助設(shè)計(jì)這些機(jī)器人。”

　　有關(guān)伊拉克戰(zhàn)爭(zhēng)壓力的研究顯示，占很大比例的前線戰(zhàn)士支持對(duì)敵人進(jìn)行折磨和懲罰——參與作戰(zhàn)的美軍戰(zhàn)士也是人，有時(shí)難免會(huì)判斷失誤或者受情緒影響而不守道德。針對(duì)這種現(xiàn)象，佐治亞理工大學(xué)的計(jì)算機(jī)專(zhuān)家唐納德·阿金寫(xiě)過(guò)一份報(bào)告，他在報(bào)告中指出，盡管機(jī)器人不會(huì)“在戰(zhàn)場(chǎng)上表現(xiàn)出完美的道德”，但卻能“比人類(lèi)士兵表現(xiàn)得更好”。

　　在阿金看來(lái)，機(jī)器人“不需要保護(hù)自己”，而且“能夠被設(shè)計(jì)成沒(méi)有情緒，從而不會(huì)妨礙它們的判斷或者因戰(zhàn)場(chǎng)發(fā)生的事情而感到憤怒或沮喪”。

　　仍可能變回恐怖殺人狂？

　　事實(shí)上，種類(lèi)繁多的戰(zhàn)斗機(jī)器人早已被用于伊拉克和阿富汗戰(zhàn)爭(zhēng)，它們向敵人的目標(biāo)發(fā)動(dòng)空襲，還被用來(lái)拆除路邊炸彈和其他臨時(shí)爆炸裝置。上個(gè)月，美國(guó)陸軍剛剛接收了一款由英國(guó)奎奈蒂克防務(wù)公司制造的新型機(jī)器人，它能夠使用多種武器，包括胡椒粉催淚彈、高爆榴彈以及7.62毫米口徑的子彈。

　　不過(guò)，這一代機(jī)器人仍然是由人類(lèi)遙控的。相比之下，研究人員正在開(kāi)發(fā)的下一代“機(jī)器戰(zhàn)士”可以自動(dòng)識(shí)別目標(biāo)和武器，并區(qū)分?jǐn)撤讲筷?duì)種類(lèi)(比如坦克或武裝人員)以及軟目標(biāo)(比如救護(hù)車(chē)或平民)。它們的軟件中包含符合《日內(nèi)瓦公約》的作戰(zhàn)指令，技術(shù)人員將軟件置入機(jī)器人體內(nèi)，告訴它們何時(shí)開(kāi)火。

　　艾倫博士對(duì)軍方的做法表示贊賞：“現(xiàn)在應(yīng)該開(kāi)始思考這種問(wèn)題了，那就是將道德理論置入軟件，保證機(jī)器人做出正確的行動(dòng)，而不是等為時(shí)太晚時(shí)才做這些。”艾倫認(rèn)為，美國(guó)軍隊(duì)想要能完全自控的機(jī)器人，因?yàn)樗麄兡壳斑�在用經(jīng)過(guò)嚴(yán)格訓(xùn)練的人員來(lái)操縱它們。那些真正昂貴的機(jī)器人之所以處于人類(lèi)的直接控制下，主要是因?yàn)閷?shí)在損失不起。他說(shuō)：“一架‘捕食者’無(wú)人機(jī)需要6個(gè)人24小時(shí)控制著，我知道美國(guó)空軍已經(jīng)研制出軟件，可以訓(xùn)練這種無(wú)人機(jī)的操作員。但如果計(jì)算機(jī)能夠訓(xùn)練操作員的話，那么最終也將可以用于控制無(wú)人機(jī)的飛行。”

　　然而仍有一些人擔(dān)心，研制出完全不會(huì)出錯(cuò)誤的機(jī)器人是不可能的。一旦發(fā)生故障，它們?nèi)匀豢赡茏兓乜植罋⑷丝瘛Ｖx菲爾德大學(xué)的計(jì)算機(jī)科學(xué)家諾埃爾·夏基因參與電視劇《機(jī)器人戰(zhàn)爭(zhēng)》而著名，作為美軍計(jì)劃最強(qiáng)烈的批評(píng)者，他表示：“該計(jì)劃讓我脊梁骨發(fā)寒，我研究人工智能已經(jīng)幾十年了，讓機(jī)器人代替人類(lèi)作出決定，這個(gè)想法真的太可怕了！”(張貴余)