機器人學三定律

　　1法則提出

　　阿西莫夫的《我，機器人》，在一九五〇年末由格諾姆出版社出版。雖說這本書是“舊稿子”，但是這些短篇是在十年間零零散散發(fā)表的，這次集中出版，使讀者第一次領(lǐng)略阿西莫夫機器人科幻小說的魅力。阿西莫夫為這本書新寫了《引言》，而《引言》的小標題就是《機器人學的三大法則》，把“機器人學三大法則”放在了最突出、最醒目的地位。

　　而三大法則之間的互相約束，為后世的創(chuàng)作有一定的指導意義。

　　機器人三定律（ThreeLawsofRobotics）是科幻小說家艾薩克·阿西莫夫在他的機器人相關(guān)作品和其他機器人相關(guān)小說中為機器人設(shè)定的行為準則，是阿西莫夫除“心理史學”外另一個著名的虛構(gòu)學說：

　　第一法則：機器人不得傷害人類，或袖手旁觀坐視人類受到傷害；

　　第二法則：除非違背第一法則，機器人必須服從人類的命令；

　　第三法則在不違背第一及第二法則下，機器人必須保護自己。

　　但在1985年，《機器人與帝國》這本書中，阿西莫夫?qū)⑷蠓▌t擴張為四大法則：

　　第零法則機器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害；

　　第一法則除非違背第零法則，機器人不得傷害人類，或袖手旁觀坐視人類受到傷害；

　　第二法則除非違背第零或第一法則，機器人必須服從人類的命令；

　　第三法則在不違背第零至第二法則下，機器人必須保護自己。

　　“機器人三定律”在他于1942年發(fā)表的作品Runaround（《轉(zhuǎn)圈圈》，《我，機械人》中的一個短篇）中第一次明確提出，并且成為他的很多小說，包含基地系列小說中機器人的行為準則和故事發(fā)展的線索。機器人被設(shè)計為遵守這些準則，違反準則會導致機器人受到不可恢復的心理損壞。但是在某些場合，這樣的損壞是不可避免的。在兩個人互相造成傷害時，機器人不能任人受到傷害而無所作為，但是這會造成對另一個人的傷害，在一些小說中這造成了機器人的自毀。

　　他在小說中提出了三定律的很多變體。這些對機器人行為準則的修改成為他的很多故事的主線。在LittleLostRobot（《消失無蹤》，《我，機械人》中的一個短篇）中為了避免機器人無謂地阻止人類進行低危險性工作，第一定律中的后半部分被去掉了，但是也產(chǎn)生了一些其他的問題。在RobotDreams（《機械人之夢》，同名小說中的一個短篇）中，一個機器人做了個關(guān)于取消第一定律和第二定律的夢，導致了他的毀滅。在機器人與帝國中，一些機器人的系統(tǒng)中“人類的定義”被修改（說話沒有該星球的口音就不是人類），而攻擊人類。在科幻電影BicentennialMan（《雙百人》，原為短篇小說，后改編為中篇小說《正子人》）中，一個機器人為了成為人，將自己的機械部分逐步替換成組織，并且在最后用自己的貢獻和犧牲換來了人類的認同和保護機器人的法律的產(chǎn)生。

　　三定律在科幻小說中大放光彩，在一些其他作者的科幻小說中的機器人也遵守這三條定律。同時，三定律也具有一定的現(xiàn)實意義，在三定律基礎(chǔ)上建立新興學科“機械倫理學”旨在研究人類和機械之間的關(guān)系。雖然截至2006年，三定律在現(xiàn)實機器人工業(yè)中沒有應用，但很多人工智能和機器人領(lǐng)域的技術(shù)專家也認同這個準則，隨著技術(shù)的發(fā)展，三定律可能成為未來機器人的安全準則。

　　下面是大部分人對此的評價三定律加上零定律，看來堪稱完美，但是，“人類的整體利益”這種混沌的概念，連人類自己都搞不明白，更不要說那些用0和1來想問題的機器人了。威爾·史密斯曾說：“《我，機器人》的中心概念是機器人沒有問題，科技本身也不是問題，人類邏輯的極限才是真正的問題。”

　　而且，在此之后，羅杰·克拉克添加了以下的定律：元定律：機器人可以什么也不做，除非它的行動符合機器人學定律。此定律置于第零、第一、第二、第三定律之前。第四定律：機器人必須履行內(nèi)置程序所賦予的責任，除非這與其他高階的定律沖突。繁殖定律：機器人不得參與機器人的設(shè)計和制造，除非新的機器人的行動服從機器人學定律。

　　2傳播發(fā)展

　　從1941年的短篇科幻小說《推理》開始，阿西莫夫就在“三大法則”的框架下創(chuàng)作了一系列短篇機器人科幻小說。他熟練運用“三大法則”，在機器人有可能違背法則的前提下逐漸展開故事。這些短篇故事極具邏輯性，情節(jié)緊湊，扣人心弦，后來大都被收錄在《我，機器人》(1950)和《其他機器人》(1964)這兩本科幻小說集中。在嘗試了一系列短篇小說之后，阿西莫夫又創(chuàng)作了機器人長篇科幻小說，分別是《鋼窟》（又譯《鋼穴》）(1953)和《裸日》(1957)，內(nèi)容都涉及人類偵探與機器人偵探聯(lián)手破案的傳奇故事，被譽為科幻與推理相結(jié)合的典范。

　　有了“三大法則”，阿西莫夫筆下的機器人就不再是“欺師滅祖”、“犯上作亂”的反面角色，而是人類忠實的奴仆和朋友。不過高度智能化的機器人還是會產(chǎn)生各種心理問題，需要人類協(xié)助解決，這正是機器人故事的基礎(chǔ)。阿西莫夫所向往的，是人類為代表的“碳文明”與機器人為代表的“硅文明”的共存共生。在阿西莫夫的另一篇優(yōu)秀作品《二百歲人》(1976)中，他的這一思想表露得淋漓盡致。

　　隨著《我，機器人》產(chǎn)生廣泛的影響，阿西莫夫的“機器人學三大法則”也引起廣泛的注意，以至今日不少論著在論及“機器人學三大法則”時，總是寫道：“一九五○年阿西莫夫在《我，機器人》一書中首次提出‘機器人學三大法則’。”實際上，阿西莫夫著名的“機器人學三大法則”，醞釀于一九四○年末，部分發(fā)表于一九四一年五月，完整提出于一九四一年十月。

　　《我，機器人》收入九個短篇機器人科幻小說。這些小說，彼此關(guān)聯(lián)，是用三個人物貫穿。這三個人物是機器人工程師唐納文、鮑威爾和機器人心理學家蘇珊·卡爾文。故事常常是在一位名叫勞倫斯·羅伯遜的人于一九八二年創(chuàng)立的“美國機器人與機械人公司”這樣的背景下展開。正是因為有共同的人物貫穿，使《我，機器人》中的九個短篇不是各自獨立、互不相干，而是成為系列小說。

　　在阿西莫夫創(chuàng)作一系列機器人短篇科幻小說并提出“機器人學三大法則”時，世界上還沒有機器人，當然也沒有機器人學和機器人公司。一九五九年，美國英格伯格和德沃爾制造出世界上第一臺工業(yè)機器人，宣告機器人從科學幻想變?yōu)楝F(xiàn)實。隨著機器人技術(shù)的不斷進步，隨著機器人的用途日益廣泛，阿西莫夫的“機器人學三大法則”越來越顯示智者的光輝，以至有人稱之為“機器人學的金科玉律”。

　　3零定律

　　后來又出現(xiàn)了補充的“機器人零定律”：

　　第零定律：機器人必須保護人類的整體利益不受傷害，其它三條定律都是在這一前提下才能成立。

　　出現(xiàn)

　　在《機器人與帝國》中，“機器人系列”前三部的主人公伊利亞·貝萊在臨終前對機器人R·丹尼爾說道：“個別人的死亡是無所謂的。一個人生路，留下的工作后人會繼承。從這個意義上來說，他沒有死。只要人類存在一天，人類的事業(yè)就不會結(jié)束。每一個人的工作，結(jié)合成人類整體的一部分，因此，就成了整體的一部分。整體存在，他的那一部分也就存在。全人類的生命——過去的、現(xiàn)代的和將來的——匯成了永不停息的生命的長河，并將變得越來越壯麗。一個人的生命，只是這生命長河中的一滴水。”丹尼爾就是據(jù)此將第一定律擴展為第零定律。

　　意義

　　為什么后來要定出這條“零定律”呢？打個比方，為了維持國家或者說世界的整體秩序，我們制定法律，必須要執(zhí)行一些人的死刑。這種情況下，機器人該不該阻止死刑的執(zhí)行呢？顯然是不允許的，因為這樣就破壞了我們維持的秩序，也就是傷害了人類的整體利益。“第零定律”的重要性在于地位凌駕其它三大定律，如若有個機器人為保護人類整體（維護第零定律），必須殺害一個人或一群人（抵觸第一定律），機器人的正子程式為了人類整體著想就會同意謀殺罪行。

　　定律的完善整合

　　所以新的阿西莫夫的機器人定律為：

　　第零定律：機器人必須保護人類的整體利益不受傷害。

　　第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管，除非這違反了機器人學第零定律。

　　第二定律：機器人必須服從人給予它的命令，當該命令與第零定律或者第一定律沖突時例外。

　　第三定律：機器人在不違反第零、第一、第二定律的情況下要盡可能保護自己的生存。

　　評價

　　三定律加上零定律，看來堪稱完美，但是，“人類的整體利益”這種混沌的概念，連人類自己都搞不明白，更不要說那些用0和1來想問題的機器人了。威爾·史密斯曾說：“《我，機器人》的中心概念是機器人沒有問題，科技本身也不是問題，人類邏輯的極限才是真正的問題。”

　　4補充修改

　　阿西莫夫之后，人們不斷提出對機器人三原則的補充、修正。

　　保加利亞科幻作家LyubenDilov1974年在小說《Icarus'sWay》中提出第四原則：

　　第四原則：機器人在任何情況下都必須確認自己是機器人。

　　1989年美國科幻作家HarryHarrison在《Foundation'sFriends》中又提出另一個第四原則：

　　第四原則：機器人必須進行繁殖，只要進行繁殖不違反第一原則、第二原則或者第三原則。

　　保加利亞科幻作家NikolaKesarovski在《TheFifthLawofRobotics》（1983年）中又提出一個與LyubenDilov第四原則看似相似實則不同的第五原則：

　　第五原則：機器人必須知道自己是機器人。

　　這些補充的確有其發(fā)生的理由，但普遍存在的一個問題是補充本身的必要性和必然性。要知道，阿西莫夫三原則指出了機器人學的三個基本規(guī)范（或者“規(guī)律”），更具體的規(guī)范必須建立在這些基本規(guī)范的基礎(chǔ)之上。怎樣劃分一個規(guī)范是具體規(guī)范還是基本規(guī)范？如果是基本規(guī)范，又怎樣確定它在基本規(guī)范體系中的位置（為什么它是“第四”原則，而另一個又是“第五”原則？）？客觀地說，前述幾個“第四”、“第五“原則的內(nèi)容并不能使自己成為第四原則、第五原則，既看不出它們何以成為原則，也看不出何以如此排序。這些原則的提出，多半是適應小說情節(jié)的需要，在小說中固然言之成理，但卻不必過份拘泥。很顯然，這幾個補充原則的出發(fā)點是小說情節(jié)的需要，并不是機器人三原則本身的內(nèi)容。而從三原則的內(nèi)容出發(fā)對三原則加以補充、修改，這樣的工作人們已經(jīng)做過，并產(chǎn)生過很多嚴肅的討論文章。這里只舉羅杰·克拉克為例，他構(gòu)思的機器人原則是：

　　元原則：機器人不得實施行為，除非該行為符合機器人原則。

　　第零原則：機器人不得傷害人類整體，或者因不作為致使人類整體受到傷害。

　　第一原則：除非違反高階原則，機器人不得傷害人類個體，或者因不作為致使人類個體受到傷害。

　　第二原則：機器人必須服從人類的命令，除非該命令與高階原則抵觸。

　　機器人必須服從上級機器人的命令，除非該命令與高階原則抵觸。

　　第三原則：如不與高階原則抵觸，機器人必須保護上級機器人和自己之存在。

　　第四原則：除非違反高階原則，機器人必須執(zhí)行內(nèi)置程序賦予的職能。

　　繁殖原則：機器人不得參與機器人的設(shè)計和制造，除非新機器人的行為符合機器人原則。

　　5繁殖原則

　　羅杰·克拉克把最后一個原則命名為“繁殖原則”，而沒有稱為“第五原則”，是有道理的；僅就其內(nèi)容看，的確很難確定這一個原則到底應該放到什么位置上。他把機器人按履行內(nèi)置職能放在執(zhí)行人類命令之后，認為服從人類命令優(yōu)先于執(zhí)行本職工作，總體上也無問題。但把機器人保護自身存在置于執(zhí)行本職工作之前，頗有值得商榷之處。此外，這些原則除調(diào)整人與機器人的關(guān)系之外，還涉及機器人之間的部分關(guān)系，這是超出原有原則范圍的內(nèi)容。

　　6涉及電影

　　美國演員威爾史密斯的《機器公敵》提到過機器人三大定律。

　　美劇《生活大爆炸》中提及。

　　《機器人管家》（或《變?nèi)恕罚┲杏刑峒啊?/p>

　　7發(fā)展史

　　20世紀

　　1920年捷克斯洛伐克作家卡雷爾·恰佩克在他的科幻小說《羅薩姆的機器人萬能公司》中，根據(jù)Robota(捷克文，原意為“勞役、苦工”)和Robotnik(波蘭文，原意為“工人”)，創(chuàng)造出“機器人”這個詞。

　　1939年美國紐約世博會上展出了西屋電氣公司制造的家用機器人Elektro。它由電纜控制，可以行走，會說77個字，甚至可以抽煙，不過離真正干家務活還差得遠。但它讓人們對家用機器人的憧憬變得更加具體。

　　1942年美國科幻巨匠阿西莫夫提出“機器人學三大法則”。雖然這只是科幻小說里的創(chuàng)造，但后來成為學術(shù)界默認的研發(fā)原則。

　　1948年諾伯特·維納出版《控制論》，闡述了機器中的通信和控制機能與人的神經(jīng)、感覺機能的共同規(guī)律，率先提出以計算機為核心的自動化工廠。

　　1954年美國人喬治·德沃爾制造出世界上第一臺可編程的機器人，并注冊了專利。這種機械手能按照不同的程序從事不同的工作，因此具有通用性和靈活性。

　　1956年在達特茅斯會議上，馬文·明斯基提出了他對智能機器的看法：智能機器“能夠創(chuàng)建周圍環(huán)境的抽象模型，如果遇到問題，能夠從抽象模型中尋找解決方法”。這個定義影響到以后30年智能機器人的研究方向。

　　1959年德沃爾與美國發(fā)明家約瑟夫·英格伯格聯(lián)手制造出第一臺工業(yè)機器人。隨后，成立了世界上第一家機器人制造工廠——Unimation公司。由于英格伯格對工業(yè)機器人的研發(fā)和宣傳，他也被稱為“工業(yè)機器人之父”。

　　1962年美國AMF公司生產(chǎn)出“VERSTRAN”(意思是萬能搬運)，與Unimation公司生產(chǎn)的Unimate一樣成為真正商業(yè)化的工業(yè)機器人，并出口到世界各國，掀起了全世界對機器人和機器人研究的熱潮。

　　1962年——1963年傳感器的應用提高了機器人的可操作性。人們試著在機器人上安裝各種各樣的傳感器，包括1961年恩斯特采用的觸覺傳感器，托莫維奇和博尼1962年在世界上最早的“靈巧手”上用到了壓力傳感器，而麥卡錫1963年則開始在機器人中加入視覺傳感系統(tǒng)，并在1965年，幫助MIT推出了世界上第一個帶有視覺傳感器，能識別并定位積木的機器人系統(tǒng)。

　　1965年約翰·霍普金斯大學應用物理實驗室研制出Beast機器人。Beast已經(jīng)能通過聲納系統(tǒng)、光電管等裝置，根據(jù)環(huán)境校正自己的位置。20世紀60年代中期開始，美國麻省理工學院、斯坦福大學、英國愛丁堡大學等陸續(xù)成立了機器人實驗室。美國興起研究第二代帶傳感器、“有感覺”的機器人，并向人工智能進發(fā)。

　　1968年美國斯坦福研究所公布他們研發(fā)成功的機器人Shakey。它帶有視覺傳感器，能根據(jù)人的指令發(fā)現(xiàn)并抓取積木，不過控制它的計算機有一個房間那么大。Shakey可以算是世界第一臺智能機器人，拉開了第三代機器人研發(fā)的序幕。

　　1969年日本早稻田大學加藤一郎實驗室研發(fā)出第一臺以雙腳走路的機器人。加藤一郎長期致力于研究仿人機器人，被譽為“仿人機器人之父”。日本專家一向以研發(fā)仿人機器人和娛樂機器人的技術(shù)見長，后來更進一步，催生出本田公司的ASIMO和索尼公司的QRIO。

　　1973年世界上第一次機器人和小型計算機攜手合作，就誕生了美國CincinnatiMilacron公司的機器人T3。

　　1978年美國Unimation公司推出通用工業(yè)機器人PUMA，這標志著工業(yè)機器人技術(shù)已經(jīng)完全成熟。PUMA至今仍然工作在工廠第一線。

　　1984年英格伯格再推機器人Helpmate，這種機器人能在醫(yī)院里為病人送飯、送藥、送郵件。同年，他還預言：“我要讓機器人擦地板，做飯，出去幫我洗車，檢查安全”。

　　1998年丹麥樂高公司推出機器人(Mind-storms)套件，讓機器人制造變得跟搭積木一樣，相對簡單又能任意拼裝，使機器人開始走入個人世界。

　　1999年日本索尼公司推出犬型機器人愛寶(AIBO)，當即銷售一空，從此娛樂機器人成為機器人邁進普通家庭的途徑之一。

　　21世紀

　　2002年美國iRobot公司推出了吸塵器機器人Roomba，它能避開障礙，自動設(shè)計行進路線，還能在電量不足時，自動駛向充電座。Roomba是目前世界上銷量最大、最商業(yè)化的家用機器人。

　　2006年6月，美國微軟公司推出MicrosoftRoboticsStudio，機器人模塊化、平臺統(tǒng)一化的趨勢越來越明顯，比爾·蓋茨預言，家用機器人很快將席卷全球。