机器人学三定律

　　1法则提出

　　阿西莫夫的《我，机器人》，在一九五〇年末由格诺姆出版社出版。虽说这本书是“旧稿子”，但是这些短篇是在十年间零零散散发表的，这次集中出版，使读者第一次领略阿西莫夫机器人科幻小说的魅力。阿西莫夫为这本书新写了《引言》，而《引言》的小标题就是《机器人学的三大法则》，把“机器人学三大法则”放在了最突出、最醒目的地位。

　　而三大法则之间的互相约束，为后世的创作有一定的指导意义。

　　机器人三定律（ThreeLawsofRobotics）是科幻小说家艾萨克·阿西莫夫在他的机器人相关作品和其他机器人相关小说中为机器人设定的行为准则，是阿西莫夫除“心理史学”外另一个著名的虚构学说：

　　第一法则：机器人不得伤害人类，或袖手旁观坐视人类受到伤害；

　　第二法则：除非违背第一法则，机器人必须服从人类的命令；

　　第三法则在不违背第一及第二法则下，机器人必须保护自己。

　　但在1985年，《机器人与帝国》这本书中，阿西莫夫将三大法则扩张为四大法则：

　　第零法则机器人不得伤害人类整体，或袖手旁观坐视人类整体受到伤害；

　　第一法则除非违背第零法则，机器人不得伤害人类，或袖手旁观坐视人类受到伤害；

　　第二法则除非违背第零或第一法则，机器人必须服从人类的命令；

　　第三法则在不违背第零至第二法则下，机器人必须保护自己。

　　“机器人三定律”在他于1942年发表的作品Runaround（《转圈圈》，《我，机械人》中的一个短篇）中第一次明确提出，并且成为他的很多小说，包含基地系列小说中机器人的行为准则和故事发展的线索。机器人被设计为遵守这些准则，违反准则会导致机器人受到不可恢复的心理损坏。但是在某些场合，这样的损坏是不可避免的。在两个人互相造成伤害时，机器人不能任人受到伤害而无所作为，但是这会造成对另一个人的伤害，在一些小说中这造成了机器人的自毁。

　　他在小说中提出了三定律的很多变体。这些对机器人行为准则的修改成为他的很多故事的主线。在LittleLostRobot（《消失无踪》，《我，机械人》中的一个短篇）中为了避免机器人无谓地阻止人类进行低危险性工作，第一定律中的后半部分被去掉了，但是也产生了一些其他的问题。在RobotDreams（《机械人之梦》，同名小说中的一个短篇）中，一个机器人做了个关于取消第一定律和第二定律的梦，导致了他的毁灭。在机器人与帝国中，一些机器人的系统中“人类的定义”被修改（说话没有该星球的口音就不是人类），而攻击人类。在科幻电影BicentennialMan（《双百人》，原为短篇小说，后改编为中篇小说《正子人》）中，一个机器人为了成为人，将自己的机械部分逐步替换成组织，并且在最后用自己的贡献和牺牲换来了人类的认同和保护机器人的法律的产生。

　　三定律在科幻小说中大放光彩，在一些其他作者的科幻小说中的机器人也遵守这三条定律。同时，三定律也具有一定的现实意义，在三定律基础上建立新兴学科“机械伦理学”旨在研究人类和机械之间的关系。虽然截至2006年，三定律在现实机器人工业中没有应用，但很多人工智能和机器人领域的技术专家也认同这个准则，随着技术的发展，三定律可能成为未来机器人的安全准则。

　　下面是大部分人对此的评价三定律加上零定律，看来堪称完美，但是，“人类的整体利益”这种混沌的概念，连人类自己都搞不明白，更不要说那些用0和1来想问题的机器人了。威尔·史密斯曾说：“《我，机器人》的中心概念是机器人没有问题，科技本身也不是问题，人类逻辑的极限才是真正的问题。”

　　而且，在此之后，罗杰·克拉克添加了以下的定律：元定律：机器人可以什么也不做，除非它的行动符合机器人学定律。此定律置于第零、第一、第二、第三定律之前。第四定律：机器人必须履行内置程序所赋予的责任，除非这与其他高阶的定律冲突。繁殖定律：机器人不得参与机器人的设计和制造，除非新的机器人的行动服从机器人学定律。

　　2传播发展

　　从1941年的短篇科幻小说《推理》开始，阿西莫夫就在“三大法则”的框架下创作了一系列短篇机器人科幻小说。他熟练运用“三大法则”，在机器人有可能违背法则的前提下逐渐展开故事。这些短篇故事极具逻辑性，情节紧凑，扣人心弦，后来大都被收录在《我，机器人》(1950)和《其他机器人》(1964)这两本科幻小说集中。在尝试了一系列短篇小说之后，阿西莫夫又创作了机器人长篇科幻小说，分别是《钢窟》（又译《钢穴》）(1953)和《裸日》(1957)，内容都涉及人类侦探与机器人侦探联手破案的传奇故事，被誉为科幻与推理相结合的典范。

　　有了“三大法则”，阿西莫夫笔下的机器人就不再是“欺师灭祖”、“犯上作乱”的反面角色，而是人类忠实的奴仆和朋友。不过高度智能化的机器人还是会产生各种心理问题，需要人类协助解决，这正是机器人故事的基础。阿西莫夫所向往的，是人类为代表的“碳文明”与机器人为代表的“硅文明”的共存共生。在阿西莫夫的另一篇优秀作品《二百岁人》(1976)中，他的这一思想表露得淋漓尽致。

　　随着《我，机器人》产生广泛的影响，阿西莫夫的“机器人学三大法则”也引起广泛的注意，以至今日不少论著在论及“机器人学三大法则”时，总是写道：“一九五○年阿西莫夫在《我，机器人》一书中首次提出‘机器人学三大法则’。”实际上，阿西莫夫著名的“机器人学三大法则”，酝酿于一九四○年末，部分发表于一九四一年五月，完整提出于一九四一年十月。

　　《我，机器人》收入九个短篇机器人科幻小说。这些小说，彼此关联，是用三个人物贯穿。这三个人物是机器人工程师唐纳文、鲍威尔和机器人心理学家苏珊·卡尔文。故事常常是在一位名叫劳伦斯·罗伯逊的人于一九八二年创立的“美国机器人与机械人公司”这样的背景下展开。正是因为有共同的人物贯穿，使《我，机器人》中的九个短篇不是各自独立、互不相干，而是成为系列小说。

　　在阿西莫夫创作一系列机器人短篇科幻小说并提出“机器人学三大法则”时，世界上还没有机器人，当然也没有机器人学和机器人公司。一九五九年，美国英格伯格和德沃尔制造出世界上第一台工业机器人，宣告机器人从科学幻想变为现实。随着机器人技术的不断进步，随着机器人的用途日益广泛，阿西莫夫的“机器人学三大法则”越来越显示智者的光辉，以至有人称之为“机器人学的金科玉律”。

　　3零定律

　　后来又出现了补充的“机器人零定律”：

　　第零定律：机器人必须保护人类的整体利益不受伤害，其它三条定律都是在这一前提下才能成立。

　　出现

　　在《机器人与帝国》中，“机器人系列”前三部的主人公伊利亚·贝莱在临终前对机器人R·丹尼尔说道：“个别人的死亡是无所谓的。一个人生路，留下的工作后人会继承。从这个意义上来说，他没有死。只要人类存在一天，人类的事业就不会结束。每一个人的工作，结合成人类整体的一部分，因此，就成了整体的一部分。整体存在，他的那一部分也就存在。全人类的生命——过去的、现代的和将来的——汇成了永不停息的生命的长河，并将变得越来越壮丽。一个人的生命，只是这生命长河中的一滴水。”丹尼尔就是据此将第一定律扩展为第零定律。

　　意义

　　为什么后来要定出这条“零定律”呢？打个比方，为了维持国家或者说世界的整体秩序，我们制定法律，必须要执行一些人的死刑。这种情况下，机器人该不该阻止死刑的执行呢？显然是不允许的，因为这样就破坏了我们维持的秩序，也就是伤害了人类的整体利益。“第零定律”的重要性在于地位凌驾其它三大定律，如若有个机器人为保护人类整体（维护第零定律），必须杀害一个人或一群人（抵触第一定律），机器人的正子程式为了人类整体着想就会同意谋杀罪行。

　　定律的完善整合

　　所以新的阿西莫夫的机器人定律为：

　　第零定律：机器人必须保护人类的整体利益不受伤害。

　　第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。

　　第二定律：机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。

　　第三定律：机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。

　　评价

　　三定律加上零定律，看来堪称完美，但是，“人类的整体利益”这种混沌的概念，连人类自己都搞不明白，更不要说那些用0和1来想问题的机器人了。威尔·史密斯曾说：“《我，机器人》的中心概念是机器人没有问题，科技本身也不是问题，人类逻辑的极限才是真正的问题。”

　　4补充修改

　　阿西莫夫之后，人们不断提出对机器人三原则的补充、修正。

　　保加利亚科幻作家LyubenDilov1974年在小说《Icarus'sWay》中提出第四原则：

　　第四原则：机器人在任何情况下都必须确认自己是机器人。

　　1989年美国科幻作家HarryHarrison在《Foundation'sFriends》中又提出另一个第四原则：

　　第四原则：机器人必须进行繁殖，只要进行繁殖不违反第一原则、第二原则或者第三原则。

　　保加利亚科幻作家NikolaKesarovski在《TheFifthLawofRobotics》（1983年）中又提出一个与LyubenDilov第四原则看似相似实则不同的第五原则：

　　第五原则：机器人必须知道自己是机器人。

　　这些补充的确有其发生的理由，但普遍存在的一个问题是补充本身的必要性和必然性。要知道，阿西莫夫三原则指出了机器人学的三个基本规范（或者“规律”），更具体的规范必须建立在这些基本规范的基础之上。怎样划分一个规范是具体规范还是基本规范？如果是基本规范，又怎样确定它在基本规范体系中的位置（为什么它是“第四”原则，而另一个又是“第五”原则？）？客观地说，前述几个“第四”、“第五“原则的内容并不能使自己成为第四原则、第五原则，既看不出它们何以成为原则，也看不出何以如此排序。这些原则的提出，多半是适应小说情节的需要，在小说中固然言之成理，但却不必过份拘泥。很显然，这几个补充原则的出发点是小说情节的需要，并不是机器人三原则本身的内容。而从三原则的内容出发对三原则加以补充、修改，这样的工作人们已经做过，并产生过很多严肃的讨论文章。这里只举罗杰·克拉克为例，他构思的机器人原则是：

　　元原则：机器人不得实施行为，除非该行为符合机器人原则。

　　第零原则：机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。

　　第一原则：除非违反高阶原则，机器人不得伤害人类个体，或者因不作为致使人类个体受到伤害。

　　第二原则：机器人必须服从人类的命令，除非该命令与高阶原则抵触。

　　机器人必须服从上级机器人的命令，除非该命令与高阶原则抵触。

　　第三原则：如不与高阶原则抵触，机器人必须保护上级机器人和自己之存在。

　　第四原则：除非违反高阶原则，机器人必须执行内置程序赋予的职能。

　　繁殖原则：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。

　　5繁殖原则

　　罗杰·克拉克把最后一个原则命名为“繁殖原则”，而没有称为“第五原则”，是有道理的；仅就其内容看，的确很难确定这一个原则到底应该放到什么位置上。他把机器人按履行内置职能放在执行人类命令之后，认为服从人类命令优先于执行本职工作，总体上也无问题。但把机器人保护自身存在置于执行本职工作之前，颇有值得商榷之处。此外，这些原则除调整人与机器人的关系之外，还涉及机器人之间的部分关系，这是超出原有原则范围的内容。

　　6涉及电影

　　美国演员威尔史密斯的《机器公敌》提到过机器人三大定律。

　　美剧《生活大爆炸》中提及。

　　《机器人管家》（或《变人》）中有提及。

　　7发展史

　　20世纪

　　1920年捷克斯洛伐克作家卡雷尔·恰佩克在他的科幻小说《罗萨姆的机器人万能公司》中，根据Robota(捷克文，原意为“劳役、苦工”)和Robotnik(波兰文，原意为“工人”)，创造出“机器人”这个词。

　　1939年美国纽约世博会上展出了西屋电气公司制造的家用机器人Elektro。它由电缆控制，可以行走，会说77个字，甚至可以抽烟，不过离真正干家务活还差得远。但它让人们对家用机器人的憧憬变得更加具体。

　　1942年美国科幻巨匠阿西莫夫提出“机器人学三大法则”。虽然这只是科幻小说里的创造，但后来成为学术界默认的研发原则。

　　1948年诺伯特·维纳出版《控制论》，阐述了机器中的通信和控制机能与人的神经、感觉机能的共同规律，率先提出以计算机为核心的自动化工厂。

　　1954年美国人乔治·德沃尔制造出世界上第一台可编程的机器人，并注册了专利。这种机械手能按照不同的程序从事不同的工作，因此具有通用性和灵活性。

　　1956年在达特茅斯会议上，马文·明斯基提出了他对智能机器的看法：智能机器“能够创建周围环境的抽象模型，如果遇到问题，能够从抽象模型中寻找解决方法”。这个定义影响到以后30年智能机器人的研究方向。

　　1959年德沃尔与美国发明家约瑟夫·英格伯格联手制造出第一台工业机器人。随后，成立了世界上第一家机器人制造工厂——Unimation公司。由于英格伯格对工业机器人的研发和宣传，他也被称为“工业机器人之父”。

　　1962年美国AMF公司生产出“VERSTRAN”(意思是万能搬运)，与Unimation公司生产的Unimate一样成为真正商业化的工业机器人，并出口到世界各国，掀起了全世界对机器人和机器人研究的热潮。

　　1962年——1963年传感器的应用提高了机器人的可操作性。人们试着在机器人上安装各种各样的传感器，包括1961年恩斯特采用的触觉传感器，托莫维奇和博尼1962年在世界上最早的“灵巧手”上用到了压力传感器，而麦卡锡1963年则开始在机器人中加入视觉传感系统，并在1965年，帮助MIT推出了世界上第一个带有视觉传感器，能识别并定位积木的机器人系统。

　　1965年约翰·霍普金斯大学应用物理实验室研制出Beast机器人。Beast已经能通过声纳系统、光电管等装置，根据环境校正自己的位置。20世纪60年代中期开始，美国麻省理工学院、斯坦福大学、英国爱丁堡大学等陆续成立了机器人实验室。美国兴起研究第二代带传感器、“有感觉”的机器人，并向人工智能进发。

　　1968年美国斯坦福研究所公布他们研发成功的机器人Shakey。它带有视觉传感器，能根据人的指令发现并抓取积木，不过控制它的计算机有一个房间那么大。Shakey可以算是世界第一台智能机器人，拉开了第三代机器人研发的序幕。

　　1969年日本早稻田大学加藤一郎实验室研发出第一台以双脚走路的机器人。加藤一郎长期致力于研究仿人机器人，被誉为“仿人机器人之父”。日本专家一向以研发仿人机器人和娱乐机器人的技术见长，后来更进一步，催生出本田公司的ASIMO和索尼公司的QRIO。

　　1973年世界上第一次机器人和小型计算机携手合作，就诞生了美国CincinnatiMilacron公司的机器人T3。

　　1978年美国Unimation公司推出通用工业机器人PUMA，这标志着工业机器人技术已经完全成熟。PUMA至今仍然工作在工厂第一线。

　　1984年英格伯格再推机器人Helpmate，这种机器人能在医院里为病人送饭、送药、送邮件。同年，他还预言：“我要让机器人擦地板，做饭，出去帮我洗车，检查安全”。

　　1998年丹麦乐高公司推出机器人(Mind-storms)套件，让机器人制造变得跟搭积木一样，相对简单又能任意拼装，使机器人开始走入个人世界。

　　1999年日本索尼公司推出犬型机器人爱宝(AIBO)，当即销售一空，从此娱乐机器人成为机器人迈进普通家庭的途径之一。

　　21世纪

　　2002年美国iRobot公司推出了吸尘器机器人Roomba，它能避开障碍，自动设计行进路线，还能在电量不足时，自动驶向充电座。Roomba是目前世界上销量最大、最商业化的家用机器人。

　　2006年6月，美国微软公司推出MicrosoftRoboticsStudio，机器人模块化、平台统一化的趋势越来越明显，比尔·盖茨预言，家用机器人很快将席卷全球。