未来机器人功能大全（传说中的机器人三法则）
未来机器人功能大全（传说中的机器人三法则）这三条法则，看上去不是不错？但是执行起来却有不少问题。第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。这三条法则分别是：第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观。第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。
来源|喜马拉雅FM复旦郁喆隽的精品课《郁喆隽的复旦哲学课》
编辑|周杭
如果你喜欢看科幻电影，一定经常会看到这样一种恐怖的场景：未来机器人反过来奴役，甚至屠杀人类，施瓦辛格演的电影《终结者》就是这样的。最近对人工智能的讨论，更加加剧了这种担忧。所以，我们如何才能警惕和预防机器人和人工智能？
这时候，我们就要来谈一谈“机器人三法则”（ThreeLaws of Robotics）。这三个法则是著名的科幻小说家伊萨克·阿西莫夫，在1940年的一篇小说《我是机器人》中提出来的。
这三条法则分别是：
第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观。
第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。
第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。
这三条法则，看上去不是不错？但是执行起来却有不少问题。
有必要说一下的是，英语中的Law这个词具有两种截然不同的含义：第一种是人类社会中的法律和道德律令。其目的是规范一个政治共同体中成员的基本权利与义务，甚至还要定义犯罪行为，并通过相应程序和机构对之进行审判和惩戒。
第二种含义是自然（科学）中的法则和定律。例如牛顿力学中的三大定律，它通常是用数学符号的方式来表达的。上述这两种涵义是根本的不同。法律在原则上是可以违反的。我可以尝试做坏事，例如偷东西，伤害别人等等。
与此相反，自然规律对人来说，是无法违反的。无论我怎么想，我在地球上都受到引力的作用。
阿西莫夫的机器人三法则，属于前者，它们类似于伦理与法律，而不是自然法则和定律。
有意思的是，阿西莫夫在写机器人三法则的时候，使用了不得（maynot）和必须（must）这样的语词，非常类似神学中的“神命”（divine command）。也就是好像上帝颁布给人的诫命。
但是正如人类经常忤逆神的诫命一样，人工智能为何一定要遵守这些命令呢？如果没有技术的落实和保障，这一切都仅仅是人类的一厢情愿而已。人类也面临“造物主”的烦恼。
机器人给病人打针“伤害”，到底算不算伤害？从语义层面上来看，阿西莫夫的三大法则还有非常多不清楚的地方：以第一条为例，它并未明确定义“人类”和“伤害”。
我们可以设想，未来工程师设计了一种执行护士职能的机器人，它要给病患打针。打针这个行动是“伤害”吗？
按照我们通常的理解，打针这个行动显然要刺穿人的皮肤，并造成微量的出血。不过人类的一般常识告诉我们，这种轻微的伤害可以治愈病患的疾病，并且得到了病患的认可。
在疾病和打针之间，一般的成年人经过权衡比较，都会选择接受打针。但是要让人工智能进行这样的权衡比较，需要极为丰富的常识（commonsense）。
还有，如果阿西莫夫的第一条原则成立，那么机器人和人工智能都不得被用于执法和军事作战领域中。因为在这两个领域中，直接需要伤害特定的人。例如暴力犯罪分子和敌国的作战军人。
但显然根据我们的历史经验，最新科技往往首先被运用在军事领域中。人类自身能够坚守阿西莫夫的第一条法则吗？
我们再来看第二条：第二条法则中语义存在的漏洞是“服从命令”（obeyorders）这个词。
不过我们可以设想，两个人的命令可能会出现矛盾。一个人说，你站着，另一个人说，你坐下。机器人到底应该听谁的？
还有，阿西莫夫使用了“人类”（humanbeings）这个词。服从一个特定的人（例如“我”），和服从（复数形式的）人类之间存在明显差异。如何让人工智能定义和识别“人类”成为了关键问题。
第三条法则的核心词是“自己”（itsown existence）。要明白这一表述的意指，是否需要“自我”（self）的观念，而产生这一观念的前提是人工智能具备自指（self-referential）能力。这种自指能力其实对人类自己都是一个谜。
让机器人保护全人类，是一个笑话还是可以梦想成真？针对机器人三大法则存在的问题，阿西莫夫本人后来增加了更有优先性的“第零法则”：机器人必须保护人类的整体利益不受伤害。即保证机器人追求人类共同体整体的最大福祉。问题在于，如何定义“整体利益不受伤害”？这会面临传统功利主义的难题。
例如从宏观来看，目前地球上有70亿人口，我们可不可以为了70亿整体人类消灭当中的30亿呢？
从微观方面讲，我们可不可以杀死一个健康的人，把他的器官拿出来给那些等待急需器官移植的人？
这样杀死一个人可以拯救七到八个人，是否符合所谓“人类的整体利益”？
按照人类常识和良知，显然是不可以这么做的。因为除了人类的整体利益之外，还有许多需要考虑的问题，每个人的个体利益也必须受到尊重和保护。
所以啊，阿西莫夫的机器人三法则虽然算是未雨绸缪，但依然不能彻底杜绝一些基本问题。
那么，你能想出什么办法来，让机器人和人工智能不伤害、奴役人吗？
关于主播：
郁喆隽，集专业深度与大众普及于一身的哲学小王子。复旦大学哲学学院副教授，宗教学系副主任，德国莱比锡大学哲学博士。
《郁喆隽的复旦哲学课》想陪你认清自己，建立自己的认知体系，看清世界。——学会深度思考，从容做自己。
关于喜马拉雅：随时随地，听我想听！4.7亿用户的共同选择，听段子听小说听新闻听音乐，就用喜马拉雅！
点击“了解更多”↓ 你会发现这篇文章没有白看……
