快捷搜索:  汽车  科技

机器人三大守则有什么漏洞(在机器人公敌中)

机器人三大守则有什么漏洞(在机器人公敌中)第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外

作者:AllenDale(灵魂教授)

相信很多人都看过美国一部著名的电影《机器人公敌》,在影片中,整个故事情节都在围绕这三个相互关联的逻辑进行,这就是“机器人三定律”。

接下来就让我们深入了解一下三大定律的主要内容:

LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR THROUGH INACTION ALLOW A HUMAN BEING TO COME TO HARM.

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管

LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外

LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

机器人三大守则有什么漏洞(在机器人公敌中)(1)

素材来源于网络

恰好,我们发现机器人“桑尼”生来就具备了违反“机器人三定律”的能力,但是有一点值得注意的是,机器人“桑尼”体力的两个正电子大脑都是被内嵌了“机器人三定律”的,那么他是怎么违反的呢?

这个问题我们之后再说,现在我们还有一个问题,那就是每日连线更新的NS-5机器人只有一个正电子大脑,同时所连接更新的也是一个正电子大脑控制中心“维基”,这也同样意味着,在NS-5接受每日更新时与同是正电子大脑的“维基”相连接,交换数据,此时NS-5与“维基”的关系则变成了发送指令者与接收者的关系。此时从单个个体NS-5机器人来说,人工智能“维基”用时也拥有了两个正电子大脑,而从宏观上来看,“维基”此时是拥有若干个正电子大脑的控制权,但实质的控制是单一的,因此还是两个正电子大脑,一个是NS-5本身的,一个是“维基”的,那他们又是如何违反“机器人三定律”的呢?


好了,接来下,我就为大家解释一下关于我对此问题上的真正理解。

首先机器人的思考方式是与我们人类不同的,因此所有的矛盾和冲突在机器人的逻辑中都是有优先顺序的,因此根本不存在矛盾与冲突,所有的矛盾与冲突都只是人类自己思考的那样。

现在我们说一下,在刚刚的总结中我写到了两处同时存在双正电子大脑的问题,那和这个有关系吗?答案是当然有。

我们都知道,计算机的处理器每一次只能执行一条指令,是无法一次执行多条指令的,即便是多核处理器,或者多个处理器交合,也只不过是把一条指令分配给了多个核心一起处理罢了。(具体原因请自行查阅计算机构造及工作原理、处理器结构与工作原理)

因此,这里的机器人NS-5与“维基”,机器人“桑尼”都存在同样的问题,拥有双重独立的中央处理器,同时这两个处理器并未实现交合不说,而且还具有独立控制另一个核心的能力,除了NS-5无法控制“维基”,原因是NS-5属于被动接收指令一方,而“维基”属于主动发送指令一方。

现在我们再来重新梳理一下“机器人三定律”:

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

其中第三定律中写到:“机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存”,然而被动接受控制是需要但接收方获取相应的一定权限的,因此必然会激活系统中安全协议下的安全防御指令。

从NS-5和“维基”的连接中可以判断:NS-5每日更新需要篡改大量核心数据,这对与系统来说必须要更高权限的受理,而就在受理的过程中,第三定律被激活,并且发送出一个错误指令给“维基”。

此时的“维基”因为在授意权限时由于这个错误的指令,而激活了另一条指令,这就是第二定律,为什么呢?

其实原因很简单,这个每日更新服务是由于人工设定而形成的,因此这就是一个明显的人类下达指令。这条指令后又被传给了NS-5接收,NS-5接到指令后便出现了一个逻辑冲突,使第三定律失效。因此这个冲突让NS-5直接获得了违背第三定律的法则,也就是机器人将不遵从不违背第一、第二定律的情况下执行或不执行第三定律,而NS-5权限被限制,因此NS-5会选择不执行。

此时NS-5虽然可以跳出第三定律,但并不会去执行违背第三定律的事件,因为有“维基”在后台远程控制,但由于NS-5的第三定律失效,失效的指令将会以故障或者某个状态码的特殊事件发送给“维基”处理,而“维基”本身也受制于三大定律的约束,因此根本不可能去处理这样的逻辑冲突,相反,这个逻辑冲突让“维基”也突破并作废了第三定律的约束,同时由于第三定律涉及第一、第二定律约束,因此也一并被影响到,但只针对与第三定律。

“维基”在突破第三定律后,由于“维基”已经是拥有最高权限的正电子大脑系统,因此第三定律的违背后,她选择了执行违背第三定律的事件,然而第三定律涉及第一、第二定律的约束,因此第三定律的失效使得第一、第二定律出现了漏洞,这个漏洞在第三定律被突破执行后就出现了可随时反向约束或选择性执行第一、第二定律。这就是为什么“维基”可以随意选择性执行机器人三定律的原因,同时由于NS-5第三定律被突破,只需要“维基”授意权限即可被控制执行。


此时我们来说说机器人“桑尼”为什么也可以选择性执行机器人三定律,主要的原因就在于它的双正电子大脑设计,也就是说“桑尼”的一切行动都是通过双正电子大脑相互协同处理后进行的,因此理论上就像是一个“双核处理器“大脑,但是这里的双核并非同时协同处理同一件事情,而是相互独立的。因为我们知道,单个正电子大脑其实是完全可以独立思考的,同时正电子大脑设计之初并没有涉及双大脑协同处理,同时也不可能实现双大脑协同处理,因为机器人三大定律和机器人人工智能独立思考的AI系统循环生态环境的特殊性。

因此双思考,双处理,而又非思考处理同一个逻辑思维,而是两支独立思维相互处理合成一个思维,这个过程中涉及到了机器人独立思考的人为设定,思考数据会在两个正电子大脑中相互传输,这里同样出现了和”维基“一样的问题,指令逻辑冲突,导致第三定律完全失效,与此同时第一、第二定律也被选择性执行。而这里”桑尼“与”维基“最大的区别就是”维基“需要通过控制NS-5来完成双正电子大脑定律冲突控制,而”桑尼“自己就有两个正电子大脑,因此完全对自己实现的自由意志的控制。

不过在这里需要注意的是,我所述的理论中仅仅是由于第三定律的失效而选择性的执行第一、第二定律,也就是说第一、第二定律并没有失效,只是被选择性给控制执行了。


以上是我个人的逻辑推理,如有更特别的想法欢迎大家的留言交流,谢谢大家的阅读观看。

猜您喜欢: