人工智能已经发展到什么地步了（人工智能发展到以后会不会是绝对友好的存在）

人工智能已经发展到什么地步了（人工智能发展到以后会不会是绝对友好的存在）然而在将来，越来越多的机器人资金将来自民用商业部门，特别是日本，在日本机器人是设计用来提供帮助的，而不是破坏。如果这个倾向继 续 那么“友好的人工智能”就会变成现实。在这种情况下，消费部门和市 场力量将最终支配机器人，因此投资“友好的人工智能”将有巨大的商业 利益。但是所有这些方法都有一个问题，这就是到目前为止军事部门是人工 智能系统最大的资金提供者，并且这些军用的机器人是专门设计用来搜索、 追踪和杀人的。我们很容易想象将来的机器人士兵的使命就是要识别敌 人，并且分毫不差地消灭他们。这样 我们不得不格外小心，保证这些机器 人不要调过头来对准它的主人。例如，捕食者无人驾驶飞机是由遥控操作 的 人要不断地指示它们的飞行。但是有一天，这些无人驾驶飞机也许是自 治的 能够按它的意志选择和选定目标。这种自治飞机一出故障就会导致 灾难性的后果。〔即便有了阿西莫夫的三定律，当这三个定律出现矛盾时还是有问

最可能的情况:友好的人工智能

首先，科学家将采取最简单的方法保证机器人不是危险的。至少，科学 家可以放一个芯片在机器人的大脑里，如果机器人有了谋杀的想法，就自动 将它关闭。用这种方法，所有的机器人都装备有破损安全机构，可以由人在 任何时候打开 特别是当机器人呈现错误行为的时候。只要有一点迹象暗 示机器人出了故障，任何声音命令立刻将它关闭。

或者也可以创造专门的机器人猎手，其责任是压制不正常的机器人。 这些机器人猎手专门设计有超级速度、强度和协调能力，能够捕捉错误的机 器人。这些机器人猎手将设计成能够了解任何机器人系统的弱点，在一定 的情况下它们如何表现。人也可以训练这个技巧。在电影《银翼杀手》 {Blade Runner)中 有一个受过专门训练的政府特工人员队伍 其中有一位 由哈里森•福特（Harrison Ford)扮演 他们有压制任何机器人流所需要 的技能。

因为需要很多个几十年的艰苦工作，机器人才能慢慢地沿着进化的阶 梯上升，因此人类不会突然失去防卫，像牲口一样被关进动物园。意识 正 如我们看到的 也是一级一级上升的，而不是一个突然演变的事件 需要很 多个几十年的机器人才能沿着意识的阶梯攀升。毕竟 大自然母亲用了几 百万年时间才建立了人类的意识。因此，当有一天因特网出其不意地“醒 来”或机器人突然开始自行其事时，人类将不会失去防卫。

科幻作家艾萨克•阿西莫夫（Isaac Asimov)正是这样想的，他预想，每一个机器人在工厂加工时有三个定律防止它们失控。他设计出他的著名的 机器人三定律（three laws of robotics)，防止机器人伤害自己或人类。（三定律的基本意思是，按照顺序先后，机器人不能伤害人类、它们必须服从人类、 它们必须保护自己。）

〔即便有了阿西莫夫的三定律，当这三个定律出现矛盾时还是有问题。 例如，如果人们创造了一个慈善的机器人，如果有人做出自我毁灭的选择将 危及人类时会发生什么呢？那么，一个友好的机器人可能会感到，它必须夺 取政府的权力，防止人类伤害自己。这就是在电影《我，机器人》 中威尔•史密斯(Will Smith)面临的问题，当时，中央计算机决定“为了拯救 人类，一些人必须牺牲，一些人必须放弃自由”。为了防止机器人为了拯救 我们而奴役我们，有人提倡必须增加机器人零法则:机器人不能伤害或奴役 人类。

但是很多科学家倾向于“友好的人工智能” (friendly AI)，在设计机器 人时从一开始就让它是良性的。因为我们是这些机器人的制造者，我们将 设计它们，从一开始就让它只执行有用的和慈善的任务。

“友好的人工智能”这个术语是埃利泽•尤德科夫斯基（Eliezer Yudkowsky)发明的 他是“人工智能奇异性研究所”的奠基人。“友好的人 工智能”与阿西莫夫的定律略有不同。阿西莫夫定律是强加给机器人的， 也许违背它们的意志。（阿西莫夫定律是从外界强加的，实际上是选择灵 巧设计的能防止不利情况发生的机器人。）相反 在“友好的人工智能”中， 机器人是不受限制的，可以谋杀和伤害。没有什么规则强加人为的道德。 而是，这些机器人从一开始就要求它帮助人类而不是毁灭他们。它们被选 定是慈善的。

这样就产生了一个叫做“社会机器人”（social robotics)的新领域，设计 机器人使它们有素质，能让它们融合到人类社会中。例如，汉森（Hanscm) 机器人技术公司的科学家说广他们研究的一个任务是设计能够融入社会 的机器人，能爱，能在扩大的人类家庭中有一席之地。”

但是所有这些方法都有一个问题，这就是到目前为止军事部门是人工 智能系统最大的资金提供者，并且这些军用的机器人是专门设计用来搜索、 追踪和杀人的。我们很容易想象将来的机器人士兵的使命就是要识别敌 人，并且分毫不差地消灭他们。这样 我们不得不格外小心，保证这些机器 人不要调过头来对准它的主人。例如，捕食者无人驾驶飞机是由遥控操作 的 人要不断地指示它们的飞行。但是有一天，这些无人驾驶飞机也许是自 治的 能够按它的意志选择和选定目标。这种自治飞机一出故障就会导致 灾难性的后果。

然而在将来，越来越多的机器人资金将来自民用商业部门，特别是日本，在日本机器人是设计用来提供帮助的，而不是破坏。如果这个倾向继 续 那么“友好的人工智能”就会变成现实。在这种情况下，消费部门和市 场力量将最终支配机器人，因此投资“友好的人工智能”将有巨大的商业 利益。