机器人视觉(机器人#0.5)第24/34页

在不想知道他们是否会“接管”的情况下思考计算机并不容易。

他们会取代我们,让我们过时,并以我们摆脱长矛的方式摆脱我们tinderboxes?

如果我们想象人类的金属模仿中的计算机般的大脑,我们称之为机器人,恐惧更加直接。机器人看起来非常像人类,他们的外表可能会给他们叛逆的想法。

这个问题在19208和19308年面临科幻小说的世界,许多是关于机器人的警示故事,这些机器人已经建立然后打开他们的创造者并摧毁了他们。

当我还是一个年轻人时,我对这种谨慎感到厌倦,因为在我看来机器人是一台机器而人类是不断建造机器。由于所有机器都是危险的,无论如何,人类都在其中建立了保障措施。

因此,1939年,我开始撰写一系列故事,其中机器人被同情地呈现,作为经过精心设计的机器任务,内置充足的保障措施,使其成为良性。

在1941年10月写的一篇故事中,我终于以“机器人三大法则”的具体形式提出了保障措施。 " (我发明了以前从未使用过的机器人这个词。)

这里它们是:

1。机器人不会伤害人类,也不会通过无所作为使人类受到伤害。

2。机器人必须遵守人类给出的命令,除非那些命令会发生冲突第一定律。

3。机器人必须保护自己的存在,除非这种保护与第一和第二定律相冲突。

这些法则被编入机器人的计算机化大脑中,我写的关于机器人的众多故事将它们考虑在内。事实上,这些法律在读者中非常受欢迎,并且非常有意义,以至于其他科幻作家开始使用它们(没有直接引用它们 - 只有我可以这样做),所有机器人摧毁创作者的旧故事都消失了

啊,但这是科幻小说。现在在计算机和人工智能上做的工作怎么样?当机器开始具有自己的智能时,就会建立类似机器人三定律的东西对他们来说?

当然他们会假设计算机设计师拥有最少的智力。更重要的是,保障措施不仅仅是机器人的三大法则;它们将成为机器人学的三大定律。

在我构建这些定律时,我没有意识到人类从一开始就一直在使用它们。只要将它们视为“工具的三个定律”即可。这就是他们读的方式:

1。工具必须安全使用。

(显然!刀具有手柄和剑有h。如果用户知道,任何肯定会伤害用户的工具将永远不会被常规使用,无论其他资格如何。)[ 123] 2。工具必须履行其职能,只要它能够安全地执行。

3。除非工具在使用过程中必须保持完整它的破坏是安全所必需的,或者除非其破坏是其职能的一部分。

没有人引用这三项工具法,因为它们被所有人视为理所当然。如果引用的话,每一条法律都肯定会受到“嗯,当然!”的合唱的欢迎。

比较“工具的三个定律”,然后是“机器人的三个定律”,法律和你会发现它们完全一致。为什么不呢,既然机器人,或者如果你愿意的话,计算机是一种人类工具?

但是保障措施是否足够?考虑一下使汽车安全的努力 - 但汽车仍然每年杀死50,000名美国人。考虑一下使银行安全的努力 - 但仍然存在着稳定的鼓声中的银行抢劫案。考虑投入m的努力确保计算机程序安全 - 但计算机欺诈的危险正在增加。

然而,计算机如果能够足够聪明地“接管”,也可能足够聪明,不再需要三法。他们可以用他们自己的仁慈照顾我们,保护我们免受伤害。

你们当中有些人可能会争辩说,我们不是孩子,而是会破坏我们的本质。我们的人性得到了保护。

真的吗?看看今天的世界和过去的世界,并问自己,如果我们不是儿童和破坏性的孩子 - 如果我们不需要为了自己的利益而受到保护。

如果我们要求是作为成年人对待,我们不应该像大人一样行事吗?我们什么时候打算开始?

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处: