机器人会统治世界吗?(左右左右)

机器人会统治世界吗？

几章前提到，自1921开始 年戏剧R.U.R 在介绍机器人之初，总会有机器人或电影或节目AI 试控制世界为主题。然而，电影中的邪恶AI 与科学事实有何关连？ AI 真的能统治世界吗？它会怎么做？为什么要统治世界？ AI 电影中的反派作家必须考虑动机和机会。

寻找有意义的动机

先看动机。很少有人会说，智慧（intelligence）它有统治世界的坚定愿望。通过学校的考试，你一定是罪恶吗？当然不是。在电影中，AI 通常，由于害怕人类关闭它们，它们会受到自我保护的驱使。但我们会让我们的AI 感受到威胁吗？它们为我们提供了各种各样的好处。如果他们想在寻找离你最近的意大利餐馆时有自我意识，那似乎是不合理的。

另一个AI 邪恶的普遍动机是他们积极运用设定逻辑的热情。例如，一个常见的主题是，保护地球的目标只能通过摧毁人类来实现。这种逻辑造成的毁灭是过去某个概念的残留— 电脑会选择一个停止的时钟，而不是一个慢两秒的时钟，因为停止行走的时钟每天至少会正确两次，而慢两秒的时钟从来没有正确过。这种情节动机根植于脆弱的逻辑，对生活漠不关心。今日的AI 根据数学推理，系统被设计成与人类安全工作，这似乎与上述情节完全不同。经典之一是科幻小说作家艾西莫夫（Isaac Asimov）在他的机器人系列作品中（I, Robot）所思考的“机器人三原则”，也就是说，所有机器人都有不可逾越的规则， 防止他们伤害人类。机会来敲门

当我们考虑的时候AI 是否会统治世界时，我们某种程度上处于更安全的地位。知名的图灵测验，就是设定来测量机器进行可信对话的能力；前提是，如果你无法分辨AI 与人类不同，AI 通过了测试， 被认为和人类一样聪明。

图灵测试可以统治世界，测量哪种机器？“技能”呢？我们需要探索这一点AI 与人类统治世界的各种预期特征相比，反社会行为。统治世界的人往往会控制人们生活的重要组成部分，比如人们使用金钱或买房的能力。事实上，AI 已经这样做了:比如贷款决策通常是由信用评估决定的，可以筛选如山高的信息。AI 做的；现在AI 也在股市交易。

最高指导员下达命令，并期这些命令被遵守—任何无助地站在商店自助结账柜台前，被反复指示装袋的人都知道AI 指令的感觉。

主导世界宾果游戏

让我们玩一个主宰世界的宾果游戏AI 统治世界的机会有多少？你需要制作自己的世界宾果卡。在卡纸上画3x3 每一个网格都写出一个你认为可以统治世界的元素。为了帮助你思考，你可以想想你最喜欢的超级坏人会做什么，让你知道他现在是老板？控制网络？决定人们能去哪里，不能去哪里？还是控制税收？把这些卑鄙的行为写在你的宾果卡里，直到你填满所有的格子。然后和朋友交换卡片。游戏规则很简单，每个人都应该在网上搜索电脑、机器、机器人或AI 系统，首先完成卡上活动的具体案例。你需要找到尽可能多的例子。每当你找到一个例子，记录网站并圈起网格。试着画一条垂直、水平或倾斜的直线，就像普通的宾果游戏一样。

第一个连接成一条线的人可以打电话给宾果（当然，用邪恶机器人的声音），然后赢，但检查被圈起的例子和写在纸卡上的活动是否一致。如果你只有一点时间玩这个游戏，那么赢家就是圈起最多网格的人，但你必须回头看看你发现的案例是否真实，这与宾果卡上超级坏人的行为是一致的。

玩这个游戏可以让你更了解今天的机器人和AI 最后，如果你不开始担心，你会觉得更安全。

追杀比尔？

好莱坞任何傲慢的机器人，如果没有杀死人类的欲望，都不完整。我们设计了无人机杀人。这些军事机器人可以在没有人类干预的情况下识别目标，但在攻击方面，人类控制器仍然发出指令。然而，这并不意味着自动杀人机器人没有潜力—我们只需要改变计算机程序码，让它们这样做。事实上，自动杀戮机器人已经存在，只是不用于杀戮。当我们写这本书的时候，已经准备好在大堡礁放置挥舞性毒枪的机器人，它们会在水中检测并猎杀破坏珊瑚礁生态的海星。这些机器人一旦放入水中，就不需要等待人类发出猎杀指令。AI 会决定谁生谁死。这些例子在某种程度上显示，AI 它确实控制了地球上有限生物的生命。但很明显，如果你真的想统治整个地球（就像电影一样），这些个别的AI 需要共同合作创造出一支同步的AI 大军。管理太多的自助柜台必须与您的健康监测器对话，才能拒绝向您销售啤酒。两者可能与信用评分系统合作，只有当你购买双内部建筑时GPS 从智能冰箱智能冰箱里拿出来的卷心菜，会增加你的信用卡额度。当然，智能冰箱只有在跑鞋上显示你已经跑完今天预定的五英里后才会打开。

想到这一幕，人们开始担心，但幸运的是，这不太可能发生。世界各地的工程师正在开发能够将各种设备和物体结合起来创造新服务的事物网络（Internet of Things）。这些只是拼图碎片， 要拼凑在一起，形成统治世界的全图。但这是不可能的，因为有太多的事情需要合作。这与《ID4.这部电影中恶名昭彰的情节陷阱非常相似:苹果电脑和外星人太空船的软件在没有任何情节解释的情况下具有跨平台的相容性—只需插上即可使用。

在地球上AI 系统以不同的计算机语言书写，以不同的方式存储不同的数据，并使用不同和不相容的规则和学习技能。除非我们把它们设计成相互兼容，否则两者都是安全设计的，不同的公司为不同的服务内容而开发的，没有人类干预。AI 系统，不可能自动自发地融合在一起，分享彼此的能力， 从而形成更大的共同目标。当然，全球化意味着强大的推力， 为了促进事物的一致性，按照现代全球化的巨大公司赚更多的钱，然后控制市场的目标

所以AI，以及装置有AI 机器人能通过考验统治世界吗？ 可以合理地说，如果我们这些聪明但微不足道的人允许他们提供很多帮助，结果是可能的。但我们为什么要这样做呢？也许是因为我们人类很愚蠢。

本文节录自保罗·科松：《思考计算：跟随计算机学习思考，你也可以成为计算思考大师》一书（Paul Curzon）、彼得。马克欧文（Peter William McOwan）着