如何在人工智能时代捍卫人类权益，阿西莫夫定律需要升级

原标题：如何在人工智能时代捍卫人类权益，阿西莫夫定律需要升级

艾萨克·阿西莫夫（Isaac Asimov）的机器人学三定律大概是有史以来最著名、最有影响力的科幻小说机器人行为准则。阿西莫夫认为，随着机器的自主性越来越强，在人类生活中发挥的作用越来越大，我们需要更加坚定明确的监管，来确保它们不会给我们带来伤害。

这些法则的提出可以追溯到1942年，当时阿西莫夫的第一篇作品《我，机器人》出版。如今，随着人工智能、软件自动化和工厂机器人技术的兴起，机器及其制造者可能会带来的危险变得更加复杂和紧迫。

在最近出版的一本新书《新机器人法则：在人工智能时代捍卫人类专业技能》(New Laws of Robotics: Defending Human Expertise In the Age of AI)中，布鲁克林法学院的教授（本书作者）弗兰克·帕斯奎尔（Frank Pasquale）提出，在阿西莫夫原有的三条法则基础上应该增加四条新的法则，具体内容如下：

Pasquale提到，如果遵循这些法则，那么就有可能利用这些技术来丰富各行各业的工作，而不是取代它们，特别是在医疗保健和教育领域。他认为，要实现这一点，政策制定者和监管机构必须采用民主化的方法来制定相关的法律条文。他在书中写道，监管机构需要制止"控制、侮辱和欺骗无辜民众的自动化"，"我们不仅需要更多的人工智能，还需要更好的人工智能"。

此外，Pasquale在接受采访时讲述了他为什么要更新阿西莫夫的三大定律，以及这背后的原因等。Pasquale下面回答的内容将帮助我们更加深入的了解这些新法则。

为什么需要更新阿西莫夫的三大定律

Pasquale认为，阿西莫夫的法则是关于机器人不要虐待人类，这一点非常重要。但考虑到当下和将要面临的未来，则需要更多的想法，需要确保人类对技术发展的持久和民主化控制。

很多人对人工智能的想象大概就是让它承担起医生、护士、记者、老师等的工作。而Pasquale表示，这并不是我们应该追求的目标。对他来说，这些技术更应该是专业人士的补充和支持，而不是取代他们。

就拿医学领域来说，10年前，就有人认为机器人来了，医生应该有危机感。因为机器人具有很好的模式识别能力和数据处理能力，很可能会取代医生。他们还特别强调，"如果你是放射科、麻醉科、皮肤科、病理科领域的医生更应该注意，因为这些东西都只是模式识别，而机器人或人工智能能够快速获取数百万张正常和病变组织的图像，会比你做得更好。"

这里面有一个问题是：尽管机器人具有超强的数据处理能力，但依然需要从人身上获取这些数据。也许最终机器人可以独立完成这些工作，但即便可以，它也不会取代任何一个职位。在很多方面机器人都是对人的补充，并且应该继续保持这种状态。

例如皮肤科医生，即使有一个可以识别痣的应用程序，病人仍然要和一个真正的人沟通。比如这是假阳性或假阴性的可能性有多大？这颗痣是否需要切掉等等，这些都是人类要做的关键决策。

新法则在实践中如何运作的具体例子

以第一条新法则为例，关于职业和人工智能的互补。机器人不应该被授予教师资格，师者，传道授业解惑也。机器人或人工智能可以有类似于授业解惑的功能或技术，就像医生开处方一样，但这些功能都是非常局限的。不管是人工智能的教师还是课程，都无法取代真正的教师，这就是互补定律在起作用。

第二条新法则，"不伪造人性"。例如，任何线上机器人，都要明确标明是机器人。这个对于机器人的第三条新法则来说也是一个很好的例子。如今都在抢抓线上注意力，某种程度上线上机器人得以扩张，因此可以采取一些立法或行政行动来阻止机器人之间的注意力军备竞赛。

第三条新法的重点是防止机器人加剧军备竞赛，但并不局限于军事问题

生活中很多领域都在受到技术的控制，科技巨头利用人工智能技术让人们陷入激烈的竞争并从中获利。信用评级就是一个很典型的例子，有了算法的支持，贷款人可以给予借款人抵押贷款的折扣，但条件是获取借贷人手机的各种权限，或是获取更多关于个人的数据。又或是佩戴某种可穿戴设备，可以使用人工智能来计算和评估个人的健康状况。

这种对越来越多数据的不断渴求，本身就是科技公司之间的军备竞赛。它在个体之间掀起了一场军备竞赛，为了获取更加个性化的定制服务，人们需要提供越来越多的关于自己的数据，以将自己与他人区分开来。当一个人因提供更多数据获得折扣时，这并不是出于公司的善意，因为另一个人可能会被收取更多的费用（比如，经常被提到的大数据杀熟就是这样）。

最后一条新法则为什么很重要

从本质上说，这是为了阻止人工智能成为人类的自主想法或愿望。几乎所有的科幻小说或是关于未来的展望都是创造出像人类一样拥有自主思想的机器人，很多科幻影视剧也表现了这样的主题，但这种事情是绝对不应该发生在现实生活中的。

因此，任何被创造出来的机器人或是人工智能，都需要能够追踪到它们的主人或控制器，他们可以在任何时候，关闭它们或以其他方式改变它们的行为。在这一点上，它们不是自主的，而我们只是限制了人工智能的自主性，但并没有完全消除它。

这一点非常重要，可以想象这样一个场景：一个机器人或无人机或是其他的东西可以接近我们，而我们却不知道它们在做什么，也不知道它们为什么要这么做，这是非常恐怖的。所以，当我们被无人机或机器人接近时，我们应该能够用手机对着它，然后立即收到一些类似于「这是所有者」、「这是你可以投诉的人或机构」等信息，就像网站上的侵权投诉一样，如果所有者没有回应，可以向该机构投诉。

人工智能和机器人技术的创造者是否需要对它们最终的用途承担责任

举个例子，我们不应该对一个哭泣的机器人感到不安或是同情，因为它也可以被程序设定为嘲笑任何让它哭泣的东西。在这一点上我们必须保持冷静，因为情感计算这个新兴领域在很多方面都可能是大公司想要通过技术的中介效应来操纵和控制人类的前奏。

因此，机器人学家和人工智能工作者需要为他们创造的机器或软件的可塑性和灵活性承担相应的责任，否则很容易被恶意改写和利用。

人工智能和自动化对蓝领工作的影响

这是一个很有意思的问题，比如收营员的工作，当一个收营员盯着商店四个售货机时，你可以说这让四个人失业了，也可以说这让其中一个人的工作效率提高了，因为他负责管理这些机器，修理机器或做其他的事情确保其正常有效的运行。但最终，政策不应该阻碍自动化，当然，也应该让处于这个岗位的人有权表达自己意见和诉求。

人类为什么想要创造出模拟人类的机器人和人工智能

“制造像人类一样的机器人”的想法主要源于后人类或超人类的观点。后人类的观点是：“尽管人类在地球上生存得很好，但人类的大脑太慢了。而机器人有更快的处理器，他们可以理解更多的东西，做更多的事。“

而超人类主义者会说：“如果你想超越人类的局限性，你可能就得超越人类的身体。" 而这其中一部分就是进入机器人领域，与他们融合，诸如此类。而Pasquale的观点是，超人类主义和后人类主义的观点终究都是非常反人类主义的。

在某种程度上，作为人类的一个基本要素是接受和理解我们的局限性和弱点。而为了克服和超越这些局限性和弱点而做出的努力，并且把一个不朽的实体作为高于人类和超越人类的观点是有问题的。它涉及到拒绝我们是凡人的事实，我们会感到痛苦。

除了Pasquale提出的四条新法则之外，还有一些对三大定律的补充，分别如下：

第零定律：机器人必须保护人类的整体利益不受伤害，其它三条定律都是在这一前提下才能成立。第四原则：机器人在任何情况下都必须确认自己是机器人。另一个第四原则：机器人必须进行繁殖，只要进行繁殖不违反第一原则、第二原则或者第三原则。第五原则：机器人必须知道自己是机器人。

罗杰·克拉克(Roger Clark)提出的8条原则：

元原则：机器人不得实施行为，除非该行为符合机器人原则。第零原则：机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。第一原则：除非违反高阶原则，机器人不得伤害人类个体，或者因不作为致使人类个体受到伤害。第二原则：机器人必须服从人类的命令，除非该命令与高阶原则抵触。第三原则：如不与高阶原则抵触，机器人必须先保护上级机器人，再保护自己之存在。第四原则：除非违反高阶原则，机器人必须执行内置程序赋予的职能。繁殖原则：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。

（文章仅代表作者观点。责编邮箱：[email protected]。）