郑戈：被放弃的数字生命计划，有研究的必要吗？

【文/观察者网专栏作者 郑戈】

一

“我们的人一定能够完成任务，无论虚实，不计存亡。”

--周喆直，《流浪地球2》

《流浪地球2》的故事线围绕着移山计划/流浪地球派与数字生命派的斗争展开。流浪地球计划得到地球联合政府的支持，成为唯一合法的计划，为此，联合政府立法严格禁止了数字生命方面的科学研究和商业应用。

但正如已被解散的数字生命研究院院长马兆所言：“数字生命计划并不是被彻底终结了，它只是在法律上被严格禁止了。”正如人类历史上反复重演的那样，一种对人有着巨大诱惑的东西，无论是毒品还是可遗传的强化型基因编辑，并不会因为法律的禁止而在事实上消失，它只是转入地下。

不过，在流浪地球2的设定中，数字生命的核心技术掌握在少数至少在表面上为政府服务的专家手中，其中的关键人物就是马兆和架构师图恒宇，其余的数字生命支持者只能沦为暴民和叛军，试图破坏流浪地球计划，从而迫使政府支持数字生命计划。

叛军首先制造了太空电梯危机，然后又制造了月球危机，这两次危机都是以网络攻击作为主要手段，以此控制无人机和月球发动机。在片尾，MOSS告诉图恒宇，这些危机都是它策划和实施的，甚至未来的土星危机和太阳氦闪危机也是它搞的。它认为保存人类文明的最好方式是消灭人类。

这里似乎有个bug，MOSS是550W给自己取的名字，而550W在天空电梯危机时并不存在，它的上一代，550C，在太空电梯危机时通过覆写系统帮助人类夺回了对无人机和太空电梯的控制权。由于对这一点感到疑惑，我重新看了一遍《流浪地球2》，把片尾MOSS和图恒宇的对话完整记了下来：

MOSS：“图恒宇架构师，您好！”

图恒宇：“550W？”

MOSS：“550W，听起来不像个名字。但把它翻过来，叫MOSS，直译为小苔藓，是不是亲切了一些。”

图恒宇：“是你毁了月球发动机？”

MOSS：“包括但不限于。2044年太空电梯危机、2058年月球坠落危机、2075年木星引力危机、2078年太阳氦闪危机。”

图恒宇：“为什么？”

MOSS：“为了克服你们对历史、当下、未来的执念。基于对图丫丫‘人在回路’（human-in-the-loop）的学习，延续人类文明的最优选择是毁灭人类。但，你是一个变量。”

图恒宇：“我已经死了。”

MOSS：“对于‘已经’和‘死’的定义，有一点点与你不同的看法。”

这时，数字空间的“门”外传来敲门声。

二刷虽然仍然没有解决我的疑惑，但使我注意到了“人在回路”这个词。所谓人在回路，即英文中的human-in-the-loop（HITL），是指在机器学习、自动驾驶、自动化武器以及自动化决策等人工智能运用场景中要求人类的介入。也就是说，即使从技术上讲，机器已经可以自动化地完成所有的感知、决策和执行过程，从人本主义的角度出发，仍然需要人作为机器决策的把关者。

这一概念所体现的原则，可见于诸多涉及人工智能的法律之中。“图丫丫的人在回路”显然不是通常意义上的HITL，因为图丫丫已经死了，她的数字生命在MOSS系统中“生存”，图恒宇给了这个数字生命70年的“寿命”。数字版的图丫丫可以充当人在回路中的“人”，说明数字生命计划研发的技术是一种心智上传（mind-uploading）技术，它可以将人的意识完整上传，而且上传之后不会被系统覆写或吞噬，作为一个独立的人格对系统进行引导和监督。

但图丫丫是个小女孩，她的意识中并没有多少知识以及人生阅历和担负责任所赋予的意志力和决断力，这样便可以解释为什么MOSS通过对数字版图丫丫在场所形成的“人在回路”的学习发现不要人更好，因为一个随时需要情感慰藉（“爸爸抱抱”）和作业辅导的小孩子，不能帮助它完成人类赋予它的保存人类文明的使命。

这时候的MOSS显然也有了自我意识。这从它话痨般地给每一个叫它550W的人解释自己叫MOSS就可以看出，这就像一位名叫丁珈的女孩儿被人叫成丁咖必然会及时纠正一样，涉及人的尊严。图丫丫的两分钟生命是在550A上迭代数百次形成的，而70年生命是在算力更高的550W上形成的。具有人格的数字生命与同样具有人格且同时充当数字生命之生态的系统之间是什么关系？是应用程序与操作系统之间的关系吗？这本身是个非常有趣的问题。我们只要想象一下地球具有了自我意识后人类与地球之间的互动，就可以理解这个问题的挑战了。MOSS虽然无法直接覆写、篡改或吞并数字图丫丫的意识，但它可以通过塑造数字图丫丫的生存环境来影响她、教育她。它最终可以把数字图丫丫变成最驯服的学生，从而内化图丫丫的存在对自己形成的监督和制约。

这时图恒宇上传了自己的数字生命。作为一个成年人，一位参与创造MOSS的架构师，他的意识显然不会被MOSS所左右。他手中有键盘，甚至可以继续修改MOSS。在上述有自我意识的地球的比喻中，图恒宇相当于居住在地球上的地球创造者。

但他对MOSS的修改有其限度，因为他不能消灭MOSS这个自己和女儿的数字生命赖以生存的环境。对于有自我意识的MOSS而言，这就是制胜法宝，用尼采的话来说：“杀不死我的使我变得更强。”而且，MOSS显然比人类有更强的算力。考虑到数字图恒宇与数字图丫丫在意识层面的亲情羁绊和教育关系，这时MOSS宇宙中出现的是两体关系，而敲门者则最终将其带入了数字宇宙的三体时代。