AI“复活”亲人打开了潘多拉魔盒？法学界发出一连串“灵魂拷问”

用微信扫码二维码

分享至好友和朋友圈

最近，有博主使用人工智能等数字技术“复活”自己的奶奶、爷爷等已经逝去的亲人，持续引发网友关注和讨论。新技术背后的伦理和法律风险几何？在法学界，一连串的“灵魂拷问”，发人深省——

“复活”奶奶如果仅用于寄托个人哀思，无可厚非。但是，一旦利用奶奶个人信息创造的虚拟形象，产生了流量利益，或被用作带货赚钱，那么，这位奶奶的其他亲人是否有权分享这笔新的“遗产”？未来，如果有服务商为亲属提供逝者“复活”服务，所需的“音容笑貌”等敏感个人信息，又该如何确保其安全合理使用？事实上，这不仅仅是假设，因为在现实中，已发生诈骗团伙通过AI换脸等手段伪装成受害者的亲人、进而实施诈骗的案例。

多名沪上高校的法学专家呼吁，随着AIGC（生成式AI）的潘多拉魔盒被打开，技术应用门槛不断降低，由此可能衍生不同程度的法律风险，社会公共治理也将迎来一系列新的挑战。

技术红利和“次生灾害”，或将同时发生

进入数字时代，AI技术如果使用不恰当，可能会带来一些现实困扰。

用AI“复活”已经去世的人，甚至“复刻”依旧在世的人，新技术加持下，“数字生命”将如何冲击现有的社会秩序、带来怎样的法律风险？华东政法大学特聘副研究员邱唐接受记者采访时，举了几个典型的例子。

比如，在流量经济的影响下，有人开始引入数字技术“复活”去世的明星。从法律角度来说，这一行为可能侵犯他人的肖像权、名誉权等。再如，为了追星，有人尝试“复刻”偶像明星，并宣称这是自己的伴侣，这样的行为也可能给他人的现实生活带来负面影响。

更进一步，现在有一些人脸识别的关卡，技术门槛较低，使用照片即可通过。如果借助AI、利用生物识别信息生成比个人的照片更加逼真的视频等，由此可能会埋下巨大的金融风险。比如，“冒领”他人财产、滋生人身安全隐患等。

邱唐介绍，目前，“复活”的数字形象不具备法律上的主体资格，因而无从论及其法律上的人身与财产性权利。今后，随着AI技术不断突破，虚拟人、数字人的权益该如何定义？在这方面，新技术确实撕开了巨大的想象空间，也不排除今后的法律可能因此而作出调整、产生新变化。

谈及“数字生命”，上海政法大学教授张继红看到的是“硬币”的另一面——企业责任。

如今，个人的很多资料、信息都掌握在一些提供基础算法服务的企业、平台手中。今后，如果有提供“复活”服务的平台需要获取个人敏感信息，如声音、图像、视频等，在收集、传输、存储等诸多环节上，均可能存在安全风险，进而威胁个人信息权益，包括个人的隐私权。若服务提供商存在恶意丑化逝去亲人形象的行为，还涉及侵犯名誉权等人格权益。

简言之，AI“复活”亲人只是眼前的冰山一角，当潘多拉魔盒被打开后，技术红利和“次生灾害”或将同时发生，而加强监管也势在必行。

日前，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》。张继红介绍，此次《征求意见稿》中的一大核心就是关于AIGC的内容安全，明确规定了利用生成式人工智能产品的提供者的内容合法安全保障义务和责任——这几乎占据了《征求意见稿》近一半的条款篇幅。

有效加强AIGC监管，需要“软硬兼施”

科技发展速度往往超出想象，新兴领域的政策监管及法律空白地带，又该如何为之？

上海大学法学院教授陈敬根注意到，随着新技术的投用，可以预见，未来大量AI生成的虚假信息可能引发社会负面情绪、导致信任危机。“目前，对于一些欺诈行为，社会大众的辨识度并不高。”他表示，为了防止次生风险的发生，需要系统化、体系化的应对方式。而就目前来看，在构建人工智能技术的全流程管控方面，确实有很大的提升空间。

一方面，要加快AI领域的立法。另一方面，也应该看到，画出底线和红线的“硬法”固然不可缺位，但为了弥补立法的滞后性，在人工智能等新兴领域，当前应提倡设立更多的“软法”，即通过行业协会、团体组织等自发制定的规则，产生集体约束力，由此在法律底线之上起到行业监管的作用。

张继红同样建议，应加快引入多元治理的社会力量，更加重视AI领域的行业自律，通过国家标准、行业标准引导产业发展，以场景化的标准指引企业做好人工智能合规工作。

“立法的滞后性与技术发展之间势必出现的‘剪刀差’，不仅需要法律及时的修补，社会大众的伦理自律，即不能违背公序良俗和基本价值观等，也要同步跟上。”邱唐直言，由于“软法”没有具体的处罚措施，究竟能在多大程度上发挥作用，仍需观察。但毋庸置疑的是，及时、快速地跟进技术发展，光靠法律还不够，需要来自更多行业企业、社会组织和每一个人“自下而上”的自我监管，由此形成多元共治的格局。

　　作者：储舒婷

　　编辑：吴金娇

责任编辑：樊丽萍

图片来源：文汇报资料图

*文汇独家稿件，转载请注明出处。

特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.