ChatGPT编假新闻称教授性骚扰女学生，AI频繁作恶引担忧，多国加强监管

据美国福克斯新闻10日报道，ChatGPT借《华盛顿邮报》之名编了篇假新闻，称华盛顿大学法律教授乔纳坦·特雷（Jonathan Turley）和女学生一起去阿拉斯加旅行，并在旅行途中对其性骚扰。特雷发推指责ChatGPT诽谤，并登上福克斯电视节目为自己澄清，称此事子乌虚有，纯属捏造，且指出GPT的假新闻报道了5名教授性骚扰的事件经过，而其中3个一看就是假的。

“我根本没去过这趟旅行，也从未和任何学生一起旅行过。”他在《美国报道》节目中说，《华盛顿邮报》编辑自己看到都觉得离谱，甚至不知道AI是怎么脑补出这出故事的，因为根本找不到类似蓝本。

随着生成式人工智能（Generative AI）在全球掀狂热浪潮，AI侵犯法律、违背伦理也逐渐引起各界担忧。

此前，意大利政府已禁用ChatGPT。据英国《卫报》报道，11日，加拿大政府紧随其后，对ChatGPT的创造者OpenAI团队以侵权为由展开调查。当天，美国商务部也宣布，将建立AI问责机制，并就推出相关政策征求公众意见。此举被广泛看作是美国踏出了限制AI的第一步。

特雷教授登上福克斯新闻节目上指责ChatGPT编造假新闻 / Foxnews

美国国家电信和信息管理局(NTIA)负责人艾伦·戴维森(Alan Davidson)在新闻发布会上称，有必要建立对AI的问责机制，让公众能放心使用AI，避免AI传播错误信息、侵犯个人隐私、或显示充满偏见的搜索结果。他指出，由于AI发展迅速，加强规范监管十分紧迫。

拜登政府此前曾推出AI使用指南，建议企业在使用AI时保护数据隐私，防止算法歧视并公开他们是如何使用AI的。2021年，欧盟就曾推出《人工智能法案》，将AI按照风险分为极高风险、高风险、一定风险和轻微风险四类，试图规范AI使用。但是这些规定并非强制，也就是说企业可以选择遵守，也可以选择不遵守。很多公司高度依赖AI创收，他们不愿意被纳入监管框架。微软就很快表示不服，说用AI可以出于多种目的，其中很多都没有风险，怎么能轻易对他们分类？像传播虚假信息这种被法案定义为“高风险”的行为，就算有的AI真的做了，那也是使用AI的那个人的问题，跟AI有什么关系？

这的确是个难题。因此，戴维森也表示，这就是他们征询公共意见的原因。

频发的恶性AI事件让全球加快立法规范的脚步

虽然距离欧盟首次提出AI监管法案已经过去两年了，最近频发的恶性AI事件让全世界都加快了立法规范的脚步。综合多家外媒报道，3月底，英国一大学生在路边停车被开了罚单，为了逃避罚款，她用ChatGPT写了一封信上诉，成功让市议会取消了罚款。4月初，美国一大学生承认用ChatGPT写论文，还拿了高分。教皇方济各因为身体原因上了几次热搜，结果网上涌现了一批方济各穿着新潮羽绒服的照片；而特朗普刑诉的消息一传出，特朗普被一堆特警以一种非常滑稽的方式按倒在地的假新闻图立刻引爆了互联网。被诬陷的特雷教授更是严正指出，AI编假新闻这种恶劣行为严重损害他的声誉，对他的学者生涯产生了非常恶劣的影响。

版权问题更是让对AI危害的讨论白热化。ChatGPT和Stable Diffusion等著名AI所使用的数据库都包括从网上弄来的几十亿张图片，几百万本盗版电子书，还有整个维基百科。许多人用AI生成文章和图片，殊不知其中许多数据都是受版权保护的，未经允许就利用这些素材生成图片属于侵权。当然，很多人用的时候也不知道AI在帮自己画画写字时已经涉及侵权了，因为AI生成结果的过程并不透明，它不会告诉你都从哪些途径，获取哪些数据，为你生成这张图或这篇文。结果就是用户没有意识，法律束手无策，AI侵权越发猖獗，在国内也引发了大量讨论。

实际上，世界各地的监管机构和司法机构都在严打AI侵权问题，并向AI的创造者发出警告。意大利已经禁用ChatGPT，加拿大对OpenAI展开调查，因为有人投诉ChatGPT“未经同意收集、使用和披露个人信息”。英国数据监管机构也表达了自己的担忧，政府的信息专门办公室主管阿尔蒙德(Stephen Almond) 表示，即使AI用的是公开的数据，数据保护法仍然起作用。也就是说，仍然可以追究AI侵权。

牛津大学计算机教授伍尔德里奇(Michael Wooldridge)指出，在这些AI的机制下，整个互联网的每一个链接、每一个页面都可能会被跟踪，这是个数据海洋如此庞大，你和我都在其中。他提醒AI公司，版权风暴近在眼前。此前，微软的AI多次在生成的回答中引用受版权保护的新闻文章。伍尔德里奇表示，他自己也没有明确允许自己发表的文章被用于AI，但是肯定已经被用过了。

示威者举着“禁止AI”的标语牌 / Alamy

对于画家、作家等艺术创作者来说，AI也如洪水猛兽，不仅要担心自己的生计被ChatGPT抢走，所创作的作品未经允许就被用在AI里。目前，已经有相关法律纠纷，2月，国外著名图片素材公司Getty Images起诉发明Stable Diffusion的英国AI公司Stability AI侵权。无独有偶，1月，一群美国艺术家联合起诉Midjourney和Stability AI，称它们“侵犯了数百万艺术家的权利”。

AI公司坚称自己遵纪守法，拒绝透露训练AI的数据

面对一连串的诉讼和监管要求，AI公司也十分强硬，坚称自己遵纪守法，还拒绝透露用来训练AI的数据。OpenAI首席执行官萨姆·奥特曼(Sam Altman)称团队“遵守了所有隐私法”，并拒绝给出GPT-4的数据库，只说他们用的数据要么是公开的，要么有授权。还有公司辩称自己不盈利，所以就算用盗版也没关系。AI公司Eleuther AI正在开发的AI项目中，其中有100GB的盗版电子书，100GB从Github上拿来的代码，还有228GB的网站内容。Eleuther AI承认所有这些都没有获得相关作者的统一，但是因为都是公开内容，拿来用也不会有什么问题。

AI公司如此不配合，公众的担忧也雪上加霜。在AI领域，主导者并非学术单位，也不是政府，而是企业。斯坦福大学《2023年人工智能指数》报告显示，22年有32个重要AI诞生于企业，而只有3个来自学校，AI开发的高额成本逆转了此前学界主导AI发展的趋势。而相对而言，企业并不会在控制风险上花多大功夫，且如此先进的技术被利润主导的大企业所垄断，带来的后果可想而知。

英国萨里大学人工智能研究所罗戈伊斯基博士说:“这些AI的创造者是以利润驱动的大型企业，可不一定是什么好事。我们普通人的利益可能会被进一步忽视。”而AI假新闻的受害者特雷博士更是警示了AI带来的灾难，“AI总给人一种准确和中立的印象”，却和人类一样会犯错，会说谎，会产生自己的偏见。他多次上节目发言，正是希望人们引以为戒。目前，ChatGPT尚未就诽谤事件向他道歉，也没有发布任何声明。

九派新闻实习记者 李雅文