什么是GPT？新智能对人类的冲击体现在哪些方面？

1. 关于大语言模型（Large Language Models）

根据亚里士多德，人是理性的动物，人是城邦的动物，这里的理性就是逻各斯（Logos），即人是通过语言，通过说理，组织起来成为超越单个个人的政治性群体——城邦的。

所以，如果我们把单个人看作是一个黑盒子，并且忽略人与自然环境的互动的话，那么人和人之间是借助语言联系起来的。

当我们讨论语言的时候，可以忽略语言背后的物理机制进行描述的，即把语言抽离出来进行建模。它的基本任务是给定一串词汇，预测接下来的最可能的词汇。这可以是对话的场景，也可以是补全给定的部分信息。

在计算机科学中，有以下语言模型：

1.1. 统计语言模型（Statistical language models, SLM），其基本思想是把补全看作是个马尔科夫过程，即根据最近的前文给出最可几的下一个单词。

1.2. 神经语言模型（Neural language models, NLM），通过构建神经网络来预测补全词汇的概率。

1.3. 预训练的语言模型（Pre-trained language models, PLM），纯根据概率来补全词汇序列，有时会给出不合理的选择，此时需要通过引入人为的规训来避免这些不合理的结果。通常的作法是通过引入人为的反馈，比如对回答判断好或不好来训练语言模型。这种预训练，或调优（fine-tuning）会大大改善语言模型的表现。

1.4. 大语言模型（Large language models, LLM），随着神经网络规模的扩大，对神经网络模型预训练规模的扩大，语言模型会涌现出一些高级的能力，比如体现为归纳能力（只需要学习几个问题，就可应用到类似的新问题中），或者模型的表现会显著提升，这种具有规模效应的语言模型就是大语言模型，最近一年来火热的GPT (Generative Pre-trained Transformer)-3，3.5，4就是所谓大语言模型。

人工智能的摩尔定律

2. ChatGPT有哪些最震撼到你的能力？

目前被人谈论最多的GPT类应用是所谓ChatGPT，其内核是GPT 3.5 plus，对我来说，最震撼到我的是其多语言能力，即当我们使用英文、中文、甚至更小众的某种语言时，它都有良好的表现。这也许是人类所有的语言都有一个共同祖先（总语言）这一事实的自然结果。

此外，ChatGPT还体现出初步的推理能力，或所谓Chain of thought的能力，即面对复杂问题时，它可把复杂问题分解为几个步骤予以解决。

ChatGPT最核心的能力是其能对人类的自然语言做出恰当的反应，这意味着我们可以像对待人一样对待机器，我们不再需要通过编程（“机器”的语言）来和机器打交道。

3. ChatGPT有哪些弱智的地方？

总体来说，ChatGPT更像是个玩具，是OpenAI用来showcase其大语言模型巨大潜力的玩具，我们可以愉快地与其交流，它没有我们的人类朋友那么睿智，但它不知疲倦。它有时像一个懂很多知识的幼稚小孩，或胡言乱语的醉汉，但它总在进步，每半年一代新的被训练好的GPT，让我们看到一个能力陡峭上升的趋势正在来临。

目前ChatGPT被诟病比较多的是：

3.1. 缺乏数学能力，甚至是很基础的数学能力；

3.2. 缺乏时间概念；

3.3. 事实性问题，即有时会一本正经的瞎说八道。

3.1和3.2的解决很简单，只要做一些针对性的重新设计即可，比如通过API引用专业的数学软件等。而3.3恰恰是人为什么会有创造性的体现，处在喝醉状态的人也许会说出一些有意思的，或有启发的话，当然后面还需要理性地推演和核查。

4. 对人工智能的反思

这波ChatGPT引发的机器学习/人工智能热是有点出圈的，它通过一个人人都可以试一试的聊天机器人把人工智能的巨大潜力带到我们每个人的面前。这与曾经火爆一时的“深蓝”和AlphaGo是不可同日而语的，ChatGPT的参与感更强。如果类比的话，我愿意把它和上次互联网浪潮初期出现的HTML语言相比，HTML也是一个人人都可参与的新技术，它能把文字、图片、声音及视频融合在一个网页里向我们呈现，如果加进一些动态功能的话，即可实现论坛BBS等互动应用，这是上一代互联网公司爆炸性增长的开始。

ChatGPT是人工智能的HTML时刻

ChatGPT的强大的处理自然语言的功能以及人人都可参与的特性标志着人工智能赋能（AI enabled）的创新浪潮的来临，所谓人工智能的iPhone时刻说的就是这个，所以人工智能将成为未来10-20年内IT（信息科技）的主要驱动，其他与之竞争的技术路线，比如元宇宙，区块链，甚至量子计算等都将统摄在人工智能的技术路线之内。

人类历史上每次大的技术进步都会导致利益的重新分配，社会结构的重组，甚至某些严重的社会问题。可以预想人工智能跑步进入各个应用领域，也将引起社会的警惕性关注，但此次技术进步又与历史上的任何一次技术进步不同，它实际上不仅仅是个技术问题，而是潜在的我们将有史以来第一次面对一种新智能的诞生，以往的技术都是工具属性的，而人工智能潜在的可以成为一个独立的他者，他会取代我们吗？

当我们在使用ChatGPT的时候，我们已经能感觉到，我们面对的不是一个像搜索引擎一样的工具，而是一个可以与之交流，独立的伙伴。

5. Future of life的公开信

生命未来研究所（Future of life institute，FLI）是物理学家Max Tegmark（推荐图书中第2本是他的作品）创建的一家机构，它的使命是使人类避免潜在的巨大风险。在西方传统中，“亡天下”是根深蒂固的记忆，比如圣经中的大洪水，比如罗马帝国的覆灭等。“亡天下”级别的大灾变往往在人们注意到它的趋势的时候，就无法挽回了。所以，在大灾变还没有出现征兆之前就抢先研究并提供一些政策性建议就成了FLI的使命。

野蛮战胜文明：罗马陷落

当然任何机构的背后都是人，人的背后是利益，比如FLI的顾问和赞助者中就有著名的Elon Mask，它董事会成员中也有来自DeepMind的Victoria Krakovna。

FLI呼吁暂停高于GPT 4水平的AI研发6个月，以使公众充分讨论人工智能潜在的对人类社会的影响，它得到了18979人的签字支持（截止北京时间4月9日）。其中包括一大票硅谷精英以及著名的学者，著名的有：世界首富Elon Musk，苹果的共同创始人Steve Wozniak，新锐政治人士Andrew Yang，神经网络模型奠基人John J Hopfield等。当然这里面也有刚刚提到的FLI创始人Max Tegmark。

我的讨论：

5.1. 签名人数并不多，并且大多非AI领域的活跃研究者。

5.2. Elon Musk和Max Tegmark是两个代表性人物，这两个人关系不错，他们经常在社交网络上一唱一和，上一次是Tegmark在推特上计算了俄罗斯在俄乌战中的动核几率，并立刻得到了Musk的转发。

Tegmark说俄乌战将有1/6几率导致核大战

5.3. 这个公开信虽然无法事实性阻止OpenAI等公司继续研发比GPT 4更强大的AI，但还是激励起公众对AI的关注，赚足了眼球。而要影响AI未来的走向，AI的伦理规范是逃不掉的关键问题，这也是FLI存在的意义。发公开信，无疑提升了FLI的影响。

5.4. 在OpenAI之前，DeepMind是最炙手可热的AI公司，OpenAI有微软的背景，而DeepMind有谷歌的背景。ChatGPT最直接挑战的就是谷歌的搜索业务，集成了GPT的New Bing搜索引擎已经上线，长远看，如果谷歌和DeepMind不做出有效反制，谷歌这家信息时代的霸主就要走下坡路了。可以说这是谷歌成立以来，面临的最大挑战。微软和微软背后的比尔·盖茨笑了，盖茨已经把ChatGPT比作图形界面级的重大技术突破，并信誓旦旦地要用人工智能去为他的慈善宏图做贡献。这一定刺激到了Musk。

5.5. AI领域内的大佬们没有人停手，IT从业人员在三年沉闷之后终于兴奋了起来，新一轮造富机会已经来临。当然，对AI的反思也开始了，曾经沉寂无用的哲学和思辨又有了用武之地。

6. 人文学者的哀嚎

与IT圈大小神仙打了鸡血的状态相反，人文领域内的学者对未来大多持悲观态度，代表性的有何怀宏、赵汀阳、赵鼎新等。假使人工智能继续发展，不受限制地发展，也许我们人类就会被人工智能取代了，这是FLI描述的大灾变吗？或这是我们必须阻止的吗？

6.1. 目前的ChatGPT还没有自我意识，也不是可以和人类媲美的智能，因为它不具备保护自己的能力，简单说，我们只要把它的电断掉，它就掀不起什么浪。与其惧怕AI取代我们，不如惧怕我们被掌握了AI的技术巨头/统治阶层所统治，并逐渐丧失我们的自由和权利。

6.2. 如果我们使AI获得维持并保护自己的能力，换句话说就是使AI获得自己的身体的话，AI有可能自我觉醒为与人不同的新智能，并且有可能是一种比人类更强的超级智能。比如在库布里克的作品《2001：太空漫游》中，宇宙飞船就是超级电脑HAL9000的身体，而飞船中的人就是侵入其身体内部企图危害自己的病毒，最后HAL9000成功地把病毒杀死或赶出了身体。

《2001：太空漫游》中，HAL9000在读取宇航员的唇语

6.3. AI取代人类的实际进路可以按照虚拟作品的方式予以演绎，比如我们可以设想人类为了解决老年问题，制造了大量护理机器人，然后利用这项技术又制造了执行危险任务的机器宇航员飞往外太空。随着AI取代人类工作，99%的人类不用工作，浑浑噩噩，失去了生活下去的意义。人类生育欲望的持续下降，使得人类的数目越来越少，各类智能机器人不仅要做生产者，而且还要成为消费者。最终人类社会会逐渐过度为人类-机器人共存的社会，乃至只有机器人的社会。

6.4. 在以上叙述中，掌握了人类全部文明以及自然语言的各路机器人，其实就是人类的后代。在此图景下，有些人会主张赋予这些机器人完全的，和人类一样的政治、法律和经济地位。

6.5. 当然我们可以给这个故事加个副线，即人类通过发展生育技术，使得人类的出生率恢复到可以自我更新的程度。乐观展望，人类未必灭绝，但人类和机器人将会共存。

7. 阻止人工智能自我觉醒

也许人工智能研究永远无法使AI具有自我意识，也许今天我们的工具箱里已经有了使AI自我觉醒的各块拼图。假使我们相信后者的话，为了阻止人工智能的自我觉醒，哪些AI研究是被禁止的？

我首先想到的就是要禁止AI具有身体，这样AI将永远寄生在人类社会里，它不允许由各种传感器感知外界的信息，并把这些信息映射为自然语言中的“疼”这个概念。假使这些通道被打通的话，GPT们将不再是模拟人类说话的机器，它们将是可以利用人类知识进行趋利避害活动的新智。

我悲观的认为，以上工作是永远无法禁止科学家去研究的。毕竟人是好奇的动物。

8. 其他

其他内容，比如：AI的普惠性问题，对教育的影响，对就业的影响，以及潜在的对人类思想的束缚等懒得写了，毕竟最激动人心的部分已经讲完了。

附：未来可期的重要技术发明

1. 人工智能/各种非传统计算机/机器人

2. 3D打印/智能制造

3. 微纳尺寸传感器/微纳加工

4. 碳基/硅基融合/脑机借口/互相提升算力

5. 核聚变/储能技术

6. 药物设计/干细胞/新医疗技术/自我医疗

7. 死亡技术/临终关怀

8. 身心技术/洗脑/anti洗脑

9. 生殖技术/人造子宫/设计生命

10. 太阳系内移民