随着DALL·E 2 于 2022 年 4 月的宣布，关于2022 年初第三个 AI 冬天——或 AI 撞墙——的预言过时得很快而且效果不佳，随后出现了更多主要由扩散模型驱动的文本到图像应用程序，这是一个非常多产的领域用于计算机视觉研究及其他领域。AI 的 2022 年定义为强劲的上升趋势。

此外，大型语言模型被证明是一个更加肥沃的领域，有几篇论文显着扩展了它们的能力：检索增强、思维链提示、数学推理、推理自举。语言模型研究远未结束。它仍然在发展！

今年年的重磅炸弹无疑是OpenAI 的 ChatGPT，它再次重新定义了对 LLM 的期望，并巩固了 OpenAI 作为 LLM 即服务的全球领导者的地位。正如我们将看到的，到 2023 年，这可能会对整个技术领域产生连锁反应，因为与 OpenAI 建立了牢固合作伙伴关系的微软可能会利用它来改进他们的主流产品，包括 Bing 和 Office。

现在让我们来看看 AI 的几个关键领域：它们目前所处的位置以及我们预计它们在 2023 年的发展方向。

长期以来，Twitter 一直是 AI 研究人员公开分享和讨论其工作的最大在线空间。但埃隆·马斯克臭名昭著的收购该公司已将其置于摇摇欲坠的境地。日益增长的不稳定因素、不可预测的政策变化以及马斯克的分裂政治立场导致人们强烈要求转移到Mastodon等其他地方。目前，大部分行动仍在 bluebird 网站上进行，出于政治原因一夜之间全面撤离的可能性仍然不大，但我们不能完全排除明年公司出现某种形式崩溃的可能性。

深度学习社区的另一个战场是框架。PyTorch 的采用率已经超过 TensorFlow 几年了，它是 Autograd 和神经网络最受喜爱和使用的框架。2023 年，PyTorch v2.0 将发布，其主要功能是编译器和加速。甚至谷歌也没有押注 TensorFlow 的卷土重来，而 JAX/FLAX 生态系统——已经是谷歌大脑和许多其他研究人员的最爱——仍然不够成熟，无法成为主流。

最后，行业和学术界的鸿沟继续扩大，因为 (1) 大型科技公司拥有更多可用的计算资源，以及 (2) 当前的许多轰动一时的研究都依赖于数十名世界级工程师的密切合作，而这些工程师是无法获得的普通博士生。这意味着学术研究正在转向更好地检查、理解和扩展现有模型，以及设计新的基准和理论进步。

如果一年前 LLM 已经是 AI 领域的主角，那么现在的情况更接近于独白。萨顿的惨痛教训像美酒一样陈年。有了 ChatGPT，LLM 成为了主流——甚至我的非 AI 非技术朋友都在问这个问题——我们预计 2023 年将是这项技术真正普及的一年。微软——已经在考虑将其在 OpenAI 中的股份扩大到 49% ——而谷歌不想错过，所以这将是一场巨头的冲突。

可以说，RL 在去年从基本面来看并没有取得实质性进展。相反，进步是由越来越复杂的代理的应用构成的，这些代理结合了计算机视觉、文本、语言模型、数据管理……例如CICERO、视频预训练 (VPT)、MineDojo或GATO。很大程度上受成功扩大模仿学习或离线 RL 的推动，只需少量使用古老的在线 RL 代理-环境-奖励循环。我们期望开发更多的多模态复杂代理，这些代理可以在不完整的信息下采取行动，利用基于大型神经网络和大型预训练数据的模块化组件。

到 2023 年，我们预计 LLM 和 RL 之间的共生关系将进一步发展：在 RL 环境中训练 LLM，并将 LLM 用作 RL 代理的一部分（例如，作为政策的规划者，强先验）。

最后，Zero-few shot 和极高的效率将是机器人在现实世界中互动的关键，我们期待 ML 模块化（只需插入预训练模块的能力）、few-shot 能力和因果表示的趋势学习在 2023 年在这方面提供帮助。但是，如果在传统 RL 在计算机上解决极端样本效率之前在该领域取得重大突破，我们会感到惊讶。

扩散模型和文本到图像是 2022 CV 的明星。我们对通过生成图像可以实现什么的看法与我们一年前的想法大不相同。然而，图像理解远未解决。让我们更接近的关键是什么？

最后，是我们心中的话题。在过去几年中，神经 IR 的最大问题是将学术基准的成功——BM25 经常被打败——转化为现实世界的设置和广泛采用。发生这种情况的关键：

最后，强调一些与研究相关性较低但仍然是人工智能在未来 内如何发展的关键的问题：

在硬件方面，Nvidia 在 AI 芯片上的垄断地位仍未动摇，只有奇迹才能在短期内改变这一局面。关于 HuggingFace 被谷歌收购并与他们的 GCP 和 TPU 紧密集成以进行托管的传言可能会增加 TPU 硬件的使用，但这听起来仍然不太可能。

欧洲人工智能法案——迄今为止最雄心勃勃、最全面的监管工作——继续取得进展，目前的估计表明它最早可能在 2023 年底生效。我们希望其他大型经济体能够注意到并效仿它发生在 GDPR 中，以确保在 AI 使用方面保护个人权利。

当前的大型技术放缓将如何影响人工智能研究——尤其是在短期行业融资方面。虽然我们希望我们在过去 12 个月中看到的强劲进展将转化为该领域的整体乐观情绪，但不能排除放缓的可能性。

更多Ai资讯：公主号AiCharm