2023年人工智能行业专题之分析 细究算法、数据、算力三要件，略逊一筹但仍有追平可能

3 月 16 日百度 AI 对话模型“文心一言”发布，我们据发布会信息总结，“文心 一言”基于此前 ERNIE 大模型、PLATO 对话模型训练而成，是对百度 2019 年起便 已开始的 NLP 实践的延续。从技术角度看，除百度已有的知识增强、检索增强、对 话增强技术外，“文心一言”引入了有监督的精调、RLHF（基于人类反馈的强化学 习）、提示学习等ChatGPT 基础技术，但具体参数量、数据量、耗能、对话时效等均 未公开。

事前录屏而非实机演示，对外界信心产生负面影响。从现场发布的 demo 来看， 文心一言具备文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成能力， 同类问题下中文理解能力强于 GPT4，且随输入内容生成音频、视频尚属 AI 对话模 型中的首例，存在超预期亮点，但发布会未能展示模型的编程能力，且事前录屏降低 了其演示的真实性，也并未对公众开放，多种因素导致公众反馈不佳。

“文心一言”展现了足够的文案创作能力，为 B 端降本增效的起始逻辑已经明 晰。出于商业角度考虑和高昂的端侧微调成本，厂商普遍放弃开源，转而以提供 API 的方式供下游用户在特定场景下进行推理使用。以 ChatGPT 为例，OpenAI 并未公 布其基础模型（GPT3.5、GPT4）技术细节，用户仅能够在自身应用内通过API调用 其模型。从第一批用户实际使用来看，“文心一言”已经展示了基础文案工作能力， 除此前接入 650 家企业外，发布当日有 6.5 万家企业申请测试，签约 5 家客户，一定 程度反映了企业客户的认可程度。

用户交互能够进一步改善模型表现，我们判断这也是公司急于推动模型面世的 原因之一。OpenAI自 GPT-3 便开始对外提供服务，通过开放给公众，GPT3 收集来 自用户输入内容的多样性数据，从而迭代出效果更好的模型，这就决定了 GPT4 是站 在用户交互飞轮的巨人肩膀上，与文心一言并不在同一起跑线。但是海量用户群也是 百度的长处之一，GPT 的飞轮效应是可复制的。尽管尚未对公众大范围开放，企业 用户已经能够申请内测邀请码，邀请范围若持续扩大，飞轮效应将推进“文心一言” 表现改善，且优化空间极大。

我们判断，尽管上下文理解、语义逻辑、多轮对话方面尚有欠缺，“文心一言” 在部分问题处理上已经能够对标 GPT3 水平，但具体表现仍需时间和公众验证。我 们依然认为，人工智能必然成为产业发展长期主线，国产替代具有需求上的紧迫性。 以“文心一言”发布为契机，我们重点分析国内主流科技企业在复现 ChatGPT 领域 需要克服的差距，判断对国产大模型的发展不必过度悲观。

1.1.细究算法、数据、算力三要件，略逊一筹但仍有追平可能

1.1.1.算法：核心差距在于方法及细节处理

大模型的技术积累已经行至一个质变节点。我们将 NLP（自然语言处理）及 CV （计算机视觉）技术视作类 ChatGPT 产品的技术底座，从深度学习的角度分析其发 展历程，残差网络及 Transformer 的出现使得模型的深度和参数量指数级增加，大模 型成为可能；大语言模型出现后，大模型的使用方式从预训练的单一任务模型迭代到 多模态模型，微调时所需的标注数据量显著减少，从而降低了业务的使用成本。

国内 AI 领域积累深厚，历年论文发表及专利申请占优。Elsevier 数据显示 2012- 2021 年中国 AI 相关论文篇数始终排在首位，到 2021 年增至美国 2 倍。从论文引用 次数进入前 10％的篇数来看，中国 2019 年跃居首位。2021 年达到比美国多 7 成的 7401篇；斯坦福大学数据显示2021年中国提交的人工智能专利申请全球占比超50%。

从基本操作系统看，国内已经具备建立 AI 底层框架的能力。深度学习框架是实 现算法的基础架构和工具，可类比为开发过程中必须使用的操作系统（如游戏制作过 程中的虚幻引擎）。从技术定位看，AI 框架对下调用底层硬件计算资源，能够屏蔽底 层差异并提供良好的执行性能,对上支撑 AI 应用算法模型搭建，提供算法工程化实现 的标准环境，是 AI 体系的关键核心。目前海外 AI 框 架 领 域 已 经 形 成 TensorFlow(Google)、PyTorch(Meta) 双寡头格局，国内主流 AI 框 架 主 要有 PaddlePaddle（百度）、MindSpore（华为）、MegEngine（旷视）、OneFlow 等，从 Github 指标看，我国主体推出的 AI框架中，华为 MindSpore、百度飞桨引用次数、点 赞数、贡献者数量占优。

但 ChatGPT 在算法上的突破更多在于思路而非具体理论，是“菜谱”而非“食 材”的创新，这成为了复现的难点之一。2022 年 11 月，OpenAI 上线了机器人对话模 型 ChatGPT（GPT-3.5），引入了 RLHF（基于人类反馈的强化学习）：利用人类的标注 数据去对 GPT3/GPT3.5 进行有监督训练，针对模型的多个回答进行排序标注，形成奖 惩机制，让模型去拟合人的偏好，从而实现了史上最佳的输出效果。ChatGPT 并未实 现任何底层理论的创新，更近于多种前沿算法理论组合，选取了大量的数据，设计了 合理的标注流程，并且将这些融合，真正复杂的是这一过程。

OpenAI 逐步放弃开源，极大增加了国内科技企业的复现难度。相比谷歌此前公 布了大量的模型原理，OpenAI 并未提供开源论文，大量的技术细节并未公开， GPT3.5 的参数规模也并不明确。尽管国内学术及业界均在 AI 领域有一定的积累，历年论文发表及专利数占优，但在复现过程中大量细节都并不明朗，如提示学习的具体 机制、算法如何泛化、算法微调的具体环节、数据标签的设置等。

从国产实践来看，学术界已有相对成功复现先例，但尚未工程化落地。百度 “文心一言”外，清华智谱 ChatGLM 亦引入了监督微调、反馈自助、人类反馈强化学 习等技术，尽管参数量较小，输出表现良好。2022 年 11 月，斯坦福大学大模型中 心对全球 30 个主流大模型进行了全方位的评测，GLM-130B 是亚洲唯一入选的大模 型，评测报告显示 GLM-130B 在准确性和公平性指标上与 GPT-3 接近或持平，鲁棒 性、校准误差和无偏性均优于 GPT-3。

1.1.2.数据：数据集质量、标注细节处理、用户真实交互是关键

相比传统无监督学习的 GPT 模型，ChatGPT表现更好的原因之一是在无监督学 习的基础上提供了高质量的真实数据（精标的多轮对话数据和比较排序数据），主要 得益于敏感词标注领域技术投入、对公众开放后形成的数据飞轮。OpenAI 并没有公 开训练 ChatGPT 的相关数据集来源和具体细节，我们参考 Alan D. Thompson 文章， 判断主流大模型数据集来源可分为六类，分别是：维基百科、书籍、期刊、Reddit （社交媒体平台）链接、Common Crawl（大型数据集）和其他数据集（GitHub 等 代码数据集、StackExchange 等对话论坛和视频字幕数据集）。

国内厂商在中文训练数据方面有一定优势，以百度为例，ERNIE 3.0 的中文预训 练语料数量最多，主要来源为 ERNIE 2.0（包括百科、Feed 等）、百度搜索（包括百 家号、知乎、铁算盘、经验）、网络文本、QA-long、 QA-short、Poetry 2&Couplet 3、 医学、法律、金融等领域的特定数据以及百度知识图谱（超过 5000 万条事实）。 但中文互联网语料质量相对较差，优质的中文标注数据集匮乏，使用英文数据 进行预训练更为可行。RLHF 论文中的训练数据英文占比极高，但对中文和其他小语 种能力的提升非常显著，可见 RLHF 对模型能力的提升能够跨越语种，以 ChatGLM6B 为例，该模型在 1:1 比例的中英语料上训练了 1T 的 token 量，兼顾双语能力，我 们认为中文数据集的薄弱对于国产大模型而言并不构成较大阻碍。

精细标注、对标注人员的培训是技术难点。ChatGPT 的前身 GPT-3 已经展示了 非常强大的语句串联的能力，但互联网的词汇存在负面信息，单纯凭借学习能力无法 来清除这些训练数据。GPT3.5给 AI提供标有暴力、仇恨语言等标签，AI工具就可以 学会检测这些内容，并在它触及到用户之前将不良内容过滤掉。尽管标签主要通过人 工标注，具体标注技术细节、对标注员的培训等仍需要国内科技企业探索。

科技企业能够参考 GPT3 的路径，利用海量用户交互提升数据质量。作为国内 最大的搜索引擎服务商，百度在真实数据和用户需求理解方面有较多积累，能够对旗 下的 AI 大模型进行充分的训练和预测，进而使得 AI 大模型的智能化水平不断进化。 参考 GPT3 的经验，GPT-3是OpenAI正式对外提供服务的模型。通过将模型开放给 公众，GPT3 收集来自用户输入内容的多样性数据，从而迭代出效果越好的模型。若 文心一言向公众开放，我们判断真实的用户调用与模型迭代之间有望形成正向循环， 缩窄国产大模型产品与 ChatGPT 的差距。

1.1.3.算力：更多关乎资金充足程度与公司战略

类 ChatGPT 产品的复现需要庞大的算力支持。浮点运算（FLOPS）的数值通常 与参数数量成比例，随着 GPT、GPT-2 和 GPT-3（当前开放的版本为 GPT-3.5）的 参数量从 1.17 亿增加到 1750 亿，预训练数据量从 5GB 增加到 45TB，算力需求随之 增长。据 OpenAI，训练一次 13 亿参数的 GPT-3 XL 模型需要的全部算力约为 27.5PFlop/s-day（即 1PetaFLOP/s 效率跑 27.5 天），训练一次 1746 亿参数的 GPT3 模型需要的算力约为 3640 PFlop/s-day（即 1PetaFLOP/s 效率跑 3640 天），需求 呈现指数级增长。

衡量头部厂商能否支撑训练及推理环节的算力需求，我们认为更多需要考虑资 金充足程度与公司战略。模型层企业更多是算力的消费者，美国芯片出口政策影响 存在但并不致命。对试图复现 ChatGPT 的头部厂商而言，我们认为算力更接近于自 由流通的商品，只需高额的资金投入即可完成布局。尽管美国出口限制政策影响较大， 国内仍能采购性能更低的前代算力芯片，只是相对牺牲了计算速度。 国内头部科技企业多已完成数据中心建设，能够实现算力资源部分自给。 Structure Research 数据显示到 2022 年全球超大规模自建数据中心总容量将达到 13177 兆瓦（MW），中国超大规模数据中心企业占亚太地区的 24%，阿里巴巴、华 为、百度、腾讯和金山云均位于领先位置。

长线投入战略、充足资金预算，是复现 ChatGPT 所必须的要素。因此，战略押 注意愿明确、现金流充沛的国内厂商更有希望弥合算力上的差距。以百度为例， 2017 年提出“All IN AI”后资本开支波动上升，2022 全年资本开支（除爱奇艺）高 达 181 亿元，同期经营现金流增长 30%至 261.7 亿元，截至 2022 年末公司用于进行 资本支出的现金及现金等价物余额为 531.6 亿元，现金流稳健、流动性充足。

1.2.工程化处理与分发能力是更高的壁垒

从国产替代角度看，算法、数据、算力壁垒并非不可逾越，随着人才流动、时间 推移和研究进步，大模型性能很可能逐渐趋同。从落地角度来看，ChatGPT 更多实现 了工程而非技术上的成功，即完成了从底层技术到工程落地再到产品的跨越，在成 本、规模和效率之间实现了正确的权衡取舍。 1）从 B 端来看，此前的 AI 公司需要根据不同的任务训练出不同的模型，算法很 难复用于其他场景。OpenAI 提供了泛化/通用的算法，让更多的使用者受益并为之消 费，各行业厂商可以利用统一的预训练大模型+微调来直接应对不同的任务，后续开 发工程量大幅下降，实现了 AI 开发的工业化。 2）从 C 端来看，ChatGPT 做到了在稳定输出的同时容纳破亿月活用户，具有低 使用门槛、高效、强传播性的特点，开启了 AI 领域大众化的序章。

梳理海外AGI产业链发展趋势，我们判断国内厂商相对优势存在于国内局部场景 的应用。AGI 受益产业链可划分为 1）上游数据及底层算力供给；2）中游 ToB 定制化 模型开发；3）下游形成 ToC 应用并进行分发。

海外目前涌现的公司则集中于以下三 类：1）专注于大模型开发的公司，对外允许开发者以其预训练大模型为底座，通过 微调或 API 针对不同的细分领域开发应用场景，如 OpenAI；2）兼具大模型开发及垂 直应用一体化能力的公司，如 Midjourney；3）单纯调用大模型 API 开发具体场景应 用的公司，如 JasperAI。因此，考虑到中外环境的显著差异、技术水平尚有差距， “模型及服务”模式下提供国内特定场景下的定制化商业模型，或面向国内C端消费 者提供内容生产应用，更加有望成为国内厂商弯道超车的机会。这意味着国产 ChatGPT 的落地在技术准备之外还需要两项核心要素：工程化与分发能力。

1）工程化能力，即能够利用更低的成本和更高效的迭代做出先进的大模型应用， 制作更高效、廉价、贴合市场的产品，能够同时容纳亿级用户在线。大模型调优周期 长、难度大，产业相关工程化经验欠缺，难以实现大模型对数据的充分吸收与利用。 在 ChatGPT 之前，已有多个行业领域涌现出智能化应用，但其工程化落地情况并不理 想。ChatGPT 做到了在稳定输出的同时容纳破亿月活用户，具有低使用门槛、高效、 强传播性的特点，但其对于训练集群、代码编译等细节的优化处理至今未披露，而这 些工程化细节正是国内厂商目前核心差距所在。 从主流科技企业用户数来看，百度、淘宝、微信等国民级应用均能承载亿级日活， 我们认为国内厂商完全具备大 DAU 场景下 AI 工程化处理的潜力。

2）充沛的 C 端用户及 B 端应用场景，即更低的分发触达成本、更快速的产品应 用迭代，此时下游流量的充沛程度便是变现的壁垒。应用分发是国内企业的长项，头 部厂商本身已经建起规模及心智壁垒，全球竞争力坚实，且变现路径可以复用，商业 模式无需再探索，如要落地 AGI 相关应用，获客成本远低于新进入者。

1.3.商业化路径已经明晰，搜索场景鲜明契合

除开星辰大海的展望，商业化变现的落地更能驱动企业加大科技投入，而类 ChatGPT 产品的变现逻辑已经相当坚实。 1）为开发者直接提供 API调用接口。此前诸如 Google、Open AI等头部厂商将 自身开发的预训练大模型开源，供下游应用者在这些模型上进行参数的微调。但随着 预训练语言模型的规模急剧增长，出于商业角度考虑和高昂的端侧微调成本，大规模 预训练语言模型不再被开源，转而以提供 API的方式供下游用户在特定场景下进行推 理使用。以 ChatGPT 为例，OpenAI 并未公布其基础模型（GPT3.5、GPT4）技术 细节，用户仅能够在自身应用内通过 API 调用其模型。从这一角度看，“文心一言” 已经以 API形式接入 650 家企业，发布当日已有 6.5 万家企业申请测试，签约 5 家客 户，为 B 端降本增效的起始逻辑已经明晰。

2）“模型即服务”，即为细分行业定制大模型。厂商以公司的预训练大模型底座 结合用户的数据集，通过微调来提升模型在某一细分领域的表现，但这一模式可能随 着 AGI（通用人工智能）的发展逐步式微，因为端侧精调成本昂贵，通用大模型出现 后出售 API接口会更主流。 3）面向 C 端提供杀手级应用。头部产品 ChatGPT 日活超一亿人，SaaS 公司 JasperAI通过调用 GPT-3 API已实现超 7500 万美元收入，国内头部科技企业既具备 自建应用的能力，也具备向 JasperAI等广大创业公司提供 API的能力。

4）将 AGI 技术嵌入到自身成熟应用中，提供更强用户体验，进而推动用户为附 加服务付费。目前搜索引擎及办公软件领域已有成熟案例，2022 年 2 月微软将 GPT 模型嵌入至其搜索引擎 Bing 中，New Bing 能够与用户对话、协助用户起草文本；此 外微软已经将 Office365、云计算模型 Azure 中悉数加入 AI 大模型，线上会议软件 Teams 已经推出了 AI撰写会议纪要和邮件的付费服务。

ToC 对用户心智的冲击更为直观，我们高度重视“文心一言”为百度搜索带来的 增量。搜索平台是最直观的对话模型使用场景，与类 ChatGPT 产品双向互补：1）引 擎的海量数据能够弥补对话模型数据更新不及时的缺陷。ChatGPT 的训练数据集仍停 留在 2021 年，因此难以回答时效性问题，而 BingChat 基于搜索库内容对内容进行回 答、给出相应的搜索结果。2）GPT 的语言处理能力又使得模型能够对搜索结果进行 直观集成，增进用户体验。目前微软为 NewBing 设置了三种性格状态，用户可根据偏 好自行设定对话模型的回应风格。

Bing 的崛起已经证明了人工生成智能作为新介入因素能够对曾经的垄断巨头产 生威胁，百度将“文心一言”嵌入搜索具有必要性。此前海内外搜索市场均呈现一 家独大的格局，据 statcounter，截至 2022 年 6 月，Google 在全球搜索引擎的市占 率达到 92.42%，远超第二名 bing 的 3.45%、第三名 Yahoo!的 1.32%。但 NewBing 的 发布打破了这一稳态，data.ai 数据显示新功能上线当日必应 Bing 应用程序的全球 下载量在一夜之间猛增十倍，蹿升至苹果 App Store 应用商店最受欢迎的免费应用榜 中的第十位，并使其成为第二大最受欢迎的免费生产力应用，仅次于谷歌邮箱 Gmail。 截至 3 月 10 日，Bing 活跃用户已突破 1 亿人，增幅超 600%。我们认为作为国内搜索 巨头，百度在搜索领域进行人工生成智能布局已经成为战略上的必需。

从 Bing 的成功实践来看，尽管接入 GPT4 带来了边际成本的显著增长，但商业模 式已经雏形初现。随着用户数量级的提升，用户对话带来的推理成本（我们将在下 文对搜索业务推理成本进行年化分析）将显著拉低搜索业务的毛利率，但人性化的对 话体验是提升用户基数、用户粘性及使用时长的利器，Bing 借此实现了用户数量的 快速增长和变现，广告引流已经开始。 Bing 根据用户输入的问题在下方广告位对电 商产品进行展示引流，沿用了搜索广告的旧逻辑，即基于用户的搜索关键词，对应到 精确的广告，Chat 界面事实上提供了新的广告位。我们认为这只是新搜索引擎变现 的起点，后续微软生态内的各类插件和增值服务均有望集成至 Bing，带来新的商业 变现机会，这也是一条百度完全有能力复制的路径。

短期我们关注“文心一言”等产品对科技企业财务状况的影响，将增量成本拆分 为训练成本、推理成本及数据标注成本（暂不考虑人力支出及维护费用），测算大模 型落地搜索页面后年均增量成本约为 16 亿元，这一金额有望随着技术进步逐步降低。 具体来看，ChatGPT 算力成本包括训练、推理及数据标注。1）训练：基于大量 数据集来调整和优化模型的参数，对模型做反复迭代计算，是大模型落地前的成本环 节；2）推理：大模型的运行成本，即模型基于用户输入信息进行推理计算并输出过 程中产生的成本，与用户数量；3）数据标注：通过数据标注提高数据集质量。

2.1.训练：前期固定投入较大，莱特定律驱动下成本必然下行

假设所有厂商站在同一起跑线，我们将单次训练成本的测算思路总结为训练天 数 x 云计算成本： 1）以达到模型预期效果所需消耗的训练 token 数量为基础，结合 GPU 在训练过 程中的 token 吞吐能力，来计算在一定 GPU 数量下完成训练需要的天数。 2）根据 GPU 数量及计算出的的训练天数，假设云计算的市场价格能够代表训练 过程中的硬件及能源成本（取 Azure 公开价格，但已经完成自有数据中心建设的厂商 实际年化训练成本应当低于云计算市场价），从而计算出多次迭代训练的年化成本。

参考英伟达 Megatron-LM 团队在 2021 年发表的论文，完成一个 Epoch 的端到端 训练时间= 。具体来看，关键名词可以理解为：1）Epoch：将所有训练样本训练一 次的过程,当一个完整的数据集通过了神经网络一次并且返回了一次，这个过程称为 一次 Epoch。2）T：到模型预期效果所需消耗的训练 token 数量。3）P：大模型的参 数数量。4）N：完成一次训练所需的 GPU 数量。5）X：GPU 能够达到的有效吞吐量。 根据这一计算方法，考虑到 GPT3.5 系在 GPT3 基础上微调而成，我们选取 1750 亿参数的 GPT-3 模型为样本进行测算，在包含 3000 亿 tokens 的数据集上，假设完成 一组训练需要 1024 张英伟达 A100 芯片，且 GPU 在训练过程中能达到的有效计算吞吐 为 140TFlops（每秒浮点运算次数），那么完成一次训练需要 34 天。

在此基础上，考虑到大模型的训练过程并不是一劳永逸的，我们假设完成实际训 练至少需要两组芯片（2046 张）留出试错空间，为了充分进行模型训练需要不间断 进行训练，训练过程中会产生 20%的试错成本，对厂商的年均实际训练成本做出调整， 以 Azure ND A100 v4 series（8 张 A100 芯片）的服务器三年包年月租 1 万美元为基 准，测算出采用云计算的前提下，大模型的年化训练成本为 2.29 亿元。但根据 OpenAI 数据，ChatGPT 离线训练成本仅为 1200 万美元，考虑到微软前期已经进行大 量硬件投入，我们据此认为对于已完成自有数据中心建设的厂商，实际训练成本会更 低。

2.2.推理：与用户数量成正比，成本优化路径明确

推理成本最直观实际的估算方法是参考市场上现有基础模型 API 的标价。 OpenAI 为 GPT3 及 ChatGPT 先后设置的 API 定价分别为 0.02 美元/1000tokens 及 0.002 美元/1000tokens，目前 ChatGPT 成本降低 90%的原因尚未披露。我们综合参 考 SaaS 业务普遍毛利率情况、OneFlow测算及 Azure 云计算价格，判断对于国内厂 商而言，选取 GPT3 的 API 价格（而不是 ChatGPT 的超低价）并对其进行成本溢价 的调整更加合理，判断合理成本约千字 0.07 人民币元(中文预训练模型将中文拆成一 个个的字做学习，每一个 token 对应一个汉字)。

我们参考 NewBing 数据，上线 ChatGPT 聊天机器人功能后用户数突破一亿，约 1/3 用户每日在搜索页面使用对话功能，我们判断单用户对话数约在 5 次，单次输出 token 约在 100 个。相比嵌入 AI 后用户增长 6 倍的 Bing，国内用户基数更大、AI 认 知程度低，用户使用内嵌对话模型的比例极有可能低于 1/3，我们判断亿级日活应当 是国产类 ChatGPT 应用更加合理的中期天花板，据此测算年度推理成本约在 13.62 亿元。

尽管国内厂商难以短期内实现与OpenAI同等的成本优化程度，推理成本的优化 目前已经有明确的路径：1）压缩模型以减少总内存占用量：通过使用模型压缩技术， 如权重共享、量化和剪枝，可以降低模型的内存占用量和计算复杂度，从而降低推理 成本。2）协同推理：多个设备或服务器共享计算任务，通过去中心化分摊成本。3） 计算卸载：部分计算任务从一个设备卸载到另一个设备，从而实现对计算资源的优化 分配。例如，将部分计算任务从 CPU 卸载到 GPU，从而提高计算效率。4）知识蒸馏：通过让一个较小的模型（学生模型）学习一个较大的模型（教师模型）的知识， 可以在保持较好性能的同时降低模型的复杂度和推理成本。

相对于独立的模型应用，搜索页面的对话模型输出效果有限，科技企业出于经济 考虑对细分场景下使用的模型进行推理成本优化存在极大可能性，因此我们给出的推 理成本预测仍有下调空间。

2.3.数据标注：取决于人力价格，成本量级较低

相比传统无监督学习的 GPT 模型，ChatGPT表现更好的原因之一是在无监督基 础上提升了训练数据的质量，而实现这一点的经济成本并不高。OpenAI 借鉴了 Facebook 等社交媒体公司的做法，构建一个额外的 AI 检测器，向它提供带有暴力、 仇恨言论等标签的示例，让它学会识别有害内容。该检测器被内置到 ChatGPT 中， 以检测输出内容是否反映了其训练数据的问题，并在它到达用户之前将其过滤。

为了 获得这些不良内容的标签，OpenAI 在 2021 年 11 月将标注工作交给肯尼亚外包公司 Sama，三份合同总价仅为20万美元。我们参考时代周刊调查数据，数据标注员团队 为 30 人，每 9 小时轮班阅读和标记 150 至 250 段文字，每段 100 -1000 词不等，实 得工资约为每小时 1.32 美元至 2 美元。 我们据此认为，数据标注目前壁垒仍集中于技术领域，而从经济成本上看，尽管 ChatGPT 的数据标注工作并非完全由 Sama 完成（2022 年 2 月 Sama 与 OpenAI终 止合作），我们判断其完整标注成本并不高，给出年化 500 万元的估算。

综合以上分析，我们粗略推测类 ChatGPT 应用正式运营后为公司带来的年化增 量成本约为 16 亿元。但考虑到国产模型参数量及数据集 token 数量均是未知，且 Azure 云计算价格与实际成本存在偏差，此外实际落地后各项成本均存在优化可能、 具体会计处理方式还存在探讨空间，我们判断 10-20 亿元为其增量成本的合理范围 （暂不考虑人力支出及维护费用）。

微软新产品对公众的震撼只是前期技术突破后的余波（Copilot的模型基础GPT4 早在 2022年 8月便已训练完成），而非通用人工智能领域想象力的终点，产品的成功 会驱动更多学术资源与产业投资的倾斜，更多直接应用的突破已经箭在弦上。 人工智能必然成为产业发展长期主线，国产替代具有需求上的紧迫性。以“文心 一言”发布为契机，我们重点分析国内主流科技企业在复现 ChatGPT 领域需要克服 的差距，判断对国产大模型的发展不必过度悲观，算法、算力、数据差距可以弥合， 工程化、应用分发能力、交互飞轮可能成为厂商弯道超车的契机。 具体投资机会来看，依然重点推荐百度（BIDU.US），判断“文心一言”表现符 合预期，公司目前仍处于低估区间，尽管技术差距依然存在，短期内研发投入可能上 行，我们看好人工智能领域投入对公司业绩及估值的长线提振。

（本文仅供参考，不代表我们的任何投资建议。如需使用相关信息，请参阅报告原文。）