ChatGPT的威力和软肋

美国学术期刊《科学》（Science）刚发表2022年度科学十大突破，「人工智能生成内容」（artificial intelligence-generated content；简称AIGC）技术榜上有名。由开发商OpenAI推出的聊天机械人程式ChatGPT带动生成式人工智能热潮，世界首富马斯克（Elon Musk）本来是创办人之一，却因为发展方向上的意见分歧而退出。微软早前已向OpenAI投资10亿美元，近日更打算加码投资，并把ChatGPT加入新版Bing搜寻器。

ChatGPT透过分析大数据，模拟人类的自然对话方式，借以提供答案或解决方案，功能包括撰写文章及设计程式；除了解答科学、历史、常识等提问，更有助于通过大学商学院或法学院考试，以至医生执业资格试。笔者曾把给学生的论文题目输入ChatGPT，所生成的答案可评为乙等或以上。

ChatGPT具有自学能力，在接收新数据后，就会加以分析和理解，再自动更新知识库，从而提高准确性，全程毋须人为干预。当与人类对话时，则会根据上下文本而生成合适的回应，并且可以保持对话主题的连续性和一致性。这使其可以担当助手角色，协助解答客户服务问题，或进行简单的日常对话。此外还能利用神经机器翻译（neural machine translation）这种机械翻译技术，以端到端（end-to-end）方式进行翻译。

金融、商业方面又如何？ ChatGPT可通过分析公司的财务数据、业绩报告、新闻报道等资讯，协助投资者预测股票价格和市场趋势。聊天机械人使用自然语言处理技术，对各种新闻公告、财务报表及研究报告进行分析，根据新闻报道中对某一股票正负评语的多寡，推测股票未来的走势。同时亦能通过分析中央银行公告或宏观经济数据，预测利率和汇率的变化；或通过分析公司债券的财务数据、信用评级来确定信用风险及偿债能力，以助投资者选择合适的投资组合。

与互联网应用相比，ChatGPT具有更高的智能水准，利用机器学习等技术，能较准确地理解和生成自然语言，与人类的互动方式更进一大步。近期掀起的生成式AI浪潮，让AI走入寻常百姓家，变成大众的应用工具。

ChatGPT推出短短2个月，全球用户已超过1亿人；当年Instagram用了2.5年，TikTok也花了9个月才有此成绩。 OpenAI的行政总裁阿尔特曼（Sam Altman）在3月底接受访问时表示，他与公司内部对于ChatGPT的潜力感到「有点害怕」，并承认它有可能会「消灭」很多职位，尤其在以文字工作为主的行业如写作、行政、客户服务、程式编写等。

AI的能力会否超越人类？答案是肯定的，但AI会否取替人类？对于这个问题，ChatGPT这样回答：「ChatGPT无法完全取代人类。作为一个AI语言模型，ChatGPT可以在许多情况下帮助人们，例如回答问题、撰写文章、提供建议等。ChatGPT可以是有用的工具，但它无法取代人类的智慧、情感和创造力。AI技术的发展将不断改变我们的生活，但人类依然在许多方面具有独特的优势。」聊天机械人并没有自主意识，只能按人类发出的指令完成工作，所以不妨视之为提高学习和工作效率的辅助工具。

须知ChatGPT不是一个真正的智能代理（intelligent agent），不能与环境互动而达到特定目的。它只是一种建基于统计学习的工具，必须大量数据和运算资源，才能够进行分析并生成语言。加拿大就有数据中心企业指出，以生成式人工智能搜寻资讯每次所需的运算能力，是传统搜寻器的4至5倍，因此估计单在今年1月已耗用等同17万5千个丹麦家庭的全年用电量。

ChatGPT缺乏人类的情感、价值观、道德判断力和创造力，更不能取代人际交往。它可以执行一些基本和高度重复性的任务，如客户服务重复回答的问题和大量的文件处理等，减少人类工作负担之余，并节省时间和人力成本。其实ChatGPT类似搜寻器，不同之处在于搜寻器所得资料还需使用者自行整理，而ChatGPT则可代劳。然而，若论艺术和文化界从业员的想像力和创意、医生的专业知识和诊断能力、教育工作者的教学技巧以及师生关系，ChatGPT都无能为力，只能通过资料整理从旁协助，更谈不上加以取代。

ChatGPT的另一大局限在于其知识库只截至2021年9月，未能追上各方面资讯的最新发展。它在操作上需大量训练数据，因此无法像人类般处理罕见和崭新情况。面对新问题时，聊天机械人可能需要更多人为干预，以确保其所生成的文本内容正确合理。简而言之，ChatGPT只是人类工具箱中的一件工具，而并非足可替代人类的技术。

随着近年金融产品数码化，在各国不断加强金融监管的背景下，数据安全问题显得尤其重要。一旦金融机构计划引入ChatGPT，如何保证ChatGPT内数据的安全和演算能力的部署，就会成为首要考虑。其次，由于金融市场对即时数据的要求极高，ChatGPT在设计上亦须注意及此。对于聊天机械人所生成的投资建议，业界必须加以详细解释，并附带风险提示。此外，金融市场的运作是各方参与博弈的结果，取决于博弈时双方的策略以及彼此的合作程度，以致博弈的结果更形复杂。观乎ChatGPT的发展情况，仍有待大力优化，才可望应付投资博弈所需。

话说回来，纵使AI并无自主意识，但却已确实对社会产生影响。社会需要检视的是，当AI可以回答任何问题时，人们是否有足够分辨事实真伪的能力，尤其当真假难辨的个案愈多，对以信任为基础的社会造成的冲击就会愈大。现时ChatGPT大概仅在中学阶段，远未到大学或研究院程度，因此还未具备取代职位的能力。毋庸置疑，科技发展总有其阴暗一面，就如复制人带来的伦理争议，期望今后AI的作用只在辅助人类，而非导致破坏。

作为AI「大好友」，盖茨（Bill Gates）称之为足以媲美互联网或流动电话的革命性发明，并于3月21日在其网志中表示：「除了有助于提高人的生产力之外，AI亦可减低全球部分最不公平现象。」（【註】）即便如此，但对于如何掌握ChatGPT来协助我们工作和解决问题，务须慎思明辨，也要注意其中的技术限制，这样才能善用AI，从而进一步提高工作效率和创造力。

目前ChatGPT应用插件（plug-in）还处于alpha测试阶段，不久将来，发展应会日趋成熟，可作不同用途，例如预订航班、编排旅程等，因而或会颠覆固有商业运作模式。政府应与各界携手，密切注视AI的演进情况。

註：https://www.gatesnotes.com/The-Age-of-AI-Has-Begun

谢国生博士 港大经管学院金融学首席讲师

何敏淙先生 香港大学附属学院讲师

（本文同时于二零二三年四月二十六日载于《信报》「龙虎山下」专栏）