2022年底,OpenAI发布了基于AI大模型GPT-3.5 开发的ChatGPT,立刻登上全球信息科技领域新闻头条。半年后,由其引发的浪潮更加汹涌澎湃,全球科技公司竞相宣布扩大AI大模型投入,许多人认为AI大模型的出现标志着AI领域迎来了“iPhone时刻”。
与此同时,顶级研究者立刻意识到AI大模型的巨大风险,数千名科学家呼吁在全球范围内暂停先进AI大模型训练,OpenAI首席执行官主动要求为AI的年度增速设定上限,提出“对待AI应该参考核武器的监管方式”,对超过特定阈值的AI大模型施行“许可证”制度。
狂热与焦虑的声音同时存在可能让人困惑,ChatGPT与类似应用目前还难以满足人类基本工作需求,为什么会使顶级研究者如此焦虑?事实上,AI大模型的重要意义在于它是AI向AGI(通用人工智能)演化过程中的最新成果与标志性注脚,相对于之前的AI系统,它的能力出乎意料,它可能预示着AGI将比原本预期更快到来,而AGI的真正到来将对人类文明与社会产生颠覆性影响。
AI大模型吹响AGI时代序曲
被誉为“计算机科学之父”的艾伦·图灵在1950年《计算机器与智能》论文开篇写道:“我提议考虑一个问题——‘机器能思考吗?’。”他设计的“图灵测试”提出,如果一台机器能够与人类展开对话而不会被发现其机器身份,那么这台机器就具备人类智能。1956年召开的达特茅斯会议将这种机器智能定义为人工智能(AI),此后,通用人工智能(AGI)被进一步定义为在所有领域都能达到或超越人类智能水平的AI,它的出现就意味着人类不再是已知范围内智能水平最高的物种。
70多年来,AI研究在曲折中前进,AGI的到来仿佛遥遥无期。直到2012年人工智能系统AlexNet首次在图像分类任务中接近人类水平,2015年ResNet超越了人类水平,研究者终于确认人工智能与人类智能之间并非不可逾越。2017年Transformer架构发布后,AI大模型有了坚实的发展基础,2022年底基于AI大模型开发的ChatGPT 一次性通过了美国医师执照考试、律师资格考试、MBA考试、斯坦福大学期末考试等人类高水平智力测试,AI大模型的实际表现令人震惊。
OpenAI的联合创始人之一马斯克认为:“我们已经相当接近AGI了,也许还有三年或六年的时间,但在这个十年就会出现。如果说AGI是一个黑洞,我们正在围绕AGI黑洞旋转,人类正在走向超级智能或文明的终结,这就是即将发生的两个可能性。”图灵奖得主、“深度学习之父”杰弗里·辛顿教授同样担忧人类的未来:“我们本是用机器模仿大脑,现在机器却突然超越了它,当你了解到这一点时,真的会感到非常害怕,因为这个转变太突然了。我只是很紧张,我不知道在智力差距很大时,更聪明的东西如何能被更不聪明的东西控制。”
AI大模型可能只是AGI的一块拼图,但它或许已经吹响了AGI时代的序曲。OpenAI表示,成功过渡到一个拥有超级智能的世界可能是人类历史上最重要、最有希望,但也是最可怕的项目。一个错位的超级智能可能会对世界造成严重伤害。在这种巨大收益与风险并存的前景下,同时听到狂热与焦虑的声音也就不足为奇了。我们如何认识并应对AI大模型带来的机遇与挑战,可能会深刻影响人类在AGI时代的前途命运。
以我国数字基础设施建设与治理框架为基础发展AI大模型
我国在基础设施领域已有丰富成功的建设治理体系,5G、光纤网、物联网、工业互联网等数字基础设施已取得了丰硕成果,可积极利用我国在这方面的经验,推动AI大模型领域统筹实现健康快速发展与安全可靠监管。
AI大模型体系成为数字基础设施的可行性快速显现,具备以数字基础设施框架开展建设治理的基础条件。
一方面,AI大模型以大量昂贵的算力和数据资源投入为基础,有能力为亿万用户服务,可承载千行百业的发展需求,符合数字基础设施投入大、辐射广、外溢效应强等特点。
另一方面,AI大模型的基础原理公开、研发模式通用,不存在本质上的技术壁垒,智能水平最高的AI大模型可能“赢者通吃”。有专家预测,全球的大模型生态不会超过三个,AI大模型服务模式将向着数字基础设施服务范式迈进,AI大模型提供的“智力服务”将类似于移动网络基础设施提供通信服务、电网基础设施提供电力服务等。
AI大模型体系成为数字基础设施的必要性不断提升,必须加快统筹发展与安全。以数字基础设施为导向,有助于统筹AI大模型发展资源,加快追赶超越步伐。
一方面要统筹算力资源,AI大模型需要大量算力资源支撑,在“芯片禁令”的影响下,我国或将面临AI大模型训练所需的算力资源“卡脖子”问题。
另一方面要统筹数据资源,全球互联网的中文数据相较英文数据匮乏,高质量的中文数据更为稀缺,各大企业往往将其收集的互联网数据当作私有财产,不利于我国先进AI大模型发展。
面对这些问题,国家有关部门应明确AI领域未来三到五年发展目标、统筹协调AI大模型发展急需的算力和数据资源;行业标准组织应及时开展AI大模型开发与运营标准探索;国家科研专业机构应深入探索前沿技术、构建模型训练规范、搭建AI大模型产业创新合作平台;行业龙头企业、“链长”企业、国资央企等要勇担重任,主动布局AI大模型关键环节,对标全球领先的AI大模型提供优质服务,共同推动我国AI大模型体系高质量发展。
同时,以数字基础设施为导向,有助于强化AI大模型监督治理,降低安全风险。AI大模型有能力对经济社会秩序带来严峻挑战,如侵犯个人隐私、输出有害内容、虚假信息泛滥、网络安全攻击、垄断关键技术、冲击劳动力市场等重大风险相互交织。
我国在基础设施监管领域已积累了大量成熟经验,监管有体系、治理有办法、实践有效率、社会有共识。在AI大模型治理监管领域,国家有关部门应对超过一定规模的AI大模型训练和应用开展源头治理,坚决打击过度采集信息、散布虚假信息、挑战网络安全等行为,适时提请立法机构制定相关法律法规,积极参与联合国拟成立的全球AI监督机构。行业标准组织应加快布局AI大模型治理规范,引导行业健康发展。国家科研专业机构应前沿洞察多个AGI技术路线,定位AI大模型治理难题,加强与开发运营主体的协同配合,促进AI大模型开放普惠共享。行业龙头企业、“链长”企业、国资央企等AI大模型开发运营主体应秉持规范健康可持续的发展原则,在一定程度上超越自身利益得失,制定和优化企业AI发展战略,防止资本无序扩张,与监管部门、行业标准组织、国家科研专业机构保持密切合作,确保AI大模型符合我国整体利益发展方向。