【中文摘要】为应对人工智能技术带来的全球风险与挑战，联合国在其框架下推进人工智能规则治理。联合国成立高级别人工智能咨询机构并发布相关报告以揭示全球人工智能风险和机遇，同时以决议与契约的形式促进人工智能国际治理水平。此外，联合国内部各专门机构也正着力推进专门领域人工智能治理。
【全文】
全球人工智能技术快速发展对经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇的同时也带来难以预知的各种风险和复杂挑战。人工智能治理攸关全人类命运，是世界各国面临的共同课题。我国于2023年10月发布《全球人工智能治理倡议》，呼吁各国在人工智能治理中秉持共同的安全观，协力促进人工智能治理。作为永远的“发展中国家大家庭中的一员”，我国在倡议中特别强调增强发展中国家在人工智能全球治理中的代表性和发言权。
英、美等国在人工智能治理领域遵循一贯的竞争优先与保护主义思维，其“小院高墙”策略可能将广大发展中国家的发展机会和安全利益排除在人工智能国际治理的核心圈外。在和平与发展面临多元挑战的大背景下，联合国作为国际社会最具普遍性的合作平台，应该并且能够在弥补国际人工智能鸿沟和治理能力差距方面发挥代表性作用。因此，我国积极支持在联合国框架下讨论成立国际人工智能治理机构，协调国际人工智能发展、安全与治理重大问题。2023年以来，联合国在人工智能国际治理中以咨询工作先行，以联大决议为主要举措，各组织机构有机协同，在共识磋商和领域专门治理等方面取得了一系列进展，形成联合国框架下的人工智能规则治理的新动向。
一、联合国人工智能国际治理规划与进展
为了促进以包容性方法进行全球人工智能治理，2023年10月，联合国秘书长安东尼奥·古特雷斯宣布成立高级别人工智能咨询机构（High-Level Advisory Body on AI，以下简称咨询机构），该机构由来自33个不同国家、遍及六大洲的人工智能专家组成。咨询机构的使命是与各利益攸关方密切沟通，对人工智能的国际治理进行分析并提出建议，在未来峰会时提供一份国际人工智能治理报告，作为数字契约的一部分供成员国审议并签署。
遵循上述目标与使命，咨询机构采用敏捷、高效的工作方法，在2023年12月发布《临时报告》，初步总结了对全球人工智能发展风险和挑战的共同理解，以及利用人工智能加速实现可持续发展目标的关键机遇和推动因素。2024年9月，在深入开展调研工作和广泛全球协商的基础上，咨询机构发布了最终报告《为人类治理人工智能》（Governing AI for Humanity），概述了解决人工智能相关风险和在全球范围内分享人工智能变革潜力的蓝图。在两份报告中，咨询机构对人工智能的风险和机遇两方面进行了深入分析，完成了迄今为止最全面的全球人工智能风险和机遇调查，为人工智能国际治理提供共识。
（一）人工智能风险全球调查
对风险的共同认知，是协调国际人工智能治理的重要基础。然而，咨询机构在世界范围内的调查显示不同个体对人工智能风险认知迥异。调研结果表明，即使是在专家层面，对于不同风险的紧迫性认识也存在巨大差异（见图1）。基于此，咨询机构指出，考虑到人工智能的快速发展和应用的广泛性，列举一份适用于任何时期人工智能风险的综合清单是徒劳的，而从脆弱性和公共利益的角度来看待风险更为有效。
图1人工智能专家风险关切调研
因此，在两份报告中，咨询机构从人工智能的技术特性、使用过程及脆弱性三个角度来看待人工智能风险。首先，需要区分风险来自固有的人类活动还是人工智能技术本身。一些人工智能风险源于技术局限，如准确性不足和模型“幻觉”或“错觉”；而其他风险，诸如虚假信息，则只是人工智能技术被恶意使用的最新表现。其次，考虑到使用过程中的人机交互，在个人层面，可能存在对人工智能系统的过度信任导致的自动化偏见，以及随着时间推移可能出现的技能退化；在社会层面，则可能涉及对劳动力市场的影响，如大量劳动力被替代的情况。最后，咨询机构从脆弱性的角度总结了人工智能风险，从个人、群体、社会、经济、系统、价值六个层面对现有和潜在风险进行了识别与分类，并指出风险将随着技术和应用的发展动态变化，需要不断保持对风险的科学审查。
（二）人工智能机遇全球扫描
与风险相对而来的是人工智能所展现出的巨大潜力和为人类社会带来的发展机遇，咨询机构在报告中列举了人工智能在辅助人类工作、促进行业发展、提升科研效率、改善公共服务和促进可持续发展中的机遇实例。以科学研究为例，人工智能有可能在世界范围内改变获取知识的途径和效率，有超过100万的研究人员正在利用人工智能工具预测蛋白质结构以研发药物，并加深对许多过往被忽视的疾病的研究。然而，并非所有国家和地区都拥有享受人工智能发展机遇的机会，“人工智能鸿沟”隐藏在更大的数字化和发展鸿沟之中。
为促进人工智能造福人类，咨询机构分析了利用人工智能机遇的关键推动因素。当前，人工智能的发展主要由数据、计算能力和人才推动，但是只有少数资源充裕的国家和大型科技公司才能够获取上述要素，更多的“全球南方”国家则处于捕捉人工智能机遇的困难之中。全球范围内的关键硬件（如GPU）短缺、数字经济的基础设施（如可负担的宽带、电力、设备）投入不足、顶尖技术人才的缺乏，都对人工智能机遇的利用提出了严峻挑战。因此，咨询机构建议通过国际援助和合作来提升人工智能的可及性和惠益性，培养基于当地数据训练本地模型的能力，构建有益的跨境人工智能价值链。
这与我国在《全球人工智能治理倡议》中的呼吁高度一致，充分印证了我国在人工智能国际治理中的人类命运共同体理念和大国担当，我国也通过联合国大会决议等方式推动人工智能能力建设方面的国际合作。
二、联合国人工智能国际治理规则与举措
2023年年底人工智能咨询机构成立并发布《临时报告》以来，联合国框架内的人工智能国际治理进入快车道。2024年上半年，联合国大会先后通过两份人工智能国际治理决议，9月的“未来峰会”中成员国又通过了吸收咨询机构报告意见的《全球数字契约》。可以说，联合国框架下的人工智能治理规则正在逐步构建之中。
（一）联合国大会人工智能决议关注发展与安全
2024年3月，在第78届联合国大会上，美国联同阿尔巴尼亚、阿根廷、澳大利亚等近50个国家，提交了联合国首份人工智能决议草案——《安全、可靠和值得信赖的人工智能》并获得通过。这份决议回顾了联合国在过去关于信息社会、数字合作以及人工智能伦理等方面的多项决议和成果，明确指出安全、可靠和值得信赖的人工智能系统对于全面实现《2030年可持续发展议程》的关键作用。其鼓励成员国及相应的利益攸关方，制定相关的人工智能监管与治理框架，并特别强调了在人工智能系统全生命周期内保障人权和基本自由。决议在最后部分呼吁各国加强合作，以技术援助、融资等手段共同应对人工智能带来的挑战，并尽力协助发展中国家缩小在人工智能领域的差距，实现包容和公平的数字化转型，营造良好的国际创新环境。
当年6月，中国携手众多发展中国家，在同届联合国大会上提交了《加强人工智能能力建设方面的国际合作》的决议，共有140多个国家参与联署，决议最终获得协商一致通过。该决议旨在缩小国家间及国家内部在人工智能及其他数字领域存在的差距，针对发展中国家在人工智能设计、开发、部署和使用上面临的独特挑战，提供了加强南北合作、南南合作和三方合作的破局之道，并鼓励会员国通过分享实践经验或开展多领域合作的方式推动使用更加安全可靠的人工智能系统。决议着重强调保护语言文化多样性，消除算法偏见，并动员各方力量消除弱势群体面临的障碍，确保所有人都能从人工智能系统的发展中受益。随后决议还指出，构建公平、开放、包容且没有歧视的营商环境对于促进全球人工智能市场的和谐发展至关重要，并呼吁国际社会增加对发展中国家的资金和技术援助。
由中、美分别牵头提交的两份决议均致力于推动人工智能领域的国际合作与发展，但在侧重点上存在一定差异。美国提交的决议更侧重于确立全球范围内安全、可靠和值得信赖的人工智能系统的标准，鼓励各国制定有效的监管和治理框架。而中国牵头提交的决议则更加聚焦于发展中国家在人工智能能力建设方面的挑战，提出了通过政策交流、知识共享、技术转让等具体方式加强国际合作，确保发展中国家能够跟上全球人工智能发展进程并从中受益，进而消除人工智能鸿沟和其他数字鸿沟的问题。由此可见，中国提交的决议核心精神与《全球人工智能治理倡议》一脉相承，并充分尊重联合国这一最具国际普遍性的平台在国际人工智能治理中的独特作用，是中国为国际治理贡献智慧与方案的又一有力证明。
（二）《全球数字契约》强调加强国际合作治理
2024年9月，联合国成功举办“未来峰会”，约130位国家元首和政府首脑出席。作为近年来联合国框架下最为重要的国际治理峰会，会议通过了《全球数字契约》。这一契约在推动国际数字合作方面具有里程碑意义，确立了技术惠及全人类的原则，提出构建全球数据安全共同标准，并倡导开启人工智能治理的全球对话。契约以143票赞成、7票反对和15票弃权的表决结果通过，反映出国际社会在数字治理问题上已形成初步共识，对推动数字技术负责任发展的共同愿景已然明晰。
《全球数字契约》在第五部分深刻吸纳了咨询机构在其最终报告《为人类治理人工智能》中的诸多关键建议，强调了人工智能国际治理的重要性，主张通过平衡、包容、基于风险的方法，促进人工智能技术的安全、可信和可持续发展。具体而言，治理建议涵盖七大领域，主要包括设立国际科学小组、在联合国框架内开展全球人工智能治理对话、建立智能标准交流中心、建立国际能力发展网络、设立全球人工智能基金、推动全球数据框架的形成，以及在联合国秘书处设立专门的人工智能办公室。
针对全球数字鸿沟和发展不平衡等问题，该契约特别承诺帮助发展中国家建设人工智能能力并将其导向可持续发展，提出通过南北合作、南南合作和三方合作，加强高质量数据集、计算资源和本地化解决方案的开发。此外，该契约强调通过国际合作推动新兴治理框架的协调与兼容，要求全体国家平等参与国际治理，增强发展中国家的代表性，同时积极吸纳所有利益相关方的共同参与。这些承诺不仅着眼于弥合人工智能发展所带来的全球鸿沟，更通过包容性的治理机制，切实支持发展中国家提升技术能力，为构建更具公平性与普惠性的数字未来奠定基础（见图2）。
三、联合国系统的专门领域人工智能治理
除联合国大会和“未来峰会”等普遍性治理进程外，联合国其他专门国际机构在经济、文化、社会、教育、科学、卫生等领域从事了诸多与其职能相匹配的人工智能治理活动，为推动人工智能向善发展作出积极贡献。图3展示了对联合国内部专门机构在各领域人工智能治理工作的不完全统计，其中以联合国教科文组织伦理治理和国际电信联盟的技术治理工作最具代表性。为协调和汇集联合国系统在人工智能方面的专业知识，联合国内部成立了联合国人工智能机构间工作组（IAWG-AI），由联合国教科文组织和国际电信联盟共同领导，于2024年5月发布了《联合国系统人工智能治理白皮书》，对联合国系统的机构模式、职能和适用于人工智能治理的现有国际规范框架进行了分析。
在伦理治理方面，联合国教科文组织在2021年由全体成员国一致通过《人工智能伦理建议书》，为后续多个国际组织和国家的人工智能治理策略提供了重要的伦理蓝本。2024年8月，联合国教科文组织进一步发布《全球9大新兴的人工智能监管方法》，探讨了关于人工智能的9种不同监管方法，并按照从干预程度较低、较为宽松的监管措施到更具强制性、要求更高的监管方式排序，旨在引导立法者从“为什么治理”“何时治理”“如何治理”三方面考量人工智能治理政策制定。
在技术治理方面，国际电信联盟长期从事人工智能技术标准的制定工作。截至2024年，国际电信联盟已经发布超过100项人工智能技术标准，并与世界卫生组织等其他机构合作，在健康、农业、交通和灾害管理等领域推动技术标准制定。在“人工智能向善”2024年全球峰会上，国际电信联盟、国际标准化组织和国际电工委员会共同宣布了人工智能标准制定的统一框架，强调了将人工智能治理原则转化为实用、可操作的标准的努力，并通过一份多方利益相关者倡议以支持人工智能水印、多媒体真实性和深度伪造检测的协调标准制定。
此外，由联合国开发计划署每年发布的最具影响力的联合国出版物之一《人类发展报告》，在2025年着眼于新兴不确定因素，特别是数字化驱动的社会转型，包括更强大和影响深远的人工智能应用。报告将从生命阶段的视角看待数字化对不同年龄组产生的不同影响，探讨人工智能如何重塑人类发展中健康、教育、社会规范等关键领域。此外，报告将在更广泛的层面关注数字化和人工智能可能对经济和政治进程带来的影响，以及新技术对地球资源和环境的压力。
图2全球人工智能排名前60位的国家（2023年乌龟指数）参加政府间轨道的主要诸边人工智能治理举措样本情况
图3联合国和相关组织人工智能治理工作一览
概言之，联合国内部各专门机构正分别在各自领域积极推进人工智能治理工作，对于人工智能重塑人类社会的背景下全球人工智能治理政策完善、技术标准制定、人权保障、可持续发展等国际治理进程具有重要意义。
