定制报告-个性化定制-按需专项定制研究报告
行业报告、薪酬报告
联系：400-6363-638
《赛迪译丛：2024为人类治理人工智能研究报告（28页）.pdf》由会员分享，可在线阅读，更多相关《赛迪译丛：2024为人类治理人工智能研究报告（28页）.pdf（28页珍藏版）》请在薪酬报告网上搜索。
1、-1-2024 年年 12 月月 30 日第日第48期总第期总第 674 期期为人类治理人工智能为人类治理人工智能【译者按】【译者按】2024 年 9 月，联合国人工智能咨询小组发布治理人工智能，助力造福人类的最终报告。报告提出了全球人工智能包容共治、数据共享、多方协作等五项原则，总结分析了现有全球人工智能合作机制的现状。报告提出，当前人工智能全球治理存在代表性不足、协调性不足等问题，导致人类无法应对人工智能技术带来的潜在威胁。报告提出了建设全球人工智能科学小组、加强全球人工智能治理政策对话、设立全球人工智能标准交流中心、在联合国秘书处内设置人工智能办公室等治理举措建议。【关键词】人工智能联合
2、国治理机构【关键词】人工智能联合国治理机构-2-人工智能技术具有巨大的“向善”的潜力，从开辟新的科学探索领域、优化能源网络，到改善公共卫生和农业发展，乃至实现联合国可持续发展目标等方面都可以发挥重要作用。然而，如果未能实现有效治理，人工智能带来的机遇就难以实现或者无法得到公平的分配。与此同时，快速、不透明和自主的人工智能系统为人类带来了严峻挑战。未来，在全球范围内开展人工智能治理合作是应对风险挑战的关键。一、人工智能全球治理合作的现状（一）人工智能全球治理合作的主要原则一、人工智能全球治理合作的现状（一）人工智能全球治理合作的主要原则从长远来看，人工智能治理必须为人类和社会带来切实的好处和保障
3、。因此，联合国提出了以下原则：1.人工智能应由各方以包容方式共同治理并造福所有人人工智能应由各方以包容方式共同治理并造福所有人尽管人工智能具有极大潜力，但是仍然不具有普惠意义，许多人都无法接触使用人工智能。充分利用人工智能的潜力，并使其发展、部署和使用过程中的广泛参与成为可能，是推动全球挑战可持续解决方案的关键。无论国家大小，所有国家都必须能够参与人工智能治理。无论南方或北方的公民，都应该能够通过人工智能创造自己的机会、利用这些机会并实现繁荣。因此，我们需要采取积极和矫正性措施，以解决个别少数群体在技术发展、-3-部署、使用和治理过程中长期以来的历史性和结构性排斥问题，并将数字鸿沟转变为包容性
4、的数字机会。2.人工智能治理必须以公共利益为导向人工智能治理必须以公共利益为导向人工智能系统的开发主要集中在科技公司手中。人工智能的优化、部署和使用涉及开发者、部署者和用户多种群体。从社交媒体的经验来看，人工智能产品和服务能够迅速跨越边界和用户类别进行扩展。因此，除了更广泛的机会与风险考量外，人工智能必须以公共利益为核心进行治理。仅仅要求“不造成伤害”是一项必要但不足的要求。我们需要更广泛的框架对在人工智能生命周期中建造、部署和控制人工智能的主体追责。这不能仅依赖于自我监管，还需要成员国一致执行的具有约束力的规范，以确保公共利益优先于私人利益。此外，人工智能多样化使用的具体场景中有其复杂性和风
5、险。治理工作必须关注与多样性、公平性、包容性、可持续性、社会与个人福祉、竞争性市场以及健康创新生态系统相关的公共政策目标。在此背景下，治理需要扩大多元利益相关方的代表性，同时在公共和私营部门角色之间划分职责时提供更清晰的界定。以公共利益为核心的治理还意味着对公共技术、基础设施和公共官员能力建设进行投资。3.人工智能治理应与数据治理和促进数据共享空间协同进行人工智能治理应与数据治理和促进数据共享空间协同进行数据是人工智能系统的关键，其治理和管理必须与人工智能-4-治理的其他组成部分相结合。学术界强调，数据治理应作为短期优先事项处理。私营部门实体指出，数据治理措施应补充人工智能治理，强调全面的隐私
6、法和负责任的人工智能使用。国际组织和民间社会组织强调，人工智能训练数据的治理应保护消费者权益，并通过对人工智能训练数据的非排他性访问来支持人工智能开发者之间的公平竞争，强调了对具体和可付诸行动的数据治理措施的呼吁。联合国被确定为应对这些治理挑战和缩小资源差距的一个关键场所。我们需要建立隐私和安全保护框架的法律与技术安排，在符合适用法律的前提下，促进数据使用。同时，还应鼓励发展公共数据共享，尤其是针对解决社会挑战至关重要的公共数据，使多方利益相关者可以使用。4.人工智能治理必须具有普遍性并与多利益相关方共同协作人工智能治理必须具有普遍性并与多利益相关方共同协作任何人工智能治理工作都应优先争取不同
7、成员国和利益相关者的普遍支持。尤其需特别关注包容性参与，降低全球南方被排除社区的进入门槛。同时，除了要求现有机构根据人工智能的影响审查其当前职能，还需要新的横向协调和监督职能，并应由新的组织结构来承担。新旧机构可以形成一个共同的治理网络。此外，治理框架还需理解推动人工智能开发、部署和使用的不同文化意识形态，建立创新结构以吸纳私营部门、学术界和民间社会与政府共同参与。可以借鉴以往追求公共利益的合作努力，例如-5-国际劳工组织的三方结构以及联合国全球契约。5.人工智能治理应立足于联合国宪章、国际人权法和可持续发展目标等其他商定的国际承诺人工智能治理应立足于联合国宪章、国际人权法和可持续发展目标等其
8、他商定的国际承诺联合国在规范性和制度性方面具有独特的作用。我们需要将人工智能治理与联合国的核心价值观与联合国宪章及其对和平与安全、人权以及可持续发展的承诺对应，作为其治理基础和指南针。联合国能够从经济、社会、健康、安全和文化等多方面考虑人工智能的全球影响，所有这些都以普遍尊重和执行人权与法治为基础。联合国多个机构已在人工智能对教育、武器控制等领域的影响上开展了重要工作。全球数字契约和数字合作路线图就是推动技术全球治理框架的多方利益相关者协商的典例。联合国成员国的有效参与、赋能联合国机构并吸纳多元化的利益相关者，对支持和增强全球人工智能治理响应至关重要。本原则在征求意见过程中获得了政府、民间社会
9、、技术界、学术界和私营部门等所有利益攸关方的最有力支持。2024 年 3 月联合国大会通过了关于抓住安全、可靠和值得信赖的人工智能系统为可持续发展带来的机遇的第 A/78/265 号决议。我们深信，为了减轻人工智能的风险和危害，确保人工智能能够真正造福全人类，必须将人权置于人工智能治理的中心。这一对人权的基本承诺贯穿各领域，适用于后文提出的所有建议。-6-（二）人工智能全球治理合作的主要机制（二）人工智能全球治理合作的主要机制目前关于人工智能治理的文件不胜枚举，制定主体多样、国际举措纷繁。从主体上看，各国政府、公司、财团、区域以及国际性组织均有涉猎。此外，在联合国系统内也出现了一系列文件和举措
10、中。表 2 展示了可能适用于人工智能的 26 个特定领域与联合国有关的文书，其中 25 项文书具有约束力，需要对其进行解释。联合国和相关组织的另外 32 份领域级文件专门关注人工智能，但都不具有约束力。表 1:2019 至 2024 年（上半年）国际人工智能治理举措及关键阶段性成果-7-表 2:联合国及其相关组织与人工智能治理相关的文件从举措上看，主要包括指南、框架、原则、宣言，还有行业标准。相关举措涵盖了从双边和小多边合作到大型多边合作的不同国际合作层面。例如，新加坡与美国、英国与美国的双边合作，以及欧盟、东盟、非盟等区域集团的多边合作。同时，人工智能峰会、全球标准制定机构和行业标准组织也采
11、取了系列举措，显示了政府、企业和国际组织在推动国际合作中的积极作用，如表3 所示。-8-表 3:专门针对人工智能的治理举措的来源（三）人工智能全球治理合作的主要进展（三）人工智能全球治理合作的主要进展如今，人工智能全球治理已经从原则讨论迈向实际机制建设与具体合作项目的实施，为应对技术带来的全球挑战和机遇奠定了基础。具体包括：明确治理框架与原则明确治理框架与原则。全球数字契约与数字合作路线图等倡议为全球范围内的人工智能治理提供了宏观指导，强调多利益相关方的参与，并倡导在人工智能开发和应用中遵循透明、公正、包容和可持续原则。建立多边合作机制建立多边合作机制。联合国鼓励成员国、私营部门、学术界和民间
12、社会共同参与治理框架的设计与实施。例如，联合国机构鼓励通过扩大全球南方国家的参与，缩小全球范围内的数字鸿沟；-9-联合国教科文组织对人工智能在教育领域的应用进行研究；联合国裁军事务处探讨人工智能在军事领域的使用与控制。多国联合基金提供支持多国联合基金提供支持。亚洲基础设施投资银行与新开发银行合作，为“一带一路”沿线国家的人工智能与数字基础设施项目提供资金支持。二、人工智能全球治理合作面临的三大挑战二、人工智能全球治理合作面临的三大挑战多个国家、地区、多利益相关方和其他倡议取得了有意义的成果。然而，除了联合国提出的几项倡议之外，没有一项倡议能真正具有全球影响力。人工智能治理的代表性不足使得其无法
13、应对全球性的人工智能技术及其影响。人工智能倡议和机构间的协调性不足可能使世界人工智能治理变得互不关联、互不兼容。实施性不足削弱了国家、私营部门、民间社会、学术界和技术界将承诺转化为实际成果的能力。（一）代表性不足（一）代表性不足大多数倡议在政府间层面并不完全具有代表性，许多倡议无法涵盖全球各地区的特点。如表 4 所示，在 7 项非联合国的区域人工智能倡议中，仅有7 个国家加入了所有倡议，而 118 个国家没有加入任何倡议。这些国家主要为南半球的国家，但即使是人工智能领先的国家，其-10-代表性也不均衡。在治理的早期阶段存在一定程度的实验、规范间的竞争以及对新技术的适应差异，具有选择性是可以理解
14、的。然而，随着国际人工智能治理逐渐成熟，全球代表性才能确保制度的公平和有效。公平性要求更多的声音在如何治理人工智能的决策中发挥有意义的作用。而有效性要求人工智能治理制度必须横跨全球，避免“人工智能军备竞赛”或在安全和权利方面进行“逐底竞争”。大部分国家都认为国际人工智能治理代表性不足的问题亟需解决，而则联合国可以成为将世界团结起来的论坛。表 4：在七项非联合国国际人工智能治理倡议中的代表性样本：经合组织人工智能原则（2019 年）、20 国集团人工智能原则（2019 年）、欧洲委员会人工智能公约起草小组（2022-2024 年）、GPAI部长级宣言（2022 年）、七国集团部长声明（2023
15、年）、布莱切利宣言（2023 年）和首尔部长级宣言（2024 年）。仅区际样本，不包括区域样本仅区际样本，不包括区域样本加拿大、法国、德国、意大利、日本、英国和美国是所有所有抽样倡议/文书的缔约方*。118 个国家*未未加入任何抽样的人工智能治理倡议/文书按区域分组划分的未按区域分组划分的未参与国家参与国家29 个国家中有 0 个23 个国家中有 1 个33 个国家中有 25 个54 个国家中有 44 个54 个国家中有 48 个*缩写：AG：非洲集团；APG：亚洲及太平洋集团；EEG：东欧集团；GPAI：人工智能全球合作组织；LAC：拉丁美洲和加勒比地区；WEOG：西欧及其他国家集团。（二）
16、协调性不足（二）协调性不足-11-仅凭大量的人工智能治理倡议并不能保证为人类有效合作，因为区域间的倡议无法保证有效衔接，已经出现了不兼容的风险。没有一个全球性机制让所有国际标准制定组织、国际科学研究倡议或人工智能能力建设倡议相互协调，这导致了各自为政。联合国系统内也出现了一系列协调性不足。表 2 显示了可能适用于人工智能的各个具体领域的联合国相关文书，这些措施大多是针对特定领域建立的，而没有一个实体能够全面地开展这方面的工作，这就限制了现有联合国独自应对人工智能对全球多方面影响的能力。（三）实施性不足（三）实施性不足然而，仅有代表性和协调性是不够的，还需要切实采取行动，确保善治承诺在实践中转化
17、为具体成果。与私营部门合作十分重要。我们需要民间社会和科学专家的积极参与，让政府和私营公司诚实地履行承诺和主张。在国家内部和国家之间，利用人工智能服务公共利益的推动因素不足，这导致了实施方面的关键问题。尽管许多国家已经制定了国家战略，并且一些国际援助倡议也正在出现，但这些机构的网络和资源仍然不足。因此，在全球层面将国家和区域的能力建设倡议联系起来，汇集资源以支持那些未能参与这些努力的国家，有助于确保所有国家都能分享与人工智能相关的机遇。-12-三、推动人工智能全球治理合作的路径建议（一）建设国际人工智能科学小组三、推动人工智能全球治理合作的路径建议（一）建设国际人工智能科学小组建议成立一个独立
18、的国际人工智能科学小组，由该领域的多学科专家自愿以个人身份组成。1.主要工作一是主要工作一是发布年度报告。调查与人工智能相关的能力、机遇、风险和不确定性，识别在技术趋势方面达成科学共识的领域，以及需要开展更多研究的领域。二是二是编制季度专题研究摘要。就人工智能帮助实现可持续发展目标的领域进行研究，重点关注可能服务不足的公共利益领域。三是三是发布特别报告。主要针对新出现的问题，特别是新的风险或治理方面的重大漏洞。该科学小组将涵盖广泛的重点，全面关注一系列优先事项，包括寻找人工智能相关机会的专业知识，以及促进对可持续发展目标应用领域的深入研究。然而，这样的科学小组不一定开展自己的研究，而应成为网络
19、化行动的催化剂。它将减少信息不对称，帮助避免投资方向错误，并保持全球专家网络的信息畅通。2.建设意义建设意义通过联合国独特的全球网络，可以在广泛的基础上达成共同理解，以适合各种社会经济和地理环境的方式提供研究成果。利-13-用联合国的号召力和包容各利益相关者的影响力，国际科学小组能够提供值得信赖的科学合作过程和成果，并纠正信息不对称，以解决代表性和协调性不足的问题，从而促进公平有效的国际人工智能治理。3.如何建设如何建设这种机构有先例可循。例如，联合国原子辐射效应科学委员会、生物多样性和生态系统服务政府间科学政策平台（IPBES）、南极研究科学委员会和政府间气候变化专门委员会（IPCC）都以系
20、统的方法解决影响不同部门和全球人口的复杂问题。然而，人工智能科学小组不应直接照搬这些先例，而应量身定制一种适合人工智能技术的方法，以整理和促进前沿研究，为那些寻求公正、可信的科学观点的人提供信息。4.运作机制运作机制小组的初始任期可为 3-5 年（经秘书长审查后可延长），并可在以下基础上运作：一是一是成员结构应重视跨学科性，并确保地区和性别的多样性和代表性。最初可以有 30-50 名成员，通过会员国和自我提名相结合的方式任命。成员可在 3-5 年的总体任期内定期轮换。二是二是应举行线上或线下会议。会议可在联合国相关实体所在城市轮流举行。三是三是应保持独立性，特别是在调查结果和结论方面。四是四是
21、应与其他国际机构和相关区域组织合作，并在-14-其基础上开展研究工作。五是五是应设立指导委员会，以制定研究议程，确保观点的包容性并纳入伦理考虑因素，监督资源的分配，促进与学术机构和其他利益相关者网络的合作，并审查小组的活动和成果。5.主要受众主要受众科学小组将有三大主要受众：一是一是全球科学界。科学小组可以鼓励他们开展更多关注公益的研究。二是二是会员国和决策者。定期独立评估将为会员国、决策者和本报告建议的其他进程提供信息。三是三是公众。通过公开报告，科学小组可以成为公众高质量信息的官方来源。（二）在联合国框架下发起更多政策对话（二）在联合国框架下发起更多政策对话1.必要性必要性当前，全球人工智
22、能治理的现状呈现出明显的碎片化和不完整性，这一点从 118 个国家未能参与最近七个主要的非联合国人工智能治理举措中可见一斑。这些举措的缺失不仅凸显了国际人工智能治理的选择性，也暴露了在代表性方面的显著差距，即使是在人工智能能力较强的 60 个国家中也未能幸免。2.工作机制工作机制更多的人工智能治理政策对话，核心在于通过联合国平台召集全球各利益相关方，共同参与到人工智能治理的多边对话中。-15-这个对话机制建议每年举行两次，目的在于促进全球范围内对人工智能治理的深入理解和广泛共识。通过这样的政策论坛，各国能够就人工智能的发展潜力、伦理问题、以及对社会的广泛影响进行开放和坦诚的交流，探讨如何在推动
23、技术创新的同时，确保人工智能的发展能够尊重和保护人权，实现可持续发展目标，为全球人工智能治理提供指导性的原则和实践案例，帮助各国在人工智能的浪潮中找到平衡点，确保技术进步能够普惠全人类。3.主要作用一是主要作用一是政策对话将强化国际间的互操作性与合作精神。它将鼓励私营部门和公共部门在人工智能治理上形成合力，共同开发和实施有效的治理措施。通过这种合作，可以更好地应对人工智能带来的跨国界挑战，如数据保护、隐私安全问题、就业影响等。二是二是该对话机制还将提供一个自愿分享经验的平台，使得各国能够就那些对本国机构构成挑战的人工智能事件进行沟通和学习。三是三是国际人工智能科学小组的报告将在论坛上得到讨论，
24、确保政策制定能够基于最新的科学发现和证据。-16-表 5：人工智能排名前 60 位的国家参加政府间人工智能治理文件情况汇总-17-（三）创建人工智能标准交流中心（三）创建人工智能标准交流中心1.必要性必要性在当前探索人工智能的初期阶段，该领域缺乏明确的标准来引导和衡量其发展。图灵测试（Turing Test）作为一个尝试评估机器是否能够展现出与人类相似行为的测试，虽然在公众中引起了广泛的关注和想象，但其文化意义似乎超越了科学意义。这些测试虽然容易为非专业人士所理解，但它们并不构成严谨的科学衡量标准。基于此，建立一个人工智能标准交流中心显得尤为重要。这样的中心可以汇集全球范围内的标准制定机构、技
25、术企业、民间社会的代表以及国际科学小组的专业知识，共同探讨和制定人工智能相关的标准。这不仅有助于统一对人工智能系统性能的衡量和评估标准，而且可以促进全球范围内的互操作性，确保人工智能的发展能够符合伦理、安全和效率的要求。2.当前全球人工智能标准建设现状当前全球人工智能标准建设现状当前全球人工智能标准建设的现状呈现出快速增长和多样化发展的特点。国际电信联盟（ITU）、国际标准化组织（ISO）、国际电工委员会（IEC）以及电气电子工程师学会（IEEE）等机构采用的人工智能相关标准数量正在不断增加。这一增长反映了人工智能技术快速发展和广泛应用的需求。然而，这一领域的标准化工作存在两个主要趋势和挑战。
26、首-18-先，许多标准是为了解决具体问题而制定的，但人工智能领域缺乏统一的语言和共同理解，导致许多常用术语如公平性、安全性、透明度等没有统一的定义或衡量标准。其次，存在一种脱节现象，即为了狭隘的技术目的或内部验证而制定的标准与那些旨在纳入更广泛伦理原则的标准之间缺乏协调和一致性。表 6：全球主要机构发布的人工智能相关标准数量统计3.工作机制工作机制标准交流中心将通过与国际科学小组和政策对话的紧密联系，推动技术与道德伦理标准的协调发展。该中心将促进国际电信联盟、国际标准化组织、国际电工委员会和电气电子工程师学会等机构联合举办人工智能标准峰会，确保标准的全球影响力和动力。同时，经济合作与发展组织、
27、世界知识产权组织、世界贸易组织-19-等也将参与，以确保标准反映经济、伦理和人权因素。此外，中心将提供能力建设信息，支持实际做法，并分享自我评估工具，以促进标准的实施和监督。随着安全标准的正式确定，这些标准将为未来监测和核查机构提供基础。（四）构建人工智能能力建设组织协调网络（四）构建人工智能能力建设组织协调网络建议创建一个人工智能能力建设网络，将联合国下属的一系列合作能力建设中心连接起来，向关键参与者提供专业知识、算力资源和人工智能训练数据。1.主要工作一是主要工作一是通过支持建立区域和全球网络，促进和协调区域和全球人工智能能力的建设工作。二是二是提高公职人员的人工智能治理能力，以在推动技术
28、发展的同时，尊重、促进和保护人权。三是三是向寻求将人工智能应用于本地公共利益案例的研究人员和社会企业家提供培训、算力资源和人工智能训练数据。2.建设意义建设意义能力建设网络应当成为国家和区域能力的催化剂，而不是硬件、人才和数据的集中地。通过加速学习，该网络将推动国家人才中心促进地方人工智能创新生态系统的发展。我们希望该网络能够推动人工智能技术发展的另一种模式，即自下而上、跨领域、跨地区的开放与协作模式。由于训练和部署人工智能模型的能源-20-和其他成本不断上升，以及算力资源闲置的可能性，将算力资源在时间共享的基础上连接起来以便访问，同时利用这种访问促进跨领域人才、数据和人工智能模型的发展，从而
29、实现可持续发展目标，将是非常有意义的。3.如何建设如何建设人工智能的能力建设需要一种全新的方法，特别是跨领域的培训，以培养新一代的多学科专家。此外，能力建设还必须与成果挂钩，通过在沙盒中进行实训和开展合作项目来汇集数据和算力资源，以解决共同问题。因此，鉴于挑战的紧迫性和规模，我们建议采取战略性的方法，通过高性能计算节点网络汇集和调配资源，激励与可持续发展目标相关领域的数据集开发，促进人工智能模型的共享，并将人工智能治理的最佳实践纳入主流。这将有助于培养跨领域的人才，确保人权专业知识的整合。换句话说，我们建议通过一系列合作中心的建设实施整体战略，而不是逐个追逐相互脱节的项目。理想情况下，全球每个
30、地区至少应有一个或两个节点。参与全球人工智能合作组织的专门知识中心可以与联合国共同支持能力建设网络。学术机构和私营部门的能力建设贡献者可通过最近的区域节点或国际组织寻求附属关系。（五）设立全球人工智能基金。（五）设立全球人工智能基金。1.功能与目标功能与目标-21-设立全球性人工智能基金，为弥合全球人工智能技术和治理鸿沟具有重要意义。如没有全球范围内的基金支持，许多国家将无法获得必要的人工智能的培训、算力、模型训练等。强大的市场力量影响着人才和算力竞争的走向，地缘政治的竞争也影响着全球人工智能等科技合作的前景。然而，创造一个所有人都能做出共享并分享利益的人工智能生态，更加符合我们的集体利益。同
31、时，确保人工智能模型开发和测试基础设施的多样化使用，有助于避免人工智能过分集中在少数技术公司可能导致的风险。设立人工智能全球基金的目标，是推动构建一个具有互操作性的值得信赖的人工智能模型所依赖的基础设施和数据集，从而更好的为公共利益服务。这个目标不可能通过市场的力量自动实现，只有通过强有力的集体行为才有可能达成。2.主要投资领域主要投资领域这一基金的重点并非投资构建算力资源，事实上即使最富裕的国家和公司也很难获得足够的算力资源。我们更需要的是推动更好的利用现有的高性能计算资源，推动用更好的方法来连接全球范围内的人才、算力和数据。因此，全球人工智能基金的主要投资领域主要包括三个方向。一是一是基金
32、可帮助有需要的国际创新一个“最低限度”的共享计算基础设施。该设施可帮助这些国家训练一个中小规模的人工智能模型，可实现用当地语言培训农民-22-等功能，为推动联合国可持续发展目标做出贡献。二是二是基金可推动在全球范围内创建共享的模型、算力生态。该生态可允许全球各国利用自己的背景数据和高质量数据对现有的开源模型进行微调。同时，还可以探索构建可以共享的算力等基础设施，仅收取合理的使用费用于该共享生态的维护和运行成本。三是三是可投资构建一些全球通用的数据集。一些基础性的数据集可能很难有商业价值，一般没有公司愿意进行投资，因此需要基金进行投资。四是四是投资于有助于实现联合国可持续发展目标的具体的人工智能
33、应用的研发工作。3.运作机制运作机制该基金的管理和运作模式旨在通过筹集和汇集实物捐助，包括私营部门的捐助，实现资源的有效分配。基金治理强调独立监督和问责，同时具有包容性，其理事会成员多元化，涵盖政府、私营部门、慈善家、民间社会和联合国机构。此外，基金将整合科学和专家的投入，确保在数据和模型开发中的中立性和信任。在业务运作方面，基金借鉴了欧洲核研究组织和全球疫苗免疫联盟等国际研发合作的经验，以及共享基础设施商业平台的模式。它还将参考全球基金和复杂风险分析基金的做法，这些机构通过汇集数据来支持利益相关方进行危机的预测、预防和应对。总体而言，该基金致力于通过合作和数据共享，提高对全球性挑-23-战的
34、响应能力，确保资源的集中和有效利用。（六）完善全球人工智能数据训练治理框架（六）完善全球人工智能数据训练治理框架。1.必要性必要性目前，全球范围内对于人工智能的数据训练方面还未能形成有效共识。尽管已有建议推动更广泛的数据访问权和共享，但实际执行的并不多。为了创建一个更加多样化和活跃的人工智能生态系统，需要提高人工智能训练数据的文化、语言和其他特征的透明度，以及识别并补充代表性不足或“缺失”的数据。2.确保人工智能模型数据安全的主要方法确保人工智能模型数据安全的主要方法确保人工智能模型训练数据安全的主要方法包括数据授权、数据信托和跨境数据安排。数据授权允许数据所有者和主体在维护权利的同时，安全、
35、有限度地使用其数据。数据信托作为一种机制，使个人和组织能够集体提供对其数据的访问，而访问权由受托人控制，确保数据所有者在贡献的同时保留合法权利。此外，为了管理数据的获取和使用，尤其是跨境获取，需要依赖专门的法律框架，并适应不同部门和社区的需求。这些方法和技术框架旨在提高数据使用的准确性，更好地服务特定群体或社会，同时保护数据提供者的信任。为了实现这些目标，需要进一步支持这些工具的发展，并确定其在人工智能训练中的最大公共价值领域。3.工作建议工作建议-24-建议启动全球进程，鼓励各国和国际组织参与，创建数据保护的“防护栏”。关键原则包括互操作性、管理、隐私保护、赋权、权利增强和生态系统支持。联合
36、国应利用其优势，结合数据界经验和人工智能伦理，制定全球数据治理原则。同时，国际贸易法委员会等机构也应参与，共同推动数据治理。（七）设立联合国人工智能办公室（七）设立联合国人工智能办公室。1.当前联合国在全球人工智能治理生态中的关键作用当前联合国在全球人工智能治理生态中的关键作用联合国是推动全球人工智能治理框架和原则制定的核心力量，可以通过其下属机构和国际科学小组，为全球人工智能治理提供专业知识和信息交流。表 7：联合国在全球人工智能治理生态中的作用2.进一步设立联合国人工智能办公室的必要性进一步设立联合国人工智能办公室的必要性-25-联合国人工智能办公室的必要性在于其能够提供一个精简而灵活的机
37、制，作为“粘合剂”整合联合国系统内的各项流程，以促进统一认知、共同基础和共享惠益。这样的办公室能够支持国际人工智能科学小组和政策对话，加速创建人工智能标准交流中心和能力发展网络，同时降低管理成本和交易成本。此外，办公室能够与整个联合国系统建立联系，不受特定部门的限制，这对于应对人工智能未来不确定性和其在人类活动中的广泛渗透至关重要。通过在联合国秘书处内设立直接向秘书长汇报的人工智能办公室，可以确保人工智能治理工作与联合国的整体目标和活动紧密相连，从而在国际人工智能治理生态系统中发出一致而有力的声音。3.工作机制工作机制人工智能办公室应构建精简、灵活、可信且网络化的组织结构，采取“中心辐射”模式
38、与联合国系统内外建立联系。其职能包括作为会员国、多边网络、民间社会组织、学术界和科技企业间的“软协调架构”关键节点，促进互动交流和协作解决问题。办公室将支持科学报告提交、治理对话和后续实体确定，确保包容性。它还将为国际科学小组提供征聘便利，服务政策对话，支持建立人工智能标准交换中心。此外，办公室将推动人工智能能力发展网络，培养公职人员和社会企业家，确定全球人工智能基-26-金的愿景和治理结构，并编制年度投资领域清单。通过建立精简型机制和指导委员会，办公室将加强全球人工智能治理工作，定期向会员国报告进展并建立反馈渠道，与联合国相关实体合作，促进会员国代表学习和发展，履行全球人工智能治理责任。译自
39、：The GOVERNING AI FOR HUMANITY,September 2024 by UnitedNations AI Advisory Body译文作者：赛迪工业和信息化研究院唐琦李雨佳徐婧联系方式：18811215507电子邮件：-28-编 辑 部：赛迪工业和信息化研究院通讯地址：北京市海淀区紫竹院路 66 号赛迪大厦 8 层国际合作处邮政编码：100048联 系 人：袁素雅联系电话：（010）8855954313263204219传真：（010）88558833网址：电子邮件：报：部领导送：部机关各司局，各地方工业和信息化主管部门，相关部门及研究单位，相关行业协会报：部领导送：部机关各司局，各地方工业和信息化主管部门，相关部门及研究单位，相关行业协会
