定制报告-个性化定制-按需专项定制研究报告
行业报告、薪酬报告
联系：400-6363-638
《云安全联盟大中华区：2025从原则到实践：在动态监管环境下负责任的人工智能报告（72页）.pdf》由会员分享，可在线阅读，更多相关《云安全联盟大中华区：2025从原则到实践：在动态监管环境下负责任的人工智能报告（72页）.pdf（72页珍藏版）》请在薪酬报告网上搜索。
1、12025 云安全联盟大中华区版权所有2人工智能治理和合规工作组永久的官方网址是：https:/cloudsecurityalliance.org/research/working-groups/ai-governance-compliance 2025 云安全联盟大中华区-保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网（https:/www.c-）。须遵守以下：(a)本文只可作个人、信息获取、非商业用途；(b)本文内容不得篡改；(c)本文不得转发；(d)该商标、版权或其他声明不得删除。在遵循 中华人民共和国著作权法相关条款情况下合理使用本文内容，
2、使用时请注明引用于云安全联盟大中华区。2025 云安全联盟大中华区版权所有32025 云安全联盟大中华区版权所有4致谢致谢报告中文版支持单位报告中文版支持单位北京数安行科技有限公司（简称：数安行）是一家数据安全厂商。公司主营产品涵盖数据分类分级、数据安全沙箱、下一代数据泄露防护、数据安全检查、数据安全风险态势感知、数据安全风险监测与风险评估、数据合规与隐私保护、数据运营安全等，主要为政府、军队、企事业单位提供数据运营安全产品和服务。数安行以DataSecOps为理念，以AI人工智能技术为核心驱动，将数据安全左移，在数据处理的第一现场对数据采取安全措施，平衡业务与安全，打造以数据运营为核心的数据
3、安全生态体系，助力数字化转型，致力于让用户的数据安全地创造价值。公司核心团队拥有20余年产研和市场服务经验，技术积累雄厚，服务于能源、电力、金融、运营商、教育、高端制造、软件与信息技术服务、互联网、医疗、政府、军队军工等各行业客户。2025 云安全联盟大中华区版权所有5报报告告英英文文版版编编写写专专家家主主要要作作者者Maria SchwengerLouis Pinault参参与与编编辑辑Arpitha KaushikBhuvaneswari SelvaduraiJoseph Martella审审稿稿人人Alan Curran MScUdith WickramasuriyaPiradeepa
4、n NagarajanRakesh SharmaGaetano BisazHongtao HaoJan GerstAshishVashishthaGaurav SinghKen HuangFrederick HnigDirce HernandezTolgay Kizilelma,PhDSaurav BhattacharyaMichael RozaGabriel NwajiakuVani MittalMeghana ParwateDesmond FooLars RuddigkeitMadhavi NajanaC CS SA A 全全球球工工作作人人员员Ryan GiffordStephen Lu
5、mpe2025 云安全联盟大中华区版权所有6目 录安全声明.8前瞻性声明和人工智能的发展前景.8文档摘要.9执行摘要.10引 言.11范围和适用性.121.生成式人工智能法律和监管的重点领域.141.1 数据隐私和安全.141.2 通用数据保护条例(GDPR）（欧盟）.141.3 加州消费者隐私法案/加州隐私权法案(CCPA/CPRA).171.4 欧盟人工智能法案(EU AI Act/EIAA).221.5 医疗电子交换法案(HIPAA).312.如何应对生成式人工智能的幻觉对数据隐私、安全和伦理的影响.362.1 国土安全部政策声明139-07对生成式人工智能的影响.372.2 联邦贸易委
6、员会政策宣传与研究指导:.372.3 美国白宫管理和预算办公室（OMB）在联邦机构使用人工智能的治理、创新和风险管理的政策.382.4 拜登总统关于安全、可靠和负责任地开发和使用人工智能的行政令 403.非歧视与公平.413.1 部分现行反歧视法律法规.413.2 监管方面的挑战.443.3 监管重点和技术.453.4 新兴监管框架、标准和指南.483.5 安全、责任和问责.513.6 知识产权.544.负责任人工智能的技术战略、标准和最佳实践.604.1 公平与透明度.602025 云安全联盟大中华区版权所有74.2 安全与隐私.614.3 鲁棒性、可控性和合乎伦理的人工智能实践.624.4
7、 组织如何利用这些标准.634.5 负责任的生成式人工智能的技术保障（数据管理）.644.6 案例研究-在实践中展示透明度和问责制.665.持续监测与合规.686.管理生成式人工智能的法律与伦理考量.697.结论：填补人工智能治理空白，实现负责任的未来.692025 云安全联盟大中华区版权所有8安全声明安全声明本文仅供参考，不构成法律建议。本研究文件由云安全联盟编写，探讨了当前围绕人工智能的监管治理情况。虽然本文涉及各种法律和监管框架，但必须强调的是，所提供的信息不适用于任何特定情况的法律指导。人工智能的监管环境正在迅速演变，法律法规的解释和应用会因各种因素而存在很大差异，这些因素包括：管辖范
8、围（国家或地区）具体的情景（如行业、应用场景等）具体的人工智能技术或应用因此，云安全联盟和本文作者强烈建议，如果有任何与人工智能开发、部署或使用相关的法律层面的问题或疑虑，应单独寻求法律顾问的意见。前瞻性声明和人工智能的发展前景前瞻性声明和人工智能的发展前景本文包含了一些可能具有前瞻性的陈述。为确定其适用性，我们鼓励向相关的国家监管机构和法律顾问寻求指导。需要注意的是，这些陈述是作者和云安全联盟基于当前的知识和预期所做，受固有风险、不确定性和假设的影响，部分陈述可能与实际结果存在差异。以下是可能影响人工智能领域未来发展和相关监管环境的一些重要因素，也是可能影响本文件中前瞻性陈述准确性的因素所在
9、：技术的快速进步：技术的快速进步：人工智能领域不断发展，新的技术和应用层出不穷，很难预测这些技术进步的确切轨迹及其对人工智能监管各方面的影响。监管框架的不确定性：监管框架的不确定性：对人工智能的监管方法仍在开发，不同管辖范围内对人工智能开发、部署和使用的具体规定可能存在较大差异，并可能随着时间的推移而发生变化。2025 云安全联盟大中华区版权所有9 新兴的伦理考量：新兴的伦理考量：随着人工智能应用变得越来越复杂，可能会出现新的伦理考量，促使更多有关负责任的开发和使用这些技术的法规或指导原则出台。经济和社会因素：经济和社会因素：整体经济环境和对人工智能的社会态度，可能会影响新技术的开发、采用及监
10、管环境。这些关于前瞻性的陈述仅反映作者和云安全联盟本文件发布之日的观点，作者和云安全联盟不承担更新或修改本文档中任何前瞻性陈述以反映未来事件或情况的任何责任。请读者不要过度依赖这些陈述。文档摘要文档摘要本文围绕人工智能和生成式人工智能（GenAI）的法律和监管环境论述。主要强调了生成式人工智能在复杂多变的环境中面临的挑战，这些挑战源于生成式人工智能自身的多样化应用、全球监管机构采取的不同监管方法，以及对现有规定的延迟适应。本文旨在为各组织提供基本知识，帮助其从根本上了解自身的现状，并为他们在快速变化的负责任、合规地使用人工智能方面的需求提供指导。本文探讨了部分现行法规，并阐述了在地区、国家和国
11、际层面开发和部署负责任的人工智能的注意事项和最佳实践。本文高度概括了当前人工智能（包括生成式人工智能（GenAI）的法律和监管情况。虽然内容并非详尽无遗，但对于组织来说，这是一个了解自身现状并确定负责任和合规的使用生成式人工智能应该考虑哪些关键因素的起点。由于技术的不断进步以及法律和政策环境的演变，提供一份完整的概述是具有挑战性的。因此，我们建议将这些信息作为了解不断演变的人工智能法规和监管机构的基础。重要的是要意识到，人工智能法规来自全球各级政府和司法管辖区。此外，尽管数据隐私和反歧视法规等法律不是专门为人工智能设计，但这些法律将决定人工智能的使用范围和方式。例如，在美国，人工智能将受到城市
12、、州和联邦法律、政府行为、行政令、自愿行业协议甚至普通法的监管。2025 云安全联盟大中华区版权所有10在准备人工智能项目时，需要考虑到人工智能法规的起源并不总是直观的，因此需要细致分析。首个具有深远影响的法律框架是欧盟人工智能法案，因为它保障了个人和企业的安全及基本权利。如果某些人工智能应用干扰或威胁到公民权利，则会遭到禁止。如大语言模型等高风险人工智能系统可能会对健康、安全、基本权利、环境、民主和法治造成重大损害，预计将出台相关法规加以监管。执行摘要执行摘要人工智能正在迅速改变我们的世界，并且具有重塑社会基本结构的巨大潜力。然而，这种变革力量也带来一个严峻的挑战：当前的法律和监管环境很难跟
13、上人工智能，尤其是生成式人工智能爆炸性增长的步伐。本文旨在提供现有法律法规及其对人工智能开发、部署和使用影响的高层次概览。我们的目标是确定立法滞后的领域，并寻求实际的方法部署负责任的人工智能。当前的环境缺乏完善的立法，在解决日益复杂的人工智能功能的潜在风险方面存在差距。这导致现有规定，如 通用数据保护条例(GDPR)和 加州消费者隐私法案(CCPA)/加州隐私权法案(CPRA)，虽然为数据隐私提供了基础保障，但并未针对人工智能开发的独特挑战提供具体的指导，而且不足以满足例外情况下的需求。随着大型科技巨头计划向人工智能投资数千亿，预计技术创新的步伐不会放缓，技术革新的快速步伐已经超出了立法适应的
14、能力。一个令人担忧的缺口正在出现：生成式人工智能的广泛使用，无论是个人还是专业用途，都伴随着治理缺失的问题。恶意行为者已经开始利用生成式人工智能执行复杂的攻击，公司也将生成式人工智能视为一种竞争优势，从而进一步加快了生成式人工智能的应用。尽管这种快速应用令人兴奋，但需要伴随着负责任的人工智能开发实践，而这些实践不能抑制创新。理想的解决方案是营造一个鼓励负责任的、透明和可解释的人工智能使用的全球环境，并辅以清晰实用的指导原则做支持。为了2025 云安全联盟大中华区版权所有11弥合人工智能的无限潜力与负责任开发需求之间的差距，我们需要一种三管齐下的合作方法：所有科技公司对负责任的人工智能做出承诺，
15、政策制定者提供明确的指导，立法机构制定有效的法规。本文以立法和法规为重点，开启了关于人工智能治理的重要论述。它为涉足人工智能领域的从业者和企业提供了对当前人工智能治理环境及其不足之处的基础理解。旨在通过强调这些不足，促进一场关于负责任人工智能开发和应用所需法律框架的公开讨论。引 言引 言人工智能领域的迅速扩展，需要法律和监管环境的不断演变，以确保在保护个人和社会的同时，负责任地发展、部署和创新。了解人工智能的道德和法律框架有助于组织实现三个关键目标：建立信任和品牌声誉：建立信任和品牌声誉：通过展示透明、负责任的人工智能实践，与利益相关者建立信任，并提升品牌声誉。降低风险：降低风险：积极采用这些
16、框架并利用基于风险的方法，有助于降低与不负责任的人工智能使用相关的潜在的法律、声誉和财务风险，从而保护组织和个人。促进负责任的创新：促进负责任的创新：通过坚持最佳实践、保持透明度、问责制和建立强大的治理结构，组织可以培育一种负责任的和安全的人工智能创新文化，确保人工智能在发展的同时对社会产生积极影响。通过多样化的团队、全面的文档记录和人类监督，负责任的人工智能将通过减轻偏见、及早发现问题以及与现实世界保持一致，增强模型表现。2025 云安全联盟大中华区版权所有12范围和适用性范围和适用性由于人工智能，更具体地说是生成式人工智能（GenAI）本身具有多样性，如何应对复杂的法律环境就成为了一个巨大
17、的挑战。本文深入探讨了围绕人工智能的监管环境，涵盖了诸如生成逼真文本格式（代码、脚本、文章）的深度学习模型、处理视觉内容（面部识别、深度伪造）的计算机视觉应用、稳定扩散（文本到图像模型）以及在自主系统（自动驾驶汽车、机器人）中使用的强化学习算法等多样化系统。更广泛的类别，如生成式对抗网络和大语言模型等，是众多生成式人工智能应用的基础，要求在监管中将其纳入考虑。由于现行立法在适应这一动态环境方面面临挑战，因此有必要采取细致入微的方法管理这一广泛、快速发展的系统。由于竞争压力，快速发展的技术渗透到我们的生活和商业实践中，但与此同时，法律框架却不完善且适应缓慢，造成了一种严峻的局面。本文将探讨：最广
18、泛使用的现有法规如何参与解决生成式人工智能的特定领域问题。制定新法规面临的一些挑战和机遇。使用可解释的人工智能技术制定负责任的人工智能原则的高级建议和最佳实践。本文采用阶段性的方法分析人工智能治理，重点关注以下几个方面。2025 云安全联盟大中华区版权所有13表1：治理领域范围现行文件现行文件未来考虑因素未来考虑因素国家最高级别的政府机构或联邦政府的立法：美国：行政令（例如，维持美国在人工智能领域的领导地位，以及关于安全、可靠和值得信赖的开发与部署人工智能技术的行政令）国会法案（例如，2023年算法责任法案（提案）欧盟:欧盟委员会政策文件（例如，可信人工智能伦理指南）法规（例如，人工智能法案）
19、国家层面:亚太地区的一些规定：中国（已颁布）（科学技术部）、日本（内阁府）、韩国（科学技术信息通信部）、新加坡、印度的国家政策是“全民人工智能”其他正在制定人工智能政策的国家（加拿大、英国、澳大利亚）主要地区性法规:加州消费者隐私法案(CCPA)，由加州隐私权法案(CPRA)修订 通用数据保护条例(GDPR)国际组织国际组织：正在探索框架的有：经济合作与发展组织（关于人工智能的建议）联合国教科文组织（关于人工智能伦理的建议）。全球人工智能合作伙伴关系（GPAI）汇集来自科学界、产业界、民间社会、政府、国际组织和学术界的专长，以促进国际合作。ISO/IEC 42001:2023(人工智能管理系统
20、标准)OWASP大语言模型应用的10大安全风险2025 云安全联盟大中华区版权所有141.生成式人工智能法律和监管的重点领域生成式人工智能法律和监管的重点领域1.1 数据隐私和安全数据隐私和安全生成式人工智能在数据隐私和安全领域存在独特的挑战，能够从大量数据中学习，从而引发了人们对在整个人工智能开发和部署生命周期中如何收集、存储、使用、共享和传输个人信息的关注。包括 通用数据保护条例(GDPR)、加州消费者隐私法案(CCPA)、加州隐私权法案(CPRA)和医疗电子交换法案(HIPAA)在内的多项现行法律法规，旨在保护个人隐私和数据安全，具体如下：1.2 通用数据保护条例(GDPR）（欧盟）1.
21、2 通用数据保护条例(GDPR）（欧盟）适用范围：适用范围：通用数据保护条例适用于在欧洲经济区(EEA)内处理个人数据的任何组织。主要条款:主要条款:处理的合法依据、公平性和透明度：处理的合法依据、公平性和透明度：组织处理个人数据必须有合法依据（如用户同意、正当利益等）。它要求向个人明确提供关于数据收集和处理目的的具体的信息。数据最小化：数据最小化：将个人数据的收集和保留限制在所述目的所规定的范围内。数据主体的权利：数据主体的权利：授予个人对其个人数据的各种权利，包括访问、更正、删除和限制处理的权利。安全措施：安全措施：要求组织采取适当的技术和措施来保护个人数据免遭未经授权的访问、披露、更改或
22、破坏。自动化个体决策制定，包括画像：自动化个体决策制定，包括画像：对于包括画像的自动化决策制定，必须征得数据主体的明确同意（通用数据保护条例第22条）。生成式人工智能的通用数据保护条例合规性：生成式人工智能的通用数据保护条例合规性：2025 云安全联盟大中华区版权所有15欧盟通用数据保护条例 要求在处理个人数据（包括用于人工智能系统的数据）时必须征得数据主体同意。此外，数据保护的要求意味着系统必须遵守通用数据保护条例原则，如合法性、公平性、透明度、目的限制、数据最小化、准确性、存储限制、完整性和保密性。1.2.1 合法、透明的数据收集和处理1.2.1 合法、透明的数据收集和处理 对训练数据和提
23、示词数据的限制：对训练数据和提示词数据的限制：通用数据保护条例概述了以下处理数据的主要原则：目的限制：数据的收集和使用只能用于特定、明确界定或兼容的目的。必要性：只能收集和使用实现这些目的所必需的个人数据。数据最小化：应尽量减少收集和使用的个人数据量，只收集绝对必要的数据。存储时限：必须尽可能缩短个人数据的存储时间，并且必须定期设定和审查存储期限。训练数据（以及提示词数据，它们也可能成为“训练数据”），即只在实际需要的范围内收集和使用数据，以达到特定的训练目标。知情同意：知情同意：通用数据保护条例要求在收集和处理用于训练生成式人工智能模型的个人数据时获得用户的明确同意。这可以确保个人了解其数据
24、将如何被使用（例如，用于模型训练或微调），并有权拒绝。人工智能开发者必须为那些数据被人工智能/机器学习系统处理的个人提供行使这些权利的便利。透明度：透明度：欧盟的个人对其个人数据享有访问、更正、删除、限制处理和数据可携性的权利。组织在人工智能/机器学习系统中使用个人数据时必须保证其目的、法律依据和数据保留期限的透明，让用户了解他们的数据是如何贡献到生成的输出结果中的。2025 云安全联盟大中华区版权所有161.2.2 数据安全与责任1.2.2 数据安全与责任数据安全：数据安全：通用数据保护条例第25条规定，组织必须采取“隐私融入设计原则”和“默认隐私保护”的方法，并实施适当的技术和组织措施，以
25、确保基础模型中使用的个人数据的安全，包括加密、访问控制和数据泄露通知程序。此外，由于大语言模型是整个供应链的一部分，保证其安全性需要特别关注对抗性攻击、数据中毒和模型偏差等恶意技术。责任：责任：组织对在启用生成式人工智能的系统中使用个人数据负有责任，并必须证明其符合通用数据保护条例，这包括执行数据保护影响评估和维护适当的记录。数据匿名化和假名化：数据匿名化和假名化：虽然匿名化和假名化有助于降低隐私风险，但在生成式人工智能的背景下，它们并不能每一次都完美应对，因为即使是有限的信息也可用于推理身份。生成式人工智能输出的潜在危害：生成式人工智能输出的潜在危害：虽然通用数据保护条例看起来似乎只影响用于
26、训练模型的数据，但实际上该法规也适用于模型输出。这包括处理意外生成的输出和恶意使用深度伪造技术，这些都可能损害个人声誉和违反道德原则。所以制定明确的指导方针和保障措施对于确保负责任地开发和使用生成式人工智能、降低风险和保护个人免受潜在伤害至关重要。1.2.3 个人权利和控制个人权利和控制 访问和更正权：访问和更正权：个人有权了解和访问生成式人工智能使用的其个人数据，并在数据不准确或不完整时要求更正。这包括个人直接提供的信息和通过与生成式人工智能互动交互而生成的数据。然而，与传统数据库不同的是，纠正人工智能训练数据具有挑战性，因为其数据规模庞大且相互关联，这可能需要重新训练整个模型，并可能导致意
27、想不到的后果。迄今为止，纠正人工智能模型训练数据中已经获取的不准确信息的可行性尚不明确。虽然2025 云安全联盟大中华区版权所有17有关数据标记和隐私保护技术的研究仍在进行，但确保 更正权 仍然是一个开放性的挑战，应持续监督促进对这一需求的研究。删除权（被遗忘权）：删除权（被遗忘权）：个人有权要求删除其个人数据，这可能会影响人工智能/机器学习系统模型的训练和使用方式。由于个人数据在训练后可能会深嵌于模型内部复杂的表征中，因此落实这项权利对这些模型是一项独特的挑战。目前，从训练好的模型中移除特定数据点的技术可行性和伦理影响仍不明确，缺乏可靠的流程和既定的指导来处理此类请求，这就引发了如何平衡个人
28、隐私与模型整体功能和社会利益这一关键问题。反对权：反对权：个人有权反对出于特定目的处理其个人数据，包括在生成式人工智能的背景下。然而，在生成式人工智能的背景下行使这项权利面临着独特的挑战。目前还没有可靠的标准化流程可以在模型训练完成后将个人数据从训练集中删除。此外，反对权可能只适用于特定的数据元素或特定的目的，而不一定适用于用于训练模型的所有信息，这可能会限制个人反对权的范围。这凸显了开发透明且负责任的生成式人工智能以尊重个人隐私权的必要性。合规性：合规性：通用数据保护条例要求对数据处理活动执行数据隐私影响评估(DPIA)，这也适用于人工智能系统的数据处理及其对数据主体造成的风险。在用于训练大
29、型生成式模型的大数据集中识别个人数据非常困难，目前还不清楚欧盟将如何处理生成式人工智能中的通用数据保护条例合规性问题。自动化决策管理治理：自动化决策管理治理：通用数据保护条例第22条规定，个人有权反对对其具有法律影响或重大影响的对个人资料分析执行的自动化决策。这意味着个人有权选择退出自动化决策或对自动决策做出的决定提出异议，尤其是当自动化决策可能引起偏见而对其生活产生重大影响的时候。因此，使用自动化决策的公司必须有人工申诉审查流程。1.3 加州消费者隐私法案/加州隐私权法案(CCPA/CPRA)1.3 加州消费者隐私法案/加州隐私权法案(CCPA/CPRA)2025 云安全联盟大中华区版权所有
30、18 适用范围：适用范围：适用于在加州开展业务且符合其他要求（如全球年收入超过2500万美元）的营利性企业。该法案赋予加州居民了解收集其个人信息目的的权利，并有权要求删除或更正信息以确保信息准确性。企业必须将收集和处理个人信息的范围限制在披露目的所必需的范围内。加州消费者隐私法案的适用范围还包括依赖于这些数据的人工智能/机器学习系统，要求企业确保这些系统在涉及加州居民个人信息的训练和输出生成过程中遵守隐私要求。企业在利用加州居民的个人信息开发和部署生成式人工智能模型时，必须绝对遵守加州消费者隐私法案的义务。主要条款:主要条款:知情权：知情权：允许消费者要求了解所收集的个人信息的类别和具体内容。
31、删除权：删除权：赋予消费者要求删除企业收集的个人数据的权利。退出权：退出权：赋予消费者拒绝其个人信息被出售的权利。注：加州消费者隐私法案和加州隐私权法案对消费者数据的定义比常用的“个人可识别信息”(PII)更为宽泛。因此，本文采用“个人信息”(PI)这一术语，以确保与加州消费者隐私法案的范围保持一致。个人可识别信息 通常指的是可以直接识别个人身份的具体数据，如姓名或社会保险号。然而，加州消费者隐私法案对个人信息的定义涵盖了更广泛的数据内容，包括浏览历史记录、IP地址或地理位置数据等，这些数据本身不足以识别个人身份，但在与其他信息结合后可用于识别个人身份。因此，“个人信息”更准确地反映了加州消费
32、者隐私法案有关消费者数据隐私的意图。生成式人工智能对加州消费者隐私法案生成式人工智能对加州消费者隐私法案/加州隐私权法案合规性加州隐私权法案合规性：虽然加州消费者隐私法案/加州隐私权法案没有直接针对生成式人工智能提出技术要求，但加州消费者隐私法案/加州隐私权法案对个人数据权利的关注可能会给生成式人工智能带来重大的数据管理挑战，需要生成式人工智能采取谨慎的做法确保自身的合规性，并注意可能影响模型的性能和功能。重要的是，加州消费者隐私法案/加州隐私权法案只保护加州居民的个人数据。一些注意事项如下：2025 云安全联盟大中华区版权所有191.3.1 加州消费者隐私法案/加州隐私权法案下的数据收集、存
33、储、使用和披露1.3.1 加州消费者隐私法案/加州隐私权法案下的数据收集、存储、使用和披露加州消费者隐私法案/加州隐私权法案主要侧重于监管企业对加州居民个人信息的收集、使用和披露，包括用于训练人工智能/机器学习系统模型的数据，以及由此产生的包含个人信息的输出结果。加州居民有权根据加州消费者隐私法案/加州隐私权法案访问自己的个人信息，这项权利可能适用于用于训练模型的数据，但需要注意区分包含个人信息的输出与更通用的模型输出。加州居民有权了解出于人工智能目的收集了他们哪些个人信息、收集的目的以及与之共享这些信息的第三方类别。虽然加州消费者隐私法案/加州隐私权法案不一定要求披露具体的训练数据来源，但强
34、调了透明度的重要性。对数据来源的追溯对于加州消费者隐私法案/加州隐私权法案合规性至关重要，尤其是考虑到生成式人工智能通常使用庞大的数据集，复杂的数据来源追踪对于满足“访问权”和“知情权”请求变得困难。强大的数据治理实践、适当的记录以及可能使用匿名化的训练数据披露可有效应对这些挑战。1.3.2 消费者权利1.3.2 消费者权利加州消费者隐私法案/加州隐私权法案 授予消费者有关其个人信息的特定权利，包括访问、删除、更正其个人信息以及拒绝个人信息被出售的权利。具体内容如下:知情权：知情权：要求披露为训练模型而收集和使用个人信息的详情，包括说明用于训练的数据类别（如文本、图像、音频或姓名、位置等），确
35、定个人信息的来源（如用户互动、购买/第三方数据集、社交媒体、公共记录等），详细说明个人信息的用途（如模型训练、性能评估等）。访问权：访问权：用户可以要求访问在训练数据中使用到的具体数据点，训练过程可能会泄露可识别信息，需要在训练数据集中实施识别和隔离单个数据点的机制，如果采用匿名或聚合技术，这在技术上可能具有挑战性。2025 云安全联盟大中华区版权所有20 删除权：删除权：用户有权要求删除用于训练的个人信息，这将对模型产生多方面影响：数据删除：数据删除：这可能需要用剩余数据重新训练模型，从而可能影响模型的性能和适用范围。数据修改：数据修改：根据训练过程的不同，可能需要对特定数据点执行匿名处理或
36、编辑，这可能会影响模型的准确性和可解释性。知识移除：知识移除：如何识别千亿层深度神经网络中的已学知识，并移除特定的信息呢？实际上，这意味着需要从头开始重新训练大型语言模型，从而既不经济，也不环保。从技术可行性角度看，在复杂的训练数据集中识别并移除单个数据点可能计算成本高、耗时长，甚至是对于高级人工智能系统（如大语言模型）来说有时根本不可能实现的。如何处理那些需要移除数据的训练模型这一问题至今仍然没有答案。拒绝出售权：拒绝出售权：如果生成的人工智能输出内容（如“深度伪造技术”）被认为符合 加州消费者隐私法案/加州隐私权法案规定的“个人信息”，用户有权拒绝将这些信息出售或披露给第三方。这涉及在加州
37、消费者隐私法案框架下明确定义生成式人工智能输出并对其分类，可能需要进一步的澄清和法律解释。1.3.3 合规与执行1.3.3 合规与执行遵守加州消费者隐私法案/加州隐私权法案主要涉及实施技术和程序性保障措施保护个人信息。加州隐私保护局(CPPA)是一个相对较新的机构，成立于2020年，目前仍在包括消费者数据和隐私在内的不同领域建立监管规定。加州隐私保护局负责实施和执行加州隐私权法案和加州消费者隐私法案。虽然目前还没有发布专门针对人工智能管理的具体法规，但以上两项重要进展已经涉及人工智能和生成式人工智能。2025 云安全联盟大中华区版权所有211.3.4 自动化决策技术(ADMT)法规草案1.3.
38、4 自动化决策技术(ADMT)法规草案 该草案于2023年11月发布，重点关注负责任的使用自动化决策技术(ADMT)，其中包括用于面向消费者决策的多种形式的人工智能，其性质类似于通用数据保护条例第22条。该草案概述了对企业使用自动化决策技术的要求，例如：使用前通知：使用自动化决策技术做出影响消费者的决策之前告知消费者。拒绝权：允许消费者选择拒绝仅由自动化决策技术做出的决定。访问和解释权：向消费者提供有关如何使用自动化决策技术做出关于他们的决策信息，并解释这些决策是如何形成的。风险评估：要求企业进行风险评估，以识别和减轻使用自动化决策技术可能带来的的潜在危害，如偏见和歧视。虽然该规定没有明确提及
39、“生成式人工智能”，但它适用于任何用于对消费者做出自动化决策的人工智能技术，以及企业在加州部署和使用生成式人工智能的方式。1.3.5 加州关于1.3.5 加州关于生成式人工智能的行政令生成式人工智能的行政令 2023年10月，加利福尼亚州州长加文-纽森发布了一项行政令，成立了一个工作组，负责探索在州政府内负责任地开发、使用和实施生成式人工智能。该行政令强调了生成式人工智能的潜在益处，但也承认其潜在风险，如虚假信息的传播，强调了负责任的部署生成式人工智能的必要性。该工作组的任务是就为加利福尼亚州州级机构制定建议，包括但不限于:识别部署生成式人工智能的潜在益处和风险。制定使用生成式人工智能的伦理原
40、则。实施保障措施以预防潜在危害。2025 云安全联盟大中华区版权所有22虽然该行政令并不直接监管私营企业，但它标志着加州以积极主动的方式了解并可能塑造生成式人工智能未来的发展和使用态势。CPPA正在不断发展以适应生成式人工智能的复杂性，预计会有更多的合规要求。这强调了在促进负责任地开发和部署生成式人工智能的同时，持续努力应对不断变化的监管环境的必要性。1.4 欧盟人工智能法案(EU AI Act/EIAA)1.4 欧盟人工智能法案(EU AI Act/EIAA)适用范围：EIAA适用于欧盟境内参与人工智能系统开发、部署和使用的提供者、部署商、进口商、经销商和其他运营商，不适用于军事、国防或国家
41、安全目的。它针对人工智能系统的开发者和使用者提出了一系列规则和要求，重点关注四个风险等级：不可接受的风险、高风险、中风险和低风险。法案旨在确保对隐私和非歧视等基本权利的保护，确保人工智能系统的安全性和透明度，及如何负责任的使用人工智能系统。该法案适用于那些人工智能系统是在欧盟市场上提供或使用，或者使用影响到欧盟境内人们的运营商。法案涵盖了包括生物识别、自动驾驶汽车和关键基础设施在内的广泛的人工智能应用。主要条款:禁止行为（第5条）：法案第5条概述了与人工智能系统有关的禁止行为。禁止这些行为是为了确保个人的权利和安全，防止不道德和有害地使用人工智能系统。欧盟将禁止被认为具有不可接受风险的人工智能
42、系统，包括操纵人类行为的人工智能、社交评分系统以及用于执法目的在公共场所使用“实时”远程生物识别系统。基于风险的方法（第 9 条）：EIAA第9条引入了基于风险的方法监管欧盟内的人工智能系统，并平衡监管与创新，确保人工智能系统安全可信，同时避免不必要的合规成本。人工智能系统被划分为高风险、中风险和低风险，监管水平将根据其对个人构成的潜在危害程度而有所不同。2025 云安全联盟大中华区版权所有23 高风险人工智能系统，如用于关键基础设施的系统，必须满足严格的要求，通过审查，并在部署前获得预先批准。此类系统的提供者必须遵守最严格的法规规定，包括透明度和可解释性、人类监督和独立验证。中风险人工智能系
43、统的风险较低，但仍必须遵守特定要求。这些系统的提供者必须确保它们符合相关的法律义务、透明度和可追溯性等规则。低风险人工智能系统对个人几乎不构成风险。这些系统不受相同监管要求的约束，但仍应遵守适用于人工智能系统的法律框架。数据治理（第10条）：第10条旨在确保人工智能系统对数据的使用应透明、负责，并尊重个人隐私和数据保护权利。它要求用于训练和支持人工智能系统的数据必须遵守通用数据保护条例和其他相关数据保护法律的规定。高风险人工智能系统的提供者必须确保用于训练和支持人工智能系统的数据是相关、可靠、无偏见和无差错的，还应确保数据得到适当记录、标记和注释，以便监测和审计系统的性能。此外，数据管理必须透
44、明，被使用数据的个人必须知情并同意。透明性和可解释性（第 13 条）：本条要求高风险人工智能系统必须具有透明性和可解释性，解释其运作方式，并为用户提供获取文件的途径，使个人了解其工作方式和所做的决定。人工智能模型必须保存适当的记录和日志，确保可以对其审计。本条还规定了知情权和寻求人工干预的权利，以便对人工智能系统做出的决定提出质疑，确保人工智能系统以完整、负责和透明的方式运行。人类监督（第14条）：人类监督的目的是防止或最小化风险，可通过内置在系统中的措施或由部署者实施的措施实现。此外，人工智能系统的设计必须允许由人类操作员检查。监督系统的自然人应能了解其功能、监控其运行、解释其输出并在必要时
45、干预。对生物特征识别系统提出了具体要求。高风险人工智能系统将受到严格的义务约束，确保人为监督，并设计为能有效的由自然人监督。独立测试和验证（第57至63条）：它要求高风险人工智能系统应通过独立测试和验证，确保安全性和可靠性。2025 云安全联盟大中华区版权所有24 治理和认证（第64至70条）：欧盟将建立治理结构和认证框架，确保欧 盟的人工智能系统符合规定的标准和条例。该法规建立了一个治理框架协调和支持国家层面和联盟层面的法规实施。治理框架旨在协调和构建联盟层面的专业知识，利用现有资源和专业知识，并支持数字单一市场。罚则（第99条）：本条规定了对违反条例规定的制裁、措施和处罚。它 规定成员国必
46、须制定适当的行政或司法程序执行条例的规定。通过对违规行为处以重罚来遏制违规行为，以确保条例得到有效执行。它旨在确保以负责任和合乎伦理的方式开发、部署和使用人工智能系统，保护个人的权利和自由。EIAA规定，制裁和罚款根据违法行为的严重程度分级，旨在确保处罚与违规行为造成的危害程度相称。1.4.1 生成式人工智能的EIAA合规性1.4.1 生成式人工智能的EIAA合规性1.4.1.1 要求、义务和规定1.4.1.1 要求、义务和规定该法规旨在改善内部市场的运作，促进以人为本、值得信赖的人工智能系统在欧盟的应用。它规定了人工智能系统投放市场、投入使用和使用的统一规则，以及对高风险人工智能系统的特定要
47、求和义务。它还包括某些人工智能的禁止行为，并为某些人工智能系统制定了透明度规则。此外，它还涉及市场监管、市场监督治理和执法。高风险人工智能系统提供者的义务：确保高风险人工智能系统符合概述的要求。风险管理（第9条）：提供者必须对高风险的人工智能系统执行全面的风险评估，考虑对安全性、基本权利和系统预期用途的潜在风险，必须为高风险的人工智能系统建立风险管理系统，包括识别和分析已知和可预见的风险，评估可能出现的风险，并采取风险管理措施。风险管理措施的目的应是消除或减少已识别的风险，并应对条例规定和要求的综合影响。风险管理系统应确保高风险人工智能系统的总体残余风险被认为是可接受的。2025 云安全联盟大
48、中华区版权所有25 数据质量和管理（第10条）：提供者必须确保高风险人工智能系统接受过高质量、相关性和代表性数据集的训练。它们还必须实施适当的数据管理措施，防止出现偏差以确保数据的准确性。使用数据训练技术的高风险人工智能系统必须使用接受过高质量的训练、验证和测试的数据集。必须实施设计选择、数据收集过程、数据预处理操作等数据管理措施以解决偏差和数据缺口问题。技术文档（第11条）：提供者必须为高风险人工智能系统创建并维护准确和最新的技术文档。这些文件应包括系统的设计、开发、配置和运行信息。高风险人工智能系统的技术文档必须编制并保持更新。这些文档应证明系统符合法规要求，并提供必要的信息供主管部门和通
49、报机构评估。应为属于欧盟统一立法范围的高风险人工智能系统准备一套技术文件，委员会可通过授权法案修订技术文件要求。记录保存（第12条）：高风险人工智能系统必须能够在其整个生命周期内自动记录事件（日志）。日志记录功能应能识别风险情况，便于上市后监控，并监测高风险人工智能系统的运行。透明度和信息提供（第13条）：提供者必须确保高风险人工智能系统的透明度，并向用户提供关于系统功能和局限性的相关信息。高风险人工智能系统必须以透明的方式运行，使部署者能够正确理解和使用系统的输出结果。使用说明应包括提供者的相关信息、系统特点和能力、已知风险、解释输出的技术能力以及输出的规定。人类监督和干预（第14条）：提供
50、者必须在高风险人工智能系统中纳入适当的人类监督和干预机制，这包括确保系统在必要时可被人工操作覆盖或停止。高风险人工智能系统的设计必须允许自然人在系统使用期间有效监督。人类监督措施应旨在预防风险或最小化风险，并可集成到系统中或由部署者实施，被指派执行人类监督的自然人应能够了解系统的功能和局限性、检测异常、解释系统输出并在必要时干预或覆盖系统决策。准确性、鲁棒性和网络安全（第15条）：提供者必须确保高风险人工智能系统准确、可靠且稳健。应尽量减少与系统性能相关的错误和风险，并采取必要措施解决准确性和鲁棒性问题。应执行安全风险评估，并结合系统的设计2025 云安全联盟大中华区版权所有26实施必要的缓解
51、措施。高风险人工智能系统必须执行全面的风险评估，并遵守网络安全标准。在使用语言模型时，它们还应达到适当的准确性、鲁棒性和网络安全水平。可针对准确性和鲁棒性的技术方面制定基准和衡量方法，应在随附的使用说明中声明准确度和相关衡量标准。对某些人工智能系统的具体要求（第53和55条）：该条例确定了对特定类型的高风险人工智能系统的特定要求，如生物特征识别系统、关键基础设施中使用的系统、教育和职业培训中使用的系统、用于就业目的的系统以及执法机关使用的系统。在高风险人工智能系统应在其包装/文件上注明其名称、注册商号或注册商标以及联系地址。建立质量管理系统，确保符合法规要求。保存文档，包括技术文件、质量管理体
52、系文件、由认证机构批准的变更、认证机构发布的决定以及欧盟符合性声明。将高风险人工智能系统生成的日志保存一段时间。在将高风险人工智能系统投放市场或投入使用之前，执行相关的合格评定程序。制定欧盟合格声明并贴上CE标志，以表明符合法规要求。遵守注册义务。采取必要的纠正措施并提供所需的信息。应国家主管部门的合理要求，证明高风险人工智能系统符合要求。确保符合无障碍要求。进口商义务:在将高风险人工智能系统投放市场之前，核实其是否符合要求。确保高风险人工智能系统带有符合要求的CE标志，附有欧盟合格声明和使用说明。确保高风险人工智能系统得到妥善储存和运行。附有认证机构颁发的证书、使用说明和欧盟合格声明的副本。
53、按要求提供国家主管部门要求的必要信息和文件。2025 云安全联盟大中华区版权所有27 与国家主管部门合作，降低高风险人工智能系统带来的风险。经销商义务:核实高风险人工智能系统是否带有CE标志，是否附有欧盟合格声明和使用说明。酌情在包装/文件上注明其名称、注册商号或注册商标以及联系地址。确保储存或运行条件不会违反高风险人工智能系统的合规性。检验是否具有认证机构颁发的证书、使用说明和欧盟合格声明的副本。按要求提供国家主管部门要求的必要信息和文件。与国家主管部门合作，降低高风险人工智能系统带来的风险。1.4.1.2 促进创新（第57条到63条）1.4.1.2 促进创新（第57条到63条）支持创新的措
54、施如下:人工智能监管沙箱:成员国必须在国家层面建立人工智能监管沙箱，这有助于在产品上市前开发、测试和验证创新型人工智能系统。沙箱提供一个可控的环境，促进创新并允许识别和降低风险。其目标是提高法律确定性、支持最佳实践的分享、促进创新与竞争力，有助于基于证据的法规学习，并为中小和初创企业的人工智能系统进入欧盟市场提供便利。国家主管部门对沙箱具有监督权，并必须确保与其他相关机构的合作。人工智能沙箱中的个人数据处理：为其他目的收集的个人数据被允许在人工智能监管沙箱中处理的情况，仅包括以公共利益为目的的开发、训练和测试个人数据的人工智能系统。必须满足一定的条件以确保遵守数据保护法规，包括有效的监督机制、
55、数据主体权利的保障措施以及保护个人数据的适当技术和组织措施。在真实环境中测试高风险人工智能系统:2025 云安全联盟大中华区版权所有28 高风险人工智能系统的提供者或潜在提供者可以在人工智能监管沙箱之外的真实环境中测试。他们必须制定并向市场监督管理局提交一份真实环境测试计划。测试可以独立进行，也可以与潜在用户合作完成。联盟或国家法律可能要求进行伦理审查。指导和支持:人工智能监管沙箱内的主管部门为参与者提供指导、监督和支持。引导提供者获得预部署服务，如法规实施指导、标准化和认证。欧洲数据保护监督员可专门为联盟机构、团体、办事处和机关建立一个人工智能监管沙箱。管理与协调:该条例建立了一个管理框架，
56、协调和支持在国家和联盟层面实施人工智能条例。人工智能办公室由成员国代表组成，负责发展联盟在人工智能方面的专业知识和能力，并支持人工智能法的实施。设立委员会、科学小组和咨询论坛，为法规实施提供意见、建议和专业知识。国家主管部门在委员会内开展合作，并就人工智能监管沙箱的进展和结果提交年度报告。委员会为人工智能监管沙箱开发单一信息平台，并与国家主管部门协调。市场监督与合规:由成员国指定的市场监督机构负责执行该法规的要求和义务。它们具有执法权，可以独立公正地履行职责，并协调联合行动和调查。可通过包括降低风险、限制市场供应、撤销或召回人工智能模型等措施来强制执行合规。数据保护机构的参与:国家数据保护机构
57、和其他具有监督职能的相关国家公共机关或机构有责任根据保护基本权利的联盟法律对人工智能系统进行监督。2025 云安全联盟大中华区版权所有29 他们可以查阅根据本条例创建的相关文件。与金融服务机构的合作:负责监督欧盟金融服务法的主管机关被指定为监督人工智能法规实施的主管机关，包括对受监管和监督的金融机构提供或使用的人工智能系统有关的市场监督活动。委员会与其合作，确保义务的一致应用和执行。促进符合道德和值得信赖的人工智能:鼓励未被归类为高风险的人工智能系统的提供者制定行为准则，自愿适用于高风险人工智能系统的部分或全部强制性要求。人工智能办公室可邀请所有通用型人工智能模型的提供者遵守行为守则。透明报告
58、和文件:要求提供者建立一个上市后的监测系统，分析其人工智能系统的使用情况和风险。必须向有关部门报告因使用其人工智能系统而导致的严重事件。人工智能监管沙箱的技术文件和退出报告可用于证明其符合法规要求。委员会和理事会可查阅相关任务的退出报告。1.4.1.3 人工智能被禁止的行为人工智能被禁止的行为 严重扭曲人类行为：禁止在市场上投放、投入使用或使用以严重扭曲人类行为为目的或效果的人工智能系统，因为这会对身体健康、心理健康或经济利益造成重大损害。这包括使用潜意识成分或其他操纵性或欺骗性技术破坏和损害个人对决策过程的自主性和自由权选择。基于生物特征对敏感个人信息分类：禁止使用基于自然人的生物识别数据的
59、分类系统推断敏感的个人信息，如政治观点、工会成员身份、宗教或哲学信仰、种族、性生活或性取向。2025 云安全联盟大中华区版权所有30 提供社会评分的人工智能系统：根据自然人的社会行为、已知的、推断出的或预测的个人特征或性格特征来评估或分类自然人的人工智能系统，可能会导致歧视性结果和对某些群体的排斥。使用此类人工智能系统执行社会评分是禁止的，因为这类人工智能系统会导致个人或与数据生成或收集的背景无关的群体受到不利或不平等对待。用于执法的实时远程生物特征识别：以执法为目的在公共场所对个人执行实时远程生物特征识别被认为具有侵扰性，可能会影响个人的私生活。这种做法是被禁止的，除非是在严格必要且为了实现
60、重大公共利益的情况下，如搜寻失踪人员、生命或人身安全受到威胁，或识别特定严重刑事犯罪的作案者或嫌疑人。1.4.1.4.合规、违规与处罚合规、违规与处罚该条例提供了各种术语的定义，并规定了其适用范围。它强调了在人工智能系统方面保护个人数据、隐私和机密的重要性。它还包括对违规行为的处罚以及对受影响者的补救措施。此外，它还允许未来评估和审查该法规，并将实施权力下放给欧盟委员会，规定在生效后的特定时间内适用。合规规定:通用型人工智能模型的提供者必须采取必要措施，在条例生效之日起36个月内履行条例规定的义务。高风险人工智能系统的运营商，如果在其投放市场或投入使用之前（即条例生效之日起24个月之前）已经使
61、用这些系统，则只有在需要重大修改设计的情况下，才须遵守条例的要求。使用高风险人工智能系统的公共机构必须在条例生效之日起六年内遵守条例的要求。违规处罚:EIAA 规定违规罚款遵循分级制度:2025 云安全联盟大中华区版权所有31 对于向认证机构或国家主管部门提供不正确、不完整或误导性信息的违规行为，最高可处以750万欧元的行政罚款，如果违规者是企业，则最高可处以其上一财政年度全球年营业总额1%的行政罚款，以数额较高者为准。对于未获得高风险人工智能系统认证、未遵守透明度或监督要求（如风险管理）、以及未履行提供者、授权代表、进口商、经销商或使用者义务等违规行为，拟议罚款最高达1500万欧元，或其全球
62、年营业额的3%，以较高者为准：根据第16条规定的提供者的义务。根据第22条规定的授权代表的义务。根据第23条规定的进口商的义务。根据第24条规定的经销商的义务。根据第26条规定的部署者的义务。根据第31、33(1)、33(3)、33(4)或34条对被通知机构的要求和义务。根据第50条规定的提供者和用户的透明度义务。对于使用被认为构成不可接受风险的人工智能系统，或不遵守条例第5条所列的人工智能行为实践的违规行为，拟议的行政罚款最高可达3500万欧元，或其全球年营业额的7%，以较高者为准。EIAA 要求，任何行政罚款都应考虑具体情况的所有相关因素，这包括违法行为的性质、严重程度和持续时间及其后果、
63、受影响人数以及他们遭受的损害，罚款数额应根据人工智能系统的目的加以评估。此外，还应考虑的因素包括是否已由其他主管部门处以行政罚款、运营商的规模、年营业额和市场份额等。其他决定因素还包括违规行为带来的经济利益或损失、与国家主管部门的合作程度、运营商的责任、违规行为是如何被发现的、运营商是否存在疏忽或故意的情况，以及采取的任何为减轻受影响者所受损害的行动。它还规定，在诉讼中应充分尊重当事人的辩护权，并赋予他们查阅相关信息的权利，但要考虑到个人或企业保护其个人数据或商业秘密的合法权益。1.5 医疗电子交换法案(HIPAA)1.5 医疗电子交换法案(HIPAA)2025 云安全联盟大中华区版权所有32
64、医疗电子交换法案(HIPAA)是美国1996年颁布的一部联邦法律，主要以其关于医疗保健数据隐私和安全的规定而闻名。适用范围：医疗电子交换法案适用于“承保实体”，包括处理个人受保护健康信息(PHI)的医疗服务提供者、健康计划和医疗保健结算中心。主要条款：最小必要标准：要求承保实体仅使用和披露实现预期目的所需的最小量的受保护的健康信息。管理、技术和物理保障措施：要求实施适当的保障措施，以保护受保护的健康信息的机密性、完整性和可用性。患者权利：赋予个人其受保护的健康信息的访问、修改和要求说明披露情况的权利。1.5.1 生成式人工智能的医疗电子交换法案合规性1.5.1 生成式人工智能的医疗电子交换法案
65、合规性1.数据隐私与安全数据隐私与安全:数据保护要求：数据保护要求：医疗电子交换法案严格的数据保护标准已在整个技术领域内确立，适用于所有技术类型或目的数据使用（例如，强大的加密在整个开发和部署过程中都是强制性的，以保护受保护的健康信息）。然而，生成式人工智能领域的利益相关者必须将重点转移到理解和实施在生成式人工智能操作和处理中应用现有原则的具体细微差别上。虽然既定规则不需要重塑，但要使其适应这种新情况，就必须认真关注生成式人工智能带来的独特挑战。训练数据的限制：训练数据的限制：医疗电子交换法案限制访问和共享受保护的健康信息，这可能会限制用于训练生成式人工智能模型以供医疗保健应用的医疗数据量。跟
66、踪训练数据的来源和合规性对于确保生成的输出是否会继承隐私问题至关重要。这可能会使诊断、治疗预测和个性化医疗等领域的开发和准确性变得复杂，并限制人工智能模型在医疗应用中的有效性和通用性。去标识化要求：去标识化要求：即使是从受保护的健康信息训练的生成式人工智能生成的去标识化输出也可能通过微妙的模式、相关或高级技术重新标识，从而引发2025 云安全联盟大中华区版权所有33隐私问题并可能违反 医疗电子交换法案。虽然匿名化和假名化可以掩盖身份，但在生成式人工智能的背景下，在模型内与其他数据源结合时，往往无法阻止数据被重新识别。这就需要采用强大的隐私保护方法（如差分隐私、联邦学习等）有效保护个人身份。模型
67、共享限制：模型共享限制：由于隐私问题，训练有受保护的健康信息上的生成式人工智能模型之间的共享也受到限制，这阻碍了该领域的合作与进步。严格的访问控制、审计和追踪：严格的访问控制、审计和追踪：医疗电子交换法案 要求对受保护的健康信息的访问和使用进行严格的审计和追踪。这将延伸到生成式人工智能系统，需要具备强大的日志记录和监控机制，以确保整个供应链符合医疗电子交换法案 的规定。2.模型训练、输出和使用模型训练、输出和使用:对训练数据的限制：对训练数据的限制：如上所述，医疗电子交换法案 限制了对受保护的健康信息的访问和共享，这可能会限制生成式人工智能模型用于训练医疗保健的数据量。就模型训练而言，限制使用
68、多样性和全面的医疗保健数据集训练模型的能力可能会导致输出结果有偏差或不准确。实施差分隐私或其他匿名化技术可能有助于保护患者隐私，同时仍能为训练提供一定程度的数据效用。共享和披露限制：共享和披露限制：共享或披露包含受保护的健康信息的生成内容受到严格限制，即使是匿名 的，也可能会限制使用生成式人工智能分享医学见解或进行研究合作的能力，因此需要谨慎设计和实施。限制生成受保护的健康信息：限制生成受保护的健康信息：生成式人工智能不能直接输出任何可能被视为受保护的健康信息的数据，即使是用于生成训练或测试目的的合成医疗记录等，也要遵守这一规定。下游使用限制：下游使用限制：根据受保护的健康信息训练的生成式人工
69、智能模型不得用于可能暴露受保护的健康信息的下游应用，即使模型本身并不直接输出受保护的健康信息。2025 云安全联盟大中华区版权所有34 模型的透明度和可解释性：模型的透明度和可解释性：了解生成式人工智能模型如何得出其输出对于确保它不会无意中披露受保护的健康信息至关重要，这就需要可解释的模型和清晰的推理说明。确保人工智能生成的医疗结果的透明度和可解释性对于建立信任和遵守医疗电子交换法案的“解释权”规定至关重要。3.医疗电子交换法案法规可能还要求医疗电子交换法案法规可能还要求:对输出结果进行仔细审查和持续监控：对输出结果进行仔细审查和持续监控：所有由受保护的健康信息或包含受保护的健康信息训练的生成
70、式人工智能模型生成的输出结果都必须经过彻底审查，以确保它们不包含任何可识别信息或有可能重新识别个体的信息，这自然会增加开发时间和对模型输出持续监控的复杂程度。患者同意和授权：患者同意和授权：使用生成式人工智能执行诊断或治疗建议等任务需要获得患者的明确同意和授权，即使这可能会增加输入或输出工作流程的复杂程度。审计与合规审计与合规：使用带有受保护的健康信息的生成式人工智能的组织必须实施强大的审计和合规措施，以确保遵守适用于所有其他受医疗电子交换法案监管系统的医疗电子交换法案法规。风险评估和缓解计划：风险评估和缓解计划：生成式人工智能利益相关者必须优先考虑定期执行风险评估，以保护患者隐私并维持医疗电
71、子交换法案 合规性。这些评估应全面评估人工智能/机器学习系统，以便识别潜在的隐私违规行为并实施有针对性的缓解策略。医疗电子交换法案法规对生成式人工智能在医疗保健领域的应用提出了重大挑战。这些挑战要求对人工智能系统进行全面的了解、实施和持续监控。通过精心设计这些人工智能系统、采用强大的隐私保护技术并严格遵守法规，我们可以解锁生成式人工智能在改善医疗保健方面的潜力，同时保护患者隐私并确保负责任和合规地使用。在这个新兴领域里，平衡创新与患者隐私仍然是一个关键挑战。2025 云安全联盟大中华区版权所有35围绕医疗保健领域的人工智能（包括生成式人工智能）和机器学习的动态监管环境需要利益相关者不断调整适应
72、，以确保符合医疗电子交换法案和其他相关法规不断演变的解释，尤其是针对生成式人工智能系统。2025 云安全联盟大中华区版权所有362.如何应对生成式人工智能的幻觉对数据隐私、安全和伦理的影响如何应对生成式人工智能的幻觉对数据隐私、安全和伦理的影响幻觉是指人工智能系统根据其所训练的模式和数据生成逼真但与事实不符或捏造的输出，如图像、视频或文本。这些幻觉引起了人们对关于数据隐私和安全相关立法和法规的极大关注。生成式人工智能幻觉影响的一个关键领域是数据隐私。当生成式人工智能模型被输入敏感数据时，有可能产生无意中泄露个人或组织的私密信息，这给一些监管框架（如通用数据保护条例或加州消费者隐私法案/加州隐私
73、权法案）带来了巨大挑战，因为这些法规要求采取严格措施保护个人数据免遭未经授权的访问或披露。人工智能生成内容的出现模糊了真实信息与捏造信息之间的界限，使有效执行数据隐私法的工作变得更复杂。生成式人工智能的幻觉还为监管环境带来了安全风险。恶意行为者可能会利用人工智能生成的内容，如捏造的图像或文本，欺骗或操纵个人。这对数据系统的完整性和安全性构成了直接威胁，要求监管机构调整现有的网络安全法规，以应对人工智能生成内容带来的独特挑战。随着生成式人工智能技术的发展和模型能力的进步，确保符合安全标准可能会变得越来越复杂，尤其是在生成输出的真实性仍然不确定的情况下。政策制定者和监管者在努力治理生成式人工智能的
74、同时，还必须面对幻觉带来的伦理影响。除了遵守法律之外，伦理考量对于制定生成式人工智能治理的监管框架也至关重要。围绕负责任地开发和使用生成式人工智能模型的问题，包括幻觉内容对个人权利、自主性和福祉的潜在影响，都需要仔细斟酌。监管举措必须在促进创新和维护社会价值观之间取得平衡，确保生成式人工智能治理框架优先考虑透明度、问责制和包容性等伦理原则。要解决人工智能产生幻觉的问题，必须持续评估人工智能的输出结果，从多个可信来源核实信息，并在评估内容的准确性问题上采用人类判断。此外，提供明确的提示和使用精心收集的训练数据可以从一开始就降低出现幻觉的可能性。2025 云安全联盟大中华区版权所有37生成式人工智
75、能的幻觉对人工智能治理的现有立法和监管框架带来了挑战，特别是在数据隐私、安全和伦理等方面。应对这些挑战需要政策制定者、监管机构、行业利益相关者和伦理学家通力合作，共同制定全面的治理机制，有效管理与生成式人工智能相关的风险和机遇。2.1 国土安全部政策声明139-07对生成式人工智能的影响2.1 国土安全部政策声明139-07对生成式人工智能的影响 数据输入：数据输入：禁止将美国国土安全部(DHS)有关个人的数据（无论其是否为个人身份信息或匿名信息）、社交媒体内容或任何仅供官方使用的敏感但非机密信息（现称为“受控非密信息(CUI)”），或机密信息输入到商业生成式人工智能工具中。数据保留：数据保留
76、：在工具中选择限制数据保留的选项，并选择拒绝将输入数据用于进一步训练模型。输出审查和使用：输出审查和使用：确保使用这些工具生成或修改的所有内容在用于任何官方用途之前，特别是在与公众互动时，先由适当的领域的专家审查准确性、相关性、数据敏感性、不适当的偏见和政策合规性。决策：决策：商业生成式人工智能工具不得用于任何福利裁定、资格认证、审查或法律或民事调查或执 法相关行动的决策过程。2.2 联邦贸易委员会政策宣传与研究指导:2.2 联邦贸易委员会政策宣传与研究指导:人工智能（及其他）公司：悄悄更改服务条款可能是不公平或具有欺骗性的人工智能（及其他）公司：悄悄更改服务条款可能是不公平或具有欺骗性的随着
77、数据成为科技和商业创新的驱动力，开发人工智能产品的公司越来越多的将其用户群体作为主要的数据来源。然而，这些公司必须在获取这些数据与对其保护用户隐私的承诺之间取得平衡，任何试图偷偷放松隐私政策以使用更多客户信息的行为都可能导致违法。公司不能回溯性地更改其隐私政策的条款，因为这对可能在不同条件下同意该政策的消费者构成不公平和欺骗性行为。联邦贸易委员会一直以来都具有质疑公司的欺骗性和不公平隐私做法的权利，并将继续对试图无视隐私2025 云安全联盟大中华区版权所有38法规和欺骗消费者的公司采取行动。归根结底，对于希望与用户建立信任并避免法律后果的公司来说，透明度、诚实和诚信是至关重要的。人工智能公司：
78、履行对用户的隐私和保密承诺人工智能公司：履行对用户的隐私和保密承诺开发人工智能模型需要大量数据和资源，并非所有企业都有能力开发自己的模型。提供模型即服务(MaaS)的公司，通过用户界面和应用程序接口为第三方提供人工智能模型，帮助它们解决这一问题。这些公司持续需要数据改进他们的模型，这有时会与他们保护用户数据和隐私的义务冲突。联邦贸易委员会对未能保护客户数据和隐私，以及滥用客户数据的公司实施法律制裁。提供模式即服务的公司无论在哪里做出承诺，都必须遵守，并确保不欺骗客户或参与不公平竞争。在人工智能模型的训练和部署过程中，虚假陈述、重大遗漏和数据滥用都会给竞争带来风险，违反消费者隐私权或采用不公平竞
79、争手段的提供模型即服务的公司可能受到反垄断法和消费者保护法的追究。2.3 美国白宫管理和预算办公室（OMB）在联邦机构使用人工智能的治理、创新和风险管理的政策2.3 美国白宫管理和预算办公室（OMB）在联邦机构使用人工智能的治理、创新和风险管理的政策副总统卡马拉-哈里斯宣布了一项政府范围内的政策，旨在降低人工智能的风险并利用其益处。这项政策是根据拜登总统人工智能行政令（请参阅下文）发布的，旨在加强人工智能的安全性和保障性，促进公平和保障公民权利，推动美国的人工智能领域的创新。新政策包含了针对联邦机构使用可能影响美国人权利或安全的人工智能的具体保障措施。其目标是消除负责任的人工智能新的障碍，扩大
80、并提升人工智能人才队伍的技能，并加强人工智能的治理。政府正在通过这一政策促进各联邦机构利用人工智能的透明度、问责制以及对权利和安全的保护。这项旨在降低人工智能风险并利用其益处的政府政策的主要亮点如下：具体的人工智能保障措施：具体的人工智能保障措施：到2024年12月1日，联邦机构在使用可能影响美国人权利或安全的人工智能时，必须实施具体的保障措施。这些保障措施包括评估、测试和监控人工智能对公众的影响、降低算法歧视的风险，以及提高政府使用人工智能的透明度。2025 云安全联盟大中华区版权所有39 医疗保健领域的人类监督：医疗保健领域的人类监督：在联邦医疗系统中使用人工智能支持关键诊断决策时，由人类
81、来监督这一过程，以核实工具的结果，避免医疗服务的不平等。人类监督欺诈检测：人类监督欺诈检测：当人工智能被用于检测政府服务中的欺诈行为时，由人类监督有影响的决策，受影响的个人也有机会寻求补救人工智能造成的伤害。人工智能使用的透明度：人工智能使用的透明度：联邦机构被要求通过发布人工智能用例的年度扩大清单、报告敏感用例的指标、通知公众人工智能豁免及理由、发布政府拥有的人工智能代码、模型和数据，来提高其使用人工智能的公开透明度。负责任的人工智能创新：负责任的人工智能创新：该政策旨在消除联邦机构在负责任的人工智能创新方面的障碍。它强调了人工智能在应对气候危机、促进公共卫生和保护公共安全方面的应用实例。壮