摘要：大数据刺激了生成式人工智能的智力涌现，也加剧了数字时代的隐私和个人信息保护难题。算法和大数据的叠加让生成式人工智能的数据处理过程迥异于传统网络服务，呈现出自动化、规模化和多样化特征。既有个人信息保护基础理论和相关规则难以在生成式人工智能领域有效适用，无法为用户信息权益和其他人身财产权益提供合理保护，更无法有效抑制违法数据处理导致的其他社会风险。面向人工智能时代的个人信息保护规则，需要以风险防控为核心，以国家强制力约束生成式人工智能设计者、研发者和提供者等主体的数据处理行为，并进一步完善个人信息获取规则、使用规则、存储和流通规则及救济规则。
关键词：生成式人工智能;个人信息保护;技术原理;风险防控
作者：叶雄彪(法学博士，华中师范大学法学院讲师)
来源：《法学家》2025年第4期“主题研讨二：数字法学研究的多维视角”栏目。
因篇幅较长，已略去原文注释。
目录
一、生成式人工智能的技术原理与数据处理特征
二、生成式人工智能对现有个人信息保护制度的冲击
三、生成式人工智能背景下个人信息保护的范式转换
四、面向未来的个人信息保护规则
结 语
全球视野下，美国、欧盟等主流数字经济体都在加速布局自己的人工智能产业，期望在新一轮技术变革中拔得头筹。就我国而言，2024年12月，DeepSeek-V3的出现在全球人工智能领域掀起巨大波澜，标志着我国在人工智能领域的崛起。DeepSeek极大降低了人工智能大模型的算力成本，为我国后续生成式人工智能应用创新的涌现奠定了必要基础。然而，随着技术的高速发展和市场应用的快速推进，生成式人工智能引发的各种风险也引发社会担忧。其中，隐私和个人信息安全问题值得高度关注。生成式人工智能中的数据泄露、隐私侵犯、个人信息滥用、用户歧视等问题已经屡见不鲜。我国在2023年7月出台了《生成式人工智能服务管理暂行办法》(以下简称《暂行办法》)，以规范生成式人工智能设计、研发和利用活动。其中第4条要求，提供和使用生成式人工智能服务不得侵害他人隐私和个人信息权益;第7条规定，生成式人工智能提供者应当依法开展预训练、优化训练活动，遵守《中华人民共和国网络安全法》(以下简称《网络安全法》)、《中华人民共和国数据安全法》(以下简称《数据安全法》)、《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)等既有规范。上述规定为现有个人信息保护规则进入生成式人工智能领域提供了转介通道，但在人工智能应用进入快车道的大背景下，现有规则是否足以应对其中的隐私和个人信息风险仍然有待审视。有鉴于此，本文拟聚焦生成式人工智能背景下的个人信息保护问题，尝试剖析生成式人工智能的技术原理和数据处理特征，并以此为基础分析其对现有个人信息保护理论、原则及具体规定的冲击，进而提出面向人工智能时代的个人信息保护完善建议。
一、生成式人工智能的技术原理与数据处理特征
当前的生成式人工智能大模型普遍以成熟的Transformer模型为基础进行研发，Transformer模型使用预先设定的通用性任务和大量无标注的数据进行开发，整个过程可以简化为两个阶段：第一阶段为模型的构建和预训练。该阶段的学习意在让模型习得泛化性强的参数，使其可以获得有用的信息、结构和模式。第二阶段为算法的微调和模型的完善。该阶段需要解决无监督学习导致的有用信息和无用信息无法分辨、输出结果不稳定、可靠性弱等问题，研发者需要采用人工标注数据对模型进行优化，同时对算法进行一定的调整。在这一阶段，模型还需要将第一阶段学习到的成果应用到下游任务中，以迁移并适应特定任务。而整个大模型的核心要素是算法、数据和算力。其中数据是大模型获取知识和“智力”的基础养料，算法是大模型的核心技术，而算力则是模型研发和运行的硬件支持。在生成式人工智能产业链中，算法、数据和算力紧密联系：其一，数据作为一种新质生产力要素，尽管蕴藏着巨大的经济价值，但其价值的挖掘需要通过算法程序进行;其二，通过数据运算可以对预先编写的自动化程序进行检验，进而完成算法调整;其三，生成式人工智能模型的参数和训练数据体量庞大，超级计算机、GPU、云存储等算力资源则为数据处理和运算提供了硬件保障。
生成式人工智能是大数据和算法结合的产物，其数据处理过程具有鲜明的数字时代特征，包括以下几个方面：
第一，数据处理的自动化。除数据的人工标注和检测外，生成式人工智能模型研发和使用过程中的数据处理几乎完全由计算机程序或者算法自动完成。从技术角度看，算法是基于数学和计算机规则形成的、可快速处理一组数据的逻辑步骤，它能够帮助研发者按照预设目标进行数据处理和运算。以预训练过程为例，Transformer模型包含编码器和解码器，算法按照预先设定的程序步骤自动对语料库中的数据进行清洗、组合、分析、运算和学习，使生成式人工智能获得文本生成和逻辑推理能力，再由Embedding模型对比训练结果，获取文本相关性、文本检索和代码检索能力，整个过程自主完成。
第二，数据处理的规模化。大数据具有体量大(Volume)、速度快(Velocity)、多样(Variety)、价值高(Value)和真实(Veracity)的“5V”特征。大数据在人工智能领域的应用则将其优势发挥得淋漓尽致，并形成了生成式人工智能数据处理的规模化特征。其一，在数据体量方面，不少大模型的训练参数已经达到千亿级别，预训练数据量也在不断增长。其二，在数据处理速度方面，算力的提升让大模型的数据处理速度显著提升。多技术协同升级推动了先进计算持续发展，以AI大模型为代表的多元应用创新驱动计算加速进入智能计算新周期，而超级计算机、AI芯片、量子计算等技术的创新突破则让参数量更大、复杂度更高的AI大模型研发成为可能。
第三，数据类型的多样化。生成式人工智能的训练数据类型繁多，训练数据涉及人类生活的各领域和行业，泛数据源的语料体系保障了模型学习知识的广泛性和完整性，满足了用户的差异化交互需求。生成式人工智能大模型的训练数据主要来源于互联网上公开的信息、获得第三方许可使用的信息以及用户和其人类培训师提供的信息。大规模使用各类数据进行模型训练也蕴藏着巨大的隐私和个人信息风险，如生成式人工智能输出内容中包含个人姓名、住址、电话号码等信息。随着数据分析技术的进步，个人信息与事实信息之间的界限已经逐渐模糊，过去不具有身份识别性的事实信息也可能通过与其他信息组合，成为可识别个人身份的个人信息。此外，与其他网络服务相同，用户使用生成式人工智能产品或服务过程中，他们的基础信息、与生成式人工智能的对话信息等都可能被收集用于大模型研发和升级。譬如，DeepSeek在其隐私政策中就明确表示会利用个人信息开发服务、训练和改进技术、促进平台安全和稳定。总的来说，生成式人工智能的研发和应用会涉及众多品类的数据，而个人信息则是其中必不可少且至为重要的类型。
二、生成式人工智能对现有个人信息保护制度的冲击
大数据和算法的广泛应用使得生成式人工智能数据处理的规模化、复杂化和自动化程度显著提升，而数据处理模式的改变则对现有个人信息保护的基础理论、治理目标、保护手段产生了强烈冲击。
(一)知情同意权保护面临挑战
知情同意权是个人信息权益保护中的核心权利，取得同意则是个人信息处理的一般性合法事由，其集中体现了“个人信息自决”的基本理念，即信息是否可以被收集、处理以及如何处理等事项都应当由个人自主决定。知情同意权强化个人信息主体对其信息的控制，它要求个人信息处理者明确、完整、准确地将与信息处理相关的事项告知个人信息主体，个人信息主体则在知情基础上作出同意与否的决定。然而，由于生成式人工智能数据处理具有规模化、自动化的技术特点，知情同意权面临被架空的困境。
知情同意权的行使以个人信息主体知情、处理者充分履行告知义务为前提。依《个人信息保护法》第17条，个人信息处理者在处理个人信息前，应当告知用户个人信息的处理目的、处理方式，处理的个人信息种类等事项，以确保信息主体了解自身信息将被如何收集和处理，进而实现个人的意思自治和风险自控。准此，处理者在获取个人信息前就需要明确处理目的、处理程序、处理行为对个人的影响及可能的风险等事项，按照既定计划开展数据处理活动。但问题在于，人工智能大模型在无监督学习阶段将如何挖掘数据信息、如何自主进行算法优化和模型调整是研发人员无法提前计划的。由亿万算法连接而成的生成式人工智能“神经网络”是一个“黑箱”，其数据处理过程和决策机制复杂，设计者和研发者难以对其作出清晰解释。此外，生成式人工智能的数据处理是在人机交互过程中完成的，整个过程具有动态性和易变性，服务提供者会根据大模型的发展情况和商业应用的实际需求对数据处理目的及处理方式进行动态调整，故告知内容往往会与最终的实际情况存在差异。
由此可见，生成式人工智能的开发者、设计者、部署者往往无法提前知晓个人信息处理的具体目的、方式等，欠缺履行告知义务的客观条件。若严格适用告知义务规则，则又与我国产业发展阶段不适配。申言之，目前生成式人工智能尚处于发展阶段，底层技术原理、模型结构形态、算法潜在缺陷、商业应用模式等方面都不甚明确，试错不可避免，如何平衡知情同意权保护与技术和产业发展，成为难题。
(二)查阅权、删除权保护面临挑战
除知情同意权外，《个人信息保护法》赋予个人信息主体的查阅权、复制权、删除权等权利亦面临保护困境。查阅复制权，即个人有权查询、复制其个人信息，处理者则负有信息提供义务;删除权，即当发生个人撤回同意、处理者违反处理规则、处理目的已实现抑或无法实现等情事，个人有权请求处理者删除其个人信息的权利。查阅复制权、删除权有助于维系个人同意处理后、处理活动进行过程中，个人信息主体对其信息的控制力，有助于其自身及时发现和阻止违法处理活动。
在生成式人工智能开发应用背景下，查阅权、复制权、删除权行使和保护则难以实现。其一，查询权、复制权以及删除权的行使，往往以个人信息主体知晓处理活动及其处理目的、处理范围为前提，同样依赖于处理者履行告知义务。然而，如前所述，生成式人工智能开发应用中的个人信息处理很可能处于“黑箱”之中，个人难以在不知情的情况下行使前述权利。其二，查询权、复制权以及删除权是以处理活动相对简单，处理者的个人信息储存、管理和调取成本相对较低为实践背景。然而，随着数字技术快速迭代，生成式人工智能开发应用中的信息处理活动在处理规模、处理方式上发生巨变，开发者既无法完全知晓、决定处理目的，也无法管理、储存所涉个人信息的情况广泛存在。鉴于此，一旦个人信息主体行使查阅权、复制权以及删除权，生成式人工智能开发者存在履行义务的客观困境，义务履行成本较高。
可见，随着技术变革加速，个人信息处理的实践形态发生变化，知情同意权、查阅权、复制权、删除权等个人信息权益的行使和保护已经在权利内容是否适当、权利如何实现等方面面临新的挑战。
(三)个人信息保护制度目的之局限性暴露
主流观点认为个人信息承载着一定人身和财产利益，应当将其确定为一种民事权利。《民法典》接受了这一观点，在第111条中将个人信息界定为一种受法律保护的民事法益;《个人信息保护法》则进一步规定了知情同意权、查询权、更正补充权、删除权等具体权能。至此，个人信息权益已经成为一种明确而独立的民事权益。但有疑问的是，赋予个人知情同意权、删除权等信息权利是否足以保证个人利益不受侵害，以个人信息权益保护为基础的现有规则是否足以涵摄生成式人工智能引发的全部风险。
事实上，数字技术的发展和个人信息的多场景应用使得个人信息的价值及风险已经超越了个体范畴，片面强调信息控制和个人信息权益保障并不符合数据治理的现实需求。生成式人工智能的信息风险至少包括信息泄露、隐私侵犯、个人信息权益行使受阻、用户歧视、生成错误内容等类型。这些风险可以分为三类：其一是直接侵害个人信息权益;其二是利用个人信息侵害用户的其他人身或财产权益;其三是侵害社会公共利益。相当程度上，现有个人信息保护制度仅关注到了第一类风险，难以有效涵盖后两类风险，无法实现对利益的全面保护，更难以控制经由个人信息产生的其他风险。
个人信息的价值凸显和权利化构造完全是数字技术发展的结果，信息仍然是社会交往媒介和生产工具。申言之，人们可以利用信息实现思想交换、技术研发或社会生产。因此，个人信息保护的目的不应局限于保障法定的个人信息权能，还应当关注信息不正当利用的后果，降低违法处理行为对个人人身财产权益以及社会公共利益产生的不利影响。譬如，限制违法处理行为不仅是因为该行为侵犯了用户的知情同意权，还在于该行为可能导致价格歧视、性别歧视等不利后果，损害公民的财产权益和人格利益。在生成式人工智能不断普及的当下，个人信息保护的制度目的需要进一步与人工智能治理目标相结合，从纯粹保障个人信息权益拓展到防控个人信息利用风险，真正实现以法治手段促进生成式人工智能的安全发展。
(四)依靠个人行权的个人信息保护方式效果有限
就保护方式而言，目前个人信息保护制度主要通过个人主张权利的方式来实现，但这种保护方式在生成式人工智能领域则难以充分发挥作用。其一，如前所述，由于生成式人工智能中的个人信息处理活动复杂化、黑箱化，知情同意权、查阅权、复制权、删除权等个人信息权益存在被架空的风险。其二，生成式人工智能中，个人信息侵权救济障碍更加凸显。个人信息侵权一直面临着侵权损害难以确定、举证困难不明等问题，而这些问题则在生成式人工智能中被进一步放大。就侵权损害而言，生成式人工智能的不透明使得用户无法察觉信息被违法处理，更难以发现自己的权益受到了侵害。而从侵权行为人角度来看，应用接口开放和商业合作的加速让生成式人工智能产业链上的企业数量激增，用户无法确定数据处理链条中的哪个环节出现了问题，难以确定侵权人，进一步加大了个人信息主体的行权难度。
(五)已公开个人信息保护和处理规则亟待完善
从人工智能发展实践来看，已公开的个人信息信息是生成式人工智能的主要数据来源，生成式人工智能研发阶段即开始利用网络爬虫等工具抓取网络上的公开个人信息，以生成相应内容。生成式人工智能对已公开个人信息的大规模处理，使如何规范已公开个人信息的处理，平衡个人信息保护和促进信息复用这一问题逐渐凸显，如何完善现有已公开个人信息保护和处理规则成为关键。
根据《个人信息保护法》第13条和第27条的规定，个人信息由个人自行公开或已合法公开，乃个人信息处理的独立合法事由。不过，个人信息已公开作为合法处理事由仍然受到三重限制：其一，无须个人同意的已公开个人信息处理活动必须在“合理的范围”内进行，此为同意豁免成立的内在要件;其二，个人享有拒绝权，信息主体行使拒绝权的，处理者则无权继续处理已公开个人信息，此为终止“个人信息已公开”之同意豁免效力的事由;其三，若处理公开个人信息对个人权益造成重大影响的，仍需取得个人同意，此为“个人信息已公开”不发生同意豁免效力的例外事由。上述三项限制，可在促进已公开个人信息的流通与复用基础上，维系个人对其已公开个人信息的控制力，防止个人信息权益受到侵害。然而，前述三重限制在生成式人工智能领域的适用中至少存在以下问题。
第一，拒绝权的适用困境。由于处理公开个人信息并不需要取得个人同意，生成式人工智能研发者往往直接抓取互联网上的数据。但问题是，在缺乏交互界面的情况下，信息主体如何知道自己的公开信息被用于生成式人工智能模型研发，又如何行使《个人信息保护法》第27条规定的拒绝权?此外，《个人信息保护法》第27条规定的“拒绝权”在定位上不甚清晰。按照文义解释，“拒绝权”的行使没有任何限制，无论研发生成式人工智能大模型是否属于“合理范围”，是否会“对个人权益有重大影响”，信息主体均可拒绝研发者处理自己的公开信息。那么，在未获得合理补偿的情况下，信息主体更可能基于风险规避原因而直接拒绝研发者处理自己的公开信息，进而阻碍生成式人工智能的研发。
第二，“合理范围”界定不清导致的现实问题。“合理范围”的规范意旨是平衡个人信息流通利用和个人信息利益保护。第27条一方面肯定公开个人信息上依然存在个人利益，并未将公开个人信息完全置于法律保护范畴之外;另一方面又认为公开个人信息具有较强的公共属性，希望引导数据的高效流动利用。由于缺乏明确的判定规则，作为矛盾调节工具的“合理范围”却并未发挥理想的作用。若对“合理范围”作宽泛解释，则可能导致生成式人工智能研发者毫无顾忌地抓取和使用公开个人信息，使得第27条保护信息主体利益的目的落空;若将“合理范围”限制在“必须与信息公开时的目的一致”或“必须符合信息主体的期待”，则又可能导致生成式人工智能开发极易陷入违反个人信息保护规则、侵害个人信息权益的违法境地，有碍人工智能技术研发。
第三，“对个人权益有重大影响”解释规则的不明确。在缺乏规则指引情况下，哪些处理活动属于“对个人权益有重大影响”，需要重新取得个人同意并不明确，生成式人工智能开发者极易陷入侵权风险之中。如果“对个人权益有重大影响”的判断是从个体角度出发的，那么不同风险偏好的信息主体完全可能作出不同判断。而如果采取结果导向的判定思路，那么只有在生成式人工智能大模型现实地侵害个人权益后，相关处理行为才能被判定为“对个人权益有重大影响”，该条款失去了应有的风险预防功能。
| 
下一篇：
