广东省法学会

　　“深度伪造”是依托大数据与人工智能深度学习所形成的智能音视频处理技术，该技术包括语音模拟、人脸合成、视频生成等。“深度伪造”是“深度学习”和“伪造”的结合，可分为特征提取、图像转换、图像整合三个步骤。首先，大模型实时从目标照片或音视频中获取深度学习的训练数据；其次，算法通过数据解码学习目标的特征，以便图像重建；最后，通过“生成对抗网络”技术合成仿照图像或音视频。“深度伪造”技术生成的音视频高度逼真且难以识别，当用于影视、游戏、广告等行业时，可创作出更多有趣角色和场景，然而一旦被滥用或恶意使用，将给个人权益、企业利益、社会稳定和国家安全带来极大不稳定因素，亟须在刑法规制上高度警惕并妥当介入。

　　“深度伪造”滥用的现实危害

　　与传统视频或图像修改技术相比，“深度伪造”具有自主生成和自我进化的能力，同时操作简单、鉴别困难、传播速度快，在带来技术创新的同时，也会给个人、企业、国家带来严重威胁。

　　在个人层面，首先是生命财产安全威胁，“深度伪造”技术可生成高度逼真的假视频、假音频，被不法分子用于电信诈骗、绑架勒索等犯罪活动，公安机关已侦破多起此类案件，显示其危害的广泛性；其次是名誉与精神损害，该技术被用于制作不雅视频或虚假言论，通过嫁接、换脸等手段诋毁他人，受害者不仅面临社会声誉崩塌，还可能因精神压力导致抑郁甚至自杀，由于伪造内容逼真，亲友亦难辨真假，进一步加剧受害者的孤立与痛苦；最后是隐私权侵犯，“深度伪造”依赖大量个人数据，未经个人同意采集和使用信息，将构成对隐私权的直接侵害。

　　在企业层面，伪造企业高管言论或产品信息的负面假视频，可迅速引发公众质疑，导致品牌形象受损。例如，竞争对手可能利用“深度伪造”散布虚假负面信息，引发股价暴跌或客户流失，破坏市场公平竞争环境；伪造权威专家或机构的经济预测视频，可能误导投资者决策，引发市场恐慌，此类行为不仅损害企业利益，还可能扰乱金融秩序，放大系统性风险。

　　在国家层面，如果人为对技术进行有偏见性的数据导入和算法重构，可能会成为境外反华势力的武器，特别是在社会热点事件发展前期，通过“深度伪造”技术大量生成谣言，捏造虚假视频，误导公共舆论，造成全社会的信任危机；因“深度伪造”技术依赖大量数据投喂和训练，若开源库发生故障，导致关键信息泄密，可能成为境外情报机关实施拉拢策反、渗透破坏活动的指引。

　　刑法规制“深度伪造”的不足

　　目前，我国对“深度伪造”的法律规制主要集中在民法和行政法层面。在现有刑法框架下，利用“深度伪造”技术的不法行为，通过刑法解释可被直接适用相关罪名予以规制，然而随着“深度伪造”技术犯罪风险的增加，对其刑法规制逐渐显现诸多不足。

　　一是现有刑事法规忽略了对个人生物识别信息特殊保护的需求。根据上述论证，“深度伪造”的现实危害很大程度上来自人脸等生物识别信息被非法滥用，这些信息具有极高人身依附性和极强财产关联性，且又极易被滥用，与公民的人格尊严、人身和财产安全有着紧密联系。个人信息保护法专门区分了敏感个人信息与一般个人信息，并制定了特别处理规则，而刑法中并未突出对以生物识别信息为代表的敏感个人信息的特殊保护，为实现罪责刑相一致，有必要在刑法中明确“敏感个人信息”概念，建立分级保护机制，与前置法保持一致，构建系统的特殊保护法律体系。

　　二是现有法律适用仍采取以数量定罪思路，忽视“深度伪造”技术现实风险。“深度伪造”将会放大虚假信息对公民权利、企业权益乃至国家安全的危害程度，而现行刑法适用过程中过于强调信息传播数量。以诽谤罪为例，根据现行司法解释要求“同一诽谤信息实际被点击、浏览次数达到五千次以上，或者被转发次数达到五百次以上”，才能符合入罪条件，但“深度伪造”内容的逼真性可能导致辟谣成本激增，即便未达到量化标准，仍可能引发公众恐慌或信任危机，应明确利用该技术实施违法犯罪的认定标准。

　　三是针对“深度伪造”犯罪风险的综合治理体系不足。一方面，随着犯罪手段越来越智能化，传统的防治技术已无法做到有效限制，亟须加强对“深度伪造”技术犯罪防控技术的研发与创新。另一方面，有诈骗分子蛊惑大批人员出境作案，涉案人员呈现低龄化、专业化等趋势，精准预警和宣传防范工作需进一步加强，这些都需要加强政府、企业、社会组织等多方面的合作与协调，形成打击此类犯罪的合力。

　　完善刑法规制“深度伪造”的路径展开

　　从“深度伪造”技术的产生背景来看，这是人工智能在发展过程中的产物，并非专为犯罪而生的工具，需在肯定“深度伪造”技术具有合法性的基础上，树立“发展与安全并重”的理念，可从三个方面完善刑法规制路径：

　　一是在立法层面增设对生物识别信息的特殊保护，构建分级规制体系。可在刑法“侵犯公民个人信息罪”中增设“非法使用公民敏感个人信息”类别，明确将人脸、声音、行为特征等生物识别信息纳入特殊保护范围，并规定更严厉的刑事责任。建立分级保护机制，适当降低非法获取、使用或篡改生物识别信息的行为起刑点，并与个人信息保护法等前置法保持衔接，形成系统的法律保护体系，在不影响技术发展的同时，更好地规制AI“深度伪造”技术类犯罪。

　　二是在司法层面明确相关定罪标准，关注“深度伪造”技术的现实危害性。可通过逐步完善司法解释，加强案例指导，适当降低“深度伪造”相关犯罪的量化门槛，将利用“深度伪造”技术作为加重情节，提高法律威慑力。同时，明确“深度伪造”犯罪的特殊认定标准，如结合虚假信息的逼真程度、现实法益侵害程度、辟谣难度等因素综合判断危害性，避免机械适用数量标准。

　　三是构建“技术+监管+社会协同”的综合治理体系。“深度伪造”犯罪具有智能化、跨境化、专业化等特点，单一法律手段难以有效应对，需构建多维度治理体系。首先要加快技术创新，构建“深度伪造”智能识别与溯源新生态。尽管现有行政法规要求对深度合成内容予以标识，但还应研发更加智能高效的识别算法和过滤系统，通过图像分析、机器学习等手段识别出潜在的谣言特征，并建立信息溯源系统，为后续的责任倒查提供有力线索；其次要加强联合监管，构建系统的技术监管与应对机制。公安、网信、工信等多部门应携手建立“事前正向引导、事中及时调整、事后全程追踪”的动态监管治理模式，同时可秉持包容审慎原则，试行监管“沙盒”机制，挑选“深度伪造”犯罪高发领域开展试点测试；最后要加强规制伪造技术的社会共治与教育，提高伪造内容识别能力和防范意识。政府、企业、社会组织等多方合作，形成打击此类犯罪的合力，政府部门应积极开展面向公众的AI基础知识科普活动，并对易受骗人群开展深入的反诈宣传活动，增强公众危机感与防范意识；企业应主动履行社会责任，加强AI技术的安全管理；社会组织应积极参与社会治理，提供相关公益服务和支持。