一、生成式人工智能发展现状

作为信息化、数字化、智能化的新型技术基座，生成式人工智能对于提升国家战略地位与国际竞争力具有重要意义。生成式人工智能（Generative Artificial Intelligence）是人工智能领域的重要分支，是一种基于算法和模型生成文本、图片、声音、视频、代码等内容的技术。自2022年底OpenAI发布ChatGPT以来，生成式人工智能推动人工智能从算法智能进入语言智能时代，正全面革新社会生产力、提高各行业生产质效。我国近年来也在生成式人工智能领域不断取得进展，文心一言、通义千问、盘古、混元、Kimi等大模型在中文应用领域建立优势。

但随着生成式AI广泛应用于图像、音频、音乐、自媒体内容生成等领域，其带来全新发展机遇的同时也暴露诸多现实问题，体现为前端的算法低效、数据不足、算力紧缺，后端的内容合规、知识产权侵权等。最近央视新闻报道的“演员温峥嵘遭AI盗脸直播带货”一事，再次生动暴露当前生成式AI在应用过程中存在的内容违规、人格权侵权等突出问题。此类事件并非个例，折射出生成式AI面临的内容安全、知识产权、隐私保护等系统性法律风险。

二、主要风险与问题

（一）人格权侵权事件频发，技术滥用危害个体权益

“AI盗播”等事件本质是利用深度合成技术，未经授权盗用、仿冒他人身份（肖像、声音），进行商业化运营或发布不当言论。AI黑产团队通过“录播片+AI换脸”技术，仅用十分钟就能批量伪造直播，单场诈骗收益超七位数。尽管今年9月出台的《人工智能生成合成内容标识办法》要求显著标注合成内容，但商家或将标识隐藏在交互栏角落，或直接规避标注，使得监管形同虚设。这不仅严重侵害公民的肖像权、名誉权，还影响着整个网络社会治理秩序。

（二）知识产权侵权难以界定，鼓励创新生态遭遇挑战

 AI生成内容的版权归属在法律上尚存争议，2020年北京互联网法院涉网著作权典型案例之一首次回应了AI虽不能成为作者，但用户或提供者的智力投入可通过《著作权法》的兜底条款获得保护，具有典型意义。但涉及专利权、商标权以及未来可能出现的问题领域，AI生成内容的版权问题都无法明确界定。同时，利用受版权保护的作品进行模型训练也可能构成侵权。这既损害了原创者的合法权益，也会扰乱健康的文化市场秩序，AI生成内容面临知识产权保护与鼓励创新之间的平衡。

（三）监管、问责机制尚不健全，主体责任未落实到位

以温峥嵘一事为例，温峥嵘本人进入直播间质问时却被拉黑，反映出部分平台对AI盗播“睁一只眼闭一只眼”，只因虚假内容能带来短期流量收益，另外如日常生活中我们观看视频时，下方会显示“内容疑似AI生成 请注意甄别”，这些现象一方面反映出在《生成式人工智能服务管理暂行办法》颁布后，AI应用主体监管意识的增强，但另一方面也说明目前的监管力度远远赶不上技术滥用的速度。部分服务提供者存在明显的“重发展、轻合规”倾向，在内容审核、数据溯源、用户管理等环节的投入不足，导致风险前置防控能力较弱。

三、具体建议

（一）压实平台主体责任，推行可追溯的深度合成标识制度

要求平台或相关主体积极落实《人工智能生成合成内容标识办法》第四条、第五条的标注显式标识与隐形标识的规定，强制要求所有深度合成服务（包括AI生成音视频、图像、文本）在生成内容上添加不可轻易去除的、可追溯的数字化水印或标识，明确标注内容来源、生成模型及生成时间。

通过区块链等技术，建立生成内容的“全生命周期”溯源日志，保证在发生侵权或安全事件时，能够快速、准确地定位到责任主体（模型提供方或使用者），破解当前“追责难”的困境。

（二）管控训练数据与生成逻辑的合法性，完善内容审核机制

前端生成阶段，国家应鼓励和支持龙头企业、科研机构研发并开源经过高质量、合规数据训练的安全基础模型，从源头上降低模型生成有害内容的风险；后端内容生成后，对于普通领域，建议建立双重或者三重审核机制：一级审核（算法初步过滤），二级审核（专业审核人员），三级审核（合规负责人）。对于医疗、金融等高风险领域，建议实施100%人工审核，确保内容信息真实、合法，避免一些掌握先进技术的主体滥用技术漏洞。

（三）完善侵权投诉与维权渠道

AI侵权事件层出不穷，但因技术以及一系列信息壁垒，被侵权人维权困难，对此相关部门应简化投诉流程，在网信、版权、公安等部门现有的网络侵权投诉平台中，增设“AI侵权”专门入口，将该类案件类型化，并简化举证要求，建立标准化、流程化的快速处理机制。

此外，AI发展牵扯多个部门与行业，建议各主体之间建立联动机制，平台、行业协会、监管部门之间可以联动处置，确保一旦接到涉及AI的侵权投诉，能够迅速响应、联动处置，有效保护受害者权益。

特别声明
Special Declaration
以上文章仅代表作者本人观点，不代表北京市中伦文德律师事务所或其律师出具的任何形式之法律意见或建议。如需转载或引用该等文章的任何内容，请私信沟通授权事宜。如您有意就相关议题进一步交流或探讨，欢迎与本所联系。