中国互联网络信息中心日前宣布了《天生式人工智能应用生长报告（2025）》。。。。。。。报告显示，，，，，我国天生式人工智能产品用户规模已达5.15亿人。。。。。。。报告同时也提出，，，，，随着天生式人工智能的高速普及，，，，，其带来的换脸换声、版权侵权、学术滥用等问题也越发凸显。。。。。。。这些问题在实践中保存哪些体现？？？？？怎样治理和应对这些危害挑战？？？？？

使用AI换脸换声天生虚伪广告案件频发

天生式人工智能的多模态能力，，，，，可以让用户容易给视频中的人物换脸换声，，，，，甚至直接天生完全虚构的视频，，，，，给不法分子带来可乘之机。。。。。。。近期就爆发了多起AI换脸换声，，，，，天生虚伪广告的案件。。。。。。。好比，，，，，有的伪造奥运冠军推荐土鸡蛋，，，，，尚有的伪造医生形象推销保健品，，，，，严重误导公众。。。。。。。

这些换声和换脸的AI深度合成是怎样制作出来的呢？？？？？面临这些以假乱真的视频，，，，，又该怎样识别？？？？？

业内人士告诉记者，，，，，随着AI换声换脸手艺越来越成熟，，，，，已经足以抵达以假乱真的田地。。。。。。。区分一段视频或者声音是否是经由深度合成，，，，，最好的步伐照旧通过AI去识别。。。。。。。即用AI去识别AI。。。。。。。

3377体育网官网入口网络清静专家 潘季明：从手艺角度来说，，，，，最快的方法照旧基于AI的方法去举行识别，，，，，如专门的深度伪造判别模子，，，，，用于剖析视频和音频中的不自然的特征，，，，，如检测眨眼频率、面部肌肉运动的心理一致性、音频与唇形同步率、光源一致性等细微的物理或心理破绽。。。。。。。

专家：治理焦点在于周全落实内容标识制度

近两年，，，，，AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。。。。。。。对此，，，，，专家体现，，，，，治理的焦点在于周全落实内容标识制度。。。。。。。

北京航空航天大学法学院副教授 赵精武：我国自2025年9月起正式施行了《人工智能天生合成内容标识步伐》，，，，，其中明确要求，，，，，所有AI天生的文字、图片、视频等内容必需添加显式标识以“亮明身份”，，，，，同时勉励添加数字水印等隐式标识。。。。。。。平台企业应当依据《人工智能天生合成内容标识步伐》，，，，，从源头嵌入标识机制，，，，，为AI天生内容附加不可改动的数字水印，，，，，并确保这些标识在经由剪辑、压缩后仍能被准确识别。。。。。。。

专家体现，，，，，AI深度合成的使用者在通过AI制作视频时，，，，，应该有一条侵权执法界线，，，，，要合规正当使用人工智能深度合成。。。。。。。

北京航空航天大学法学院副教授 赵精武：在明确正当性界线方面，，，，，需要严酷区分AI换脸手艺的正当应用与不法滥用的界线。。。。。。。正当应用通常包括影视制作、教育教学、医疗康复等具有正当价值的场景，，，，，这些应用需遵照执法上划定最小须要原则，，，，，确保使用规模和目的相匹配，，，，，并获取响应授权。。。。。。。而不法滥用则主要体现为未经授权的肖像冒用、虚伪信息撒播、淫秽色情内容制作等场景。。。。。。。

AI大模子训练引发版权问题 矛盾怎么破？？？？？

再来看人工智能带来的版权侵权问题。。。。。。。早在去年10月，，，，，文学界、音乐界等超万名人士揭晓了一份团结声明，，，，，训斥“未经允许使用创意作品来训练天生式人工智能”的行为。。。。。。。人工智能大模子使用的数据为何会引起版权争端，，，，，又该怎样破局，，，，，来听听专家怎么说。。。。。。。

AI业内人士告诉记者，，，，，现在人工智能大模子训练的数据，，，，，绝大大都来自于网络，，，，，这些数据就包括含有版权的相关数据。。。。。。。

3377体育网官网入口网络清静专家 潘季明：现有的大模子都是基于海量的数据举行训练的，，，，，其泉源包括像互联网数据，，，，，以及图书、论文、行业数据等，，，，，经由数据预处置惩罚，，，，，通过无监视学习、微调、强化学习之后，，，，，便可用于内容天生。。。。。。。然而模子是没有版权意识的，，，，，它不知道哪些内容是涉及版权，，，，，哪些不可随便天生，，，，，除非对现在数据举行一个明确的版权标识。。。。。。。而现在的大模子基本上不管有没有版权，，，，，都会去举行一个数据抓取训练。。。。。。。

针对人工智能大模子涉及的版权问题，，，，，专家体现，，，，，生长人工智能不可以牺牲版权为价钱，，，，，两者协调共生应以尊重知识产权为条件。。。。。。。

北京航空航天大学法学院副教授赵精武先容，，，，，AI开发运营者需建设周全的著作权合规机制，，，，，包括：

? 在训练数据网络阶段举行版权审核，，，，，优先获取授权和使用开放允许的资源；；；；；；在模子训练历程中保存数据泉源纪录；；；；；；

? 在内容天生环节嵌入防剽窃检测；；；；；；

? 在输出阶段需要添加版权标识和水印。。。。。。。

另一方面，，，，，主管部分需要扩充训练数据供应渠道，，，，，化解训练数据不充分与版权的冲突逆境。。。。。。。

学生和研究职员滥用AI写论文抄作业引关注

除了适才说到的问题，，，，，报告中也提到，，，，，学生和研究职员将天生式人工智能用于写论文、抄作业的情形也正引起各界关注。。。。。。。

专家体现，，，，，随着天生式人工智能在学术研究中的普遍应用，，，，，学术诚信系统面临亘古未有的挑战。。。。。。。简朴的榨取步伐已被证实效果不彰，，，，，且难以执行。。。。。。。“堵不如疏”的治理理念正成为全球学术界的共识，，，，，其焦点在于认可AI手艺提升科研效率的起劲价值，，，，，同时通过规范指导确保其应用不损害学术诚信。。。。。。。

北京航空航天大学法学院副教授 赵精武：在教学运动中，，，，，西席应当设置专门环节指导学生准确使用AI工具，，，，，将该类工具从“偷懒”“图省事”的过失定位调解为“提升学习效率”“辅助科研”的准确功效定位，，，，，明确它的辅助定位的属性。。。。。。。同时，，，，，西席还需要设计能够评估学生头脑历程的审核方法，，，，，镌汰对纯文本输入的依赖，，，，，增添历程性评价比重。。。。。。。

文章泉源：央视新闻客户端

相关阅读

1、“有图”≠“有真相”！3377体育网官网入口专家接受央视采访，，，，，谈怎样区分AI造假图片

2、一键盗声仅需十几秒！3377体育网官网入口专家对话央视记者，，，，，展现AI克隆声音原理并给出提防建议

3、AI数据污染可能引发大危害！央视对话3377体育网官网入口专家展现背后原理，，，，，并给出提防建议

4、“清朗”行动狠刹AI滥用歪风，，，，，央视对话3377体育网官网入口专家共推手艺“向善而行”！