本期解读嘉宾
成都大学法学院副院长、教授 唐文娟
四川元绪律师事务所副主任、律师 杨永芳
四川拓泰律师事务所专职律师 陈维维
1月7日，西藏定日县发生6.8级地震，灾情牵动人心。我国各方力量深入地震灾区，争分夺秒全力开展人员搜救，全力救治受伤人员。与此同时，一些由AI生成的图片，也造成广泛误导。如一张“小孩被压在废墟下”的图，被许多短视频账号关联西藏日喀则地震，牵动着广大网友们的心。1月10日，央视新闻调查发现，这张图片是由AI生成，图中孩子的左手显示为六根手指。
从ChatGPT到Sora，人工智能技术发展日新月异。如今，生成式人工智能（Generative AI）已经从简单的文本生成扩展到了图像、视频和音频的内容创造，为我们带来了极大的便利。然而，随着AI生成的画面、声音、视频越来越逼真，相关违法行为也愈发防不胜防。比如，有人利用AI编造假消息、假新闻，妄图实现流量变现；有人利用AI进行虚拟直播，假冒名人欺骗公众，甚至实施诈骗犯罪；有人利用AI“魔改”经典影视剧，妄图获得更大曝光……针对这些问题，本报记者邀请三名嘉宾做客法治会客厅，就AI“魔改”、AI换脸等问题进行解读，聊聊AI技术乱象背后的法律问题。
AI换脸背后的法律风险
老话常说“眼见为实”，但在AI时代，肉眼所见并非一定真实。
此前，医生张文宏被“AI带货”引发大众关注。据媒体报道，有网友称在网络卖货视频中看到张文宏在售卖一种蛋白棒产品。事实上，视频中反复介绍产品的张文宏只是利用AI而合成的人像。由于视频中的人外貌、声音都很像张文宏本人，不少网友信以为真，下单购买。对此，张文宏本人回应称，“曾多次向平台投诉但屡禁不绝”。目前该账号已搜索不到，但AI换脸背后的法律问题却值得再次关注。
受访嘉宾均表示，利用AI换脸仿冒名人带货直播、仿冒亲人实施诈骗等行为涉及多项法律问题。
“未经授权使用名人的肖像用于直播或广告带货，直接侵犯其肖像权；虚构言论或行为可能损害名人的名誉权。”四川元绪律师事务所副主任、律师杨永芳在接受采访时表示，换脸技术还可能侵犯个人隐私。此外，假冒名人推广劣质商品，还可能引发产品责任和虚假宣传责任。四川拓泰律师事务所专职律师陈维维同样认为，如使用AI技术伪造名人形象进行直播带货，根据民法典和消费者权益保护法，消费者可要求退一赔三，同时，平台负有监管责任，需加强对相关内容的审核与处罚。
据央视新闻报道，目前模仿他人声音和脸的技术已经非常成熟，提供一张照片就能做出换脸的效果，他人的声音也能被轻易模仿，甚至能实现在即时视频通信状态下的实时换脸。比如，记者发现福建有这样一起案例，福州市某科技公司法定代表人郭先生的好友突然通过微信视频联系到他，称自己的朋友在外地投标，需要430万元保证金。基于视频聊天信任下，郭先生先后分两笔把430万元给对方打了过去。钱款转账后，郭先生拨打好友电话，对方却说没有这回事，他才意识到遇上了诈骗。
“仿冒亲友实施诈骗，符合诈骗罪构成要件，即以非法占有为目的，用虚构事实或隐瞒真相的方法，骗取数额较大公私财物，将被追究刑事责任。”陈维维说。成都大学法学院副院长、教授唐文娟进一步指出，利用AI换脸技术仿冒他人进行诈骗活动，若诈骗公私财物的价值未达到刑事立案追诉标准，一般可由公安机关根据治安管理处罚法进行处罚，即处5日以上10日以下拘留，可并处500元以下罚款；情节较重的，处10日以上15日以下拘留，可并处1000元以下罚款。此外，对于为利用AI换脸实施诈骗行为提供技术支持和帮助的，根据反电信网络诈骗法相关规定进行行政处罚。构成犯罪的，根据刑法规定的帮助信息网络犯罪活动罪追究刑事责任，处3年以下有期徒刑或者拘役，并处或者单处罚金。
唐文娟向记者介绍，根据《互联网信息服务深度合成管理规定》，深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况，其中，包括人脸生成、人脸替换、人脸操控、姿态操控等，以及显著改变个人身份特征的编辑服务。因此，如果利用AI进行换脸等行为，必须明确告知公众作品经过了AI处理，以避免侵犯他人的合法权益。
AI“魔改”视频侵犯了权利人的著作权
《甄嬛传》变成了枪战片、《红楼梦》被改成了武打戏……这些新奇、荒诞的视频迅速吸引了大量网友的眼球。
当下，AI“魔改”视频在网络热传，引发网友热议。据悉，AI“魔改”视频即网友通过人工智能技术，对已有的影视、动漫等作品进行大幅度的改编与二次创作，使其呈现出与原作截然不同的内容与风格。
“使用AI软件对经典影视剧进行‘魔改’，实质上是未经许可的改编行为，即使是以新的方式呈现，也仍然使用了原作品的内容，侵犯了原作品的改编权，构成对原作品著作权的侵犯。”陈维维指出，根据著作权法，未经著作权人许可，发表其作品，构成侵权；未经著作权人许可，以改编、翻译、注释等方式使用作品也构成侵权。“甚至可能会涉及刑事责任。”陈维维补充道，“根据刑法，以营利为目的，有侵犯著作权情形之一，违法所得数额较大或者有其他严重情节的，处3年以下有期徒刑或者拘役，并处或者单处罚金；违法所得数额巨大或有其他特别严重情节的，处3年以上7年以下有期徒刑，并处罚金。其中就包括未经著作权人许可，复制发行其文字作品、音乐、电影、电视、录像作品、计算机软件及其他作品的。”
“AI‘魔改’视频往往涉及影视演员的肖像，若未经其许可且不符合法律规定的除外情形，如合理使用等，就会侵害演员的肖像权。”唐文娟表示，肖像具有人格标识的作用，影视演员的肖像往往具有一定的商业价值，如果未经许可擅自使用其肖像进行“魔改”，可能会给演员带来名誉受损、商业利益被侵占等不良影响。民法典规定，“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。”因此，利用信息手段伪造他人肖像从而侵害他人肖像权的行为是法律所禁止的。此外，杨永芳认为，如果“魔改”内容扭曲了角色形象或歪曲了原作主题，可能损害作者或相关人员的名誉权；若“魔改”作品可能对原作产生市场替代效应，则还会构成对权利人商业利益的不正当竞争。
“当然，在判断AI‘魔改’影视剧是否构成侵权行为时，需要综合考虑多个因素，比如作品的性质与类型、使用原作品的方式和程度、AI‘魔改’作品对社会的影响和价值等，从而界定‘合理使用’与‘侵权行为’的界限。”唐文娟说道。
AI技术乱象清理整顿刻不容缓
《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的“钓鱼”邮件数量增长1000%。如今，多发的AI技术乱象不仅损害了公众的合法权益，也阻碍了AI技术的健康发展，清理整顿刻不容缓。
作为信息传播的重要一环，平台运营商和服务提供者也应承担起相应的责任。“平台需保护用户数据，避免被滥用生成不良AI内容，同时建立便捷的举报通道并及时处理投诉。”杨永芳认为，对用户上传的侵权内容，平台应履行合理注意义务，发现侵权内容后，应及时采取下架或屏蔽措施，否则需承担连带责任。“网络平台应当承担内容审核责任、侵权监管责任。”陈维维同样认为，推出AI换脸功能的平台及允许AI换脸相关内容传播的平台，都应该加强审核，以避免AI技术被不法人员利用，以及避免损害公民肖像权、名誉权等。此外，平台要对用户进行版权知识、法律法规的教育和引导，告知用户AI换脸等行为可能涉及侵权和违法的风险，明确平台规则，规范用户行为。如果有关部门对这些乱象进行调查，平台还应当提供相关的信息，如内容发布者的信息、内容传播情况等，配合监管部门执法。
应对AI换脸、AI“魔改”等乱象，还需多方协作、共同治理。杨永芳建议，推动建立生成式AI的行业自律标准，规范生成内容的合法边界。陈
维维建议，加强不同监管部门（如工信部门、版权局、网信办等）之间的合作，建立信息共享机制。他还建议开发能够实时监控AI应用的工具，比如平台可以设置监测系统，及时发现和阻止生成侵权、违法或有害内容；建立统一的数据采集、清洗和标注标准，例如在训练语言模型时，明确规定数据来源的合法性、数据内容的准确性等，可以减少因数据质量差导致的模型输出错误或有害信息。
只有让AI在合法合规的框架内健康发展，才能构建出一个真实、可信、和谐的数字世界，推动人工智能产业良性发展。“目前，我国已有多部法律法规规章对网络、数据、AI等问题进行了相应规范，如民法典、著作权法、网络安全法、数据安全法、反电信网络诈骗法、网络数据安全管理条例、生成式人工智能服务管理暂行办法、互联网信息服务深度合成管理规定等。”唐文娟向记者介绍，在行业自律层面，某些影视行业协会、网络平台、人工智能产业联盟等，也通过制定行业规范和自律公约等，引导企业和创作者在AI技术应用中保持自律，尊重知识产权和传统文化，促进AI技术的健康发展。
“未来人工智能AI将继续成为数字化发展的核心。”唐文娟建议，可以进一步加强技术研发，开发更加精准的算法和模型，提高AI技术的安全性和可靠性，防止技术被滥用。同时完善监管机制，对AI技术的应用进行全方位、多层次的监管，利用大数据、区块链等技术手段，及时发现和处理侵权行为。另外，还要普及相关的法律法规知识，提升公众数字素养，引导公众正确使用AI技术，增强法律意识和提高自我保护能力。（四川法治报全媒体记者 李季 徐婷婷）