中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 如今，人工智能让“变脸”变得轻而易举。一旦被不法分子利用，就会对普通民众造成严重伤害。近日，辽宁省沉阳市警方公布了一起利用人工智能技术合成他人不良视频并恶意传播的案件。这段在网上疯传的不雅视频显示，一名女子的脸被恶意修改。今年5月，辽宁王女士的“不雅照片”在浏览短视频平台时被传播到公众面前。视频中，他的脸叠加在一名裸体女人的身上，并附有侮辱性文字。王女士此前从未拍过类似视频，当即选择报警。辽宁省沉阳市康平县公安局胜利派出所副所长胡军卓：什么时候他报了警，他觉得这件事很尴尬。他边说边哭，主要是因为他不知道这段视频有多少人看到，对他影响有多大。经过技术调查，警方发现该恶意视频的发布者是针对一名刘姓男子。刘某到案后承认，自己发布的不雅视频是网络上有人用人工智能合成的。据了解，王女士在当地经营一家理发店，刘女士尝试在理发店打工。由于庭审期间工资问题，两人产生了分歧，刘某抱着通过发布恶意短视频来报复王女士的想法。最终，刘某因违反《中华人民共和国治安管理处罚法》，被辽宁警方处以行政拘留十日，并处罚金500元。 AI合成存在缺陷。警察教你如何认出他们。近年来，这里已经发生多起利用AI换脸的违法犯罪活动。除了在网上发布恶意视频外，有些人还利用人工智能换脸进行虚假视频通话实施诈骗。在日常生活中，人工智能改变你的脸有哪些风险？消费者该如何保养？记者注意到，近年来，因AI阻碍或面子问题而导致消费者损失的案例屡见不鲜。今年5月，上海警方破获一起专门利用人工智能生成虚假网恋资料的诈骗案，涉案金额超过200万元。 2024年，内蒙古鄂尔多斯市一名消费者遭遇AI换脸诈骗，损失近40万元。视频通话过程中，诈骗分子利用AI换脸技术冒充买家朋友，以资金周转为由，骗取其转账40万余元。所幸警方及时介入，未造成实际损失。同年消费安徽的er也遭遇同样的AI换脸骗局，损失超过60万元。记者调查发现，人工智能技术在快速发展的今天，也被一些不法分子盯上，成为非法劳工的工具。据警方介绍，实现AI换脸的过程非常简单：只需要​​一张照片，不到十秒就可以合成一张换脸的照片。辽宁省沉阳市康平县公安局网安大队大队长龚超：我们在网上发现了一个软件。首先，选择一张脸部照片。选择目标图片后，点击开始生成。这就是AI换脸以及生成图像的最基本、最简单的过程。不过，虽然换脸视频相当混乱，但也存在一些缺陷。辽沉阳市康平县公安局网安大队大队长龚超宁省：如果直播时AI换脸，人脸打开时人脸轮廓会乱。上下左右摇晃时会出现重影。如果有人正在与您进行视频通话。建议让对方摇头、下左右摇头，或者用方言跟对方说话。他不可能模仿你的声音，然后再模仿你的方言。警方提醒，网络不是非法场所，任何违法行为都会留下痕迹。利用人工智能技术从事非法活动最终会导致罚款。警方提醒消费者保护个人隐私，不要将含有个人信息的照片或视频上传到遗嘱中。辽宁省沉阳市康平县公安局网安大队大队长龚超：你可以发图片，但你不会透露个人信息或联系方式，以及你所在的位置和工作地点。这降低被骗的风险。发生事情时不要惊慌。一定要相信报警可以帮助大家解决问题。