详细介绍
4月20日中午，郭先生的好友突然通过视频联系他，称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。
事后，郭先生拨打好友电话才知道被骗，原来骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。
“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”，郭先生说。
2022年2月，有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。
2021年拱宸桥派出所接到报警，受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查，对方利用AI换脸技术，将小陈视频中的面部合成到不雅视频中，借此对其实施勒索。
2020年，上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。
近日，有网友点开直播间，发现正在卖货的竟是当红女星。然而再定睛一看，这些带货“明星”很快露出了马脚——身穿中式服装，正在卖力带货的“明星”们，其实只是使用了AI实时换脸技术的普通主播。
利用人工智能（AI）手段为视频中的人物“换脸”，这项技术已发展到可以实时动态修改直播画面。
从网上搜索相关AI换脸直播教程发现，这些教程通过视频、文章等形式传播，并提供换脸直播工具的下载渠道。有的需要付费，有的通过点赞、关注、评论就能获取。
教程发布者声称实时变脸软件能够在一定程度上帮助用户轻松变脸，打造特效直播间，极大地助力引流卖货。同时他们表示有很多模型可供选择，这些模型用中外明星艺人、影视角色或政商名人的名字命名。
在一个展示换脸直播效果的视频中，使用者把某明星的脸部模型载入相关软件后，摄像头前的人在直播画面中就有了与该明星相似的五官，但脸型和发型还保持原样。使用者歪头或变换表情时，五官动效切换得自然顺滑，只有手掌从脸前划过时，出现了显而易见的破绽。
北京某律师事务所高级合伙人岳屾山律师表示，换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为，会成为加重情节。
在知名艺人工作室从事宣传工作的袁女士表示，担心相关技术被用于推销假冒伪劣产品，损害消费者权益，也影响艺人的形象。
一些使用换脸技术的直播并不会直接提到相关明星艺人的名字，但也不会主动声明或者否认。
岳律师认为，这个行为涉嫌欺诈或是虚假宣传，让公众误以为就是明星在带货。如果货品本身质量不好，或者主播在带货过程中说的话或一些行为导致公众对被换脸的明星产生负面评价，明星可以主张名誉权的侵权责任。
近期，已经有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚；同时还提出“发布者应对人工智能生成内容做显著标识，帮助其他用户区分虚拟与现实”“发布者需对AI生成内容产生的相应后果负责”等要求。
岳律师建议，平台能更加主动地识别相关联的内容，作标签化的处理，从而限制侵权行为。
为了规范AI发展，尤其是规避AI换脸带来的系列问题，去年12月，《互联网信息服务深度合成管理规定》正式对外发布，对数据和技术管理规范进行了明确。
比如，关于授权同意的原则提到，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，“应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意”。
简单来说，这些技术服务企业，不能随便使用普通人的人脸来换脸，一定要经过本人同意，换脸不是想换就能随便换，也不是骗子给钱就能随便换。如果就此前案例深挖下去，不排除能揪出一条非法利用人工智能技术的黑产业链。
当然，人工智能开发还是一个高速成长的领域，规则的健全完善还需要一些时间。但不管怎么说，技术被滥用的风险，对普通人造成的安全风险隐患和威胁，绝对不容低估。
对大众来说，在AI时代，我们得更加警惕，不要随意泄露个人隐私信息，需要转账时应更加谨慎地核实。而对行业而言，一定要尽快立规，明确信息保护红线，加强对技术服务商行为的规范引导，等等。
只有AI换脸、AI拟声等在每一个环节有据可依、严格授权，提升造假诈骗难度，才能更好地保护每个人的信息和财产安全。
骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而能够用伪造的声音骗过对方。
某公司财务小王接到领导电话，要求立刻给供应商转款2万元，并将转账信息以邮件形式发送，转款理由是避免缴纳滞纳金。由于老板的口音十分逼线小时内转款完成，后发现被骗。
人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式来进行信息确认。
骗子首先分析公众发布在网上的各类信息，根据所要实施的骗术，通过AI技术筛选目标人群。在视频通话中利用AI换脸，骗取信任。
近日，小李的大学同学利用互联网跟她借钱。对方打过来一段四五秒的视频电话，小李看到确实是本人，便放心转账3000元。然而，她在第二次转账时感觉异常，便再次拨通对方电话，这才得知同学的账号被盗，遂报案。警方判断，那段视频有很大的可能性是被人换了脸。
骗子在盗取微信号后，便向其好友“借钱”，为取得对方的信任，他们会转发之前的语音，进而骗取钱款。
尽管微信没有语音转发功能，但他们通过提取语音文件或安装非官方版本（插件），实现语音转发。
骗子利用AI来分析公众发布在网上的各类信息，根据所要实施的骗术对人群进行筛选，在短时间内便可生产出定制化的诈骗脚本，从而实施精准诈骗。
例如：实施情感诈骗时，可以筛选出经常发布感情类信息的人群；实施金融诈骗时，可以筛选出经常搜索投资理财信息的人群。
对突如其来的电话保持警惕，即使是来自你认识的人，因为来电显示的号码可能是伪造的；
网络转账前要通过电话等多种沟通渠道核验对方身份，一经发现风险，及时报警求助；
如果有人自称“熟人”、“领导”通过社交软件、短信以很多理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，莫轻易透露自己的身份证、银行卡、验证码等信息；
不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；
陌生链接不要点，陌生软件不要下载，陌生好友不要随便加，防止手机、电脑中病毒，互联网账号被盗号；
公检法没有安全账户，警察不会网上办案，如果有网络警察说你犯事了，让他联系你当地的派出所，你也可以主动打110咨询；
当前位置：
地址：
邮箱：