AI换脸搭配声音合成，“好友”以假乱真骗走钱款 如何警惕AI“深度造假”？

据中央广播电视总台中国之声《新闻纵横》报道，十分钟被骗走430万元、换脸冒充明星带货赚钱……近年来，随着人脸识别技术的广泛应用和人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音、制造逼真的合成图像来实施新型网络诈骗，类似骗局具有手段多样、门槛低、辨别难度大等特点，经常会防不胜防，短时间内造成较大损失。从形象到声音，如何警惕AI“深度造假”？

骗子（哭腔）：妈，我开车撞到人了，好像骨折了，已经送医院了，警察说如果我不垫付医药费就可能会被拘留。我身上钱不够，你赶紧给王警官转2万块钱吧。

妈妈：宝贝女儿你别急，妈这就把钱转过去。

骗子（换声）：AI换脸真是棒，轻松就让你上当。今天我是你女儿，明天扮成你老板。

电话那一头，视频另一端，与你正在互动交流的人，是否真的是你认识的那个人？在“AI换脸”可以轻易模仿的当下，为了减少不必要的财产损失，可能必须要“知人知面又知心”。

包头市公安局曾在其官网发布，福州市某科技公司法人代表郭先生的“好友”通过微信视频联系郭先生，声称自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，想要借用郭先生公司的账户走账。“好友”向郭先生要了银行卡号，称钱已转入郭先生的账户上，并将银行转账截图发给他。基于视频聊天信任的前提，郭先生并未核实钱是否到账，而是陆续转给对方共计430万元，随后郭先生才发现被骗。

常州市公安局常州经开区分局横林派出所民警陈歆怡告诉记者，此前他们曾办理过多起倒卖、非法利用用户人脸照片的侵公案件。

陈歆怡说：“AI换脸换声的基本逻辑是通过深度学习特定算法，将目标人物的人脸、表情、声音等嫁接到模仿的视频中，最终实现视听合成的高仿真性，且软件成本低，合成速率高，检测鉴别难度大，一般人难以发现伪装痕迹。”

总结下来，目前AI诈骗的主要形式有两种。

陈歆怡说：“第一种相对简单，通过技术手段直接合成换脸、拟声后的短视频或语音，在视频聊天、普通电话中直接播放，这类视频主要用于表达比较紧急的情况，比如遭遇事故求助等等，播放结束后就会掐断连接，无法与被害人形成回合性的对话，无法回答受害人的问题。另一种是在视频通话中直接换脸并替换声音，直接用拟声拨打电话。可通过让对方变换面部表情，比如眨眼、遮挡面部等方式识别是否存在换脸情况。由于拟声类诈骗在技术上是通过提取的声音特征生成模拟语音，或者对声音分解、重新排列而形成新的句子，由于这两者都会受限于样本的数量，所以可以通过延长通话时间，多次进行提问的方式让对方多说话，露出破绽。”

“AI换脸”诈骗底层逻辑依赖于“深度伪造技术”，不法分子主要以冒充被害人的亲戚朋友、领导同事等身份，骗取被害人的信任，从而获得钱财。对此，北京航空航天大学法学院副教授赵精武表示，深度合成可能诱发的违法犯罪问题，监管机构早有关注。

赵精武说：“网信办、工信部和公安部在2022年专门制定了《互联网信息服务深度合成管理规定》，明确了深度合成服务提供者的法定义务，例如应当采取技术或人工方式对深度合成服务使用者的输入数据和合成结果进行审核。”

赵精武进一步表示，相关部门加强监管的同时，需要我们自身树立起良好的防诈骗意识。

赵精武说：“部分以AI换脸、声音合成或仿冒‘好友’实施诈骗行为所使用的技术工具来自境外，除了立法明确合成规定之外，预防此类虚拟诈骗更需要个人树立防诈骗意识，涉及转账等财务信息的电话请求，采取其他方式跟好友进行确认。”

今年8月，国家网信办发布的《人脸识别技术应用安全管理规定（试行）（征求意见稿）》中明确，人脸识别技术使用者应当每年对图像采集设备、个人身份识别设备的安全性和可能存在的风险进行检测评估，并根据检测评估情况改进安全策略，调整置信度阈值，采取有效措施保护图像采集设备、个人身份识别设备免受攻击、侵入、干扰和破坏。

常州市公安局常州经开区分局横林派出所民警陈歆怡表示，日常生活中大家都常接到陌生人打来的广告电话，其实在和陌生人说话过程中，无意间就会把自己的声纹泄露，也许他们的目的本就不是为了推销，而是要获取你的声纹，进而实施进一步的犯罪行为。

陈歆怡说：“要想从源头上预防此类诈骗案件的发生，保护好个人信息是关键。首先对广大人民群众而言，陌生电话不要随意接听，防止有诈骗人员以电销推广等借口采集发音、语句；在个人互联网社交账户上，要避免过多暴露个人照片、声音、视频等信息；在对外提供人脸照片时需谨慎对待，使用小众软件身份认证、网络贷款实名放贷时提高警惕；不要随意去点击陌生的链接，链接中的木马程序会窃取用户手机内的照片、监听回传通话内容。”

此外，陈歆怡还提示，在开启“定位服务”、输入身份证号或是录入“人脸识别信息”“指纹识别信息”等个人生物信息时，一定要慎之又慎。

陈歆怡说：“对各APP网络服务提供者来说，在收集、使用个人信息时应当遵循合法、正当、必要、公开的原则，不得收集与其提供的服务无关的个人信息，应当采取技术措施和其他必要措施，确保其收集的个人信息安全，不得主动向外提供，也要防止信息泄露、毁损、丢失。”

北京航空航天大学法学院副教授赵精武建议，在生活中，什么情况需要用到AI验证，既保证安全又实现方便快捷，二者的平衡有探讨的空间。

赵精武说：“意欲实现安全和便捷兼备的验证模式，需要结合AI技术的发展动向进行同步调整，同时也需要服务提供者在相关深度合成产品和服务中增加‘AI生成’标识机制，降低第三方识别AI生成内容的难度。”（记者 江晓晨）

来源：央广网客户端