随着AI技术迅猛发展，生成式AI换脸拟声技术的使用场景不断涌现，但由此衍生出的新骗局也给个人信息安全及财产安全带来风险。8月5日，宁夏通信管理局向公众发出提醒，和“熟悉”的陌生人视频聊天一定要注意识别并加以防范，警惕不法分子利用AI换脸拟声技术实施诈骗。

“今年上半年，我们对区内90余款旅游咨询、金融贷款、网络社区等App和小程序进行了个人信息保护及网络安全风险评测，督促整改问题App和小程序69款，下架7款。”宁夏通信管理局相关负责人介绍，今年5月，彭阳县居民小龙（化名）遭遇网络视频诈骗，损失1.5万元。不法分子以拨打骚扰电话的方式或从用户发布在互联网社交平台的视频及照片资源中，获取用户声音和人脸生物信息，提取用户声纹及面部图像特征，使用专业工具进行声音及图像合成和相似度训练，利用AI技术筛选目标人群，在视频通话中利用AI技术换脸拟声，骗取目标人群财物。

“从诈骗方式和使用的技术手段上看，利用AI换脸拟声技术诈骗应是‘冒充熟人’诈骗的演变，例如冒充老乡，利用乡党情谊骗取钱财；冒充同学好友，利用同窗和好友好面子、不好意思等心理借钱等。”宁夏通信管理局工作人员说。

那么，如何防范和识别不法分子冒充熟人，利用AI换脸拟声技术进行诈骗？宁夏通信管理局工作人员介绍，当遇到“熟悉的陌生人”的可疑视频通话时，可以要求对方做一些侧脸转向、面部遮挡、捏鼻子等动作，来辨识是否利用AI换脸的可能性。如该视频通话中使用了AI换脸，人脸面部就会出现扭曲和波动。“当遇到‘熟悉的陌生人’添加好友时要提高警惕，对涉及金钱、财产等重要事项要谨慎，未经核实不随意转账汇款；同时，提高安全意识，保护好个人信息，谨慎分享，不轻易提供人脸、指纹等个人生物信息给他人，不过度在互联网上公开或分享动图。”宁夏通信管理局工作人员说。

据了解，为保护用户的合法权益，规范移动应用程序对用户人脸信息的收集和使用，宁夏通信管理局组织技术力量常态化对区内App开展隐私合规和应用安全检查，督促App开发运营单位深入学习、了解个人信息处理活动的相关法律法规、标准规范及合规手段，通过数据分类分级、加密处理、权限管控、影响评估、合规审计等方式不断加强人脸信息的安全管理和保护措施，降低潜在风险，当好个人信息安全的守门人。