(资料图片仅供参考)

深圳新闻网2023年6月8日讯（深圳商报记者 涂竞玉）10分钟内被骗走430万元，“AI孙燕姿”在B站等网络平台走红。今年以来，ChatGPT等技术的应用，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。

记者在微信小程序上搜索“AI换脸”，发现有十余个相关软件，用肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。近期也有媒体报道了一款网络上的付费AI换脸软件，其套餐价格从499元到2888元不等。

诸如此类生成式人工智能的大量出现很大程度上得益于深度合成和机器学习的快速发展。而AI诈骗者正是通过这些先进的技术，训练出能够模拟人类语言和神态的AI。此前，ChatGPT就曾因编写假新闻而饱受诟病，而近期大量出现的AI诈骗更是令人不得不开始反思，AI生成的虚假信息或许潜藏着巨大的社会风险。

业内人士普遍认为，“AI换脸”技术的滥用给人们敲响了警钟，其复杂性、隐蔽性也给科技识别及运用提出了更高的要求。

近日，中国互联网协会发文提醒，面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。北京市岳成律师事务所高级合伙人岳屾山认为，技术具有两面性，对待其态度不能一概而论，需要将其纳入法律框架下规范发展。而针对AI诈骗，个人信息泄露的情况仍很普遍，普通人在使用相关设备和软件时需尽量避免无必要的授权，但诈骗分子不断变化和“创新”，最根本的防范还是保持警惕、提高对诈骗的认知。