美媒:AI换脸或引发金融科技身份危机
参考消息网9月28日报道 美国《福布斯》杂志网站9月26日刊登题为《AI换脸将引发金融科技身份危机》的文章,作者为弗兰克·麦肯纳,内容编译如下:
人工智能(AI)深度伪造领域被犯罪分子盯上并不奇怪。但令人十分意外的是,他们最近几个月突然将注意力转向一个特定目标——金融科技领域的身份管理手段。
社交平台“电报”软件上的诈骗论坛里充斥着AI生成的深度伪造视频。这些视频里的人正在上下点头、左右摇头。一些广告称,AI能把人脸照片制作成视频,可以骗过金融科技公司和银行在客户验证过程中使用的活体检测流程。
这样一款软件的售价不低于2000美元。但开发者称,它们至少可以绕过金融科技公司用得最多的活体检测软件包中的5款。
而对于那些怀疑其真实性的买家,开发者还提供“担保”和“证据”,证明AI确实可以骗过一家大型金融科技公司的在线应用。一段视频显示,一名男子利用在网上找到的一名银行高管的照片,借用了后者的身份。该男子打开这款软件,软件生成一段深度伪造视频,并推送到他的手机上。为了完成活体检测,他转动头部,最终只花几秒钟就成功通过身份验证。
在某些情况下,简单的换脸工具也被用于编织完整的诈骗网络。
根据英国网络安全公司iProov发布的《2024年威胁情报报告》,“换脸已成为持续构成威胁者广泛使用的深度伪造工具”。该公司的统计数据显示,2023年下半年,换脸攻击比上半年增加704%。
Xpression Camera等便利的换脸应用程序的广泛使用,以及AI换脸功能与模拟器等传统网络工具的配合使用,让那些企图利用客户身份验证流程的犯罪分子变得更难对付。
美国佐治亚州立大学教授戴维·迈蒙称,超逼真面具在新冠疫情期间很流行,后来就从使用这种面具变为利用AI生成的深度伪造视频来绕过活体检测。
他说:“一些身份验证服务商担心活体检测被破解。过去,他们也担心过3D硅面具,但那看上去并不是他们的工具无法解决的问题。他们现在更担心深度伪造。”
币安交易所首席安全官吉米·苏(音)去年对AI的深度伪造能力表示担忧。该公司发现,在其平台使用AI这种能力的尝试明显增多。
他在接受美国加密货币媒体币电讯的记者采访时解释说,深度伪造技术已经十分先进,甚至可以在活体检测过程中实时作出反应。
他说:“一些验证流程要求用户眨眼或向上下左右看。深度伪造技术现在已经足够先进,可以执行这些命令。”
金融科技公司必须重视它们的身份验证流程。
他们能应付得了这一挑战吗?时间会说明一切。(编译/王栋栋)