顶象学院首页>文章详情

犯罪分子利用AI技术假扮“大学闺蜜”,女子被骗5根金条

2024-09-14|小象 657

近日,昆明市青年路上一家快递公司的员工报警,称一名女子准备邮寄价值30余万元的金条,怀疑其中存在问题。民警迅速赶到现场,成功劝阻了一起电信网络诈骗案。

王女士表示,这位“闺蜜”是她大学时的同宿舍好友,在她生活困难时,这位“闺蜜”多次给予经济帮助,并且一直保持联系。闺蜜后来定居国外,尽管不常见面,但依旧时常通过QQ保持沟通。事发当天,王女士收到闺蜜QQ号发来的视频通话请求。视频中,这位“闺蜜”表示自己即将结婚,恳请王女士代为购买价值30万元的金条并邮寄到广州。出于对多年好友的信任,王女士同意了对方的请求,甚至主动垫付了30万元,用作礼物寄送。

undefined

按照民警提示,王女士立即通过QQ要求对方使用越洋电话或其他渠道确认身份。然而,消息刚发出不久,王女士便发现自己的QQ号已被对方删除。此时,王女士才彻底明白,自己险些落入了利用AI技术实施的电信网络诈骗陷阱。

犯罪分子的诈骗套路

这是一起典型的,利用AI技术换脸、克隆声音,然后冒充好友进行诈骗的案例。

在这类诈骗中,诈骗分子采集目标人员的发音、语句或面部信息,利用AI技术合成虚假音频、视频或图像,模拟他人声音或形象骗取信任,以借钱、投资、紧急救助等借口诱导其亲友转账汇款,或提供银行账户密码等敏感信息。此外,不法分子还可能对明星、专家、执法人员等音视频进行人工合成,假借其身份传播虚假消息,从而实现诈骗目的。

undefined

第一阶段:信息搜集。诈骗的第一步是搜集目标对象的个人信息。诈骗分子通过黑市交易、非法数据库泄露或有组织的网络攻击等手段,获取目标的面部照片、手机号、声音等敏感信息。这些信息成为诈骗分子实施下一步行动的基础。

第二阶段:伪造人脸视频、克隆声音。掌握了个人信息后,通过软件截取受害人面部特征和声音特征,结合AI合成技术,制造虚假视频内容、虚假声音。

第三阶段:身份伪装。犯罪分子开始添加受害人的联系方式。他们仿冒目标人物的语气和风格,通过文字、语音、视频等多种方式与受害人进行沟通,使受害人逐渐放下戒备,信以为真。

第四阶段:诱导受害人转账或快递。当受害人对诈骗分子的身份深信不疑时,犯罪分子便开始下达转账、支付货款、快递包裹等命令。他们可能会编造各种紧急情况或业务需求,诱导受害人将资金转入指定的银行账户。在紧迫感和信任感的双重作用下,受害人往往会在没有进一步核实的情况下,按照诈骗分子的指示进行操作。

技术上防范AI换脸克隆的诈骗

防范“AI换脸”“AI声音克隆”新型电信网络诈骗,需在线上发现疑点时线下核实,增加沟通时间,采取试探性举措,如要求对方做指定动作,以揭露可能的破绽,同时建议企业可以采取多重技术和手段。此外引导AI技术的正向应用,严厉打击犯罪行为,是根本解决之道。

1、识别换脸的视频和声音。在视频聊天的时候,可以要求对方摁鼻子、摁脸观察其面部变化,如果是真人的鼻子,按下去是会变形的。也可以要求对方吃食物、喝水,观察脸部变化。或者,要求做一些奇怪的动作或表情,比如,要求对方挥手、做某个难做的手势等,以辨别真假。在挥手的过程中,会造成面部的数据的干扰,会产生一定的抖动或者是一些闪烁,或者是一些异常的情况。

2、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对,可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术,识别出虚拟机、代理服务器、模拟器等被恶意操控的设备,分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为,帮助追踪和识别欺诈者的活动。

3、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等,需要加强频繁验证;此外,会话期间的持续身份验证至关重要,保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器,精准识别欺诈行为,实时监控并拦截异常行为。

undefined

4、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验,快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为,及时发现伪造视频、虚假人脸图片、异常交互行为后,可自动阻断操作。同时能够灵活配置视频核验强度与友好度,实现对正常用户无感验证,对异常用户加强验证的动态机制。

5、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控,提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内,支持多方数据的配置化接入与沉淀,能够基于成熟指标、策略、模型的经验储备,以及深度学习技术,实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台,能够对已知风险进行安全策略自动优化,基于风控日志和数据挖掘潜在风险,一键配置不同场景支持风控策略。其基于关联网络和深度学习技术,将复杂的数据处理、挖掘、机器学习过程标准化,提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。

微信扫码
获取方案价格

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123