顶象学院首页>文章详情

当犯罪分子,用AI模仿领导的声音进行诈骗

2024-08-05|小象 695

李某的QQ账号被诈骗分子拉入一个工作群,见群里成员名字都是本公司工作人员便未再核实。几天后,李某收到群消息:骗子冒充的“总经理”称需支付对方工程款,要求李某核对公司账户上还有多少钱。李某核对公司账户资金后,骗子冒充的“总经理”要求李某把账上资金全部打给对方指定账户,并以事情紧急为由催促李某快点转账。因怕得罪“领导”,李某便将公司账上40万元全部转出。后公司总经理收到银行短信询问,李某才发现被骗。

undefined

近日,公安部公布十大高发电信网络诈骗类型,其中有一个“冒充领导、冒充熟人”诈骗格外引人注目。诈骗分子利用受害人领导、熟人的照片、姓名包装社交账号,通过添加受害人为好友或将其拉入微信聊天群等方式,冒用领导、熟人身份对其嘘寒问暖表示关心,或模仿领导、老师等语气发出指令,从而骗取受害人信任,再以有事不方便出面、接电话等为由,谎称已先将某款项转至受害人账户,要求其代为向他人转账。为蒙骗受害人,诈骗分子还会发送伪造的转账成功截图,但实际上其未进行任何转账操作。出于对“领导”“熟人”信任,受害人大多未进行身份核实便信以为真,以为“领导”“熟人”已将钱款转账至自己账户。随后,诈骗分子以时间紧迫等借口不断催促受害人尽快向指定账户转账,从而骗取钱财。此类诈骗通常利用受害人对领导熟人的信任心理,疏忽了对其身份进行核实。

犯罪分子用AI冒充领导的声音

顶象防御云业务安全情报中心的分析显示,从2015年至2023年,电信网络诈骗案件中,冒充网购客服诈骗和刷单返利诈骗是最常见类型,占比分别为25.90%和18.50%。此外,“冒充领导”诈骗、“猜猜我是谁”诈骗和虚拟货币诈骗也占据了较大比例。

undefined

尤其随着AI技术的发展,声音克隆等高科技诈骗手段日益猖獗。“冒充领导、冒充熟人”诈骗变得更加具有欺骗性。犯罪分子利用语音克隆技术,通过AI算法模仿特定人物的声音,生成逼真的语音,使其听起来像真实的对话。这种技术通常使用文本转语音技术,将书面文本自动转换为语音输出。诈骗分子结合合成声音技术和视频冒充,与受害人通话,进一步增加诈骗的可信度。这类新型电信网络诈骗更加隐蔽和难以防范。

用AI克隆声音诈骗的四个步骤

顶象防御云业务安全情报中心的分析揭示了诈骗分子利用声音克隆进行诈骗的四个阶段,每个阶段都是精心设计的陷阱,一旦受害者无法有效甄别,就可能步步陷入诈骗分子的圈套。

第一阶段:信息搜集。诈骗的第一步是搜集目标对象的个人信息。诈骗分子通过黑市交易、非法数据库泄露或有组织的网络攻击等手段,获取公民的面部照片、手机号、银行卡号等敏感信息。这些信息成为诈骗分子实施下一步行动的基础。

第二阶段:声音合成。掌握了个人信息后,诈骗分子利用先进的语音合成技术和深度学习算法制作逼真的声音样本。这些样本不仅模仿目标人物的语调和语气,还能复制其语言习惯和表达方式,使得声音听起来与真人无异,极大地增加了诈骗的欺骗性。

第三阶段:身份伪装与沟通。在声音样本制作完成后,犯罪分子开始添加受害人的联系方式。他们仿冒目标人物的语气和风格,通过文字、语音、视频等多种方式与受害人进行沟通。在这个阶段,诈骗分子会尽量模仿目标人物的日常交流方式,使受害人逐渐放下戒备,信以为真。

第四阶段:诱导转账。当受害人对诈骗分子的身份深信不疑时,犯罪分子便开始下达转账、支付货款等命令。他们可能会编造各种紧急情况或业务需求,诱导受害人将资金转入指定的银行账户。在紧迫感和信任感的双重作用下,受害人往往会在没有进一步核实的情况下,按照诈骗分子的指示进行转账。

如何防控“冒充领导”的诈骗?

个人防范

当在社交工具上收到自称领导的好友请求时,请务必先核实对方身份,避免轻信并谨慎处理加友请求。面对任何形式的借款或资金汇出要求,特别是那些看似紧急或异常的请求,您应提高警觉,通过可靠途径向领导当面确认,只有在彻底核实情况后才可进行资金操作。

同时,切勿向不熟悉的网友透露您的个人信息,以增强您的个人防范意识。如果发现自己已经成为诈骗的受害者,要立即保留所有相关证据,并马上拨打110报警,以便警方能够及时介入处理。

技术防范

平台应通过分析用户的行为模式和身份信息,建立安全预警机制,对于异常登录、高频发送信息等可疑行为进行监控和限制。同时,分析鼠标移动模式、打字风格等用户行为模式并识别异常情况,标记偏离正常使用的可疑活动。并通过额外的身份和设备验证,以及大模型可以快速筛选海量数据,并识别出通常无法被人类检测到的细微不一致之处,发现攻击者的异常操作。

顶象设备指纹能对每个设备生成统一且唯一设备指纹,识别出虚拟机、代理服务器、模拟器等被恶意操控等风险设备,分析设备是否存在多账号登录、是否频繁更换IP地址、频是否繁更换设备属性等出现异常或不符合用户习惯的行为,追踪和识别欺诈者的活动。

顶象无感验证基于AIGC技术,能够防止AI的暴力破解、自动化攻击和钓鱼攻击等威胁,有效防止未经授权的访问、账户被盗用和恶意操作,从而保护系统的稳定性。

顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控,提高风控的效率和准确性。与Dinsight搭配的Xintell智能模型平台,能够对已知风险进行安全策略自动优化,基于风控日志和数据挖掘潜在风险,一键配置不同场景支持风控策略。

微信扫码
获取方案价格

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123