顶象学院首页>文章详情

浅析!香港2亿港元诈骗案的风险分析及几个技术检测思路

2024-02-07|小象 3073

据香港公共广播公司报道,一家跨国公司香港分行的一名员工在一次电话会议后被骗支付了2亿港元(超过2500万美元)的资金。

据介绍,这起骗局始于2024年1月份,受骗员工收到一封自称是公司总部CFO(首席财务官)发来的电子邮件。受骗员工认为该电子邮件为网络钓鱼,并未在意。

随后,冒充CFO的欺诈分子组织了一次视频通话,邀请该受骗员工,以及其他几个异地办公的“同事”一起参加一个视频会议。

视频中,受骗员工发现CFO以及几个同事,外表和声音、谈话的语气等,与他认识的同事一样,于是打消了早期的疑虑,相信早期的有建议及视频会议中的人都是真实的。会议结束后,该名受骗员工在欺诈分子冒充的CFO指示下,一周内进行了15笔交易,金额达2亿港元(超过2500万美元)。在此过程中,诈骗分子还使用WhatsApp、电子邮件和一对一视频通话与该员工保持联系,并对受骗员工说,用相同的方法联系了该分行的另外两个同事。

undefined

事后,受骗员工向公司负责人汇报整个交易过程,才意识到自己被骗了。

警方分析发现,这是一起精心策划的骗局。欺诈分子通过社交媒体和视频平台上,寻找并下载了该公司CFO以及其他几个人的照片、视频,然后使用深度伪造技术伪造出不同人员声音,再合成到伪造的欺诈视频片段中。受骗员工参与的视频会议中,除了他自己是真人外,其他全部为伪造的欺诈视频。而被诈骗的资金被发送到五个当地银行账户,然后迅速被人分散转走。

香港警方还表示,2023年7月至9月期间,发现20多次,基于AI的深度伪造信息,用于贷款申请和银行账户注册。

香港媒体称,这是该市首例涉及如此巨额资金的深度伪造欺诈案。

深度伪造带来的新挑战

AI的日益普及带来了新的威胁,欺诈分子甚至普通人都能够利用AI工具 生成的深度伪造图片、视频、声音,从而进行传播、欺诈。毕马威最近的一份报告,在线提供的深度伪造视频同比增长了900%。

埃隆·马斯克(Elon Musk)、两位BBC主持人、YouTube红人野兽先生(Mr Beast)以及流行歌星泰勒·斯威夫特(Taylor Swift)都因在诈骗视频中伪造身份而成为受害者。

undefined

银行业最容易受到这种身份欺诈的影响,该行业 92% 的公司将合成欺诈视为真正的威胁,49% 的公司最近遇到了这种骗局。诈骗分子不仅伪造信息、声音、视频、图片,还会将真实和虚假的身份信息结合起来,以创建全新的人工身份,用于开设银行账户或进行欺诈性购买。

当然,深度合成欺诈活动不仅限于金融部门,而是跨越各个行业。全球 46% 的组织在过去一年中经历过合成身份欺诈。

不过,52% 的受访者认为他们可以检测到深度伪造视频。这种情绪反映了消费者的过度自信,其实深度伪造已经达到了无法用肉眼检测到的复杂程度。除非接受过专门培训,否则AI生成的虚假身份可能很难被人识别出来。深度伪造质量的提高,检测的难度也在增加。用于检测深度伪造的技术,需要与物理和动态参数的反欺诈措施结合使用,例如面部活体检查、通过光学可变安全元件进行活体检查等。

如何有效检测深度的伪造?

AI深度伪造的检测是一大难题。不仅肉眼无法有效识别,一些常规的检测工具也不能及时发现。运的是,随着技术的进步,检测识别深度伪造骗局的方法也在不断发展。企业和个人可以采用以下策略来检测深度伪造欺诈。

undefined

通过视觉识别:深度伪造虽然很复杂,但经常表现出不一致的面部特征。例如,微小的面部表情、眼球运动、头发和面部特征的交互方式存在异常。同时,深度伪造的算法也会显示不自然的光线和阴影,会有与光源不一致的阴影或未正确对齐的反射。

通过听觉识别:深度伪造可以复制声音,但也可能包含不自然的语调、节奏或微妙的失真,仔细聆听后会显得格外突出。同时,语音分析软件可以帮助识别语音异常。

通过文件识别:在涉及文件的情况下,自动文档验证系统可以分析文档是否存在不一致之处,例如字体更改或布局差异。

AI自动识别:欺诈分子已经学会了欺骗传统的检测方法,机器学习已成为检测深度伪造不可或缺的工具。大数据模型可以快速分析大量视频和音频数据,以超出人类能力的速度识别异常。并且,机器学习模型可以识别深度伪造生产算法的特征模式,从而识别深度伪造的内容。而且机器学习模型可以重新训练和调整,保持实时的迭代进化。

多管齐下的安全策略

在深度伪造越来越多地被用于金融诈骗的时代,防范它们变得越来越重要。

增加生物与活体验证。采用活体验证方法,利用先进的生物识别技术,如面部识别,结合运动分析和红外扫描,在一定程度上发现深度伪造视频。

增加数字签名验证。数字签名和区块链账本具有唯一性,可以对行为来源跟踪,并对其进行标记以供审查。

undefined

增加设备与操作验证。基于曾有过身份验证或识别的设备,对设备信息、地理位置以及行为操作进行比对识别,能够发现并防范操作异常。

顶象设备指纹是指通过收集和分析设备的硬件、软件和行为数据,对每个设备进行唯一标识和识别的技术,识别出虚拟机、代理服务器、模拟器等被恶意操控的设备,分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为,帮助追踪和识别欺诈者的活动。通过对设备指纹的记录和比对,可以辨别合法用户和潜在的欺诈行为。 

增加账号验证频次。账号异地登录、更换设备、更换手机号、休眠账户突然活跃等等,需要加强频繁验证。此外,会话期间的持续身份验证至关重要,保持持久性检查以确保用户的身份在使用期间保持一致。

顶象无感验证可以快速准确地区分操作者是人还是机器,精准识别欺诈行为,实时监控并拦截异常行为。用户在进行登录、注册等操作时,无需繁琐地输入操作和验证码识别,即可快速完成身份验证。这不仅提高了用户体验的便捷性和流畅性,还大大降低了因人为操作失误导致的风险。由于顶象无感验证基于AIGC技术,能够防止暴力破解、自动化攻击和钓鱼攻击等威胁,有效防止未经授权的访问、账户被盗用和恶意操作。

增加反欺诈系统验证。基于人工审查与AI技术相结合的反欺诈系统,能助力企业提升反欺诈能力。例如,顶象Dinsight实时风控引擎日常风控策略的平均处理速度在100毫秒以内,聚合数据引擎,集成专家策略,支持对现有风控流程的并行监测、替换升级,也可为新业务构建专用风控平台;聚合反欺诈与风控数据,支持多方数据的配置化接入与沉淀,能够进行图形化配置,并快速应用于复杂策略与模型;能够基于成熟指标、策略、模型的经验储备,以及深度学习技术,实现风控自我性能监控与自迭代的机制;集成专家策略,基于系统+数据接入+指标库+策略体系+专家实施的实战;支持对现有风控流程的并行监测、替换升级,也可为新业务构建专用风控平台。

减少社交媒体的敏感信息分享。减少或者杜绝在社交媒体上分享账户服务、家庭家人、交通出行、工作岗位等敏感信息,防范欺诈分子盗用下载后,进行图片和声音的深度伪造,而后进行身份伪造。

加强公众安全培训与教育。持续对公众进行深度伪造技术及其相关风险的教育至关重要。通过模拟练习,模仿网络钓鱼和深度伪造攻击,鼓励公众保持警惕并快速报告异常情况,也可以显著提高组织检测和响应深度伪造威胁的能力。

技术在不断发展,新的欺诈也在不断涌现。尽可能随时了解AI和深度伪造技术的最新发展,以相应地调整保障措施。

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123