顶象学院首页>文章详情

全球20家科技公司承诺,联合打击“深度欺诈”内容

2024-02-18|小象 2441

国外媒体报道,在2月17日德国慕尼黑的一次安全会议上,包括亚马逊、谷歌、IBM、LinkedIn、McAfee、Meta、Microsoft、OpenAI、Snap、TikTok和X等20 家世界领先的科技公司宣布,将联合打击“深度伪造”信息。

会上,他们集体签署一项技术协议,以抵制欺骗性的人工智能生成的内容,减少欺骗性人工智能内容的生成及其带来的风险,并同意在各自的平台或产品提出解决方案。该协议还承诺,将与全球组织和学术界合作,让公众和媒体意识到人工智能生成的欺骗内容的危险。

undefined

毕马威最近的一份报告,在线提供的“深度伪造”视频同比增长了900%。埃隆·马斯克(Elon Musk)、两位BBC主持人、YouTube红人野兽先生(Mr Beast)以及流行歌星泰勒·斯威夫特(Taylor Swift)都因在诈骗视频中伪造身份而成为受害者。

“深度伪造”带来的挑战

“深度伪造”是一种使用人工智能技术生成虚假视频的技术,可以将任何人的脸部或身体图像合成到另一个人的视频中,从而产生逼真的假视频,使诈骗更加真实和令人信服。“深度伪造”还能轻易模仿人们熟悉的声音、语调、口音和说话风格,使受害者难以分辨真伪。

就在两周前,香港一家跨国公司员工遭遇“深度伪造”诈骗,损失2亿港元。该员工收到一封伪装成公司总部CFO的电子邮件后,被邀请参加视频会 议。会议中,除了该员工外,其他人均为“深度伪造”技术制作的虚假影像。诈骗分子利用这种方式,指示员工转账2亿港元至五个银行账户。事后员工才发现上当受骗,但资金已被迅速转走。

另外的一起案件发生在数月前,中国驻美国使馆发言人证实,一名疑似遭绑架的中国留学生实际上遭遇了“虚拟绑架”诈骗 。AI技术让电信诈骗分子能轻易模仿目标人的视频、声音等,使骗局更加难以识别。诈骗分子利用AI篡改来电显示、模拟声音,甚至制作虚假视频,让骗局更难识破。电信诈骗分子利用社交媒体搜集个人信息,编造故事,引发受害者恐慌并诱导支付资金。

识别“深度伪造”的欺骗信息是一大难题。不仅肉眼无法有效识别,一些常规的检测工具也不能及时发现。不过随着技术的进步,检测识别“深度伪造”骗局的方法也在不断发展。 

通过视觉识别。“深度伪造”虽然很复杂,但经常表现出不一致的面部特征。例如,微小的面部表情、眼球运动、头发和面部特征的交互方式存在异常。同时,“深度伪造”的算法也会显示不自然的光线和阴影,会有与光源不一致的阴影或未正确对齐的反射。

通过听觉识别。“深度伪造”可以复制声音,但也可能包含不自然的语调、节奏或微妙的失真,仔细聆听后会显得格外突出。同时,语音分析软件可以帮助识别语音异常。

通过文件识别。在涉及文件的情况下,自动文档验证系统可以分析文档是否存在不一致之处,例如字体更改或布局差异。

AI自动识别。欺诈分子已经学会了欺骗传统的检测方法,机器学习已成为检测“深度伪造”不可或缺的工具。大数据模型可以快速分析大量视频和音频数据,以超出人类能力的速度识别异常。并且,机器学习模型可以识别“深度伪造”生产算法的特征模式,从而识别“深度伪造”的内容。而且机器学习模型可以重新训练和调整,保持实时的迭代进化。

顶象防御云业务安全情报中心此前预测,2024年业务欺诈风险将有五大趋势:AI带来的新攻击成倍增加、账号和身份更难以甄别、爬虫盗取数据依旧疯狂、账号盗窃冒用将更加普遍和难以防范、内部数据泄露。

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123