顶象学院首页>文章详情

下周二!锁定直播,了解防御“AI换脸”的最新技术

2024-03-27|小象 1013

2023年11月,诈骗分子伪装成某科技公司郭先生的好友,骗取430万元;2024年1月,香 港一19家跨国公司员工遭遇钓鱼诈骗损失2亿港元 ;2023年12月,一名留学生父母收到孩子“被绑架”的勒索视频 ,被索要500万元赎金 ......

随着AI的广泛应用,其带来的安全威胁也日益引起人们的关注,并迅速成为一种新的威胁手段,给企业和个人用户带来前所未有的风险。相关统计显示,2023年,基于“AI换脸”的欺诈事件增长3000%,基于AI的网络钓鱼邮件数量增长1000%。

undefined

顶象防御云业务安全情报中心发布的《“AI换脸”威胁研究与安全策略》 情报专刊,详细介绍了攻击者利用AI制作的各类威胁手段。根据情报介绍,基于AI技术,攻 击者能够伪造文本、图片、视频、声音,可以制作仿真的人脸照片、人脸视频、身份证件、金融账户、统计数据,更可以生成新型的木马病毒,发起自动化的网络攻击。将AI伪造虚假内容与真实信息的元素拼凑在一起,就可以造谣传谣、冒充熟人进行电信网络诈骗、冒名申请银行贷款、冒充他人面试入职、仿冒登录盗走银行余额、进行网络钓鱼欺诈等等。

AI威胁带来的危险不仅在于生成仿真的信息,还在于其所促成的整个诈骗生态系统:一个由机器人、虚假账户和匿名服务组成的错综复杂的网络运作,所有这些都旨在制作、放大和分发捏造的信息和内容,具有识别难、检测难和追溯难的问题。在这个欺诈体系中,攻击者看不见且难以捉摸,他们不仅制作信息,还操纵每个参与者感知的现实结构。

undefined

传统的安全工具和措施已无法有效防御基于AI带来的欺诈威胁,这是整个行业面临的新挑战。所以,要防范打击AI欺诈,一方面需要有效识别检测出AI伪造的内容,另一方面防范AI欺诈的利用和扩散。这不仅需要技术对策,更需要复杂的心理战和公众安全意识的提升。

2024年4月2日,最新一期“业务安全大讲堂”将围绕当前备受关注的AI威胁与安全防御,分享针对AI威胁的最新反欺诈技术与安全产品。本期直播将在视频号\钉钉\B站\CSDN等平台同步直播,欢迎提前锁定。

日期:2024年4月2日(星期二)

时间:下午15:00

主题:AIGC的风险与防控

嘉宾:顶象数据科学家翼龙、顶象资深解决方案专家鳯羽

undefined

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123