顶象学院首页>文章详情

当有人盗用你的脸做直播带货?怎么办

2024-04-23|小象 2218

今年早些时候,年仅 20 岁的乌克兰网红奥尔加·洛耶克(Olga Loiek)在网上遭遇了一群 AI 生成的克隆人。“我真的被吓坏了,我看到我的脸在用中文推销商品,”她向媒体表示。这些在社交媒体平台上销售产品的主播,其脸和声音均是通过 AI 换脸技术生成的,他们将自己描述为在中国的外国人,销售着外国的土特产。而使用奥尔加肖像和声音的账号多达近百个,涵盖了国内的主流社交媒体平台,其粉丝数量从几千到几十万不等,其中一个虚假账户甚至吸引了 30 万粉丝。

undefined

奥尔加称,自己的肖像可能被用于虚假宣传活动,成为造假者牟利赚钱的手段。

被盗的人脸,成为别人赚钱的主播

直播电商通常由主持人向其追随者展示一系列产品,而后他们可通过集成的购买按钮进行购买。尽管听起来略显俗气,但这些节目吸引了大量观众:去年通过直播商务销售的商品超过 1 万亿元人民币,现在中国有超过 100 万人担任直播主持人。

undefined

AI 克隆、换脸生成的虚拟网红在中国电子商务和直播中的整合,代表了品牌参与策略的重大演变。这些 AI 数字人完全可按照客户的需求制作,能够每天 24 小时不眠不休地进行直播,实现“日不落”的不间断工作,可帮助品牌在“非黄金时段”达到与真人主播相似的效果。而且,这些虚拟主播使品牌能够精确地控制其信息传递,确保一致的品牌代表和运营效率。相较于传统的网红合作伙伴关系,其潜在成本更低,不可预测性更低,耗费的成本也非常低。倘若没有奇葩问题的互动,数字人或许能一直不‘露馅’。

虚拟主播的制作极为简单,仅需一张照片便能实现克隆,最快仅需 60 秒。

然而,这种创新的销售方式带来了诸多复杂的影响。更甚者,由此引发了技术的滥用,在未征得当事人同意的情况下,就进行肖像克隆并用于商业使用或诈骗。奥尔加·洛耶克的遭遇便是一个显著的例子。攻击者只需下载受害人在社交媒体上分享的照片、视频、音频、活动等,仅需 30 秒到 1 分钟的样本,就能制作出高度逼真的声音、形象,进而再造一个主播,进行视频直播。

undefined

顶象防御云业务安全情报中心发布的《“AI 换脸”威胁研究与安全策略》情报专刊 指出,AI 欺诈泛滥的另一个主要因素是AI工具的可用性,这些工具使创建虚假视频图片变得更加容易。尤其随着网络犯罪即服务(Cybercrime as-a-Service)的出现,普通人也能够轻松购买到 AI 欺诈的服务或技术。攻击者利用社交媒体、电子邮件、远程会议、网络招聘、新闻资讯等一系列媒介,对企业和个人进行各类AI欺诈攻击。

用户怎么发现并防范被盗用?

 AI 带来的安全威胁也日益引发人们的关注,并迅速成为一种新的威胁手段,给企业和个人用户带来了前所未有的风险。

《“AI换脸”威胁研究与安全策略》 情报专刊认为,要防范打击AI欺诈,一方面需要有效识别 检测出AI伪造的内容,另一方面防范AI欺诈的利用和扩散。这不仅需要技术对策,更需要复杂的心理战和公众安全意识的提升。因此,企业需要加强数字身份识别、审查账号的访问权限,对数据收集最小化收集等。同时,加强员工关于如何发现AI威胁。

1、构建基于 AI 驱动的安全工具体系。基于人工审查与 AI 技术相结合的反欺诈系统,提高自动化和效率,检测和响应基于 AI 的网络攻击。

2、加强身份验证与保护。包括启用多重身份验证、对静态和传输中的数据进行加密以及实施防火墙等。对账号异地登录、更换设备、更换手机号、休眠账户突然活跃等加强频繁验证,持久性检查以确保用户的身份在使用期间保持一致。对设备信息、地理位置以及行为操作进行比对识别,能够发现并防范异常操作。

3、加强账号授权控制。基于最小权限原则限制对敏感系统和账户的访问,确保访问其角色所需的资源,从而减少账户被盗用的潜在影响,防止未经授权访问您的系统和数据。

4、持续了解最新技术与威胁。尽可能随时了解 AI 技术的最新发展,以相应地调整保障措施。对 AI 模型的持续研究、开发和更新对于在日益复杂的安全形势中保持领先地位至关重要。

5、减少社交媒体的敏感信息分享。减少或者杜绝在社交媒体上分享账户服务、家庭家人、交通出行、工作岗位等敏感信息,防范欺诈分子盗用下载后,进行图片和声音的伪造,而后进行身份伪造。

传统的安全工具和措施已无法有效防御基于AI带来的欺诈威胁,要及时识别欺诈风险,需要事前、事中、事后进行全面的风险防控。顶象最新升级的反欺诈技术与安全产品,能够为企业搭建一个多渠道全场景多阶段的安全体系,系统对抗AI带来新威胁 ,其中包含保障App安全的App加固,防范AI的恶意注册与登录的无感验证,识别AI伪造的设备的设备指纹,挖掘潜在欺诈威胁、防范AI复杂攻击的Dinsight实时风控,拦截“AI换脸”攻击的全链路全景式人脸安全威胁感知方案等。

通过多渠道全场景多阶段的安全体系,基于威胁感知、安全防护、数据沉淀、模型建设、策略共享等安全服务,能够满足不同业务场景,拥有各行业策略且能够基于自身业务特点实现沉淀和更迭演进,实现平台的精准防控,从而快速有效地应对 AI 攻击,进行个性化防护。

微信扫码
获取方案价格

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123