根据央视的报道，彭女士的医保账户在不知情的情况下被盗刷了超过4万元。警方的初步调查揭示，犯罪团伙利用先进的AI技术，通过伪造彭女士的人脸视频成功登入了她的医保账户，进行了一系列盗刷操作。

案件经过

据了解，犯罪嫌疑人首先通过互联网搜寻彭女士的照片，获取了她的个人资料。随后嫌疑人随后使用AI技术，将彭女士的照片转化为逼真的人脸视频。接下来，犯罪团伙利用这些AI生成的视频，成功绕过了医保系统的人脸验证功能。借助虚假的人脸视频，嫌疑人成功登陆了彭女士的医保账户，并且开始盗刷账户中的资金，用于购买药品和其他医疗服务。

1、收集个人照片。犯罪嫌疑人通过网络搜索等手段，获得了彭女士的公开照片。这些照片成为生成伪造视频的基础。

2、AI伪造人脸视频。利用AI换脸技术，嫌疑人将彭女士的照片转化为逼真的人脸视频。这个视频看起来非常自然，足以骗过身份验证。

3、非法登录医保账户。通过伪造的面部视频，犯罪嫌疑人成功突破了医保平台的人脸识别系统，顺利登录彭女士的医保账户。

4、盗刷账户资金。登录成功后，嫌疑人开始在药店等地方使用彭女士的医保卡进行大额消费，共计盗刷金额4万余元。

警方查明，这起案件并非孤立事件。犯罪团伙已在过去的一段时间内，通过类似手段盗刷了多名医生的医保账户，涉及案件多达近20起，累计盗刷金额超过50万元。

用户自我保护建议

该案件不仅暴露了AI技术滥用的潜在风险，也提醒了平台运营方和用户在日益复杂的网络环境中共同提高警惕，采取有效措施保护个人信息安全，抵御新型技术带来的网络安全威胁。为了应对不断演变的AI欺诈手段，防范措施应从技术防护和行为习惯两方面入手，以确保个人信息不被轻易泄露。以下是一些实用的自我保护建议，帮助用户有效应对AI驱动的网络欺诈。

1、加强身份验证。启用两步验证（2FA）或多重身份验证（MFA），例如短信验证码、动态密码、邮箱验证等，增加账户的安全性。即使生物识别系统（如指纹或面部识别）被攻破，额外的验证层依然能够有效防止非法登录。如支付账户、社交媒体平台等。用户在登录时，除了输入密码外，还需通过手机收到的一次性验证码进行确认，从而增加安全性。即使账户的生物识别信息被盗取，启用额外的身份验证方式依然能有效避免账户被非法登录。

2、减少敏感信息分享。尽量避免在社交媒体、网络平台等公开场合分享带有正面面部照片、视频等敏感信息。这些信息可能被AI技术用于伪造个人面部特征或生成虚假资料。例如，不要在开放社交平台上上传过多的带有人脸特征的照片，尤其是自拍照、全身照等可能被AI用于换脸技术的图片。同时，在启用面部识别或指纹验证时，选择那些具备高度安全性的技术供应商，避免使用未经验证或不可信的工具。减少不必要的个人信息曝光，能够有效降低被滥用的风险。

3、定期检查账户安全。定期查看平台提供的登录记录，检查是否有异常设备或位置登录。一旦发现任何异常行为，立即修改账户密码，并及时通知平台采取进一步措施。大多数银行、支付平台和社交媒体都提供登录记录查询功能，用户可以定期查看自己账户的登录历史，检查是否有不明设备或异地登录的情况。如发现异常，立即更改密码，并开启更多的安全设置（如设备绑定或安全问题验证）。

4、提高对AI技术的识别能力。了解AI生成虚假视频、音频的一些常见特征，提高识别AI伪造内容的能力，可以帮助在面对潜在骗局时做出正确的判断。

通过上述措施，用户可以有效减少遭遇AI欺诈的风险，并通过技术和行为的结合提高自身信息安全防护能力。只有保持警惕并加强安全意识，才能在数字时代有效保护个人隐私，避免成为诈骗的受害者。

平台应该加强安全预警

企业可以采取多重技术和手段。此外引导AI技术的正向应用，严厉打击犯罪行为，是根本解决之道。

1、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对，可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术，识别出虚拟机、代理服务器、模拟器等被恶意操控的设备，分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为，帮助追踪和识别欺诈者的活动。

2、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等，需要加强频繁验证；此外，会话期间的持续身份验证至关重要，保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器，精准识别欺诈行为，实时监控并拦截异常行为。

3、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验，快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为，及时发现伪造视频、虚假人脸图片、异常交互行为后，可自动阻断操作。同时能够灵活配置视频核验强度与友好度，实现对正常用户无感验证，对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控，提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内，支持多方数据的配置化接入与沉淀，能够基于成熟指标、策略、模型的经验储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台，能够对已知风险进行安全策略自动优化，基于风控日志和数据挖掘潜在风险，一键配置不同场景支持风控策略。其基于关联网络和深度学习技术，将复杂的数据处理、挖掘、机器学习过程标准化，提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。