11月12日上午，江西宜春市公安局经开分局金园派出所接到辖区内一家银行的求助电话。银行工作人员报警称，有一名老人执意办理银行卡贷款，但因手续不全无法办理。老人不仅不愿离开，还态度坚决，表示“不给贷款就不走”。

民警接警后迅速赶到现场，与老人展开沟通。经过耐心询问，民警得知老人办理贷款的原因——她想贷款200万元资助自己的“男朋友”靳东拍戏。老人声称，这位“靳东”是她通过短视频平台认识的，对方曾向她表白，并发布了他们的合照，还坦言目前因拍戏需要资金支持。

听闻此事，民警立即感到疑惑，随即查看了老人的手机内容，发现她提到的“靳东”身份系伪造，其所谓的合照和短视频均为AI技术合成。即便如此，老人依然对骗子的身份深信不疑，认为对方就是她心目中的偶像靳东。

面对老人执拗的态度，民警一边耐心劝导，一边通知老人的家属到场协助。最终，通过展示新闻报道中类似的诈骗案例，以及现场演示AI合成技术的原理，老人终于意识到自己被骗，决定放弃贷款申请。

骗子的诈骗流程

知名明星靳东在公众心中通常具有正面形象，尤其是一些电视剧中的“暖男”角色，容易让人产生信任感。能快速赢得目标受害人的注意与信赖。由于很多老人对靳东这一明星形象高度认可，并将电视剧中的角色特质代入现实生活，当骗子伪装为“靳东”时，这种信任感被自然转移。

1、骗子通过AI合成了“靳东”的短视频内容，模仿其外貌、声音及表情，让视频看上去栩栩如生。

2、骗子通过短视频平台的推荐算法，将伪造内容推送给特定用户，迅速吸引受害人的关注。

3、利用短视频平台，骗子冒充的“靳东”可以与老人互动，还用“表白”“共拍短视频”等方式制造情感联结，以“明星关注普通人”的方式拉近距离，进一步增强受害人对虚假身份的信任。

4、骗子频繁利用AI合成内容进行持续性互动，逐步形成了老人对“靳东”的高度信任，即便面对质疑也难以改变观念。当受害人情感卷入足够深时，骗子抛出“拍戏需要资金支持”的说辞，并施加心理压力，要求受害人提供贷款支持。

由于老年人群对AI技术与网络诈骗的了解有限，无法识别视频和照片的真实性，直接导致了受骗的可能性增加。此外，老年人的情感空缺，用虚假的情感联系填补孤独感，使得老人更容易投入情感，忽视理性判断。

平台应该加强防范

诈骗分子正利用技术与心理相结合的方式，对受害者进行精准操控。面对AI伪造类诈骗，社会各界必须共同努力，通过技术手段、教育宣传和情感支持筑牢防护墙，避免更多人上当受骗。尤其短视频平台需要采取多重技术和手段，从源头上发现诈骗的分子操作的账号，有效识别伪造的明星视频。

1、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对，可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术，识别出虚拟机、代理服务器、模拟器等被恶意操控的设备，分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为，帮助追踪和识别欺诈者的活动。

2、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等，需要加强频繁验证；此外，会话期间的持续身份验证至关重要，保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器，精准识别欺诈行为，实时监控并拦截异常行为。

3、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验，快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为，及时发现伪造视频、虚假人脸图片、异常交互行为后，可自动阻断操作。同时能够灵活配置视频核验强度与友好度，实现对正常用户无感验证，对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控，提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内，支持多方数据的配置化接入与沉淀，能够基于成熟指标、策略、模型的经验储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台，能够对已知风险进行安全策略自动优化，基于风控日志和数据挖掘潜在风险，一键配置不同场景支持风控策略。其基于关联网络和深度学习技术，将复杂的数据处理、挖掘、机器学习过程标准化，提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。