近日交通银行主办的“数智驱动、开放共赢：金融科技赋能金融高质量发展”论坛上，发布了《金融AIGC音视频反欺诈白皮书》 。该白皮书由交通银行、顶象技术、瑞莱智慧联合编写，旨在系统探讨AIGC技术应用带来的风险挑战，聚焦金融行业所面临的音视频欺诈挑战，为金融机构提升AIGC欺诈识别和防范能力提供参考。白皮书中详细介绍了检测AIGC音视频的专业技术，以及防范AIGC音视频欺诈的产品。

AIGC音频伪造检测技术

AIGC语音检测技术的核心目标是提高系统在面对伪造语音技术不断升级时的准确性和可靠性，检测依音频质量、声纹特征和频谱分析等。

音频质量：伪造音频通常会出现一些质量上的异常，如噪声、失真或其他影响音频清晰度的瑕疵。由于生成语音的过程往往引入这些不自然的因素，这些异常可以作为检测伪造语音的重要线索。

声纹特征：每个人的声带结构、发音习惯等生理特征使得每个人的声音都具有独特的声纹。AIGC生成的语音通常缺乏人类发音的个性化特征，在语速、音高等方面往往过于规律和机械化，这为声纹检测提供了依据。

频谱分析：频谱分析将语音信号从时间域转换到频域，分析其频率成分。在语音伪造检测中，AIGC生成的音频通常在高频或低频段展现出不自然的特征，例如频率分布的不规则性。这些异常可通过频谱图来揭示。

AIGC语音检测技术结合了多层次特征融合、对抗训练和时序建模等技术手段，从而能够在面对多种生成技术和复杂噪声干扰时保持高精度的检测性能。未来，结合多模态信息和更先进的深度学习技术，伪造语音的检测性能有望进一步提升。

AIGC图像伪造检测技术

AIGC图像伪造检测的主要任务是判断图像是否由人工智能生成或篡改，伪造图像的线索主要体现在视觉伪影、数字信号异常、模型指纹、人脸先验约束以及物理成像法则的违背上。

视觉伪影：AIGC图像生成过程中可能会产生不自然的视觉效果，这些伪影源于算法的局限性、训练数据的不足或计算资源的限制。例如，生成的图像可能会出现细节不清或失真现象。

数字信号异常：伪造图像在频域、噪声域和色彩统计特征上可能表现出异常。在频域中，AI生成的图像可能会有特定的模式，如由上采样操作引入的伪影。在噪声域中，生成图像的噪声模式通常与真实图像不同。通过对这些信号层面的异常特征进行分析，可以识别出伪造图像。

模型指纹：AI生成图像的过程会留下特定的“模型指纹”，即由生成模型的架构、训练数据和参数设置决定的独特标记。专门的检测模型可以识别这些指纹，从而判定图像是否为某个特定生成模型所生成。

人脸先验约束：在生成的人脸图像中，可能会出现眼睛位置不准、瞳孔形状不规则、鼻子形状不自然等问题，这些异常现象通常表明图像是AI生成的。

物理成像法则：真实图像通常符合光的传播、反射、折射等物理规律，而AIGC生成的图像可能存在不符合这些规律的现象。例如，阴影方向或长度的不自然、透视关系的错误等。

AIGC图像的伪造线索检测方法大致分为手工构造和表征学习两大类。手工构造方法通过对伪造图像生成机制的理解，设计特定的特征来识别伪造痕迹。表征学习则通过自动化、高效的方式，利用深度学习技术来处理复杂多变的图像伪造挑战。尽管表征学习在适应性和效率上具有优势，但手工构造方法因其透明性和可解释性，在特定场景中仍具有不可替代的作用。

AIGC视频伪造检测技术

AIGC视频检测技术的核心目标是准确判断视频内容是否由人工智能生成或经过篡改。与图像伪造检测相比，视频伪造检测不仅涉及静态图像中的伪造线索，还包括时序视觉伪影、视听不一致性、运动轨迹自然性等动态特征。

AIGC视频中的伪造线索主要包括静态图像伪造线索外，还涉及视频的时间维度和动态变化。时序视觉伪影是指在视频的连续帧中，图像之间的过渡不自然，常表现为画面跳跃或不连贯的变化。视听不一致性则是指视频中的视觉和听觉信息没有高度同步，尤其是在生成视频时，声音与画面无法协调一致。运动轨迹的自然性也是重要的伪造线索，AI生成的视频中，物体的运动可能显得僵硬、不流畅，或者不符合物理规律，如速度变化突兀、加速度异常等。

AIGC视频伪造检测的线索建模方法可以分为手工构造与表征学习两大类。手工构造建模依赖于传统的“特征工程”，重点关注视频特有的属性。例如，通过光流法、轨迹跟踪等技术分析视频中的物体运动轨迹，检测是否存在不自然的运动变化或速度突变。此外，还可以通过分析视频帧之间的时空连贯性，如颜色、亮度、纹理等特征在连续帧中的一致性，来识别可能的伪造区域。音频与视频内容的同步性也是一个关键点，检验视频是否被编辑过。

表征学习则依赖深度学习模型自动从大规模视频数据中学习有效的特征表示。与图像伪造检测中的表征学习相比，视频伪造检测需要特别关注时间维度和运动信息的连续性。通过结合3D卷积神经网络（CNNs）与递归神经网络（RNNs），同时捕捉视频的空间和时间特征，能够有效检测视频中的伪造线索。此外，多模态学习和跨模态一致性验证技术也被应用于确保视频中的视觉与听觉内容保持一致，进一步提升伪造检测的精度。

基于知识图谱的特征关联分析

基于知识图谱的AIGC特征关联性分析，作为一种图结构数据模型，利用深度学习、特征提取和指纹识别技术，将实体（如人物、事件、地点等）间的关系进行结构化描述，揭示不同数据对象之间潜在的复杂联系。这一方法不仅能有效识别AIGC生成内容中的潜在欺诈团伙，还能揭示多个欺诈个体之间的行为模式和联系。

通过构建基于AIGC特征的知识图谱，社群发现算法可以分析图谱中潜在的高密度节点群体，识别出属于同一欺诈团伙的个体。这些节点通常具有相似的特征或行为，如使用相同的AIGC生成工具或伪造特征等。关联推理则帮助标记可疑行为模式，发现同一社群内多个节点存在一致的行为特征，例如频繁使用相同的音频伪造或人脸“换脸”特征。

此外，团伙扩展与路径追踪通过追踪节点关系，能够揭示欺诈网络的传播路径。例如，通过识别与多个虚假账户关联的节点，可以进一步挖掘出潜在的团伙成员，进而揭示完整的诈骗网络。这种基于知识图谱的分析方法，为精确打击AIGC欺诈提供了强有力的技术支持。

《金融AIGC音视频反欺诈白皮书》共分为七章，主要介绍了AIGC带来的音视频欺诈风险、A IGC音视频欺诈典型攻击方法、AIGC音视频欺诈对金融业务的影响、 AIGC音视频反欺诈方案、AIGC音视频反欺诈技术实现、典型业务场景、展望与倡议。