依靠可信AI的鲁棒性有效识别深度伪造，帮助银行对抗身份欺诈

易观分析：

随着计算机视觉与人工智能的发展，自然语言处理、图像识别、人脸识别等技术在金融领域得到了广泛应用，其中远程客户身份识别被用于信用卡申请、移动支付、线上贷款等业务，带来了更便捷、更普惠的服务体验。但与此同时，深度学习催生的伪造技术也在不断进化升级，面临这样的风险压力，AI的鲁棒性表现就起到了非常关键的作用，是保障AI能够识别深度伪造和拥有稳定表现的重要能力。

提升AI鲁棒性是识别深度伪造的有效途径

深度伪造（Deepfake）是深度学习（deep learning）和伪造（fake）的合成词，最初是指基于深度学习的人像合成技术，随着技术进化，深度伪造已经发展到对视频、声音、文字和微表情等多模态视频伪造的欺骗技术。

由于深度合成的图像、视频、音频、文本等内容制作成本低、操作简单、逼真程度高，被大量用在网络黑产对银行的身份欺诈攻击；另一个方面，机器学习往往需要大量的高质量训练数据来提升模型的准确性，但是AI在数据量有限的情况下，其性能就会受到很大局限，对形式多样的深度伪造内容的甄别难度极大。

当系统在发生扰动的情况下，AI应该具备良好的鲁棒性（Robustness），也就是系统的健壮性，使其具有能够抵御外部干扰和攻击的能力，这也是AI能够在风险环境下生存的能力，一个可信的AI可以在受到扰动和不确定的情况下，保证识别率和准确率的稳定。引入人工智能鉴别技术，利用AI的鲁棒性来抵御深度伪造欺诈，可以有效提升银行对客户身份的识别能力和反欺诈能力。

对抗训练可以显著提升模型的鲁棒性

对抗训练作为抵御对抗攻击的有效方法，可以在模型训练中直接加入对抗样本进行学习，得到一个“增强模型”，从而防御对抗样本和伪造样本，提高AI对于新数据、新场景的泛化能力。目前国内人工智能领域在鲁棒性研究方面已经取得了一些成果，并可应用在金融领域客户身份识别、证照鉴别、反欺诈、模型评估等场景中。

根据扰动的类型来选择相应的技术路线

银行的技术使用者在应用AI进行语音、文本或图像的鉴别时，需要区分扰动的类型是善意还是恶意的，从而可以选择相应的技术路线来提升AI的可信度。

善意的扰动是由于客观环境原因造成原始数据质量不佳造成的，导致AI的模型决策产生了偏离和错误。在银行实际应用场景中，智能客服需要面对不同的客户、不同光照环境的照片、不同的语言表达习惯等，当这些待处理的数据发生了微小变化后，缺乏鲁棒性的AI识别能力和精确度就会明显下降。这种情况下，建议通过技术手段来改善图像本身的质量，将原始数据转化为模型可以理解的格式后再进行识别；另外，在模型训练中将知识驱动和数据驱动结合起来，通过抽取、表达后协同大量数据进行计算，形成更为精准的模型。

恶意的扰动则是故意通过深度合成伪造图像，或是在真实图像中添加特定噪声产生对抗样本，对银行进行的欺诈攻击。面对这种类型的扰动，建议技术使用者选择AI对抗攻防工具进行伪造样本的检测，识别图像是否被篡改，建立合适的风控策略进行实时预警或拦截；在选择伪造检测产品时，需要考量产品对不同类型对抗样本的攻击拒绝率和准确率，以及数据类型的兼容性、运算速度等性能方面的表现，结合不同业务场景的风控要求来进行综合评估。

声明须知：

易观分析在本文中引用的第三方数据和其他信息均来源于公开渠道，易观分析不对此承担任何责任。任何情况下，本文仅作为参考，不作为任何依据。本文著作权归发布者所有，未经易观分析授权，严禁转载、引用或以任何方式使用易观分析发布的任何内容。经授权后的任何媒体、网站或者个人使用时应原文引用并注明来源，且分析观点以易观分析官方发布的内容为准，不得进行任何形式的删减、增添、拼接、演绎、歪曲等。因不当使用而引发的争议，易观分析不承担因此产生的任何责任，并保留向相关责任主体进行责任追究的权利。