应对深度伪造危害 瑞莱智慧发布内容检测平台

    本报记者 李春莲 见习记者 许伟

    7月9日，瑞莱智慧发布了基于第三代人工智能的DeepReal深度伪造内容检测平台，该平台具备工业级检测性能，能够快速、精准地对多种格式与质量的图像进行真伪鉴别，为遏制和防范深度伪造技术的大规模滥用提供有效技术支撑。

    近年来，人工智能技术极大地推动了经济社会发展，同时，数据隐私、技术滥用等伴生安全问题也给社会治理带来挑战，深度伪造领域就是其中的一大经典场景：红极一时的换脸软件“ZAO”，短视频领域出现的“蚂蚁呀嘿”现象，背后就是深度伪造技术。

    所谓深度伪造是指利用深度学习算法实现音频和视频的模拟和伪造，包括语音模拟、换脸、表情操纵等。

    为什么瑞莱智慧选择深耕深度伪造的防范治理领域？对此，公司首席执行官田天告诉《证券日报》记者，一方面是因为深度伪造危害不容忽视，防范治理迫在眉睫。深度伪造技术具有“门槛低、效率高、质量好”的特点，在海量图像和视频数据的驱动下，深度合成技术不断演进迭代，仿真精度不断得到提升，制作一段高逼真度的虚假音视频成本极低，却可以借助社交媒体等平台短时间风靡互联网。

    另一方面，深度伪造技术的危害并不局限于娱乐明星被恶搞等个人领域，还涉及很多公共领域。“例如公安机关、司法机关的图像鉴别工作，深度伪造技术将导致举证工作存在风险。更宏观的方面，深度伪造技术也可能成为国家之间发起虚假信息战争的最新武器，抹黑政治人物、伪造政治制度和破坏国家间关系，甚至在未来军事战场上损毁特定军事或情报行动。在这种背景下，国内外政府高度重视，都出台了相关的监管制度。”田天补充道。

    田天表示，以深度伪造为代表的安全问题，正是目前人工智能产业所面临的瓶颈。人工智能产业正经历从高速增长向高质量发展的转变，一方面产业期待进一步提升，金融、医疗等更复杂的高价值场景的应用需求不断增加，智能化场景从单一感知向多元认知发展；另一方面，各种安全问题的暴发，要求在追求性能效率的同时关注安全性的提升与保障。

    为此，中科院院士、清华大学人工智能研究院院长、瑞莱智慧首席科学家张钹教授提出了“第三代人工智能”的概念，也就是安全、可靠、可信的人工智能。安全性将成为下一阶段人工智能发展必须的基础。瑞莱智慧在此次大会上发布的DeepReal深度伪造内容检测平台，就是基于第三代人工智能所研发的能够高效、快速鉴别深度伪造内容的平台，将成为遏制深度伪造作恶的重要手段。

    本次推出的新平台如何识别深度伪造？瑞莱智慧副总裁唐家渝在接受记者采访时表示，主要体现在两个方面：一是使结果具有可解释性，这样才能真正让人信服AI的检测结果是可靠的；二是能够快速即时应对新型的深度伪造类型。

    唐家渝透露，在结果准确度方面，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率。而在实际应用中，DeepReal的检测准确率也已达到业界顶尖水平，远超Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩。在检测速度方面，DeepReal可实现每帧画面的检测时间仅用时30毫秒。

    国家工业信息安全发展研究中心人工智能所副所长刘永东在接受记者采访时表示，开展人工智能技术产品安全测评工作，目前聚焦图像、数据治理、语音、AI安全四大领域。要共建人工智能产业生态，需要联合业内的“政产学研投用”各方，共同推进人工智能技术创新、安全保障和产业应用。

（编辑 崔漫 才山丹）