首页

科技

美政府问责局发布报告分析应对深度造假面临的挑战

编者按

2月20日,美政府问责局(GAO)发布题为 《深度造假》的科技评估与分析报告(下称《报告》),简述了深度造假的定义及其严重影响,总结了制作与检测深度造假的相关技术,并分析了应对深度造假面临的各方面挑战。

一、深度造假的定义及其影响

深度造假是指看似真实,实则被人工智能操纵的音频、视频或图片。深度造假相关技术可替代人脸、控制面部表情,甚至合成人脸及语音等。深度造假可用于支持娱乐、电子商务等领域发展,但也能用于生成虚假信息,导致政府公信力缺失、选举混乱,甚至社会动荡等严重后果。

二、深度造假的相关技术

深度造假的制作主要依赖于人工神经网络,尤其是自动编码器和生成对抗网络(GAN)。其中,自动编码器属于一种经训练的人工神经网络,能够重构输入信息;生成对抗网络由两个竞争性人工神经网络组成,一个人工神经网络试图造假,另一个试图检测,不断迭代以生成更合理的虚假信息。

目前,相关研究机构和互联网公司正积极开发深度造假检测技术。例如,美国防高级研究计划局(DARPA)的“媒体取证”项目寻求开发自动分析图片和视频完整性的算法,并提供虚假内容如何生成的信息;其“语义取证”项目旨在开发自动检测、归因并表征虚假媒体信息的创新性语义技术,为疑似深度造假确定人工审查优先级。

由于计算机技术的普及,只要拥有基本计算机技能的人就可通过互联网获得深度造假制作教程,并自行制作深度造假。如不加以管控,深度造假可能会加速泛滥。

三、应对深度造假面临的挑战

《报告》认为,各界应对深度造假面临多方面挑战:

①开发深度造假检测工具需要大量数据。深度造假检测工具必须使用大量不同的数据集进行训练,并且需要不断更新,才可能有效检测深度造假,但是目前研究人员可使用的数据集还远远不够。

②深度造假检测还未实现自动化。目前,深度造假检测工具还不能自动、完整地进行分析,难以高效检测深度造假。

③深度造假技术可能适应检测。用于检测深度造假的技术往往会促进深度造假技术发展。这意味着深度造假检测工具必须定期更新以应对更复杂的深度造假。

④单纯检测难以消除深度造假的影响。由于很多受众不会甄别接收的信息是否真实,即使完美的检测工具也难以消除深度造假的影响。

⑤社交媒体对深度造假的判定标准不一致。各大社交媒体公司对深度造假的监管标准各不相同,影响深度造假的统一应对。

⑥法律问题。为应对深度造假拟议的法律法规可能使人们质疑言论自由和隐私权保护。另外,打击深度造假的相关立法可能面临有效执法方面的挑战。

来源:美国政府问责局网站/图片来自 互联网

军事科学院军事科学信息研究中心 佘晓琼

编辑:刘伟雪

如需转载请注明出处:“国防科技要闻”(ID:CDSTIC)

注:原文来源网络,文中观点不代表本公众号立场,相关建议仅供参考。

人工智能

陆军

海军

空军

航天

网络空间

电子信息

核武器

基础科学

技术

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。

网站地图

用户反馈 合作

Copyright © 2020 Sohu All Rights Reserved

搜狐公司 版权所有