李鬼变李逵!“深度造假”视频危害日益加剧

  • 时间:
  • 浏览:2

调查疑问加载中,请稍候。

若长时间无响应,请刷新本页面

  脸书首席执行官马克·扎克伯格的原始视频和“深度1造假”视频对比。图片来源:CNBC官网

  今日视点

  相机应用变得没法错综复杂。用户可否拉长腿部,去除脸上的粉刺,加在动物耳朵等等。现在,人们甚至可否制作出看起来非常逼真的虚假视频。用来创造类似数字内容的技术原困“飞入寻常百姓家”,被称为“深度1造假”。

  美国消费者新闻与商业频道网站(CNBC)在近日的报道中指出,随着技术的不断进步,“李鬼变李逵”!“深度1造假”的危害日益加剧,正带来一系列具有挑战性的政策、技术和法律疑问。

  深度1学习+造假=深度1造假

  “深度1造假”是指经过解决的视频,原困通过尖端的人工智能技术生成的许多数字内容,它们会产生看似真实的虚假图像和声音。

  “深度1造假”这名 词结合了“深度1学习”和“造假”,是四种 人工智能形式。深度1学习是人工智能的另另一两个 子集,指的是也能学习和自行做决定的许多算法。

  美国纽约大学法学兼职教授保罗·巴雷特说,简单来讲,“深度1造假”也不借助深度1学习手段制作的虚假视频。深度1学习系统可否从多个深度1研究目标人物的照片和视频,而且模仿其行为和说话模式,从而制造出者具有说服力的虚假内容。

  巴雷特解释说:“一旦制造出者了初步的假象,就可否通过名为‘生成式对抗网络’(GAN)的土法律办法让它看起来更加可信。GAN可发现伪造过程中的瑕疵,从而改进哪几个瑕疵。经越来不多轮检查和改进后,‘深度1造假’视频就完成了。”

  在公共政策机构布鲁金斯针灸学会下设的技术革新中心从事治理研究的非常驻高级研究员、加利福尼亚大学洛杉矶分校电子工程系教授约翰·维拉塞纳认为,从技术的深度1来说,任何人而且拥有电脑而且也能上网,就可否制造“深度1造假”的内容。

  “李鬼变李逵”

  智库新美国(New America)关注网络安全与防御的战略家、高级研究员彼得·辛格指出,“深度1造假”的危险在于,这名 技术可否给你相信原来无须真实地处的东西是真实的。

  辛格就有唯一另另一两个 提醒“深度1造假”所带来的危险的人。

  维拉塞纳也表示,类似视频“变得没法错综复杂、没法容易制作,‘深度1造假’正带来一系列具有挑战性的政策、技术和法律疑问”。这项技术“可否让政治候选人看上去像是说了或做了哪几个从未真正说过说说或做过的事,以此来破坏我门我门我门 的声誉”。

  麻省理工学院的一项技术报告指出,可否进行“深度1造假”的设备原困成为“伪造虚假新闻者的理想武器,我门我门我门 希望影响从股票价格到选举的一切”。

  CNBC网站在其报道中称,“深度1造假”将成为“2020年美国总统选举中的大事件”。就像2016年的“虚假新闻”一样,“深度1造假”视频将在2020年的美国大选中,掀起更强大的血雨腥风。当然,为了未雨绸缪,包括加州和德州在内的不少州都原困制定法律,当哪几个“深度1造假”视频用于2020年的选举中时,将被认为不合法。

  《麻省理工学院技术评论》杂志旧金山分支机构负责人马丁·贾尔斯在一份报告中写道,事实上,“人工智能工具已被用于把自己的面部照片安在色情明星身上,让自己说说说从政客们的口中说出。”也许,这名 疑问无须由GAN制造,但GAN会让疑问变得更糟糕。

  成也萧何败也萧何

  正所谓成也萧何败也萧何!维拉塞纳今年2月份曾撰文指出,其实人工智也可否用来生成“深度1造假”视频,但也可否用来检测它们。原困任何计算机用户都可否使用该技术,越来不多的研究人员将注意力集中在“深度1造假”视频的检测上,而且正在殚精竭虑地寻求管控哪几个“深度1造假”视频的土法律办法。

  脸书和微软等大公司原困采取行动,旨在发现并删除“深度1造假”视频。据路透社报道,这两家公司于今年早些刚刚否认,我门我门我门 将与美国顶级大学合作,建立另另一两个 庞大的假视频数据库,以进行深入的分析研究。

  辛格指出,普通用户也可否用自己的双眼来观测并检查出“深度1造假”视频。也许:“目前,原困你近距离观察,会出先许多轻微的突兀之处,比如耳朵或眼睛不匹配、脸部轮廓模糊、皮肤太光滑等等。”

  而且他也强调,随着“深度1造假”技术日益精进,视频会看起来没法真实,我门我门我门 要分辨也变得没法困难。

  维拉塞纳也提醒我门我门我门 ,在技术不断发展演进的一并,用来发现造假的检测技术“往往落后于最先进的生成造假的手法”。而且,更值得深思的另另一两个 疑问是:我门我门我门 更有原困相信“深度1造假”视频,还是将类似视频作为“深度1造假”的检测算法?(刘 霞)

[ 责编:武玥彤 ]

阅读剩余全文(