文章
  • 文章
军事

华盛顿担心来自“deepfake”视频的新威胁

立法者和专家们正在发出关于“深度伪造”的警报,伪造的视频看起来非常真实,警告他们将成为虚假宣传活动的下一阶段。

操纵的视频使得难以区分事实和虚构,因为人工智能技术产生看起来越来越真实的虚假内容。

这个问题引起了国会山两党议员的注意。

“在这项技术发布之前发出警报已经太晚了 - 它已被释放......现在我们正在进行一些防御,”参议院情报委员会副主席 (D-Va。)告诉希尔。

广告

当被问及这是否是下一阶段的虚假宣传活动时,华纳回答说“绝对”。

专家表示,人工智能技术的进步和这些工具的激增允许任何在线用户创建深度伪造只是时间问题。

“它被政治和技术专家视为虚假信息战中的下一个武器,”跨大西洋选举诚信委员会高级顾问Fabrice Pothier告诉The Hill。

Pothier担心技术进步将使得更难以发现虚假或篡改的视频。

他说:“我认为用人眼来区分虚假的东西可能会非常困难。”

情报专家说,如果没有控制创造它们的技术,那么来自深度假设的威胁是巨大的,并警告潜在的危险情景。

“这项技术应该被视为犯罪,反恐甚至是反间谍行为,”切尔托夫集团负责人鲍勃安德森说。

例如,专家们提出假设,如恐怖组织伊斯兰国或基地组织制造美国士兵在战场上制造暴行的视频作为宣传; 视频错误地显示政治候选人在选举前发表有争议的言论; 或CEO宣布不正确的财务预测。

这种情况的后果可能是灾难性的。

参议员 参议院情报委员会成员(R-Fla。)警告说,威胁需要得到认真对待。

“美国的敌人已经在使用虚假的图像播下不满并分裂我们。 现在想象一下视频的强大功能,这些视频似乎显示了被盗选票,政治领导人的淫秽言论,或在国外冲突中丧生的无辜平民,“卢比奥在一份声明中告诉希尔。

新美国研究战争与技术的研究员彼得辛格表示,无论是为了“毒害国内政治”,还是由敌对的民族国家的演员在战场上获得优势,“深水战”肯定会“武器化”。

达特茅斯学院(Dartmouth College)计算机科学教授哈尼法里德(Hany Farid)表示,许多力量齐聚一堂,创造了一场“完美风暴”,以促进虚假内容的迅速传播。

“我们有能力制造错误的信息。 我们有能力轻松地分发它。 然后我们有一个热情的公众,他们会消耗周围的东西而不再考虑它,“法里德告诉希尔。

专家说,24小时新闻周期和社交媒体平台的扩展只会使问题更加复杂。

广告

Deepfakes已经在这里,包括一个涉及女演员斯嘉丽约翰逊的突出事件。 约翰逊成为深刻见识的受害者,这些深刻见证使她面对色情录像。

“没有什么能阻止某人将我的形象或任何其他人的身体剪切和粘贴到不同的身体上,并使其看起来像所希望的那样怪异,”她在12月 ” ,称这个问题是“失败的原因”。

其他不那么知名的女性讲述了类似的悲惨故事,声称视频是出于善意的目的而制作的,从报复到羞辱。

“一旦它变得更普遍,更便宜,任何人都可以做到,”Pothier补充说,预测可能会在短短一两年内出现这种情况。

专家们还指出了其他操纵数据的反应,以突出威胁。

去年,一张篡改过的照片据称是一名枪支控制的拥护者,他在Parkland高中的枪击事件中幸存下来,撕毁了宪法的副本。 实际的未被篡改的图像是激进分子从枪支范围撕下一个靶心。

辛格说,枪支权利活动家和俄罗斯巨魔帮助传播了虚假形象。

其他案件导致流血事件。 去年, 缅甸军队在Facebook上反穆斯林情绪的 ,引发了该国的一波杀戮浪潮。

专家和立法者表示,他们期望在用于创建深层基础的工具和对付它们的方法之间进行技术竞争。

华纳表示,该解决方案需要技术社区和政策制定者之间的合作。 随着技术的变化,试图立法解决问题很快就会变得无效。

华纳警告说:“如果我们在没有技术公司积极参与的情况下立即这样做,我们就不会做得对。”

Pothier表示,他的团队旨在打击选举干扰,他正在与总部位于伦敦的人工智能公司ASI Data Science合作开发一个程序,任何用户都可以运行这个程序来确定“视频或音频文件是否是一种深刻的伪造”。

专家和立法者还讨论了要求被操纵的视频有一个免责声明,注意他们被编辑。

Pothier表示,该通知可能类似于详细说明谁为该广告提供资金的广告系列广告的披露。

华纳向希尔表示,他可能会引入深刻的立法,其中包括验证身份的措施。

一些专家表示,科技公司还必须承担更多责任,从他们的平台上删除虚假内容。

辛格说,他开玩笑地称之为“'银翼杀手'规则”的一个想法是,公众应该“有权知道你是否在与机器人交互,或者与某些机器人进行交互”。那是假的还是假的。“

Farid指出,许多平台已经“无法管理”,并且没有足够的基础设施来快速拆除伪造的媒体。

由于互联网的发展,这也是前所未有的挑战。 例如,每分钟上传400小时的视频到YouTube,在Twitter上每分钟发送350,000条推文。

法里德还认为,企业不会被激励去除这类内容。

他说:“让我们不要假装像硅谷一样,并不像世界上其他所有行业一样。”

五角大楼,特别是其国防高级研究计划局(DARPA),也正在制定计划,以帮助快速确定内容是否是一种深刻见解。

还存在法律追索问题,这仍然是一个灰色地带。 一些人认为受害者应该有一种方法可以推迟,而另一些人则认为内容受到第一修正案的保护。

“你可以规范商业言论和欺诈性言论 - 可能存在人工智能技术用于保护模仿的领域。 但如果意图是欺骗,我认为没有什么可以保护这种滥用行为,“众议员 众议院情报委员会主席(D-Calif。)告诉希尔。

法里德表示,第一修正案的演讲必须与维护在线安全的新挑战相平衡。

“我们想怎么做才能让人们制作色情影片,而斯嘉丽·约翰逊的脸庞叠加在其他人身上? 这是我们想要在社会中合法允许的事情。 我们需要考虑这个问题,“他说。

随着更复杂的深度填充在线,这些法律问题肯定会增加。

其他国家已经在努力禁止深度伪造。

法里德指出,澳大利亚因为一名妇女受到假货裸体的侵害,而英国也正在制定立法。

然而,辛格对于彻底禁止的想法泼了冷水,并指出该技术有积极的方面,理由是其广告,营销和电影行业的创新使用。

他指出的就是利用人工智能创造了一个年轻的哈里森福特的真实形象,而不是在星球大战电影“独唱”中使用一个不那么令人信服的外表演员。

关于深刻见解和篡改内容的争论只会愈演愈烈。

华纳和其他立法者表示,美国必须更好地应对潜在的威胁,而不是2016年甚至是2018年的中期。

但对于政府和科技公司的所有关注,法里德表示,公众也必须分担责任。

“我们不得不停止如此轻信和愚蠢我们如何在线消费内容,”法里德说。

“坦率地说,我们都是假新闻现象的一部分。”