Deepfakes 引发 2020 年担忧
众议院情报委员会听取了专家关于所谓“深假“视频和其他类型的人工智能生成的合成数据对美国选举系统和整个国家安全构成威胁。周四听证会的证人包括马里兰大学、布法罗大学的教授以及人工智能和数字政策方面的其他专家。”
该委员会在一份声明中表示，其目标是“审查人工智能虚假内容对国家安全构成的威胁，可以采取哪些措施来检测和打击它，以及公共部门、私营部门和整个社会发挥什么作用”应该在周四的听证会上应对潜在的严峻的“后真相”未来。”
听证会召开之际，互联网视频越来越多地显示知名人物似乎在说他们从未说过的话。
最近，一个众议院议长南希·佩洛西的篡改视频她似乎受到了损害，在社交媒体上流传开来。特朗普总统分享该视频，试图淡化佩洛西的演讲模式和任职资格后，该视频在 Facebook 上获得了超过 250 万次观看。共和党和民主党现在担心这些被操纵的视频将成为针对美国和其他西方民主国家的虚假信息战争的最新武器。
该委员会在一份声明中表示：“深度造假引发了有关国家安全和民主治理的深刻问题，个人和选民在评估他们在屏幕上看到的内容的真实性时不再能够相信自己的眼睛或耳朵。”
委员会主席众议员亚当·希夫 (Adam Schiff) 在开幕致辞中表示，经过篡改的视频的传播给 2020 年总统选举带来了“噩梦般”的场景，让立法者、新闻媒体成员和公众“难以辨别真伪”。伪造的。”
希夫敦促说，“现在是社交媒体公司制定政策保护用户免受错误信息侵害的时候了，而不是在病毒式深度造假污染了 2020 年选举之后才到 2021 年。到那时就为时已晚了。”
听证会要点：
专家：击败深度造假没有“灵丹妙药”
马里兰大学弗朗西斯·金·凯里法学院法学教授丹妮尔·西特伦 (Danielle Citron) 作证说，没有有限的方法可以阻止深度造假的传播，但她表示，要解决问题，需要结合“法律、市场和社会复原力”。
“但法律的作用并不大，”西特伦承认。她解释说，民事索赔的受害者可以因视频造成的诽谤或精神困扰而提起诉讼，但她补充说，“起诉的费用非常昂贵，而刑法为我们提供的手段太少了。”
专家提出“危险”的假设
“我们倾向于相信我们的眼睛和耳朵告诉我们的内容……视频是发自内心的……它越淫荡，我们就越愿意传播它。整个企业就是点击和分享，”Citron 作证说。她提出了几种假设情况，其中深度假货可能会以破坏性的方式使用，包括色情材料和首次公开募股。
“公开募股前一天晚上……显示公司首席执行官的深度伪造……可能会颠覆 IPO，市场的反应和下跌速度将远远快于我们揭穿它的速度，”她建议道。
专家表示立法者应该与社交媒体公司合作
外交政策研究所的克林特·瓦茨表示，政客们需要努力“迅速反驳任何在线分享的深度造假视频中的诽谤”。他指出，这可以通过与社交媒体公司“合作”来完成。瓦茨还建议政府继续努力对巨魔农场实施严格制裁，就像 2016 年俄罗斯干涉行动之后一样。
瓦茨说：“如果我们查看 GRU 的起诉书，我们确实会发现他们实际上是受到了制裁并被曝光。”他表示，黑客和参与巨魔农场的公司在被美国政府起诉后不想受雇于这些目标公司。实际上，制裁已经帮助减少了这些公司的就业机会。
专家警告深度造假的“瞬时”性质的危险
纽约州立大学帝国创新学院教授兼布法罗大学人工智能研究所所长戴维·杜尔曼 (David Doermann) 作证说：“在真相穿上鞋子之前，谎言可以传遍半个地球，这是事实。”
“就我个人而言，我不认为有任何理由，新闻是通过实时类型的延迟来实现的，没有理由事情必须是即时的，社交媒体应该灌输这类延迟的东西，”他建议道。杜尔曼继续说道，表示社交媒体公司可以使用一些工具将可验证的音频和视频链接在一起，并决定将其从各自的网站上删除，“就像我们处理恶意软件或网络问题一样”。
“我们正在保护我们的前门，”他说。
2020 年的活动可以对深度造假做什么？
专家证明，总统候选人及其各自的竞选活动需要与社交媒体公司携手合作，针对错误信息制定“统一标准”。
“迫使业界在极端主义、虚假信息方面合作……快速反应来处理这些东西。反应方面的任何形式的滞后都会导致阴谋的发展，你越快发现它越好，主流媒体和其他官员可以提供帮助，”瓦茨坚持道。
Citron 对此表示同意，称竞选活动需要做出“承诺”，不在竞选过程中传播或分享深度造假内容，并与社交媒体公司建立更好的关系，以便直接反驳网上的任何错误信息。
她说，消费者和选民需要学会“保持怀疑态度，但不要虚无主义”。
深度造假、虚假信息的长期“腐蚀”影响
专家们一致认为，深度造假的使用对社会产生严重影响，而不仅仅是政治——即新闻业。OpenAI 政策总监杰克·克拉克 (Jack Clark) 称其为新闻媒体的“秘密威胁”，因为操纵行为旨在让公众相信报道实际上不准确。
Citron 对此表示同意，他表示，难以揭穿的深度造假可能会导致记者因担心证据或报道是假的而对证据或报道采取搁置态度。她称“网络巨魔的腐蚀行为是一种影响一切的‘真相衰退’，包括新闻业和媒体。”
与此同时，瓦茨警告说，随着时间的推移，虚假信息和深度造假的使用可能会导致“长期冷漠”。
瓦茨说：“如果随着时间的推移，他们无法区分事实与虚构，他们就会相信一切，或者什么都不相信。”他指出了俄罗斯政府与人民之间的关系，称克里姆林宫利用“谎言的流水”来控制舆论。
艾米莉·蒂利特和奥利维亚·加齐斯报道