当误导性信息在网上传播时，它会迅速传播。

然而，许多快速揭穿病毒照片、视频和音频的最佳工具只有研究人员才能使用，比如布法罗大学深度伪造专家吕思伟。

“大家从社交媒体用户到记者到执法经常需要通过像我这样的人来弄清楚一段媒体是否显示出由人工智能”，Lyu 说，他经常满足此类请求。“当时间至关重要时，他们无法立即获得结论性的分析。”

这就是为什么 Lyu 和他在 UB 媒体取证实验室的团队开发了DeepFake-o-Meter，它将多种最先进的深度伪造检测算法结合到一个基于网络的开源平台中。用户所需要做的就是注册一个免费帐户并上传媒体文件。结果通常会在一分钟内返回。

自 11 月以来，已有超过 6,300 份提交到该平台。媒体机构用它来分析各种人工智能生成的内容，乔·拜登自动电话告诉新罕布什尔州居民不要投票给乌克兰总统弗拉基米尔·泽连斯基的视频向俄罗斯投降。

“我们的目标是弥合公众与公众之间的差距研究团体” 布法罗大学工程与应用科学学院计算机科学与工程系纽约州立大学帝国创新教授 Lu 博士说道。“将社交媒体用户和研究人员聚集在一起对于解决所提出的许多问题至关重要通过深度伪造。”

它是如何运作的

使用 DeepFake-o-Meter 非常简单。

拖放图像，视频或音频文件放入上传框。然后，根据列出的各种指标（包括准确性、运行时间和开发年份）选择检测算法。

然后，每种算法都会给出内容由人工智能生成的可能性的百分比。

“我们不会对上传的内容提出强烈的要求。我们只是通过多种方法对其进行全面分析，”Lyu 说，他也是布法罗大学信息完整性中心的联合主任，该中心致力于打击不可靠和误导性内容。在线信息。“然后用户可以使用这些信息来自行决定内容是否真实。”

透明度

今年早些时候，波因特使用四种免费的在线深度造假检测工具分析了假冒的拜登机器人电话。DeepFake-o-Meter 的准确率最高，该音频由 AI 生成的可能性为 69.7%。

Lyu 表示，他的工具的其他独特之处在于透明度和多样性。DeepFake-o-Meter 是开源的，这意味着公众可以访问算法的源代码，并且具有由 Lyu 和全球其他研究小组开发的算法，允许广泛的意见和专业知识。

“其他工具的分析可能是准确的，但他们没有透露他们使用什么算法得出这个结论，用户只能看到一个反应，这可能是有偏见的，”Lyu 说。“我们正在努力提供最大程度的透明度和多样性开源来自许多不同研究小组的代码。”

对研究人员也有好处

在上传媒体片段之前，该网站会询问用户是否愿意与研究人员分享。

Lyu 和他的团队主要在他们自己和其他研究团队编制的数据集上训练他们的算法，但他表示，将算法暴露给实际在网上传播的媒体至关重要。迄今为止，上传到 DeepFake-o-Meter 的近 90% 的内容都被用户怀疑是假的。

“新的、更复杂的深度造假不断出现。算法需要不断完善，以跟上时代的步伐，”Lyu 说。“任何研究模型要想对现实世界产生影响，都需要现实世界的数据。”

平台的未来

Lyu 希望增强该平台的能力，不仅仅是发现人工智能生成的内容，比如首先识别最有可能用于创建内容的人工智能工具。他的团队此前已经开发过此类工具。

吕说：“这将为缩小幕后黑手的范围提供线索。”“知道某个媒体是合成的或被操纵的并不总是足够的。我们需要知道它的幕后黑手以及他们的意图是什么。”

尽管检测算法前景广阔，但他警告说，人类仍然可以发挥重要作用。虽然算法可以检测到人眼或耳朵永远无法检测到的操纵迹象，但人类对现实如何运作具有语义知识，而算法通常不具备这种知识。

“我们不能仅仅依靠算法或人类，”Lyu 说。“我们两者都需要。”

这就是为什么他希望 DeepFake-O-Meter 最终能够培育出自己的在线社区，让用户能够相互交流并帮助彼此弄清楚人工智能生成的内容。

“我喜欢将其视为深度伪造赏金猎人的市场，”他说。“因为解决深度造假问题需要集体努力。”