行业焦点

微软发布最新打击虚假信息工具，可识别深度伪造视频

浏览量：10841

在接下来的几个月里，我们希望将这一领域的工作扩大到更多的科技公司、新闻出版商和社交媒体公司。

编者按：本文来自腾讯科技，审校 金鹿，36氪经授权发布。

9月2日，美国当地时间周二，微软发布了用于打击虚假信息的最新工具，包括可以识别深度伪造视频（Deepfakes）的技术。

微软客户安全与信任部企业副总裁汤姆·伯特（Tom Burt）和首席科学官埃里克·霍维茨（Eric Horvitz）撰写博客文章，详细介绍了其最新的技术进展，摘要如下：

今天，我们推出了两项打击虚假信息的新技术，以帮助公众了解这个问题，并快速推进这些技术。毫无疑问，虚假信息的存在很普遍。我们支持的雅各布·夏皮罗教授(Jacob Shapiro)本月更新了研究，其中记录了2013年至2019年期间针对30个国家、96场不同活动的影响。

这些在社交媒体上开展的活动，试图诋毁知名人士，说服公众，或使辩论两极分化。其中，约93%包括原创内容的再创造，86%夸大了先前存在的内容，74%歪曲了客观可核实的事实。最近的报告还显示，关于新冠疫情的虚假信息也已经散布，导致寻求所谓的治疗方法的人住院甚至死亡。

我们今天发布的是微软Defending Democracy Program的重要组成部分，该计划除了打击虚假信息外，还通过ElectionGuard帮助保护投票，并通过AccountGuard、Microsoft 365 for Campaign和选举安全顾问帮助确保竞选活动和其他参与民主进程的人士安全。正如布拉德·史密斯(Brad Smith)和卡罗尔·安·布朗(Carol Ann Browne)在他们的本世纪20年代十大科技政策问题中所讨论的那样，这也是保护和促进新闻业发展的一部分。

新技术

虚假信息有多种形式，没有任何一种技术可以帮助人们真实而准确地破译所有形式的虚假信息。在微软，我们一直在研究两种不同的技术来解决这个问题的不同方面。

一个主要问题是深度伪造视频，或称合成媒体，即人工智能(AI)以难以检测的方式操纵照片、视频或音频文件。它们可能会让人们说出他们没有说过的话，或者让人们说出他们没有去过的地方，而且它们是由可以继续学习的AI产生的，这使得它们可以骗过传统的检测技术。然而，在短期内，例如即将到来的美国大选，先进的检测技术可以成为帮助用户识别深度伪造视频的有用工具。

今天，我们推出了微软Video Authenticator。这项技术可以分析静止照片或视频，以提供媒体被人为操纵的可能性百分比或置信度分数。在识别视频的情况下，它可以在视频播放时在每一帧上实时提供这种评估。Video Authenticator的工作原理是检测人眼可能无法检测到的深度伪造迹象。

这项技术最初是由微软研究院与微软负责任AI团队以及微软AI、工程和研究伦理与效果委员会(AETHER)协调开发的，该委员会是微软的一个顾问委员会，帮助确保以负责任的方式开发和部署新技术。Video Authenticator是使用Face Forensic++的公共数据集创建的，并在深度伪造视频检测挑战数据集大赛上进行了测试，这些数据集都是训练和测试深度伪造视频检测技术的领先模型。

我们预计，生成合成媒体的方法将继续变得更加复杂。由于所有的AI检测方法都有失败率，我们必须理解并准备好应对通过检测的深度伪造视频。因此，从长远来看，我们必须寻求更强有力的方法来维护和证明新闻文章和其他媒体的真实性。如今，很少有工具可以帮助读者保证他们在网上看到的媒体来自可信的来源，而且没有被篡改过。

今天，我们还推出了另一项新技术，它既可以检测被篡改的内容，又可以向人们保证他们正在观看的媒体是真实的。这项技术有两个组成部分组成。

第一部分是内置到Microsoft Azure中的工具，它使内容制作者能够向内容中添加数字散列和证书。然后，无论内容在线传播到哪里，散列和证书都会以元数据的形式与内容同时存在。第二部分是阅读器，它可以作为浏览器的扩展存在，也可以以其他形式存在，用于检查证书并匹配散列，让人们准确地知道内容是真实的，没有被篡改，并提供制作者的详细信息。

这项技术是由微软研究院、Microsoft Azure以及Defending Democracy Program合作开发的。它将为BBC最近宣布的一项名为“Project Origin”的倡议提供动力。

建立合作

没有任何单个组织能够在打击虚假信息和有害深度伪造视频方面产生意义重大的影响。我们将尽我们所能提供帮助，但挑战的性质要求广泛采用多种技术，这需要世界各地消费者的配合，并且随着挑战的发展，我们必须不断了解更多有关挑战的信息。今天，我们强调了始终在发展的伙伴关系，以帮助这些努力。

首先，我们正在与AI基金会(AI Foundation)合作，这是一家总部位于旧金山的商业和非营利企业，其使命是将AI的力量和保护带给世界上的每个人。通过这一合作关系，AI基金会的Reality Defender 2020(RD2020)计划将使Video Authenticator可供参与民主进程的组织使用，包括新闻媒体和政治活动。Video Authenticator最初只能通过RD2020提供，RD2020将指导其他组织克服任何深度伪造视频检测技术固有的限制和伦理考虑。

其次，我们已经与包括BBC、CBC和《纽约时报》在内的媒体公司财团就Project Origin进行了合作，这将测试我们的真实性技术，并帮助推动其成为可广泛采用的标准。包括一系列出版商和社交媒体公司在内的Trusted News Initiative也同意参与这项技术测试。在接下来的几个月里，我们希望将这一领域的工作扩大到更多的科技公司、新闻出版商和社交媒体公司。