谷歌加大对搜索结果中人工智能换脸视频的打击力度

谷歌最新尝试遏制未经授权的AI生成的深度伪造视频，该技术和搜索巨头表示，他们正在采取新措施，删除并降低搜索结果中被举报包含非法图像的网站。

AI深度伪造是利用生成式人工智能创建的媒体，用于制作看起来真实的视频、图片或音频剪辑。许多这些虚假图像描绘了像女演员斯嘉丽·约翰逊、政治家如美国总统乔·拜登，以及更阴险的是儿童。

“多年来，人们一直能够根据我们的政策要求从搜索结果中删除非自愿的虚假裸露图像，”谷歌在一篇博客文章中表示。“我们现在已经开发了系统，使这一过程更加简单，帮助人们大规模解决这个问题。”

一位谷歌发言人进一步向Decrypt解释说，这样的举报将影响网站在搜索结果中的可见性。

“如果我们从一个网站收到大量的删除请求，在这项政策下，这将被用作我们排名系统的一个信号，表明该网站不是一个高质量的网站——我们将把这一点纳入我们的排名系统中，以降低该网站的排名，”发言人说。“总的来说，这并不是我们限制搜索结果可见性的唯一方式。”

谷歌的新更新中，当收到要求删除搜索结果中发现的非自愿深度伪造网站的请求时，谷歌还将努力过滤包含被冒名顶替者姓名的类似搜索结果。

“这意味着当您根据我们的政策从搜索结果中删除一个结果时，此外，我们将在包含您的姓名的任何查询上进行过滤，或者可能会从搜索中浮出该页面的查询上进行过滤，所有的裸露结果都将被过滤，”发言人说。“因此，并非所有的裸露结果都将被删除，但在这些搜索结果中，所有的裸露结果都将被过滤，这可以防止它们出现在可能会显示的搜索结果中。”

除了过滤搜索结果，谷歌表示将降低那些因“虚假裸露图像的大量删除”而受到影响的网站的排名。

“这些保护措施已经被证明在解决其他类型的非自愿图像方面是成功的，我们现在也为虚假裸露图像构建了相同的能力，”谷歌表示。“这些努力旨在给人们带来额外的安心，特别是如果他们担心将来会出现类似的内容。”

新政策的一个挑战，谷歌承认，是确保自愿或“真实内容”，比如电影中的裸露镜头，不会与非法的AI深度伪造一起被删除。

“虽然区分这些内容对搜索引擎来说是一个技术挑战，但我们正在不断改进，以更好地展示合法内容并降低虚假裸露内容的排名，”谷歌表示。在CSAM方面，谷歌发言人表示，公司非常重视这个问题，并专门组建了一个团队来打击这种非法内容。

“我们拥有哈希技术，我们在技术上有能力主动检测CSAM，”发言人说。“这在某种程度上是一种行业标准，我们能够阻止它出现在搜索结果中。”

今年4月，谷歌与Meta、OpenAI和其他生成式人工智能开发者一起承诺执行防范措施，以阻止他们各自的AI模型生成儿童性虐待材料（CSAM）。

随着谷歌努力删除并使深度伪造网站更难找到，像音频取证公司Media Medic的首席执行官本·克莱顿等深度伪造专家表示，随着技术的发展，威胁将继续存在。

“打击深度伪造是一个不断变化的目标，”克莱顿告诉Decrypt。“虽然谷歌的更新是积极的，但需要持续的警惕和改进其算法，以防止有害内容的传播。在这方面与言论自由的需求之间取得平衡是棘手的，但保护脆弱群体至关重要。”

克莱顿表示，虽然深度伪造影响了隐私和安全，但这项技术在法律案件中也可能产生影响。

“深度伪造可能被用来伪造证据或误导调查，这对我们的法律客户来说是一个严重问题，”他说。“深度伪造对干扰司法程序的潜力是一个重要问题，突显了在媒体中采用先进检测技术和道德标准的重要性。”

决策者也已经采取了措施来打击深度伪造。今年7月，华盛顿州民主党参议员玛丽亚·坎特韦尔提出了《内容来源保护和防止编辑和深度伪造媒体的侵犯》（COPIED）法案，该法案呼吁采用一种标准化的方法为AI生成的内容加水印。

“无论是泰勒·斯威夫特还是其他任何人，每个人都应该有权拥有和保护自己的声音和肖像权，”特拉华州民主党参议员克里斯·库恩斯在一份声明中表示。“生成式人工智能可以被用作促进创造力的工具，但这不能以未经授权的利用任何人的声音或肖像为代价。”

娱乐行业领袖和科技公司对谷歌更新其政策表示欢迎。

“整个娱乐行业景观，从影视工作室和主要唱片公司到工会和艺术家倡导团体，都支持《无伪造法案》，”SAG-AFTRA在一份声明中表示。“将所有这些团体聚集在一起共同迫切的目标是一个里程碑式的成就。”

“游戏结束，人工智能欺诈者，”SAG-AFTRA主席弗兰·德雷舍补充道。“将对未经授权的数字复制品的保护确立为联邦知识产权权利将在这个崭新的世界中保护我们所有人。”