在与@deeptomcruise 的交易下,演员汤姆克鲁斯的新 deepfake 视频已经在 TikTok 上进行了处理,天啊,它们看起来是真的吗。它们非常明智,事实上,如果您没有收到帐户交易的提醒,您甚至不会知道它们是计算机生成的,这是可以实现的。而且它们的制作仅利用了 Cruise 的模式镜头和 Deepfake 专业知识,这对任何人来说都变得越来越容易使用。即使在两年前,区分真实和 AI 生成的视频也很容易。任何人。但是专业知识的发展如此之快,以至于我们已经达到了一定程度的逃逸速度,而且很明显,deepfakery 不会仅用于无害的功能,例如为您以前的关系制作动画。汤姆克鲁斯的这个视频?这是一个计算机生成的假装。眼见为实——SocialProof Security 的首席执行官雷切尔·托巴克 (Rachel Tobac) 在一系列推文中警告说,像@deeptomcruise 这样的深度造假可能会进一步侵蚀公众对媒体素养贫乏的世界的信心,人们已经无法就真假达成一致.就像黑色和金色的服装一样,一个人可能会发现汤姆克鲁斯视频合成的赠品,另一个人不会知道假装的指标并上下发誓它们是真实的。就因为你真的感觉到你她说,个人可能会说人工媒体和真实媒体之间的区别,但这并不意味着我们很高兴。它发布的是普通公众所相信的。 Deepfakes 特别有害,因为视频被广泛认为是不可否认的证据。一个杰出的特定人物可能会被深度伪造实施仇恨犯罪,或者合法地从事不公正行为的个人可能会使用深度伪造来制作不在场证明。检测它们,产生的置信度分数主要基于{该}一块内容材料被操纵的指标,例如肉眼不可见的微妙褪色或灰度部分的外观。事实上,一个名为 CounterSocial 的网站已经准备好检测汤姆克鲁斯的视频,一旦它们通过其个人合成智能算法运行。但 TikTok 是托管视频的地方,该应用程序不会内置任何类型的 Deepfake 检测器。追溯检测的缺点是,当错误数据被标记时,想要扭转伤害可能为时已晚。 Microsoft 正尝试使用数字签名设备来处理此问题。这个概念是,内容材料创建者会在视频的元数据被编码时发出信号,如果元数据最终被更改,客户设置浏览器的设备会提醒他们。尽管如此,这仍然是一个实验性的想法。标签的时间——Tobac 表示,像 TikTok 这样的应用程序希望拥有内置的 Deepfake 检测和标签工具。在那之前,克鲁斯和其他人会想在这些社交网络上确认自己,只是为了摆脱假货。即使在像 TikTok 这样的应用程序中添加了这样的检测层之后,deepfake 的专业知识也会继续增强,这似乎意味着一个无情的从现在开始的猫捉老鼠运动。微软承认,即使是它的检测专业知识也希望始终保持最新状态。这只是专业知识的本质。
这篇文章最初是在 网站