露骨的性行为 AI 生成的图像 的 泰勒斯威夫特 本周在 X（以前的 Twitter）上流传，强调阻止人工智能生成的深度伪造品被广泛创建和分享是多么困难。
据美国有线电视新闻网 (>) 报道，周三，世界上最著名的流行歌星的假照片几乎一整天都在流传，在被删除之前已经获得了数千万次观看。
与大多数其他社交媒体平台一样，X 制定了禁止共享“可能欺骗或迷惑人们并导致伤害的合成、操纵或脱离上下文的媒体”的政策。
X 在一份声明中没有明确点名 Swift，但表示：“我们的团队正在 主动删除所有已识别的图像 并对负责发布这些内容的帐户采取适当的行动。”
404 Media 的一篇报道称，这些图像 可能起源于 Telegram 上的一个群组，用户可以在其中分享 AI 生成的明确的女性图像，这些图像通常是使用 Microsoft Designer 制作的。 据报道，该群组的用户开玩笑说斯威夫特的照片是如何在 X 上疯传的。
“Taylor Swift AI”这个词当时也在平台上流行起来，进一步宣传了这些图像，将它们推到了更多人的眼前。 斯威夫特的粉丝们尽最大努力掩埋这些图像，他们在平台上充斥着有关斯威夫特的正面信息，并使用相关的关键词。 “保护泰勒·斯威夫特”这句话当时也很流行。
尽管全世界的 Swifties 对 X 反应迟缓表示愤怒和沮丧，但这引发了关于未经同意的、计算机生成的真人图像泛滥的广泛讨论。
“它是 一直都是暗流 华盛顿大学计算机科学教授奥伦·埃齐奥尼 (Oren Etzioni) 告诉《纽约时报》，他致力于深度造假检测。 “现在它是一种特别有毒的新菌株。”
获取最新的国家新闻。
每天发送到您的电子邮件。
“我们将看到一个 这些人工智能生成的露骨图像引发了海啸s。 创造这个的人认为这是成功的，”Etzioni 说。
代表 Deepfakes 和其他形式未经同意的露骨色情内容受害者的律师 Carrie Goldberg 告诉 NBC 新闻，关于社交媒体平台上的 Deepfakes 的规则还不够， 企业需要做得更好 首先阻止它们被发布。
“大多数人没有数以百万计的粉丝，如果他们受到了伤害，他们会为他们辩护，”戈德伯格在谈到斯威夫特粉丝的支持时告诉媒体。 “即使那些确实有深度造假政策的平台，他们也不擅长执行这些政策，或者特别是如果内容传播得非常快，就会成为典型的打地鼠场景。”
文件——泰勒·斯威夫特于 2023 年 5 月 5 日在田纳西州纳什维尔举行的“The Eras Tour”中表演。
乔治·沃克四世/美联社
“正如技术制造了问题一样， 也是显而易见的解决方案，”她继续说道。
“这些平台上的人工智能可以识别这些图像并将其删除。 如果单个图像正在激增，则该图像也可以被加水印并被识别。 所以没有任何借口。”
但在检测虚假和破坏性图像和错误信息时，X 可能会面临额外的复杂性。 什么时候 埃隆·马斯克购买了这项服务 2022 年，他实施了一系列三管齐下的决定，这些决定被广泛批评为允许有问题的内容蓬勃发展——他不仅放松了网站的内容规则，还摧毁了 Twitter 的审核团队，并恢复了之前被禁止的帐户因违反规则。
数字调查机构 Memetica 的负责人本·德克尔 (Ben Decker) 告诉 >，虽然 斯威夫特成为目标是不幸和错误的，这可能是将有关人工智能深度伪造的对话带到最前沿所需的推动力。
“我认为他们需要让她感觉更好，因为她确实比互联网上几乎任何其他人都有更大的影响力。”
这种特殊形式的阴险错误信息不仅针对超级名人，而且还针对他们。 许多普通人都成为深度伪造的对象，有时甚至成为“报复性色情”的目标，因为有人未经他们的同意就创建了他们的露骨图像。
去年 12 月，加拿大网络安全监管机构警告称，选民应留意人工智能生成的图像和视频，这些图像和视频可能会影响选举结果。 使用“很可能” 试图在即将举行的选举中破坏加拿大人对民主的信心。
通信安全机构 (CSE) 在新报告中表示，政治深度造假“几乎肯定会变得更难以检测，使加拿大人更难信任有关政客或选举的在线信息。”
该机构写道：“尽管生成式人工智能具有潜在的创造性优势，但它用虚假信息污染信息生态系统的能力威胁着全世界的民主进程。”
CSE 负责人卡罗琳·泽维尔 (Caroline Xavier) 表示：“需要明确的是，我们评估网络威胁活动更有可能在加拿大下一次联邦选举期间发生。”
— 来自全球新闻的 Nathaniel Dove 的文件
© 2024 Global News，Corus Entertainment Inc. 旗下部门。
1706378703
#泰勒斯威夫特 #Taylor #Swift #的 #级人工智能图像在 #上传播引发严厉打击的呼声
2024-01-26 19:17:30