泰勒斯威夫特的深伪色情影片不是新鲜事但这并不意味著我们不应该担心。

Emma McGowan 2024年1月30日

在泰勒斯威夫特的AI生成色情图片在X社交平台上疯传之后，我们不禁要问：这意味著什么样的未来AI？

最近一个令人不安的事件中，AI生成的泰勒斯威夫特明显不雅图片在X前身为推特上蔓延，揭示了AI能力的黑暗面。这些图片据说是利用微软设计工具创建的，受到了广泛关注，并突显了AI生成虚假色情内容的日益严重的挑战。

随著这些图片在平台上的迅速传播，此事件不仅引发了粉丝和隐私倡导者的愤怒，还引发了对于AI在媒体创作中伦理使用的重大问题。

Avast的威胁情报总监米哈尔萨拉特Michal Salt对于这一时事讨论提供了丰富的知识和专业经验。对于科技、安全与伦理的交集，他持有敏锐的眼光，为AI生成内容的影响提供了细致的见解。

在以下章节中，我们深入探讨他的见解，探索影像操控的历史类比、AI能力所带来的伦理困境，以及在我们日益受AI驱动的世界中对数位信任和安全的更广泛影响。

虚假色情并非新问题

萨拉特Salt将当前AI生成逼真影像的能力与过去使用Photoshop的情况进行了比较。正如Photoshop多年前彻底改变了影像操控一样，现在的AI也使得创建逼真影像变得更为简单。然而，操纵影像的概念并不新鲜，AI只是这个持续剧中的最新工具。

“在某种意义上，这不过是另一种照片编辑软体，”他解释道，强调操纵影像的问题已经存在十多年。现在的关键差异在于AI技术带来的便捷性和可及性。这一变化引发了重要问题，即社会如何适应和规范这些新工具，这使得创建逼真影像比以往任何时候都更容易。

AI和明确内容的伦理困境

其中一个最迫切的问题是，使用AI生成明确图片的伦理意涵，特别是对于未经同意的特定个体。尽管生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于，生成可辨认的个体的明确图片变得极为容易。

“AI生成的色情内容本身或许并没有什么根本错误或伦理问题，”萨拉特表示，“但对我来说，伦理问题在于，你可以相对轻易地生成一个知名或特定面孔的影像。”

这种能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，突显了对于伦理指导和立法的需求：虽然所谓的“报复色情”或非自愿分享裸体在48州是非法的，但目前AI生成的深度伪造色情内容仅在10州禁止。这一明显差异凸显了立法需要追赶科技的紧迫性。

AI公司如何防止深度伪造色情的生成？

或许因为生成性AI的使用相对较新，针对未经当事人同意生成明确内容的相关防范措施仍然十分有限。不过，萨拉特指出，对于AI公司来说，实施这些措施其实并不会太困难：不允许生成特定人物的图片，或不允许使用顾客提交的图片作为素材，这样的简单措施就足以为绝大多数人提供足够的屏障。

“当然，仍然会有一些人能突破这些限制，强迫模型做一些不应该被做的事，”萨拉特说。“我认为，问题在于，现阶段几乎无法完全避免这种情况你只能让它变得更难。我想我想表达的是，提供这些服务的公司应该更努力去避免这种情况的发生。”

还有一种可能性是，有人创建自己的无任何限制的色情生成模型。不过，萨拉特指出，即便这是可能的，但需要非常高的技术知识和大量的计算能力来实现。

“要能够自己创建AI来生成裸体图像的人，其实不多，”萨拉特说。“因此，这更类似于使用Photoshop，你必须有一定的技能才能做到。”

萨拉特将当前AI发展的状态与安全产业的演变进行了比较。他观察到，我们正见证安全行业“从头开始使用AI”的过程。这一比喻强调了将AI开发视为一个持续过程的重要性，在这个过程中，识别和修复漏洞是成熟技术的关键。

泰勒斯威夫特在X上被AI生成的图片凸显了负责任地使用AI的重要性。随著AI持续进步，平衡技术能力与伦理考量以及安全措施将是至关重要的。通过向像米哈尔萨拉特这样的专家学习并反思过去的挑战，我们可以更有信息且谨慎地导航这一复杂的领域。