Emma McGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X前身为Twitter上引发热议，我们不禁要问：这对AI的未来意味著什么？

在最近一系列令人不安的事件中，AI生成的泰勒斯威夫特 露骨图像在X平台上迅速传播，展示了AI能力的阴暗面。这些图片被认为是使用微软设计工具创建的，并已引起广泛关注，突显出AI生成的假色情内容所带来的日益挑战。

随著这些图片迅速在平台上散播，这一事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了有关在媒体创作中伦理使用AI的关键问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt在这个及时的讨论中提供了宝贵的见解和专业知识。他对技术、安全和伦理的交集保持敏锐的关注，并就AI生成内容的影响提供了细致的观点。

在接下来的部分中，我们将深入探讨他的见解，探索图像操控的历史平行、AI能力所带来的伦理困境，及其对日益AI驱动的世界中数字信任和安全的广泛影响。

假色情并非新问题

萨拉特将当前AI生成逼真图片的能力与过去使用Photoshop的情况进行比较。就像Photoshop多年前革命性地改变了图像处理一样，AI现在也大大简化了创建真实图像的过程。然而，操控图像的概念并不新鲜；AI只是在这一持续剧情中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释道，强调操控图像的概念已经困扰了十多年。现在的主要区别在于AI技术带来的便利性和可及性。这一变化引发了重要问题，关于社会如何适应和监管这些新工具，这些工具使得创建逼真图像比以往任何时候都更为容易。

AI与露骨内容的伦理困境

当前最迫切的问题之一是使用AI生成露骨图像的伦理问题，尤其是针对特定个体而产生这些图像且未经他们同意。虽然生成一般的裸体图片可能不会引发太多伦理问题，但真正的挑战在于轻易地创建可识别人物的露骨图像。

“AI生成的色情内容本身并没有什么根本的错误或伦理问题，”萨拉特表示。“但至少对我来说，问题在于，你可以相对轻易地生成带有知名或特定脸孔的图片。”

这一能力不仅延伸到泰勒斯威夫特等名人，还可能涉及到任何人，强调了制定伦理准则和立法的必要性：虽然所谓的“报复色情”或未经同意分享裸体照在48个州是非法的，但AI生成的深伪色情内容目前在10个州才被禁止。这一显著差异凸显出立法需要跟上技术的步伐。

AI公司如何防止深伪色情的创建？

或许是因为生成AI的使用相对较新，目前尚未对未经主体同意生成露骨内容的行为设立足够的界限。不过萨拉特认为，对AI公司来说，实施这些界限并不会太困难：例如，不允许生成特定人员的图片或使用客户提交的图片作为素材，将为绝大多数人提供足够的障碍。

“当然，仍会有一些人能够打破这些限制，迫使模型做一些本不该做的事，”萨拉特表示。“在我看来，目前几乎不可能完全避免这种情况只能让其更难。我要强调的是，提供这些服务的公司应该更努力地努力避免这种情况。”

还有可能有人会创建自己的色情生成模型，而这些模型不受任何限制。萨拉特指出，虽然这是可能的，但这需要大量的技术知识和大量的计算能力来实现。

“并不是每个人都能创建一个能生成裸体的AI，”萨拉特说。“所以这更像是使用Photoshop，需要具备一定程度的技能才能做到。”

萨拉特将当前的AI发展状态与安全行业的演变进行了比较。他观察到，我们正在见证安全行业“随AI重启。”这一比较强调了将AI发展视为一个持续过程的重要性，识别和修复漏洞是成熟技术的关键。

在X上出现的AI生成泰勒斯威夫特的图片凸显了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考量及安全措施之间取得平衡至关重要。通过向米哈尔萨拉特等专家学习，并反思过去的挑战，我们可以用更有见识和谨慎的方式导航这一复杂的领域。