Emma McGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X平台上走红，我们不禁要问：这对AI的未来意味著什么？

近日，AI生成的泰勒斯威夫特不雅图片在X前Twitter上迅速蔓延，展现了AI技术的阴暗面。这些据信是使用微软设计工具创建的图片引起了广泛关注，突显了AI生成假色情内容的日益挑战。

随著这些图片在平台上迅速流传，此事件不仅激起了粉丝和隐私倡导者的愤怒，也提出了关于AI在媒体创作中伦理使用的重大问题。

Avast威胁情报总监Michal Salt对此进行了深入的分析，拥有丰富的知识和专业经验。他专注于技术、安全和伦理之间的交叉点，提供了关于AI生成内容影响的全面视角。

在接下来的部分中，我们将深入探讨他的见解，包括图像处理的历史平行、AI能力带来的伦理困境，以及在我们日益依赖AI的世界中对数位信任和安全的更广泛影响。

假色情并不是新问题

Salt将当前AI生成逼真图片的能力与过去Photoshop的使用进行了比较。正如Photoshop曾改变了图片处理一样，AI技术如今使得创建逼真图像变得更为简单。然而，操纵图像的概念并不新鲜；AI只是成为了这场持续斗争中的最新工具。

“某种程度上，这只是另一种照片编辑软体，”他解释道，强调了操纵图像的问题已经存在了十多年。现在的关键差异在于AI技术带来的便利性和可及性。这一转变引发了重要的问题，关于社会如何适应并规范这些新工具，让创建逼真图片变得比以往更容易。

AI与不雅内容的伦理困境

最让人担忧的问题之一是，使用AI生成不雅图片的伦理含义，特别是针对特定个体而未经他们同意的情况。虽然生成普通裸露图片可能不会引发太多伦理问题，但真正的问题在于轻松地创作出具可辨识性的人物的不雅图片。

“对我来说，AI生成色情内容本身可能并没有什么不妥或伦理问题，”Salt说。“但问题在于，你可以相对容易地生成一个带有已知或特定面孔的图像。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能影响到任何人，凸显了制定伦理指导方针和立法的必要性：所谓的“报复色情”或非自愿分享裸体照片在48个州是违法的，而AI生成的深伪色情图片目前仅在10个州被禁止。这一明显的差异强调了法律需要跟上技术的步伐。

AI公司如何防止深伪色情的生成？

也许是因为生成AI的使用还是相对新颖的现象，围绕未经主体同意的明显内容生成，相关的防护措施仍然较少。然而，Salt指出，AI公司实施这些措施其实并不困难：例如，禁止生成特定人员的图片或使用客户提交的图片作为素材，就能对绝大多数人提供足够的防护。

“当然，有些人能够突破这些限制，强迫模型做它本不应该做的事情，”Salt表示。“在我看来，目前几乎不可能完全避免这种情况你只能让它变得更难。我想说的是，提供这些服务的公司应该更加努力地防止这种情况。”

也有人可能会创建自己的色情生成模型，没有任何限制。不过Salt指出，尽管可能性存在，但要做到这一点需要相当多的技术知识和计算能力。

“并不是每个人都能够自己创建生成裸体的AI，”Salt说。“所以这更类似于使用Photoshop，必须具备一定的技术水平才能做到。”

Salt将当前AI发展的状态与安全行业的演变进行了比较。他观察到，当前安全行业正“重新开始使用AI”。这一比较强调了将AI发展视为一个持续过程的重要性，在这个过程中，发现和修复漏洞是技术成熟的关键。

AI生成的泰勒斯威夫特图片在X上引发了关于负责任使用AI的重要性。随著AI技术的不断进步，平衡技术能力与伦理考量和安全措施将变得至关重要。从像Michal Salt这样的专家身上学习，反思过去的挑战，我们可以以更具知识和谨慎的方式驾驭这一复杂的局面。