如果你在过去24到48小时内查看了社交媒体平台X（前身为推特），你可能看到了许多涉及泰勒·斯威夫特的AI合成图像和视频。这些不当图像展示了她与其男友、NFL球员特拉维斯·凯尔斯的粉丝之间的非自愿场景，引发了斯威夫特粉丝的愤怒，相关话题#ProtectTaylorSwift和“Taylor Swift AI”迅速成为热门搜索，全球媒体纷纷报道此事件。与此同时，X平台在删除这些内容和防止其被重新发布方面面临困难，仿佛一场“打击黑球”的游戏。
这一事件重新点燃了美国立法者关于对瞬息万变的生成性人工智能市场进行监管的讨论。然而，如何在不抑制创新或剥夺保护恶搞、粉丝艺术等公共人物表达形式的第一修正案权利的情况下有效执行监管，仍然是一个重要议题。
生成合成图像所用的工具
关于生成斯威夫特合成图像所使用的具体AI工具仍然不明。知名平台如Midjourney和OpenAI的DALL-E 3严格禁止制作露骨或暗示性内容。根据《新闻周刊》的报道，用户@Zvbear在X上声称对一些合成图像的发布负责，但其账户后来设为私密。
独立科技媒体404 Media的调查显示，这些图像源自一个据称使用“微软AI工具”，特别是由DALL-E 3驱动的微软设计工具的Telegram小组，尽管这些工具有相似的内容限制。
尽管各大平台施行严格政策，Stability AI的开源AI模型Stable Diffusion仍允许用户创建多种内容，包括性暗示材料。这种灵活性引发了担忧，因为像Civitai这样的平台被指责为助长了非自愿AI图像的制作。虽然Civitai已宣布将采取措施遏制这一滥用行为，但与斯威夫特的合成图像并没有直接关联。
Clipdrop上实施的Stable Diffusion也禁止显性内容。然而，用户持续找到绕过这些保护措施的方法，导致斯威夫特合成图像的激增。即便在AI在共识创作项目（如HBO的《真实侦探：夜国》）中日益被接受的背景下，该技术的滥用仍可能损害其公众形象，并引发更严格的监管。
潜在的法律行动
《每日邮报》报道称，泰勒·斯威夫特对这些露骨图像的传播感到“愤怒”，并考虑采取法律行动。目前尚不清楚这将针对承载这些图像的平台Celeb Jihad、创建这些内容的AI工具，还是负责制作这些图像的个人。
该事件让人们对生成性AI工具产生了更多担忧，尤其是其可能生成对真实个体造成伤害的图像，进一步推动了美国立法者对更严格监管的呼声。
新泽西州的共和党国会议员汤姆·基恩（Tom Kean, Jr.）最近提出了两项法案：AI标识法和防止亲密图像合成法。这两项提案旨在加强对AI领域的监管。
AI标识法将要求AI生成的内容附带明确的通知，告知其为人工创建，尽管这种标识在防止露骨内容传播方面的有效性尚存疑问。Meta与OpenAI已经实施了类似标识措施，以告知用户有关AI生成图像的信息。
第二项法案由民主党人乔·莫雷尔（Joe Morelle）联合发起，旨在修订《反对针对女性暴力法》。该法案将赋予非自愿合成图像受害者对创作者和平台提起法律诉讼的权利，可能判处15万美元的赔偿并将罪犯监禁最长达10年。
虽然这些法案可能不会直接帮助斯威夫特，但它们能为未来AI生成合成图像的受害者提供更好的保护。
要使这两项法案成为法律，必须通过相关委员会，获得众议院的表决，并通过参议院的对应法案。目前，两项法案仍处于初步阶段。
基恩国会议员对事件的声明
针对合成图像事件，基恩国会议员表示：“人工智能技术的发展速度超过了必要的监管框架。无论受害者是泰勒·斯威夫特还是我们国家的任何年轻人，我们都需要建立保护措施，以应对这一令人担忧的趋势。我的法案，AI标识法，将是向前迈出的重要一步。”
这一事件及类似情况突显了解决日益增长的关于AI生成内容及其对隐私和人身安全影响的立法需求。
排行榜
