白宫呼吁立法制止制作与散播 Taylor Swift 的 AI 虚假图片行为

美国广播公司（ABC）称，本周，数百万人在社交媒体上看到了AI生成的泰勒·斯威夫特不雅照，这一事件凸显出AI技术需得到监管的必要性。
白宫新闻秘书 Karine Jean-Pierre 在回答有关本周社交媒体上传播的 Taylor Swift （昵称「霉霉」）假照片的问题时发表声明表示，需要通过立法来保护人们免受人工智能生成的虚假性图片的侵害。
Karine 称这一事件「令人震惊」，并说这是拜登政府优先考虑的人工智能问题之一，她表示「执法不严会对妇女和女孩造成不成比例的影响，可悲的是，她们是网络骚扰和虐待的绝大多数目标。白宫此前曾发起一个特别工作组来解决网络骚扰问题。但这显然是一种修修补补的方法。显然，应该立法来解决这个问题。」
AI 生成的 Taylor Swift 虚假图片在 X 平台上传播，其中一张图片的浏览量达到了 4500 万次，随后被撤下。帖子在 X 上停留了约 17 个小时，经过层层转发现在仍可在 X 上看到。

图片由Deepfake合成

尽管最早传播这些图片的账号已被封禁，但照片的流传仍未彻底阻断。
霉霉本人也已经得知此事，对此表示相当愤怒，粉丝们也自发组织了保护行动。
在X上，有网友直接@马斯克，喊话说这事老马你得出来管管了。

事情要从霉霉和美国NFL橄榄球运动员Travis Kelce的恋情说起。
Kelce效力于堪萨斯城酋长队，两人的恋爱关系被曝光后，霉霉也成为了该球队比赛的常客。
于是便有人借题发挥，用AI生成了以球场为背景，涉及霉霉和多名虚构“队员”的露骨照片。
图片由Deepfake合成
而关于这些图片的传播过程，则存在多种传闻，The Verge的说法是最早出现在某加密聊天群组当中。英国《每日邮报》则称，这些Deepfake照片一开始被传至一家不良网站，这个网站上充斥着大量以知名人士为主角的不雅照片。除了霉霉，这家网站还收录了成百上千的名人，包括饰演芭比的Magrot Robbie也未能幸免。
照片传上网后不久，在X、Facebook等各大社交媒体中就出现了疯狂的传播，据悉浏览量高达上千万。“Taylor Swift AI”一度成为了X上的热门话题，不过目前疑似已被屏蔽。得知此事后，霉霉的粉丝们在X上发起了保护行动，“PROTECT TAYLOR SWIFT”变成了新的热搜。但也有人混入其中，假借“PROTECT”的标签继续传播那些虚假照片……

愤怒的粉丝们挖出了一名疑似造成照片大量传播的始作俑者，并表示其有多年的性骚扰的前科。该账号目前已经设置了访问权限，但据有权限的用户透露，该用户在自己的账号上嚣张地挑衅说“你们找不到我”。截止目前，一些参与传播照片账号已被各大平台陆续封禁，但仍有不少漏网之鱼。

此次事件中，各大平台的删帖行动可能还算及时，在X上，大部分相关内容都已不见踪影。
Facebook方面，母公司Meta也有一名发言人告诉《每日邮报》：这些内容违反了我们的政策，我们正在将其从我们的平台上删除，并对发布该内容的帐户采取行动。
但也有网友说，这不是删除的问题，这些照片一开始就不应该出现在这些平台上。
对此Meta也做出了回应，表示“会继续监测并及时删除违规内容”。
而在技术层面，Nature杂志也在其“2024最值得关注的七项技术”一文中提及了Deepfake检测。Nature的文章中指出，让开发者在AI工具中加入隐形水印机制或许是一种方案。但这种做法可能更多是在事后进行追踪，同时起到一定的震慑作用，但想从根源上阻止Deepfake，可能还需要全人类的共同努力……