回想起来，Instagram 上的帖子应该引发更多的危险信号。据称，这张照片显示的是女演员米娅·高斯 (Mia Goth)，她在与演员兼电影制片人希亚·拉博夫 (Shia LaBeouf) 离婚几天后，穿着一件带有尖头字样的 T 恤摆出姿势： 我的前任是我最大的粉丝。为了真正说明这一点，碧昂斯的歌曲“单身女士（戴上戒指）”被添加到帖子中。
不再适合明星了 珍珠他们没有太多的社交媒体存在（如果有的话）。但发布该消息的 Instagram 帐户 @miagoth_ 拥有超过 100 万粉丝，并标有蓝色的“已验证”复选标记。尽管该页面被标记为粉丝帐户，但在短短几天内，该图片就收到了近 50 万个赞，其中包括来自娱乐行业的同行。
那个画面，就像 边缘 据报道是人工智能生成的，由帐户发布。 Goth 的代表表示，他们之前曾向 Instagram 抱怨发布 Goth 的“虚假人工智能图像”。 Meta 允许用户购买蓝色的“已验证”复选标记，即使该帐户不是由知名人士运营或不是官方页面。
“这个粉丝账户符合 Instagram 获得‘蓝色支票’的标准，这一事实在基本层面上令人担忧，”Goth 代表 Christine Tripicchio 表示。 边缘 在一封电子邮件中。 “此外，令人难以理解的是，Instagram 明显将传播虚假和篡改图像置于公众人物肖像的保护和完整性之上。”
由于她离婚的消息，该帖子在名人八卦网站上传播开来，而这些网站又通过谷歌搜索传播了该帖子。对这位女演员和这件衬衫的搜索引发了人工智能生成的概述，称戈特“在他们最近提出离婚后公然攻击她的前任希亚·拉博夫”，并引用了上述博客。谷歌搜索结果中标有“米娅·戈特 (Mia Goth) 穿着时髦的‘我的前男友是我最大的粉丝’ T 恤，在 Instagram 上引人注目”的部分被突出显示，并附有讨论该图像的社交媒体帖子的链接。 Instagram 最终因冒充公众人物而删除了该账户。
自从消费者人工智能工具几年前开始流行以来，一些更令人难忘且有争议的用例涉及名人。历史上，人类受试者对数字复制和用作玩具的反应不佳：一首人工智能生成的类似 Drake 的歌曲在版权罢工后被从 YouTube 上删除。 OpenAI 在未经她同意的情况下向 ChatGPT 发布了听起来像她的声音后，斯嘉丽约翰逊聘请了一个法律团队。据报道，爱莉安娜·格兰德（Ariana Grande）去年屏蔽了一个发布人工智能生成内容的帐户。泰勒·斯威夫特 (Taylor Swift) 公开支持卡玛拉·哈里斯 (Kamala Harris) 竞选 2024 年总统，并表示在唐纳德·特朗普 (Donald Trump) 发布了显示她支持他的虚假照片后，她很感动地澄清了自己的立场。
曾经有一段时间，每个人，包括富人和名人，都在与新技术的规范作斗争。现在，在线人工智能内容的来源正在增长——目前还不清楚是否有人在尝试或能够阻止它。
描绘女性公众人物的人工智能内容通常带有明显的色情内容。一份独家个人资料发布了人工智能生成的约翰逊图像（通常清晰地显示赤脚），其中包括联系信息，以便公司可以在该帐户上做广告，以及销售订阅的 Patreon 和 Telegram 频道的链接。平台外内容使用约翰逊的名字和肖像 (AI) 来推广成人内容。另一个帐户发布了人工智能生成的演员和音乐家的真实图像，例如米莉·鲍比·布朗、赞达亚和格兰德，这些图像总是半裸上身或处于挑逗性的姿势。有些帐户有自己的利基，例如“奇怪的事情 演员们互相结婚”。
之后 边缘 当询问 Meta 关于发布名人 Deepfake 内容的 8 个账户时，发言人 Alex Dziedzan 表示该公司已经删除了其中一些账户。。 其中两幅——一幅是哥特的，一幅是约翰逊的——似乎已被拆除。
Dziedzan 在一封电子邮件中表示：“我们不允许帐户使用某人的肖像来冒充该人，无论内容是真实的还是人工智能生成的。”
泰勒·斯威夫特 (Taylor Swift) 端着一杯饮料，一边跟着德雷克 (Drake) 的《燃烧的桥梁》(Burning Bridges) 说唱，一边说脏话等等。 “我喝醉了（Quaalude）/它让我的身体刺痛，”她唱道，穿着一件 2009 年 VMA 上的决定性时刻。显然，该视频是人工智能。它在 Instagram 上的浏览量为 180 万次。
“我认为她的公关团队不会喜欢她说脏话，”有人评论道。
Instagram 上充斥着这样的视频，而且往往遵循非常特定的格式，令人困惑。 AI Shrek 与 AI Swift 做同样事情的视频拥有 310 万次观看。 这是史蒂夫·乔布斯手里拿着一瓶香槟大摇大摆地跟着 Drake 的另一首歌（371,000 次观看）。还有 莱昂内尔·梅西的相同版本 （210 万次浏览）由另一个帐户发布。 这 一级方程式赛车手刘易斯·汉密尔顿 (Lewis Hamilton) 和马克斯·维斯塔潘 (Max Verstappen) 假唱布鲁诺·马尔斯 (Bruno Mars) 和 Rosé 的歌曲《APT》（290 万次观看）。另一个剪辑 程序 AI Swift 与 AI Travis Kelce 在 AI 麦迪逊广场花园举行婚礼。
“穿着白色燕尾服的他是谁？”一位粉丝帮忙核实了事实。
在缺乏关于形象权的国家法律的情况下，人工智能生成的真人内容正在平台层面受到诉讼。 （美国《删除法案》于 2025 年签署成为法律，专门将未经同意传播私密图像（包括人工智能生成的内容）定为犯罪行为，并强制平台在 48 小时内删除此类内容。）
YouTube 具有相似性检测功能，这可能是最强大的 Deepfake 监控和删除系统。根据该计划，YouTube 将扫描其平台以查找用户的视觉匹配（最近还扫描音频相似性），并允许他们请求删除该内容。并非所有删除请求都会被接受；公司 说话 它在评估删除时考虑了公共利益、新闻价值和同意。该计划最初向名人、内容创作者、政治家和记者等公众人物开放，但现在向任何拥有 YouTube 帐户的成年人开放。此前，该公司表示收到的删除请求数量相对较少。创作者产品副总裁阿姆贾德·哈尼夫 (Amjad Hanif) 在 3 月份的新闻发布会上表示，创作者想知道 YouTube 上发布了有关他们的内容，但最终结果往往是“对他们的整体业务相当良性或补充”。
YouTube 发言人杰克·马龙在一封电子邮件中指出 边缘 检测企业相似度是 合作开发 与娱乐业。马龙表示，2026 年上半年，YouTube 删除了举报程序要求删除的超过 95% 的视频。
静态图像不受 Meta 的 AI 标签要求的约束
Meta 平台上人工智能生成的内容通常有一个标签来识别它。有些内容，例如真实的人物视频或人工智能生成的语音音频，是可以的 要求 拥有AI标签。另一方面，静态图像不受标签要求的约束——这意味着根据 Meta 的规则，Mia Goth 的假图像不需要披露。在大量人工智能影响者类型涌入该平台后，该公司还推出了“人工智能生成的个人资料”标签，该标签适用于现实世界中不存在的所有帐户。
但有一个小行业的帐户创建人工智能生成的真人图像，算法似乎很喜欢。有些内容显然不是恶意的，只是有点奇怪：例如，Facebook 上有一个关于 AI制作的电影开机视频 原版演员（穿着戏服）与翻拍版的演员一起走红地毯。一份个人资料广告上刊登了每月 29 美元的在线课程，介绍如何通过人工智能内容赚钱。
人工智能生成的名人内容还有可能实际上愚弄人们，让他们认为内容是真实的，就像描绘哥特人的图像（和帐户）的情况一样。这条被疯传的帖子显示这位女演员嘲笑拉博夫， 被前伴侣指控虐待 并且已经 2015年拍摄 说如果他继续与她争论，他“会杀死（哥特）”。虚假图像引人注目、阴暗且及时——换句话说，它非常适合社交媒体病毒式传播，但对相关各方来说却是潜在的责任。该案例说明了旨在防止此类混乱的信任和安全条款的失败。
在社交媒体上，人工智能内容与真实图像的转发自由混合已成为常态。即使其中一个页面被删除，仍有其他人继续发布内容：另一个 Instagram 帐户仍然活跃，拥有超过 30 万粉丝，源源不断地发布约翰逊的图像和视频，似乎是偷拍图像和人工智能生成的内容的混合体。其中最受欢迎的帖子之一是约翰逊的人工智能图像，获得了近 50 万个赞。根据 Meta 法规，没有人工智能披露。约翰逊假装躺在沙发上，裸露的双腿清晰可见。明明不是她——但评论区的粉丝要么不知道，要么不知道 关心。