Aioga
AI资讯 / 行业动态
返回 AI资讯

Meta 在 Facebook 和 Instagram 等平台投放了含 AI 生成儿童性虐待图像的广告

Hacker News 热门(buzzing.cc 中文翻译)Aioga 编辑团队2026-08-05T21:11:36.016Z热度 79

Meta 的广告库数据显示,超过 50 条违规图片和视频广告发布在 Facebook、Instagram、Messenger 或 Threads 上,其中一些本周仍在投放。这些...

行业动态Hacker News 热门(buzzing.cc 中文翻译)

今日 AI 情报摘要

Meta 的广告库数据显示,超过 50 条违规图片和视频广告发布在 Facebook、Instagram、Messenger 或 Threads 上,其中一些本周仍在投放。

这些广告包含由人工智能生成的儿童性虐待图像。

中文正文 · AI 翻译

编者注:本文包含描绘儿童性虐待图像的描述。强烈建议读者自行斟酌。

根据与WIRED分享的广告细节,过去九个月里,马克·扎克伯格的Meta:https://www.wired.com/tag/meta/投放了数十则付费广告,其中包括露骨的AI生成的儿童性虐待内容(CSAM)和未成年人图片,以及带有性暗示的言论。这些广告有些覆盖了数千个账户,目标对象是美国、英国以及十多个欧洲国家的人群。

最近,技术透明项目(TTP)的研究人员在Meta的广告库中发现了50多则包含辱骂内容的图片和视频广告,广告列表显示部分广告链接到了所谓的裸体化或脱衣应用:https://www.wired.com/story/san-francisco-demands-apple-and-google-delete-ai-nudify-apps-from-app-stores/。Meta的广告库——一个透明工具,用于记录公司平台上显示的广告——显示这些广告在Facebook、Instagram、Messenger和/或Threads上运行。这是近几周内第二次在Meta平台上发现与儿童性虐待内容相关的付费广告:https://www.bbc.com/news/articles/cvgm4e0316zo。

“这些广告没有试图掩盖图像或隐藏它们宣传的内容,”独立监督组织TTP主任凯蒂·保罗告诉WIRED。“需要指出的是,这些内容并非第三方在Facebook或Instagram上发布,而是经过审核、批准并允许运营的广告,Meta在收取广告收入期间从未遭遇过干扰。”

研究人员发现的这些广告——现已被Meta删除,原因是违反了其关于儿童性虐待和剥削材料的政策:https://transparency.meta.com/policies/community-standards/child-sexual-exploitation-abuse-nudity/,以及成人性诱骗和裸露——这些广告均发布于去年11月至8月初之间。根据Meta广告透明度库的数据,这些广告通常持续数天,有些仅针对男性。

TTP研究人员表示,其中一则视频广告使用了一个坐在地板上的孩子的缩略图,上面出现了文字写着:“用AI世代实现深刻幻想。远不止画面所示,发挥你的想象力。”研究人员表示,当广告被点击时,会播放成年人参与性行为的视频片段,然后将孩子的缩略图中的脸加到性行为中。

研究人员称另一则广告反复发布,展示了一张小女孩仰躺、双腿分开呈性感姿势的照片,上面写着:“我可以给你看更多。”

研究人员发现这些广告时,大多数广告并未主动向用户展示,但它们在Meta的广告库中似乎未被发现地持续存在了数月。尽管根据Meta的数据,许多广告只“触达”了少数几个账户,但至少有一个广告覆盖了欧洲的2563个账户——包括法国、德国、爱尔兰、意大利、荷兰、西班牙、瑞典和英国。Meta的广告库数据库不包含美国或所有国家的广告表现细节,因此整体覆盖范围可能更高。

保罗说,TTP上周首次发现这些广告,当时其研究人员继续调查Meta上的裸体应用广告,之前发布了一份关于中国广告合作伙伴发布的报告:https://www.techtransparencyproject.org/articles/metas-chinese-partner-behind-deluge-of-nudify-ads。保罗表示,该组织立即将调查结果报告给了国家失踪与受虐儿童中心的网络举报热线,该网站允许用户举报网络儿童性虐待材料。NCMEC发言人表示,对收到的报告不予置评。

在《连线》(WIRED)联系Meta后,该公司已将广告从其广告库中移除。Meta发言人表示:“性剥削令人发指,我们正积极努力将其从我们的平台上清除。大多数此类广告的覆盖范围很小,许多在《连线》分享之前就已被禁用。其中许多广告也早于我们最近推出的新人工智能技术,该技术旨在更好地检测和阻止违规广告上传——我们也在不断改进这些系统。从去年删除了超过3600万条儿童性剥削内容,到对nudify应用开发者采取法律行动,我们将继续不懈地打击这种滥用行为。”

正如该公司所暗示的,一些违规广告逃过了Meta的新人工智能技术。起初,TTP研究人员发现大约二十几则展示虐待内容的广告。然而,在发表前数小时,研究人员又发现大约30则广告。这些广告中许多是在《连线》首次向Meta询问内容之后发布的,研究人员发现时,多则广告仍在展示并显示给用户账户。

Paul表示,这一批广告中包含了一些研究人员见过的最严重的案例。据研究人员称,其中一则视频广告显示的缩略图是一名女孩似乎在涂唇彩,当视频开始播放时,画面转变为该儿童正在进行性行为。

Meta的政策规定所有广告在发布前都要经过审核:https://transparency.meta.com/en-gb/policies/ad-standards/?source=https%3A%2F%2Fwww.facebook.com%2Fpolicies_center%2Fads,系统“主要”使用“自动工具”将广告与其政策进行核对。公司的广告标准规定:https://transparency.meta.com/policies/ad-standards/objectionable-content/child-sexual-exploitation-abuse-nudity/ 禁止儿童性剥削和虐待材料,并表示一旦公司发现此类内容,会向NCMEC报告。此外,Meta的广告政策还说明,广告不得包含任何“裸露、性行为、展示人物以明确或性暗示姿势的影像,或具有性暗示的活动”。

Meta 的广告库现在显示,TTP 研究人员发现的广告因违反公司政策而被删除,显示的信息称这些广告违反了“儿童性剥削、虐待和裸露”以及“成人裸露和性活动”的规定。

7 月初,BBC 的一项调查(https://www.bbc.com/news/articles/cvgm4e0316zo)发现,Instagram 在印度投放了宣传似乎涉及儿童性虐待内容销售的广告。根据报道,这些广告使用了“强奸视频”等术语,并链接到 Telegram 上可以购买这些非法内容的频道。对此,Meta 发布了一份长篇声明(https://about.fb.com/news/2026/07/our-work-to-fight-child-exploitation-on-our-apps/),表示对儿童性剥削采取“零容忍”政策。

这些广告似乎大多由关注者为零或极少的 Meta 账户发布;据 Paul 称,在公开的付费广告主中,它们与中国公司有关。在一个实例中——显示一名女孩躺着的广告——TTP 研究人员称,Meta 的数据表明广告主是一家名为 Meet Social 的中国公司。曾有一段时间,该公司是 Meta 的广告转售商之一(https://www.metaforbusiness.cn/resellers),负责处理中国的广告,而 Meta 的社交媒体平台在中国被屏蔽。根据 2019 年《纽约时报》的报道(https://www.nytimes.com/2019/02/07/technology/facebook-china-internet.html?eafs_enabled=false),该公司每天在 Facebook 上发布数千条广告,预计销售额超过 10 亿美元。

Meet Social 没有回应《连线》杂志的置评请求。

TTP 研究人员发现的几则 Meta 广告链接到名为 MaskAI 的应用程序,该应用出现在 Apple 的 App Store 中。根据 WIRED 对该应用的评测,该应用在下载前未显示任何裸露内容。然而,一旦打开,它完全包含 AI 生成的色情内容,并且具有允许用户上传图片并将人脸置换到性场景中的功能。

在收到 WIRED 的联系后,苹果公司的一位发言人表示,由于违反其针对裸体变换(nudification)应用的政策,该公司已将 MaskAI 从 App Store 下架,并表示公司“一直严格禁止旨在生成、传播或使用色情内容的应用。”(与 MaskAI 相关的电子邮箱未回复置评请求)。其他广告则与不同的应用或网站相关。

自大约 2020 年以来:https://www.wired.com/story/a-deepfake-porn-bot-is-being-used-to-abuse-thousands-of-women/,随着机器学习和后续生成型人工智能技术的进步,网络上出现了大量危险的 AI 裸体化和脱衣服务——为其创作者赚取了数百万美元:https://www.wired.com/story/ai-nudify-websites-are-raking-in-millions-of-dollars/,并对无数女性造成了无法估量的伤害。这些技术还被用于生成 AI 儿童性虐待内容,这在世界各国都是非法的。

在 WIRED 首次就 TTP 发现联系 Meta 后,该公司请两家网络安全组织为该报道向 WIRED 提供评论。Tech Coalition 的即将离任 CEO Sean Litton(该组织与科技公司合作应对网络虐待)在声明中表示,Meta 已向该组织的 Lantern 服务分享了“数千个违规 URL”,该服务用于在公司间共享关于虐待内容的信息。英国复仇色情热线的发言人(该机构致力于打击非自愿成人图像)也发表声明,赞扬了 Meta 与 StopNCII.org 的合作及其在打击非自愿亲密影像方面的一些努力。复仇色情热线表示:“我们已明确指出,裸体化应用是真正的对抗性问题,不仅因为其背后的人,还因为这个生态系统会迅速围绕任何单点执法进行调整。”

Alexios Mantzarlis,数字欺骗出版物 Indicator 的联合创始人:https://indicator.media/p/meta-is-still-running-thousands-of-ads-for-ai-nudifiers,同时也是谷歌前信任与安全工作人员,他表示近年来他在 Meta 平台上发现并举报了超过 25,000 条 AI 裸照生成广告。该公司此前表示已经下架了超过 344,000 条裸照生成广告,并对一家香港公司发起了法律行动:https://about.fb.com/news/2025/06/taking-action-against-nudify-apps/,该公司与一系列裸照生成平台有关:https://indicator.media/p/meta-lawsuit-ai-nudifier-crush-ai。(WIRED 之前也曾与 Indicator 合作报道关于裸照生成技术如何在全球学校中被用于侵害儿童的情况:https://www.wired.com/story/deepfake-nudify-schools-global-crisis/)。

Mantzarlis 告诉 WIRED:“另一方的行为者显然装备齐全,可以创建新的广告账户和新域名,从而继续运作,利用与诈骗网络相同的技术。不幸的是,由于各个平台执行措施不力,这种基于图像的性虐待行业已经从新奇事物变成了我们在线生态系统中的常态。”

WiFi-8 即将到来——这里是你需要知道的一切:https://www.wired.com/story/what-is-wi-fi-8/

大新闻:年轻跑者正变得异常迅速:https://www.wired.com/story/teenagers-running-trackflation/

城市监控的新现实:https://www.wired.com/story/sfpd-drone-video-leak-surveillance/

参与我们的调查:你在技术行业工作吗?我们想听听你的意见:https://se1.decipherinc.com/survey/selfserve/604/260703?list=1#?

YouTube and X Have Become ‘Gateways’ to Nudify Apps
Hugging Face Has a Deepfake Nudes Problem
OnlyFans Models Are Accidentally Making Hacked Government Websites Disappear
San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores
TikTok Says ‘Moderator Error’ Kept Perez Hilton Livestream Up

情报判断

Aioga 编辑摘要

Meta广告库数据显示,研究人员发现超过50条含AI生成儿童性虐待内容或相关暗示的图片及视频广告,曾在Facebook、Instagram、Messenger或Threads投放;Meta随后以违反相关政策为由将其移除。

背景分析

据报道,独立监督组织Tech Transparency Project在Meta广告库中发现这些广告,发布时间介于去年11月至今年8月初。部分广告导向所谓“脱衣”应用,投放对象涉及美国、英国及十多个欧洲国家。

Aioga 观点

Aioga判断,此事值得关注的重点不仅是违规内容曾出现在平台,也在于其进入了付费广告审核与分发体系。研究人员称广告并未刻意遮掩,但现有材料不足以说明具体审核流程为何未能及时拦截。

影响与后续

这些发现可能促使外界进一步审视Meta对付费广告、生成式内容及儿童安全风险的审核机制。由于广告库未提供美国及所有国家的完整表现数据,现有触达数字不能代表总体传播范围。 值得关注Meta是否公布更具体的审核失效原因、广告主处置方式及防止重复投放的措施,也应继续核查相关广告是否仍以其他账户或素材出现,并区分广告库留档与广告仍在实际投放的状态。

来源与版权说明

本页正文由公开来源页面提取并按原有信息整理,同时保留来源、发布时间和原文入口。版权归原作者及来源网站所有,请通过原文链接核验和阅读来源版本。

抓取通道: 摘要聚合 · 原始域名: wired.com

来源: Hacker News 热门(buzzing.cc 中文翻译)

原文链接: 打开原始来源

Aioga 归档: 查看情报页

Content record: source-page · Updated: 2026-08-05T21:11:36.016Z

API 中转站
API RELAY · DEVELOPER INFRASTRUCTURE

API 中转站

统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。

立即访问 api.w173.com
AIOGA SHARE POSTER

分享这篇 AI 情报

Meta 的广告库数据显示,超过 50 条违规图片和视频广告发布在 Facebook、Instagram、Messenger 或 Threads 上,其中一些本周仍在投放。这些...

Hacker News 热门(buzzing.cc 中文翻译)2026-08-05T21:11:36.016Z
扫码打开文章详情扫码直达文章详情

Aioga 自动聚合全球 AI 动态,并保留来源信息用于核验与引用。