调查发现：10%的未成年人称他们的朋友使用人工智能来制作其他孩子的裸照
根据非营利组织 Thorn 的一项调查，10%的未成年人报告说，他们的朋友或同学曾使用人工智能工具制作其他孩子的裸照。该调查于去年11月3日至12月1日通过在线进行，向1040名年龄在9至17岁之间的未成年人询问了有关儿童性虐待材料和“有害的网络经历”的问题。调查发现，七分之一的未成年人分享过自己的儿童性虐待材料(SG-CSAM)。例如，一名17岁的未成年人自愿向其伴侣发送裸照。报告称：“虽然这些事件背后的动机更可能是青少年的自控行为，而不是故意实施性虐待，但受害者所遭受的伤害是真实存在的，不应为了逃避责任而将其最小化。”
—— 404media、报告
澳大利亚一学校约50名女生照片被AI制成露骨图像在网上传播 警方正调查
澳一家私立学校约50名女生“裸照”在社交媒体上传播。经学校证实，这些“裸照”是通过人工智能生成并上传到社交媒体上的。目前，澳警方正在进一步调查。这所名为巴克斯马什文法学校的私立学校11日发表声明称，有学生脸部照片的内容被人工智能制作成裸照并在社交媒体上流传，学校对此非常重视，已将此事转交给了警方。澳大利亚警方11日晚些时候发布声明称，一名青少年因涉及这起事件被捕，但目前已被释放，具体情况要等待进一步的调查结果。
—— 环球网、SBS、悉尼先驱晨报
苹果公司在媒体调查后删除了恶意的人工智能深度伪造应用
当媒体 404media 发现这些应用宣传其能够创建未经同意的裸照后，苹果从 App Store 中下架了多款人工智能图像生成应用，这表明应用商店运营商开始对此类应用采取更多行动。苹果下架了三款应用，但前提是媒体向该公司提供了具体应用的链接及其相关广告，这表明该公司自己无法找到违反其政策的应用。在苹果采取行动之前，404media 于4月22日报道称 Instagram 广告宣传了未经同意的人工智能裸照应用。当 404media 举报这些广告时，Meta 删除了这些广告。苹果最初没有回应对此事发表评论的请求，但在报道发表后联系了 404media，要求提供更多信息。苹果4月23日表示，他已从 App Store 中删除了这三款应用。
—— 404media