微软为深度伪造色情受害者提供了从必应搜索中删除图片的工具
生成式人工智能工具的进步为互联网带来了一个新问题：大量与真人相似的合成裸照泛滥。周四，微软公司采取了重大举措，为报复性色情的受害者提供了一种工具，以阻止其必应搜索引擎返回这些图像。微软宣布与 StopNCII 组织建立合作关系。该组织允许报复性色情的受害者在他们的设备上为这些露骨的图片创建数字指纹。StopNCII 的合作伙伴随后使用该数字指纹 (哈希值) 从他们的平台上删除这些图片。微软在一篇博客文章中表示，截至8月底，该公司已利用 StopNCII 的数据库对必应图像搜索返回的 268,000 张色情图片采取了行动。此前，微软曾提供直接举报工具，但该公司表示这还不够。
—— Techcrunch、StopNCII 工具
韩国监管机构称 Telegram 已遵从其要求删除了违法内容并道歉
韩国媒体监管机构周二表示，加密消息应用程序 Telegram 已遵从其要求，删除其平台上某些深度伪造色情内容，并为其对数字性犯罪的回应道歉。
韩国通信标准委员会 (KCSC) 表示，Telegram 东亚分公司代表已向该委员会发送了一封电子邮件，确认该公司已按照 KCSC 的要求从其平台上删除了 25 项性剥削材料。
Telegram 还为该问题造成的沟通不畅道歉，并提供了一个专属电子邮件地址，以便将来与媒体监督机构进行沟通。韩国网络安全信保委员会表示，已要求 Telegram 设立与韩国当局的热线，以便更好地应对该平台上的非法内容。
—— 韩联社
美国众议院新法案修订第230条，以打击人工智能深度伪造
制定于近30年前的美国《通信规范法》第230条规定，互联网服务提供商无需为第三方用户的言行负法律责任。美国众议院两党新出台的一项法案将对科技行业珍视的第230条法律保护设定条件，即科技平台应努力打击深度伪造色情内容，包括人工智能生成的色情内容。《亲密隐私保护法案》由众议员杰克·奥金克洛斯 (Jake Auchincloss，民主党-马萨诸塞州)和阿什利·辛森 (Ashley Hinson，共和党-爱荷华州) 于30日晚些时候提出，该法案将要求 Facebook、YouTube 或 X 等公司打击亲密深度伪造行为，否则将失去对其平台内容提起诉讼的法律豁免权。
—— Politicopro
GPT-4o的中文语料训练数据被赌博诈骗和色情内容污染
OpenAI 发布 GPT-4o 后不久，一些中文用户开始注意到这个最新版本的聊天机器人似乎有些不对劲，它用来解析文本的词块充满了垃圾内容和色情短语。人类以单词为单位进行阅读，而 LLM 则以词块(Token)为单位进行阅读，词块是句子中的不同单位，具有一致且重要的含义。模型编码的词块越多，“读取 ”句子的速度就越快，消耗的计算能力就越少，从而降低了响应的成本。
多名研究过 GPT-4o 使用的新词块库的研究人员表示，中文里最长的词块几乎都是用于色情、赌博和诈骗的垃圾词。甚至更短的词块，例如三个字长的中文单词，也在很大程度上反映了这些主题。
“问题很明显，用于训练[分词器]的语料库不干净。英文词块看起来不错，但中文词块就不行了，”普林斯顿大学的蔡天乐说。语言模型在收集训练数据时抓取垃圾信息的情况并不罕见，但通常会在使用数据之前花费大量精力来清理数据。 “他们可能没有对中文进行适当的数据清理，”他说。
—— 麻省理工科技评论 （节选）
英国：未经同意制作深度伪造色情内容将被定为犯罪
随着人们对利用人工智能剥削和骚扰女性的担忧日益增加，在英格兰和威尔士，制作露骨的深度伪造内容可能会成为刑事犯罪。英国司法部周二宣布，根据一项法律草案，任何人未经他人同意制作此类图像或视频 (即使不打算分享) ，都将面临犯罪记录和无上限罚款。在英格兰和威尔士，未经当事人同意分享露骨的深度伪造视频已经是违法行为，肇事者将面临牢狱之灾。英国受害者和保护事务负责人劳拉·法里斯表示：“据她所知，英国的这两个国家将是世界上第一个禁止制作露骨色情深度伪造作品的国家。”
—— 美国有线电视新闻网、英国卫报
Twitch 再次更新内容政策 禁止假装裸体的人
Twitch 再次更改其色情内容政策，禁止主播“暗示他们完全或部分裸体”。Twitch 在 12 月更新了其色情内容政策，允许一些以前禁止的内容，只要其标签正确即可。然而，仅仅两天后，出于“社会关注”，它就撤销了部分新更新中允许“艺术裸体”的政策。
此次更新是为了响应被称为“裸照”或“黑条”元的流行直播的兴起，主播通过使用巧妙的框架或黑色条遮挡乳房与生殖器来暗示裸体。这次内容政策更新后，将禁止主播暗示或暗示他们完全或部分裸体，包括但不限于用物体、审查栏、像素化、马赛克、模糊效果、几乎完全透明或部分透明的衣服等不完整的遮掩。
—— Twitch、Twitch、theverge
英国再次尝试对色情内容实行年龄限制
英国电信监管机构 Ofcom 已经明确了色情网站如何在新通过的《在线安全法案》下验证用户年龄。尽管法律给予网站选择如何阻止未成年用户的权利，但监管机构正在发布一份措施清单，以确保它们的合规性。这些措施包括让银行或移动网络确认用户至少年满 18 岁 (在用户的同意下)，或要求用户提供仅适用于 18 岁及以上人士的信用卡有效详细信息。监管机构正在就这些指导方针进行咨询，希望在大约一年的时间内最终确定其官方指南。
—— theverge
APPLE 将检测危害儿童的色情（CSAM）内容
首先，iPhone、iPad和Mac上的信息应用将获得一个新的通信安全功能，在接收或发送性爱照片时向儿童及其父母发出警告。苹果公司表示，信息应用程序将使用设备上的机器学习来分析图像附件，如果照片被确定为色情照片，该照片将自动模糊，儿童将被警告。
同时，在图像被存储在iCloud照片中之前，APPLE会针对该图像与不可读的已知CSAM（儿童色情）哈希值集进行设备上的匹配过程。如果有匹配，设备就会创建一个加密安全凭证。该凭证与图像一起被上传到iCloud Photos，一旦超过匹配阈值，苹果就能解密该内容。轻微的修改无法绕过苹果的检测。
在此之后，苹果公司会手动审查每份报告，以确认是否存在匹配，禁用用户的iCloud账户，并向NCMEC发送一份报告。苹果公司没有披露其确切的门槛是什么，但确保 “极高的准确性”，即账户不会被错误地标记。
这些功能在推出时将只在美国提供，并将随着时间的推移扩展到其他地区。
什么是危害儿童的色情内容？它的范围可能比你认为的要宽泛。
在欧美主流互联网企业的审查标准中，任何表现出儿童特征且有色情暗示的都算是危害内容。比如一副儿童脸型加暴露身材的漫画，表现出第二性征的即可被认定为是儿童色情内容。
像Google这样的企业对此的态度通常都是宁枉勿纵，杀无赦。
在这方面，部分二次元漫画是重灾区。许多漫画作者本身对危险内容没有充分的认识，缺乏判断，在创作中误导读者。