西班牙将对未标注AI生成内容的企业罚款
西班牙政府周二通过一项新法案，对使用人工智能生成的内容而未进行适当标记的公司处以巨额罚款以遏制深度伪造。数字化转型部长奥斯卡·洛佩兹向记者表示，该法案采用欧盟《人工智能法案》的指导方针，对被视为高风险的 人工智能系统施加严格的透明度要求。他说：“人工智能是一种非常强大的工具，既可以改善生活……或者散布虚假信息和攻击民主。”西班牙的这项法案需得到众议院的批准，将不遵守AI生成内容的适当标签归类为“严重违法行为”，最高可处于3800万美元或营业额7%的罚款。该法案还禁止其他行为，例如利用潜意识技术操纵弱势群体。
—— 路透社
韩国警方拟开发新系统打击深度伪造
韩国多名官员2日说，警方将投资91亿韩元开发一个可以查出深度伪造文件和虚假信息的系统，以应对涉及人工智能生成图像和声音的犯罪案件激增的状况。官员表示，警方计划开发一个使用多模态算法的系统，通过分析噪音和声音频率查出深度伪造视频和人工智能生成的声音，并可追踪到网络信息来源，以便能在早期阶段应对和阻止假新闻和错误信息的传播。开发工作预计2027年12月完成。警方希望该系统有助于大幅缩短辨别深度伪造视频和音频片段所需的时间。
—— 央视新闻
英国政府将把色情“深度伪造”定为犯罪
英国政府周二表示，使用“深度伪造”技术制作色情内容以及相关传播行为将被列为刑事犯罪，以应对此类图像激增的问题，目前受害者多数为妇女和女孩。2015年英国已将未经他人同意发布私密照片或视频、意图给他人造成痛苦的行为定为犯罪，但相关法律没有涉及使用虚假影像的做法。根据英国政府将提交议会审议的一项新法案，上述行为可能会受到刑事指控并面临起诉。司法部后续将适时公布新规具体内容。未经他人同意拍摄私密照片以及为此蓄意安装相关设备的行为也被列为犯罪行为，违者最重可判两年监禁。司法部表示；“未经他人同意就使用‘深度伪造’制作其色情影像是毫无道理的。”
—— 路透社
X 起诉阻止加州的深度伪造欺诈法案实施
社交媒体平台 X 起诉阻止加州一项旨在遏制社交媒体上人工智能生成的欺骗性选举内容的法律，声称该措施是对言论自由的违宪侮辱。根据周四晚些时候向萨克拉门托联邦法院提交的诉状，该法律要求大型网络平台删除被认为“具有实质性欺骗性”的内容，这将导致对政治言论的广泛审查。这份长达65页的诉状称：“第一修正案对批评政府官员和公职候选人的言论给予有最强有力的保护由来已久，其中包括对在此类批评背景下可能出现的虚假言论的容忍。”社交平台 X 要求阻止的是 AB 2655 法案，该法案也被称为“2024年捍卫民主免受深度伪造欺骗法案”。
—— 彭博社
韩国政府通过涉深度伪造淫秽影像法修正案
韩国政府10日表决通过了《关于处罚性暴力犯罪的特例法》修正案。根据修正案，持有、购入、保存或收看深度伪造淫秽影像的人员可被处三年以下有期徒刑或3000万韩元的罚金。据规定，对编辑、散布深度伪造淫秽影像的处罚力度从此前的五年以下有期徒刑上调至七年以下有期徒刑，若有谋利目的，处罚力度将从七年以下有期徒刑上调至三年以上有期徒刑。利用深度伪造淫秽影像恐吓可被判处一年以上有期徒刑。
—— 韩联社
白宫要求人工智能供应商自愿承诺打击深度伪造裸照
白宫表示，几家主要的人工智能供应商已承诺采取措施打击非自愿的深度伪造和儿童性虐待内容。Adobe、Cohere、微软、OpenAI 和数据提供商 Common Crawl 表示，他们将“负责任地”获取和保护他们创建并用于训练人工智能免受基于图像的性虐待的数据集。这些组织 (Common Crawl 除外) 还表示，他们将在开发过程中加入“反馈回路”和策略，以防止人工智能生成性虐待图像。Adobe、微软和 OpenAI 表示，他们将致力于“在适当的情况下并根据模型的目的”从人工智能训练数据集中删除裸体图像。
—— Techcrunch
AI生成的深度伪造促使泰勒支持哈里斯
泰勒·斯威夫特在昨晚的总统辩论期间通过社交媒体平台 Instagram 发文支持卡玛拉·哈里斯竞选总统，她表示自己之所以觉得有必要发声，是因为有人工智能生成的虚假图像伪造了她对特朗普的支持。“最近我得知，有张人工智能生成的‘我’虚假支持特朗普竞选总统图片被发布在他的网站上。这真的让我对人工智能产生了恐惧，也让我意识到传播虚假信息的危险，”斯威夫特写道。“这让我得出结论，作为一名选民，我需要非常透明地说明我对这次选举的实际计划。对抗错误信息最简单的方法就是用真相。我将在2024年总统大选中投票给哈里斯和蒂姆·沃尔兹。”
—— 404media
韩国深度伪造黄毒受害者中未成年人占比超三成
韩国女性家庭部旗下韩国女性人权振兴院8月28日发布的一份调查结果显示，利用深度伪造技术制作并传播淫秽影像案件的受害者中，未成年人占比超过三成。据调查，从今年1月1日至8月25日，向数字性犯罪受害者支援中心请求帮助的受害者共有781人，其中19岁以下未成年人有288人，在受害者总数中占36.9%。不久前，利用深度伪造技术将一女大学生的面部照片和色情视频合成而成的虚假视频通过通讯软件 Telegram 不断传播，此后为传播类似视频而发起的群聊接连出现，已经成为严重的社会问题。
—— 韩联社
微软敦促美国立法者打击深度伪造
微软公司呼吁国会通过一项全面的法律，打击旨在干预选举或恶意针对个人的利用人工智能制作的图像和音频，称为深度伪造。微软总裁布拉德·史密斯30日表示，科技行业和非营利组织已经采取措施解决这一问题，“显然，我们的法律也需要跟进，以打击深度伪造欺诈。”他敦促立法者通过“深度伪造欺诈法规，以防止网络犯罪分子利用此类技术窃取普通美国人的利益”。该公司还在推动国会将人工智能生成的内容标记为合成内容，并制定联邦和州法律，对制作和传播性剥削深度伪造内容的行为进行处罚。史密斯称，目标是保障选举安全、阻止诈骗行为并保护妇女和儿童免受网络虐待。
—— 彭博社
美国参议院通过打击色情深度伪造的法案
当地时间周二，美国参议院一致通过了一项法案，允许深度伪造的受害者起诉其创作者要求赔偿。《 破坏露骨伪造图像和未经同意的编辑法案》(DEFIANCE) 允许色情深度伪造的受害者对那些以分发为目的制作或处理图像的人寻求民事补救。根据该法案，在此类深度伪造中可识别的受害者可获得高达15万美元的赔偿金，如果事件与“实际或企图性侵犯、跟踪或骚扰”或这些伤害的“直接和近因”有关，则可获得高达25万美元的赔偿金。 现在由众议院审议该法案，然后才能将其移交给总统签署成为法律。
—— TheVerge