标签： 深度伪造

韩国警方拟开发新系统打击深度伪造

韩国多名官员2日说，警方将投资91亿韩元开发一个可以查出深度伪造文件和虚假信息的系统，以应对涉及人工智能生成图像和声音的犯罪案件激增的状况。官员表示，警方计划开发一个使用多模态算法的系统，通过分析噪音和声音频率查出深度伪造视频和人工智能生成的声音，并可追踪到网络信息来源，以便能在早期阶段应对和阻止假新闻和错误信息的传播。开发工作预计2027年12月完成。警方希望该系统有助于大幅缩短辨别深度伪造视频和音频片段所需的时间。

—— 央视新闻

英国政府将把色情“深度伪造”定为犯罪

英国政府周二表示，使用“深度伪造”技术制作色情内容以及相关传播行为将被列为刑事犯罪，以应对此类图像激增的问题，目前受害者多数为妇女和女孩。2015年英国已将未经他人同意发布私密照片或视频、意图给他人造成痛苦的行为定为犯罪，但相关法律没有涉及使用虚假影像的做法。根据英国政府将提交议会审议的一项新法案，上述行为可能会受到刑事指控并面临起诉。司法部后续将适时公布新规具体内容。未经他人同意拍摄私密照片以及为此蓄意安装相关设备的行为也被列为犯罪行为，违者最重可判两年监禁。司法部表示；“未经他人同意就使用‘深度伪造’制作其色情影像是毫无道理的。”

—— 路透社

X 起诉阻止加州的深度伪造欺诈法案实施

社交媒体平台 X 起诉阻止加州一项旨在遏制社交媒体上人工智能生成的欺骗性选举内容的法律，声称该措施是对言论自由的违宪侮辱。根据周四晚些时候向萨克拉门托联邦法院提交的诉状，该法律要求大型网络平台删除被认为“具有实质性欺骗性”的内容，这将导致对政治言论的广泛审查。这份长达65页的诉状称：“第一修正案对批评政府官员和公职候选人的言论给予有最强有力的保护由来已久，其中包括对在此类批评背景下可能出现的虚假言论的容忍。”社交平台 X 要求阻止的是 AB 2655 法案，该法案也被称为“2024年捍卫民主免受深度伪造欺骗法案”。

—— 彭博社

微软敦促美国立法者打击深度伪造

微软公司呼吁国会通过一项全面的法律，打击旨在干预选举或恶意针对个人的利用人工智能制作的图像和音频，称为深度伪造。微软总裁布拉德·史密斯30日表示，科技行业和非营利组织已经采取措施解决这一问题，“显然，我们的法律也需要跟进，以打击深度伪造欺诈。”他敦促立法者通过“深度伪造欺诈法规，以防止网络犯罪分子利用此类技术窃取普通美国人的利益”。该公司还在推动国会将人工智能生成的内容标记为合成内容，并制定联邦和州法律，对制作和传播性剥削深度伪造内容的行为进行处罚。史密斯称，目标是保障选举安全、阻止诈骗行为并保护妇女和儿童免受网络虐待。

—— 彭博社

美国参议院通过打击色情深度伪造的法案

当地时间周二，美国参议院一致通过了一项法案，允许深度伪造的受害者起诉其创作者要求赔偿。《 破坏露骨伪造图像和未经同意的编辑法案》(DEFIANCE) 允许色情深度伪造的受害者对那些以分发为目的制作或处理图像的人寻求民事补救。根据该法案，在此类深度伪造中可识别的受害者可获得高达15万美元的赔偿金，如果事件与“实际或企图性侵犯、跟踪或骚扰”或这些伤害的“直接和近因”有关，则可获得高达25万美元的赔偿金。 现在由众议院审议该法案，然后才能将其移交给总统签署成为法律。

—— TheVerge

宾夕法尼亚州参议院通过“禁止传播深度伪造内容”法案

当地时间6月10日，美国宾夕法尼亚州参议院批准了一项立法，将禁止传播淫秽或色情的深度伪造作品，提案人表示，这将消除当前的法律漏洞。该法案获得一致通过并送交众议院。根据该法案，其中一项规定，未经他人同意，通过发布他人裸体或性行为的深度伪造图像来骚扰他人的行为属于犯罪。如果受害者是未成年人，罪行将更加严重。另一项规定将禁止以儿童性虐待图片的形式制作和传播此类深度伪造作品。

—— 美联社