消费者报告的一项新研究显示，市场上几种流行的语音克隆工具没有 “有意义的” 保护措施来防止欺诈以及滥用。消费者报告对六家公司的语音克隆产品(Descript, ElevenLabs, Lovo, PlayHT, Resemble AI和Speechify)进行了调查，以了解其是否存在能有效防止恶意用户在未经许可的情况下克隆他人声音的机制。结果只有 Descript 和 Resemble AI 两家公司采取措施来防止滥用。其他仅要求用户勾选方框，确认他们有克隆声音的合法权利或进行类似的自我声明。消费者报告政策分析师说，如果没有采取足够的安全措施，AI语音克隆工具有可能“增强”冒充诈骗。
—— Techcrunch
OpenAI 的语音克隆人工智能模型只需要15秒的样本即可工作
人工智能公司 OpenAI 正在提供对其开发的文本转语音生成平台 Voice Engine 的有限访问权限，该平台可以根据某人15秒的声音片段创建合成声音。人工智能生成的语音可以根据命令以与说话者相同的语言或其他多种语言读出文本提示。OpenAI 在其博客文章中表示：“这些小规模部署有助于我们了解方法、保障措施，并思考如何在各个行业中很好地利用 Voice Engine。”拥有访问权限的公司包括教育科技公司 Age of Learning、视觉叙事平台 HeyGen、一线健康软件制造商 Dimagi、人工智能通信应用创建者 Livox 和健康系统 Lifespan。
—— Theverge、OpenAI
唱片协会(RIAA)建议美国政府将人工智能语音克隆网站列入政府盗版监视名单
美国唱片工业协会 (RIAA) 现在认为人工智能语音克隆是一种潜在的版权侵权威胁，并希望美国政府将其纳入盗版监管名单。
在提交给美国贸易代表 (USTR) 的一份文件中，RIAA 要求美国政府将人工智能语音克隆类别纳入其据称宣扬盗版或假冒行为的年度实体名单中。
美国唱片工业协会(RIAA)只点名了该领域的一家公司：Voicify.AI。该公司提供例如 Ariana Grande、Taylor Swift 和 Kanye West 等著名音乐艺术家的语音模型。
该组织认为，该网站允许用户翻录 YouTube 视频并复制无伴奏合唱曲目，然后使用人工智能语音模型对其进行修改，侵犯了版权，也侵犯了录音艺术家的公开权。
—— Theverge