微闻

分类: 微闻快讯

  • AI模型退化和崩溃

    研究表明用AI产生的语料来训练AI将使其退化并最终崩溃

    现在,随着越来越多的人使用 AI 来制作和发布内容,一个明显的问题出现了:当 AI 生成的内容在互联网上激增并且 AI 模型开始用其进行训练,而不是使用主要人类生成的内容时,会发生什么?

    来自英国和加拿大的一组研究人员已经研究了这个问题,并且最近在开放获取期刊 arXiv 上发表了一篇关于他们工作的论文。他们的发现令当前的生成式 AI 技术及其未来令人担忧:“我们发现在训练中使用模型生成的内容会导致生成的模型出现不可逆转的缺陷。”

    研究人员专门研究了文本到文本和图像到图像 AI 生成模型的概率分布,得出结论:“从其他模型生成的数据中学习会导致模型崩溃——一个退化过程,随着时间的推移,模​​型会忘记真正的底层数据分布……这个过程是不可避免的,即使对于具有近乎理想的长期学习条件的情况也是如此。”

    “随着时间的推移,生成数据中的错误会复合并最终迫使从生成数据中学习的模型进一步错误地感知现实,”该论文的主要作者之一 Ilia Shumailov 在给 VentureBeat 的电子邮件中写道。“我们惊讶地观察到模型崩溃发生的速度有多快:模型可以迅速忘记他们最初从中学习的大部分原始数据。”

    换句话说:当 AI 训练模型接触到更多 AI 生成的数据时,它的性能会随着时间的推移而变差,在其生成的响应和内容中产生更多错误,并在其响应中产生更少的非错误多样性。

    —— VentureBeat

    额外编辑:研究人员同样担忧,目前互联网上AI生成内容正在迅速增加,训练下一代ai的数据正在被迅速污染。

  • 谷歌即将弃用AOSP中的电话和短信应用

    谷歌即将弃用安卓开源项目 AOSP 中的电话和短信应用

    6 月 14 日消息,刷过原生安卓系统的IT之家小伙伴应该都熟悉 AOSP,这是安卓的开源项目,允许厂商 / 个人开发者对系统进行修改,从而适配不同的安卓设备。

    根据 AOSP 官网的代码搜索公告,AOSP 的拨号器和消息应用(也就是国内常说的电话和短信应用)已不再受支持,公告称“此项目将在将来某个时候从源清单中删除”。

    这一公告意味着,在不久的将来,通过 AOSP 构建的安卓 ROM 包将不会预装拨号器和消息应用,也就是基本的打电话和发短信功能都需要自行下载 App。

    这对于各大手机厂商来说没什么,毕竟各家的定制系统都不会用原生的拨号器和消息应用,不过对于个人 ROM 开发者 / 刷机用户来说,又多了一项麻烦事。

    AOSP 本意是“安卓开放源代码项目”,但随着开源内容的不断遗失,以及谷歌把越来越多的东西放到自家框架里,安卓似乎也越来越不开源了。

    —— IThome

  • 华为在欧盟提供资金

    欧盟仍在关键技术上给华为提供资金,尽管多个欧盟国家禁止华为进入其电信网络

    尽管几个欧洲国家已将中国科技集团华为从其电信网络中排除,但欧盟仍在为华为提供资金用于进行下一代通信系统的尖端研究。

    华为参与了多个敏感项目,涵盖人工智能、6G和云计算等领域,尽管布鲁塞尔方面因担心安全问题而要求对该公司加强限制。

    《金融时报》确定华为参与了欧盟旗舰项目Horizon Europe研究和创新计划下的11个项目,每个方案可获得最多14%的资金,总计389万欧元。

    这一资金价值更重要的是,它使华为成为欧洲敏感技术的核心,尽管大约三分之一的欧盟国家正在推动将“高风险供应商”从5G基础设施中淘汰。

    华为为欧盟支持的研究项目提供基础设施设备和人工智能平台,这些项目还包括量子感应、连接性以及自动驾驶框架。

    一些分析师警告称,该公司的参与可能会损害欧盟内的数据安全,以及欧盟在发展关键技术基础设施方面保持自主的雄心。

    尽管英国政府已要求电信集团开始从网络中移除这家中国公司的5G设备,但英国已向一项欧盟项目注资了900,000欧元,该项目于今年开始,涵盖了机器对机器通信中使用的感应技术。

    —— 金融时报

  • 国家发改委严禁“一刀切”执法

    国家发改委:严禁未经法定程序要求普遍停产停业 杜绝“一刀切”“运动式”执法

    据中国网,国家发展和改革委员会副秘书长袁达6月14日在国务院政策例行吹风会上表示,下一步,将规范涉企行政执法。深化推进综合监管改革,健全行政裁量权基准制度,防止“任性执法、类案不同罚、过度处罚”等。根据企业信用状况,采取差异化的监管措施。

    严禁未经法定程序要求普遍停产停业,杜绝“一刀切”“运动式”执法。全面实施跨部门联合“双随机、一公开”监管,进一步扩大多部门联合监管范围和频次,完善监管方式,推动监管信息共享互认,避免多头执法、重复检查。

    —— 界面新闻

  • 特朗普逮捕后获释

    美国前总统特朗普被逮捕,但随后获释

    美国前总统特朗普在迈阿密的联邦法院出庭期间被逮捕,并被采集了指纹。随后,特朗普获释,且不需要交保释金。

    离开法院后,特朗普带队直奔当地的古巴餐厅,他被拍到与众多支持者握手。特朗普还突然大喊:“每个人的食物我都包了!”支持者们唱起《生日快乐》,提前庆祝他77岁的生日。

    —— 极目新闻

  • OpenAI 将放出更多 GPT-4 API 测试邀请

    OpenAI 将放出更多 GPT-4 API 测试邀请

    OpenAI表示:我们将在接下来的几周邀请更多等待名单上的人来尝试GPT-4,并打算完全移除等待名单。感谢所有耐心等待的人,我们很期待看到您使用GPT-4构建的内容!

    —— OpenAI

  • OpenAI推出新版GPT-4和GPT-3.5-turbo

    OpenAI在降低定价的同时推出了新的生成文本功能

    随着生成式人工智能领域的竞争日益激烈,OpenAI正在升级其文本生成模型,并同时降低价格。

    今天,OpenAI宣布推出了GPT-3.5-turbo和GPT-4的新版本,后者是其最新的文本生成人工智能,具备称为函数调用的功能。正如OpenAI在一篇博文中解释的那样,函数调用允许开发者描述编程函数给GPT-3.5-turbo和GPT-4,并让这些模型创建代码来执行这些函数。

    例如,函数调用可以帮助创建聊天机器人,通过调用外部工具来回答问题,将自然语言转换为数据库查询,并从文本中提取结构化数据。OpenAI写道:“这些模型经过精细调整,既能检测何时需要调用函数…,又能回复符合函数签名的JSON。函数调用使开发者能够更可靠地从模型中获得结构化数据。”

    除了函数调用,OpenAI还推出了一个具有大大扩展上下文窗口的GPT-3.5-turbo版本。上下文窗口以标记或文本的原始位表示,指的是模型在生成任何其他文本之前考虑的文本范围。具有较小上下文窗口的模型往往会“忘记”甚至是最近的对话内容,导致它们偏离主题,通常是以问题方式偏离主题。

    —— Tech Crunch

  • 谷歌被迫推迟在欧盟推出人工智能聊天机器人

    谷歌因隐私问题被迫推迟 Bard 聊天机器人在欧盟的发布

    在欧盟主要数据监管机构提出隐私问题后,谷歌将不得不推迟在欧盟启动其人工智能聊天机器人 Bard。

    爱尔兰数据保护委员会周二表示,这家科技巨头迄今为止提供的有关其生成人工智能工具如何保护欧洲人隐私的信息不足以证明其在欧盟的推出是合理的。根据欧盟通用数据保护条例(GDPR),这家总部位于都柏林的机构是谷歌在欧洲的主要数据监管机构。

    “谷歌最近通知数据保护委员会,它打算本周在欧盟推出 Bard,”副专员 Graham Doyle 说。监管机构“此时没有任何详细的简报,也没有看到数据保护影响评估或任何支持文件。”爱尔兰监管机构表示,它要求并正在等待该公司提供详细评估,并“紧急”回答有关 Bard 如何遵守欧盟数据保护规则的其他问题。

    爱尔兰监管机构正在“持续审查”这个问题,该监管机构将“尽快”与其他欧洲数据机构共享信息。

    —— politico.eu

  • AI 机器人污染中文网络环境

    AI 机器人污染中文网络环境

    知乎上有 AI 机器人输出未经核实信息,污染中文网络环境。

    有一位 v2ex 用户发现,有个新注册的知乎账户在以极快的速度将未经核实的信息输出到中文互联网,疑似 AI 机器人。错误的信息还误导了 Bing Chat 的回答 ,以至于 Bing Chat 给出了错误的答案。

    这个发现是通过一位 v2ex 网友在 Bing Chat上询问象鼻山是否有缆车,然后 Bing Chat 告诉有,并且给出了如上图的回答,进入了 Bing Chat 提供的知乎链接,发现了这个账户在知乎的回答语气不对劲,点开这位用户知乎个人主页之后,确认了其就是 AI 机器人。

    来源:v2ex

  • YouTube 为创作者降低门槛实现盈利

    YouTube 降低创作者开通盈利功能的门槛

    YouTube将允许更多的创作者在平台上实现盈利,包括拥有较少追随者的创作者。

    该公司今天宣布,它将降低YouTube合作伙伴计划的资格要求,并向较小的创作者开放一些盈利方式,包括付费聊天、打赏、频道会员和购物功能。

    根据新的资格政策,一旦创作者达到500个订阅者,他们就有资格加入YPP(YouTube合作伙伴计划),这一数字是YouTube之前的一半。其他的标准也在发生变化:参与的创作者需要达到3,000个有效观看小时,而不是之前的4,000个,或者是3百万个短视频观看次数,相对于之前的1千万次。这些较低的要求最初将在美国、英国、加拿大、台湾和韩国推出。

    —— The Verge