OpenAI 开始将注意力转向“超级智能”
OpenAI 首席执行官萨姆·奥尔特曼在他个人博客上发表文章称，他相信 OpenAI “知道如何构建传统上理解的 [通用人工智能] ”，并且开始将其目标转向“超级智能”。萨姆·奥尔特曼在周日晚间发布的帖子中写道：“我们热爱我们当前的产品，但我们是为了美好的未来而来。超级智能工具可以极大加速科学发现和创新，远远超越我们自身能力所及，从而极大地增加富足和繁荣。”奥尔特曼写道，他认为人工智能代理可能会“加入劳动力市场”，并在今年“实质性地改变企业产出”。“我们始终相信，不断将伟大的工具交到人们手中，将带来伟大而广泛分布的成果，”他写道。
—— Techcrunch
OpenAI 正在组建一个新团队，以控制“超级智能”人工智能
OpenAI 正在组建一个由其首席科学家兼公司联合创始人之一 Ilya Sutskever 领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。
在今天发表的一篇博文中，Sutskever 和 OpenAI 联盟团队的负责人 Jan Leike 预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能——假设它最终确实到来——不一定是仁慈的，需要研究控制和限制它的方法。
他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。” “我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。”
为了推动“超级智能对齐”领域的发展，OpenAI 正在创建一个新的超级对齐团队，由 Sutskever 和 Leike 领导，该团队将有权使用公司迄今为止已获得的 20% 的计算资源。该团队由 OpenAI 之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能 AI 的核心技术挑战。
—— techcrunch