OpenAI 研究人员“安全 Culture”被忽视了

离职高级研究员：OPENAI 将“闪亮产品”置于安全之上

扬•雷克(Jan Leike)曾领导 OpenAI 引导和控制超级强大的人工智能工具的工作，他表示，由于与上级在初创公司投入这些工作的时间和资源上产生分歧，他于周四辞职。雷克在社交媒体网站 X 上的周五帖子中写道：“过去几年里，安全文化和流程已经被闪亮的产品所取代。”“我们迫切需要找出如何引导和控制比我们更聪明的 AI 系统，”雷克写道。“我之所以加入 OpenAI，是因为我认为这是世界上进行这项研究的最佳场所。然而，我与 OpenAI 领导层在公司的核心优先事项上的分歧已经持续了相当长的一段时间，直到我们最终达到了一个决裂点。”雷克表示，超级对齐团队难以获取计算资源，这些资源正在被用于开发新的面向消费者的模型，例如 OpenAI 在周一发布的最新模型 GPT-4o。“在过去的几个月里，我的团队一直在逆风中奋进。有时我们为了计算资源而苦苦挣扎，这使得完成这项至关重要的研究变得越来越困难，”他写道。

—— 英国金融时报 （全文截图）