OpenAI前董事会因对AI“末世论”的担忧开除阿尔特曼,结果是“AI加速主义”的全面胜利
在过去的一周里,OpenAI的董事会经历了五天内四位首席执行官的更替。它指责最初的首席执行官Sam Altman撒谎,但后来收回了指控,并拒绝透露具体原因。
据我们所知,OpenAI内部的根本冲突是过去一年来很多人指出并取笑的。OpenAI的目标是尝试构建一种近似于人类智能的机器版本(所谓的“AGI”或通用人工智能)。其前提是这在几年而非几十年内是可能的,并且可能非常有益,但也可能非常危险,不仅仅是对于民主或社会等平凡事物,而且对于人类本身也是如此。
你可能会花费生命中的几个星期观看机器学习科学家争论这个问题,最终的结论只能是他们也不知道。ChatGPT可能在五年内发展到《终结者》那个程度,或者在五十年内,或者可能根本不会。
这意味着关于人工智能风险的大多数谈话都变成了对比喻的追逐(它就像核武器,或者一颗陨石,或者确切地说,阿波罗计划)。没有正确答案。
不幸的是对于”末日论者”,过去一周的事件加速了一切。现在辞职的董事会成员之一被引述说,关闭OpenAI将符合该组织的使命(宁可安全也不要冒险)。但那些在OpenAI的应用程序编程接口上构建的数百家公司正在寻找替代方案,既来自其商业竞争对手,也来自那些不受任何人控制的不断增长的开源项目浪潮。人工智能现在将更快地发展,更分散,更难控制。失败的政变通常会加速他们试图阻止的事物。
事实上,对”末日论者”的常见批评是,他们认为一个强大的软件和一些卓越的工程师能够改变世界的想法只是另一种天真而简单化的技术乌托邦主义——它未能理解权力、复杂性和人类系统的真实本质。董事会上的”末日论者”正好证明了这一点——他们不知道权力是如何运作的
—— 金融时报