行业领袖警告： AI 可能给人类带来“灭绝的风险”
周二，来自 OpenAI、Google Deepmind、Anthropic 和其他 AI 实验室的领导者警告说，他们正在开发的人工智能技术可能有一天会对人类构成生存威胁，并应被视为与流行病和核战争同等的社会风险。
“减轻人工智能灭绝的风险应该与其他社会规模的风险（例如流行病和核战争）一起成为全球优先事项，”预计将由非营利组织人工智能安全中心发布的一句话声明中写道。超过 350 名从事 AI 工作的高管、研究人员和工程师签署了这封公开信
签署人包括来自 3 家领先 AI 公司的高管：OpenAI 首席执行官 Sam Altman；谷歌 DeepMind 首席执行官戴米斯·哈萨比斯 (Demis Hassabis)；以及 Anthropic 的首席执行官 Dario Amodei。
杰弗里·辛顿 (Geoffrey Hinton) 和约书亚·本吉奥 (Yoshua Bengio) 是三位因在神经网络方面的开创性工作而获得图灵奖的研究人员中的两位，他们通常被认为是现代人工智能运动的“教父”，他们和该领域的其他著名研究人员一样签署了声明。
该声明发表之际，人们越来越担心人工智能的潜在危害。所谓的大型语言模型——ChatGPT 和其他聊天机器人使用的人工智能系统类型——的最新进展引发了人们的担忧，即人工智能可能很快被大规模用于传播错误信息和宣传，或者它可能会夺走数百万白领的工作。
最终，一些人认为，如果不采取任何措施减缓它的发展，人工智能可能会变得强大到足以在几年内造成社会规模的破坏，尽管研究人员有时不会解释这将如何发生。
—— 纽约时报
发表回复