马斯克和一些业内专家呼吁暂停比GPT-4更强大AI的训练,理由是担忧对人类社会构成危险
埃隆·马斯克和一群人工智能专家和行业高管在一封公开信中说,他们呼吁暂停训练比GPT-4更强大的系统六个月,理由是对社会和人类的潜在风险。
这封信由非营利性的 “生命未来研究所 “发布,包括马斯克、苹果公司联合创始人史蒂夫-沃兹尼亚克和稳定人工智能首席执行官埃马德-莫斯塔克在内的1000多人签署,呼吁暂停先进的人工智能开发,直到此类设计的共享安全协议被制定、实施并由独立专家审计。
信中说:”只有当我们确信强大的人工智能系统的效果是积极的,其风险是可控的,才应该开发。”
信中还详细介绍了人类竞争性人工智能系统以经济和政治混乱的形式对社会和文明的潜在风险,并呼吁开发者与政策制定者在治理和监管机构方面进行合作。
这封信是在欧盟警察部队Europol周一加入了对ChatGPT等先进人工智能的道德和法律担忧的合唱,警告说该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。
—— 路透社