控制AI最有效的方法也许是植入”奴性”?或者是”好奇心”?
计算神经网络是一种模仿生物大脑神经网络构建的模型,几十年以来,人们发现仅靠模仿人类大脑的架构就能拥有与人类相似的能力。虽然还不知道具体原因,但这已经成就了今天的AI技术,从 ChatGPT 到 Midjourney 再到谷歌搜索都是计算神经网络。
AI拥有情感和AI毁灭世界一直是科幻作品的重要组成部分,如今前者已成现实后者备受关注。在 munk 辩论会”AI研发是否对人类文明构成威胁”上,深度学习三巨头之二 Yann LeCun、Yoshua Bengio 等业内领袖展开了激烈讨论。LeCun 提到了一个颇具科幻哲学意味的方案: “令人惊讶的是,这些AI会有情绪,会有同理心,类似于人类的种种情感,而这将是控制它们的方法。我们可以将服从植入其中。”
从家宠到牲畜,虽然利用和培养天性已然成为人类社会的一部分,但当科技演绎”潘多拉的起源”时还是难免让人感到惊奇。说到潘多拉,马斯克与 xAI 就以植入好奇心为方案,他们认为最安全的方式是构建一个拥有极度好奇心和追求真相的AI,因为这是人类的特性。
—— Latent Space