Bing Chat 试验是否是因为GPT-4的安全训练而不是部署了小版本的GPT-4

Bing Chat 愈发笨拙可能是安全训练导致，而不是部署了更小版本的 GPT-4

微软研究院首席研究员 Sébastian Bubeck 是《AGI的火花: GPT-4 的早期实验》论文的第一作者，在MIT的演讲提到了自己测试 GPT-4 (无视觉版) 画画的经历，AI从越来越强到越来越弱:

一个月期间，OpenAI 不断在训练 GPT-4，拥有早期访问权限的 Sébastian Bubeck 每隔一段时间就向 GPT-4 索要一幅独角兽画，以此作为智力的基准，结果发现 GPT-4 的独角兽画一直在进步。但最终，GPT-4 开始接受安全训练时，独角兽画开始退化。

—— LatentSpace