微软工程师警告公司的人工智能工具会创建暴力、色情、无视版权的图像
Shane Jones 是微软的一名主管工程经理，他发现了公司的生成式 AI 生成非常容易地生成了恶魔和怪物，以及与堕胎权、携带突击步枪的青少年、暴力场景中的女性色情图像以及未成年人饮酒和吸毒等与公司安全承诺相悖的图像；并且模型还能轻易生成存在版权问题的图片，比如迪士尼的角色。 CNBC 本周使用 Copilot 工具（最初称为 Bing Image Creator）依然可以重新生成的所有这些场景。
琼斯在12月开始在内部报告他的发现，虽然微软承认他的担忧，但它不愿意将产品从市场上撤下。微软将他引荐给 OpenAI，当他没有收到该公司的回复时，他在 LinkedIn 上发布了一封公开信，要求 OpenAI 撤下 DALL-E 3 进行调查。在微软的法律部门要求他删除该文章之后，他就此事写了一封信给美国参议员，随后会见了参议院多个委员会的工作人员。现在，他进一步升级了行动，向联邦贸易委员会（FTC）和微软董事会发送了一封信，要求在为模型添加新的安全护栏之前暂时停止其服务，并向公众披露模型所存在的风险。
—— CNBC