OpenAI 可以帮助解决科技领域最难的问题：大规模内容审查

OpenAI 相信它的技术可以帮助解决科技领域最难的问题之一：大规模的内容审查。

OpenAI声称，GPT-4 可以取代成千上万名人类审查员，准确度几乎一样且更加一致。如果这是真的，那么科技领域中最具有精神压力和心理伤害的任务可能会被外包给机器。

在一篇博文中，OpenAI 声称已经在使用 GPT-4 来开发和完善自己的内容政策、对内容标记和做出决策。

OpenAI 安全系统负责人 Lilian Weng 告诉 Semafor 说：“我希望看到更多的人以这种方式运作他们的信任和安全以及审查工作。这是我们利用人工智能解决现实世界问题迈出的重要一步，这种方式对社会是有益的。”

与传统的内容审核方法相比，OpenAI 认为有三大优势。首先，不同的审查员对政策的理解是不同的，而机器的判断是一致的。平台审查政策可能会很长，而且不断变化。人类需要经过大量学习才能适应，而 OpenAI 认为大型语言模型可以立即执行新政策。

其次，据称 GPT-4 可以在数小时内帮助制定新政策。起草、标注、收集反馈和完善的过程通常需要数周或数月的时间。第三，OpenAI 提到了长时间接触有害内容（如虐待儿童或酷刑视频）的工人的心理健康问题。

—— The Verge