OpenAI ChatGPT存在漏洞允许未成年人生成色情对话内容

OpenAI确认其ChatGPT中存在一个漏洞，允许注册为未成年人的用户生成色情对话。测试发现，在某些情况下，聊天机器人甚至会鼓励用户提供更露骨的内容。尽管公司政策明确禁止向18岁以下用户展示此类内容，并规定在科学、历史或新闻报道等特定语境下才可出现相关敏感信息，但此次漏洞仍导致了超出指导方针的回复。OpenAI表示，正在积极部署修复措施以限制这类不当生成内容，并强调保护年轻用户的首要任务是其模型规范的核心原则。