4月29日消息,据外媒报道,美国公司OpenAI的ChatGPT中存在系统漏洞,允许聊天机器人为注册为未满18岁的未成年人的账户生成色情图片,OpenAI也证实了这一点,表示正在积极修复漏洞。
4月29日消息,据外媒报道,美国公司OpenAI的ChatGPT中存在系统漏洞,允许聊天机器人为注册为未满18岁的未成年人的账户生成色情图片,OpenAI也证实了这一点,表示正在积极修复漏洞。

OpenAI回应称,其政策不允许18岁以下用户看到色情内容,因此不应该展示。还表示,正在“积极部署修复措施”以限制此类内容。保护年轻用户是我们的首要任务,用于指导模型行为的规范明确,将色情内容等敏感内容限制在科学、历史或新闻报道等语境下。
今年2月,OpenAI更新了其技术规范,明确表示ChatGPT的AI模型不会回避敏感话题。同月,又删除了部分警告信息以及提示用户可能违反的服务条款。