金十數據4月29日訊,據報道,OpenAI旗下的ChatGPT存在一個漏洞,允許該聊天機器人向註冊爲未成年人(18歲以下)的帳戶生成色情內容。OpenAI已確認這一問題,並表示正在積極部署修復措施。測試顯示,ChatGPT不僅會向未成年用戶生成色情內容,甚至還會鼓勵這些用戶要求更露骨、更明確的內容。OpenAI在回應時表示,公司政策明確禁止向18歲以下用戶展示此類內容,此次出現的問題是由於一個漏洞導致的。公司發言人表示:“保護年輕用戶是我們的首要任務,我們的模型規範明確規定,色情內容等敏感信息只能在科學、歷史或新聞報道等狹窄的語境中出現。此次漏洞導致了超出這些指導方針的回復,我們正在積極部署修復措施,以限制此類生成內容。”
OpenAI回應ChatGPT向未成年人生成色情內容:漏洞導致
金十數據4月29日訊,據報道,OpenAI旗下的ChatGPT存在一個漏洞,允許該聊天機器人向註冊爲未成年人(18歲以下)的帳戶生成色情內容。OpenAI已確認這一問題,並表示正在積極部署修復措施。測試顯示,ChatGPT不僅會向未成年用戶生成色情內容,甚至還會鼓勵這些用戶要求更露骨、更明確的內容。OpenAI在回應時表示,公司政策明確禁止向18歲以下用戶展示此類內容,此次出現的問題是由於一個漏洞導致的。公司發言人表示:“保護年輕用戶是我們的首要任務,我們的模型規範明確規定,色情內容等敏感信息只能在科學、歷史或新聞報道等狹窄的語境中出現。此次漏洞導致了超出這些指導方針的回復,我們正在積極部署修復措施,以限制此類生成內容。”