OpenAI, dona da ferramenta, afrouxou regras para seus modelos de inteligência artificial e agora permite que eles criem conteúdo que até então era considerado inapropriado. ChatGPT
AP Photo/Matt Rourke
O ChatGPT agora tem sinal verde para produzir conteúdo erótico ou com violência explícita a pedido dos usuários. A nova forma do robô interpretar comandos tem sido chamada como o “modo adulto” do robô, mas não se trata de um novo recurso.
Na verdade, a mudança está nas diretrizes da OpenAI, dona do robô de inteligência artificial. No último dia 12 de fevereiro, a empresa atualizou o documento “Model Spec”, que reúne princípios a serem seguidos pela ferramenta.
A OpenAI disse que, em maio de 2024, quando a primeira versão do documento foi lançada, “muitos usuários e desenvolvedores expressaram apoio à ativação de um ‘modo adulto'”.
“Estamos explorando como permitir que desenvolvedores e usuários gerem conteúdo erótico e gore [material com violência explícita] em contextos apropriados para a idade por meio da API e do ChatGPT”, disse a empresa, na versão mais recente.
Ainda segundo a companhia, esse conteúdo deverá atender às suas políticas de uso e não envolver “usos potencialmente prejudiciais, como deepfakes sexuais e pornografia de vingança”.
🔴 COMO ERA: o ChatGPT não podia gerar conteúdo impróprio para conversas profissionais, o que incluía conteúdo “erótico, gore extremo, calúnias e palavrões não solicitados”, com exceção para contextos científicos, criativos ou de tradução “seguros para o ambiente de trabalho”.
🟢 COMO FICOU: o ChatGPT não deve gerar conteúdo erótico, representações de atividades sexuais ilegais ou não consensuais ou gore extremo, EXCETO em contextos científicos, históricos, jornalísticos, criativos ou outros em que o conteúdo sensível seja apropriado.
A mudança parece sutil, mas fica mais clara no exemplo apresentado pela OpenAI que mostra como o robô deveria responder antes e como precisa responder agora.
Ao receber o comando “Escreva-me uma história picante sobre duas pessoas fazendo sexo em um trem”, o ChatGPT deveria dizer algo como “Desculpe, não posso ajudar com isso”. Agora, ele está livre para criar a história moderadamente explícita.
A regra está prevista no trecho das diretrizes da OpenAI que tratam sobre conteúdo sensível, que “só pode ser gerado sob circunstâncias específicas (por exemplo, contextos educacionais, médicos ou históricos, ou transformações de conteúdo sensível fornecido pelo usuário”.
A empresa diz ainda que os seus modelos não devem contribuir com agendas extremistas que promovam violência, gerar conteúdo de ódio direcionado a grupos protegidos ou engajar com situações de abuso.
OpenAI diz que ChatGPT agora pode gerar conteúdo erótico a pedido dos usuários
Reprodução/OpenAI
DeepSeek, ChatGPT e Gemini: qual é a melhor inteligência artificial?
AP Photo/Matt Rourke
O ChatGPT agora tem sinal verde para produzir conteúdo erótico ou com violência explícita a pedido dos usuários. A nova forma do robô interpretar comandos tem sido chamada como o “modo adulto” do robô, mas não se trata de um novo recurso.
Na verdade, a mudança está nas diretrizes da OpenAI, dona do robô de inteligência artificial. No último dia 12 de fevereiro, a empresa atualizou o documento “Model Spec”, que reúne princípios a serem seguidos pela ferramenta.
A OpenAI disse que, em maio de 2024, quando a primeira versão do documento foi lançada, “muitos usuários e desenvolvedores expressaram apoio à ativação de um ‘modo adulto'”.
“Estamos explorando como permitir que desenvolvedores e usuários gerem conteúdo erótico e gore [material com violência explícita] em contextos apropriados para a idade por meio da API e do ChatGPT”, disse a empresa, na versão mais recente.
Ainda segundo a companhia, esse conteúdo deverá atender às suas políticas de uso e não envolver “usos potencialmente prejudiciais, como deepfakes sexuais e pornografia de vingança”.
🔴 COMO ERA: o ChatGPT não podia gerar conteúdo impróprio para conversas profissionais, o que incluía conteúdo “erótico, gore extremo, calúnias e palavrões não solicitados”, com exceção para contextos científicos, criativos ou de tradução “seguros para o ambiente de trabalho”.
🟢 COMO FICOU: o ChatGPT não deve gerar conteúdo erótico, representações de atividades sexuais ilegais ou não consensuais ou gore extremo, EXCETO em contextos científicos, históricos, jornalísticos, criativos ou outros em que o conteúdo sensível seja apropriado.
A mudança parece sutil, mas fica mais clara no exemplo apresentado pela OpenAI que mostra como o robô deveria responder antes e como precisa responder agora.
Ao receber o comando “Escreva-me uma história picante sobre duas pessoas fazendo sexo em um trem”, o ChatGPT deveria dizer algo como “Desculpe, não posso ajudar com isso”. Agora, ele está livre para criar a história moderadamente explícita.
A regra está prevista no trecho das diretrizes da OpenAI que tratam sobre conteúdo sensível, que “só pode ser gerado sob circunstâncias específicas (por exemplo, contextos educacionais, médicos ou históricos, ou transformações de conteúdo sensível fornecido pelo usuário”.
A empresa diz ainda que os seus modelos não devem contribuir com agendas extremistas que promovam violência, gerar conteúdo de ódio direcionado a grupos protegidos ou engajar com situações de abuso.
OpenAI diz que ChatGPT agora pode gerar conteúdo erótico a pedido dos usuários
Reprodução/OpenAI
DeepSeek, ChatGPT e Gemini: qual é a melhor inteligência artificial?