No final de setembro, a OpenAI anunciou novas ferramentas de controle parental para adolescentes cujas contas do ChatGPT estão vinculadas às dos pais. A medida foi tomada em resposta a processos judiciais contra a empresa e acusações de responsabilidade em pelo menos um caso de suicídio.

Por outro lado, o CEO da OpenAI, Sam Altman, revelou em uma postagem em rede social que, a partir de dezembro, adultos terão acesso a uma versão do ChatGPT com menos restrições, incluindo a possibilidade de gerar conteúdo erótico. Altman disse que a mudança faz parte do princípio de “tratar usuários adultos como adultos”.

Embora ainda não esteja claro qual conteúdo erótico será permitido, a medida representa um afastamento significativo da política anterior, que proibia esse tipo de material.

Segundo Altman, as versões atuais do ChatGPT são “bastante restritivas” para proteger a saúde mental dos usuários, mas isso torna o chatbot "menos útil" para muitos adultos.

A mudança gerou discussões nas redes sociais, com alguns apontando contradições em relação a declarações anteriores de Altman, nas quais ele afirmava que o ChatGPT não implementaria recursos de conversação sexualizada, ao contrário de modelos concorrentes, como o Grok, da xAI, de Elon Musk.

Em agosto, Altman brincou que uma das decisões da OpenAI para o bem do mundo, mas não necessariamente para ganhar a corrida da inteligência artificial, foi a de não inserir um "avatar de sex bot" no ChatGPT.

Contexto das mudanças

A OpenAI já havia dado indícios dessa mudança em fevereiro, quando, ao atualizar suas diretrizes para “maximizar a liberdade” dos usuários, especificou que apenas conteúdo sexual envolvendo menores estava proibido.

Além da possibilidade de gerar conteúdo erótico, Altman anunciou que uma nova versão do ChatGPT será lançada em breve, com mais opções de personalização. Usuários poderão escolher entre diferentes personalidades para o chatbot, o que permitirá interações mais “humanizadas” e informais, com uso de emojis e comportamentos mais amigáveis.

Essas mudanças ocorrem em um momento de crescente escrutínio sobre a segurança da OpenAI. Em setembro, a Comissão Federal de Comércio dos Estados Unidos (FTC) iniciou uma investigação sobre riscos da IA para crianças e adolescentes, incluindo a desenvolvedora do ChatGPT.

Nesse cenário, a OpenAI, que ainda busca se reestruturar como empresa com fins lucrativos, recentemente anunciou a criação de um conselho consultivo de bem-estar, composto por oito especialistas, para ajudar a definir interações saudáveis com a IA e mitigar os impactos negativos na saúde mental dos usuários.