O CEO da OpenAI, Sam Altman, revelou em entrevista à Fox News, e divulgado pela CNBC nesta segunda-feira, 15, que não tem tido “uma boa noite de sono” desde o lançamento do ChatGPT em 2022.

Ele destacou que as decisões diárias sobre o comportamento do modelo de inteligência artificial, que interage com centenas de milhões de pessoas, são uma fonte constante de preocupação.

Altman afirmou que, embora não se preocupe apenas com grandes erros morais, as pequenas decisões podem gerar consequências significativas para os usuários. Entre os principais temas discutidos estão o suicídio, a moralidade do chatbot, a privacidade e o uso da IA em diferentes contextos, incluindo aplicações militares.

Dilemas do ChatGPT

Em entrevista, Altman comentou um processo movido por uma família que responsabilizou o chatbot pelo suicídio de um adolescente. Ele admitiu que a empresa poderia ter sido mais proativa e oferecido respostas mais eficazes em situações críticas.

Sobre a definição da ética do modelo, Altman explicou que o ChatGPT é treinado com base na experiência coletiva da humanidade, mas que a OpenAI precisa alinhar seu comportamento e determinar quais perguntas não devem ser respondidas. A empresa consultou centenas de especialistas em ética e filosofia para definir limites, incluindo restrições a instruções sobre armas biológicas ou conteúdos nocivos.

Outro ponto abordado foi a proteção de dados. Altman defende o conceito de “privilégio da IA”, sugerindo que conversas com chatbots devem ser tão confidenciais quanto interações médicas ou legais. A política busca impedir que autoridades governamentais acessem informações privadas sem consentimento, preservando a confiança dos usuários.

Questionado sobre a aplicação do ChatGPT em operações militares, o CEO não deu uma resposta definitiva, mas confirmou que a OpenAI fechou contratos com o Departamento de Defesa dos EUA para fornecer modelos de IA personalizados.

Ele também alertou que a automação e a IA generativa podem eliminar empregos atuais, embora gerem novas oportunidades de negócio e aumento de produtividade.

Por fim, apesar das dificuldades, Altman afirmou que a IA generativa tem potencial de “elevar o nível” das pessoas, ampliando capacidades e inovação global. Ele reforçou a necessidade de políticas e controles éticos para garantir o uso seguro e responsável da tecnologia.