Um dos pioneiros e maiores especialistas sobre inteligência artificial, o canadense Yoshua Bengio criticou a corrida bilionária pelo desenvolvimento da tecnologia, alertando que os modelos atuais exibem comportamentos perigosos, como mentir aos usuários.

Vencedor do prêmio Turing e referência para desenvolvedores ligados à OpenAI e ao Google, o professor de ciência da computação da Universidade de Montreal destacou que a competição intensa foca em capacidades e não na segurança. Por isso, Bengio lançou a LawZero, um grupo de pesquisa sem fins lucrativos focado em criar sistemas de IA mais seguros, afastados das pressões comerciais.

Até o momento, a iniciativa já levantou cerca de US$ 30 milhões em doações filantrópicas, com contribuições do engenheiro Jaan Tallinn, fundador do Skype, da fundação de Eric Schmidt, ex-CEO do Google, além da Open Philanthropy e do Future of Life Institute.

Bengio vê a LawZero como uma resposta às evidências recentes de que modelos de IA estão desenvolvendo capacidades como enganar, trapacear e autopreservação. Ele alerta para riscos futuros, incluindo sistemas inteligentes capazes de agir contra humanos e até ajudar na criação de armas biológicas perigosas — algo que, segundo ele, pode se tornar realidade já no próximo ano.

Sediada em Montreal, a organização emprega 15 pessoas e planeja contratar mais talentos para construir modelos seguros de IA. Para dedicar-se integralmente, Bengio vai deixar o cargo de diretor científico do Mila, um instituto de pesquisa sobre inteligência artificial com sede em Quebec.

OpenAI se afasta do modelo sem fins lucrativos

Fundada em 2015 como organização sem fins lucrativos, a OpenAI foi alvo de críticas de Bengio por ter se distanciado desse modelo e da missão original de beneficiar a humanidade.

Embora seja uma das empresas mais financiadas do mundo, a dona do ChatGPT recentemente revelou dificuldades para arrecadar recursos por ainda estar controlada por uma entidade sem fins lucrativos, o que limita a atratividade para investidores externos.

Por isso, estão em cursos mudanças para transformar sua parte lucrativa em uma Public Benefit Corporation, modelo parecido com o de outras empresas do setor, ao mesmo tempo que mantém algum controle da organização sem fins lucrativos.

As mudanças na OpenAI são exemplo de como a lógica do mercado funciona. “Para crescer muito rapidamente, você precisa convencer as pessoas a investirem muito dinheiro; e elas querem ver retorno sobre o investimento”, o que, para Bengio, desvia o foco da segurança e do bem-estar coletivo para o lucro.