Dois cientistas que receberam o Prêmio Turing deste ano por suas contribuições com a técnica de computação aprendizado por reforço alertaram a respeito do perigo de entregar ao público modelos de inteligência artificial não seguros. Eles se disseram preocupados com a pressa de companhias de IA em lançar os sistemas antes de testá-los. 

Andrew Barto é professor de Informação e Ciências da Computação da Universidade de Massachusetts e Richard Sutton é professor de Ciência da Computação da Universidade de Alberta. 

Com frequência, o Prêmio Turing é chamado de Prêmio Nobel da Computação. A gratificação recebeu seu nome em homenagem ao matemático britânico Alan Turing, que forneceu os fundamentos matemáticos da computação, e recompensa em US$ 1 milhão seus vencedores. 

A dupla desenvolveu o aprendizado por reforço em 1980 inspirada por como as pessoas aprendem. A técnica de aprendizado por reforço consiste em recompensar sistemas de IA por se comportarem da forma desejada.

O trabalho desenvolvido por Barto e Sutton hoje é usado em companhias do setor de IA. O Google DeepMind, por exemplo, utilizou a técnica para desenvolver o AlphaGo, um sistema de IA que supera os seres humanos no jogo Go.

No entanto, Barto e Sutton dizem que empresas têm lançado IAs suscetíveis a erros enquanto levantam elevados valores de financiamento e investem em ampla infraestrutura de data centers. 

“Práticas de engenharia evoluíram para tentar mitigar consequências negativas da tecnologia, e eu não vejo isso sendo praticado pelas companhias que estão desenvolvendo”, disse Barto. 

Corte na ciência e AGI

Os dois defenderam que é uma contradição do presidente dos Estados Unidos, Donald Trump, colocar a IA prioridade nacional e, ao mesmo tempo, cortar investimentos em ciência. 

Isso pode colocar a dominância dos Estados Unidos no desenvolvimento de ciência em risco, diz Barto. Ele argumenta que a falta de investimentos pode fazer com que oportunidades que permitam trabalhos como o que recebeu o Prêmio Turing desapareçam. O resultado pode ser falta de liberdade para explorar conceitos abstratos e ainda não testados.  

Richrd Sutton, por sua vez, criticou o hype em torno da inteligência artificial geral (AGI), que em teoria ultrapassa as pessoas em capacidade cognitiva. De acordo com alguns executivos da indústria de IA, como Sam Altman (CEO da OpenAI), sistemas de AGI podem ser lançados ainda neste ano. Sutton avalia que IAs mais inteligentes do que pessoas se tornarão uma realidade eventualmente por meio de um melhor entendimento de como a mente humana funciona.