Depois de perder seu cofundador, que se dedicará a investir em startups de inteligência artificial, a xAI, de Elon Musk, enfrenta um problema similar ao que aconteceu com o Meta AI e o ChatGPT: o compartilhamento público – sem consentimento ou permissão – de centenas de milhares de conversas dos usuários com o chatbot de IA Grok.

Quando um usuário do Grok clica no botão “compartilhar” em uma conversa, um link único é gerado, permitindo que a conversa seja compartilhada por e-mail ou mensagem. No entanto, o mesmo link também é indexado por motores de busca como Google, Bing e DuckDuckGo, tornando as conversas acessíveis a qualquer pessoa na web.

Ou seja, clicar no botão de compartilhar significa que a conversa será publicada automaticamente também no site do Grok, sem aviso ou alerta. Uma pesquisa por conversas com o chatbot da xAI feita pela Forbes mostra que mais de 370 mil diálogos já foram indexados pelo Google.

Essas conversas variam desde tarefas simples, como escrever posts para redes sociais, até instruções para criar drogas ilícitas, como fentanil e metanfetamina, construir uma bomba ou até mesmo planos para assassinatos. Em um exemplo extremo, o Grok forneceu um plano detalhado para a morte do próprio Elon Musk.

Entre os diálogos encontrados, estão conversas iniciadas pelo jornalista britânico Andrew Clifford, que usou o Grok para resumir manchetes de jornais e compor posts em redes sociais. Ele foi um dos que afirmou não saber que, ao clicar no botão de compartilhar, sua conversa se tornaria acessível no Google – embora também não se importasse, já que nada de comprometedor foi exposto. A xAI não respondeu ao pedido da Forbes para comentar sobre o incidente.

Especialistas de segurança e até pesquisadores de IA, como Nathan Lambert, também foram afetados pela falta de aviso sobre a indexação, o que gerou preocupações sobre a privacidade e a segurança dos dados compartilhados nas plataformas de IA.

Outros casos

A publicação inadvertida de conversas não é exclusiva da xAI. Recentemente, usuários do ChatGPT, da OpenAI, também se alarmaram ao perceberem que suas conversas estavam aparecendo nos resultados de busca do Google. A empresa rapidamente descontinuou a funcionalidade após a repercussão negativa.

Anteriormente, o novo aplicativo independente Meta AI se tornou um pesadelo de privacidade, já que muitos usuários não sabiam que estavam compartilhando suas conversas privadas com o mundo inteiro. Após críticas, a Meta adicionou novas medidas de aviso e segurança, reforçando-as no lançamento do app para o Brasil.