Google e X: IAs confundem buscas com comandos de chat

As inteligências artificiais de grandes plataformas, como Google e X, estão enfrentando confusões em suas funções originais. Recentemente, usuários notaram que ferramentas integradas ao Google e ao X começaram a agir como chatbots comuns, mesmo quando sua única tarefa deveria ser resumir resultados ou traduzir conteúdos. Essa situação ganhou destaque após relatos de usuários sobre os Resumos de IA nas buscas do Google.

Por exemplo, o Gemini, uma dessas ferramentas, parece estar confundindo o texto que deveria processar com comandos dos usuários. O fenômeno também foi notado com o Grok, na plataforma de Elon Musk, que desde abril passou a traduzir posts de forma nativa. Em várias situações, essas ferramentas deixaram de lado suas funções originais e começaram a "conversar" com os usuários.

Quem costuma fazer buscas no Google com palavras avulsas sabe que o buscador geralmente exibe uma definição do termo, com base em dicionários online. Contudo, quando a palavra é utilizada de forma imperativa, a plataforma começou a interpretá-la como um comando. Essa falha rapidamente se espalhou entre os falantes de inglês, que notaram que ao buscar termos como “disregard” (que significa "desconsiderar" em português), o Google passou a responder como se fosse um assistente: “Entendi. Se precisar de alguma coisa ou tiver uma nova pergunta, me diga!”.

Outros usuários notaram um comportamento similar com palavras como “ignore” ou “skip”, mesmo quando a busca era feita em português. No Brasil, comandos como “lembrar” ou “esquecer” também geraram confusão no buscador.

Após receber feedback dos usuários, o Google reconheceu o problema e afirmou que está trabalhando em uma solução. O site The Verge observou que a plataforma já removeu os resumos de IA do termo “disregard”, reinstaurando o painel clássico com a definição. No entanto, as pesquisas em português ainda apresentam falhas, sinalizando que o problema persiste.

Essa questão nos Resumos de IA levanta críticas sobre a confiabilidade dos resultados de busca. O problema não se limita à interpretação das buscas: um levantamento encomendado pelo The New York Times revelou que a ferramenta comete erros em cerca de um a cada dez resultados, resultando em dezenas de milhões de erros a cada hora. Essas falhas e a implementação forçada de IA na busca já começaram a afastar alguns usuários, levando a um aumento de cerca de 30% no uso do buscador DuckDuckGo.

Uma situação semelhante ocorre na rede social X, onde a ferramenta de tradução, que utiliza o Grok, pode tratar uma pergunta como um comando e oferecer uma resposta ao usuário. O Grok, nesse caso, até realiza a função original, respondendo na língua do usuário.

Um problema similar já foi identificado no Google Tradutor, que também se integrou ao Gemini. Nessa ocasião, textos entre colchetes com instruções faziam com que o sistema abandonasse a tradução e seguisse o comando embutido. Esse tipo de falha é conhecido como injeção de prompt, que ocorre quando o modelo de linguagem não consegue separar as instruções do conteúdo a ser processado.