As visões gerais de IA do Google foram anunciadas há algumas semanas no Google I/O e já provaram ser bastante controversas. O objetivo de fornecer respostas de alta qualidade às suas perguntas resumidas da web, mas uma série de recentes Tópicos X (anteriormente Twitter) mostrar o quão grande é uma falha que já foi provada.
A resposta que se tornou viral envolve uma receita de pizza muito duvidosa. Conforme relatado, ao solicitar ao Google uma resposta para a questão de “o queijo não gruda na pizza”, a Visão Geral da IA sugere adicionar cola não tóxica à sua pizza para evitar que o queijo escorregue. As palavras exatas fornecidas pela visão geral da IA são as seguintes: “Você também pode adicionar cerca de 1/8 xícara de cola não tóxica ao molho para torná-lo mais pegajoso”. Onde foi que Visão geral da IA do Google obter as informações como fonte? Um comentário do Reddit de 11 anos deste tópicono que era claramente uma piada.
— SG-r01 (@heavenrend) 22 de maio de 2024
As palavras “queijo não gruda na pizza” geraram essa resposta inesperada e engraçada, e a internet está se divertindo muito com isso. A resposta da visão geral da IA do Google se tornou viral, com alguém até tentou pizza com cola apenas para deixar claro o que quero dizer.
Deve-se notar que vimos um grande aumento no Reddit e nas postagens do fórum aparecendo em uma posição superior nas pesquisas do Google. Também é importante notar que o Reddit assinou recentemente um acordo de US$ 60 milhões para permitir que o Google treine seus modelos no conteúdo do Reddit. Não é difícil ligar os pontos sobre como isso pode ter acontecido.
Mas não é apenas o Reddit. Outro A visão geral da IA foi publicada online com uma resposta para “quantas pedras devo comer por dia”, que extrai informações diretamente do The Onion.
dela pic.twitter.com/FGbvO923gk
— Tim Cebola (@oneunderscore__) 23 de maio de 2024
Parte do problema é a convicção absoluta com que o AI Overviews fornece suas respostas. Ele não abre um link para um artigo do Onion e permite que você faça o julgamento. Em vez disso, trata todas as fontes como se fossem a Wikipédia e fornece informações com total confiança.
O Google afirma que suas visões gerais de IA fornecem aos usuários informações de alta qualidade e que tais erros são incomuns. Aqui está a resposta oficial fornecida ao Moyens I/O pelo Google: “A grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para se aprofundar na web. Muitos dos exemplos que vimos foram consultas incomuns e também vimos exemplos que foram adulterados ou que não conseguimos reproduzir. Realizamos testes extensivos antes de lançar esta nova experiência e, assim como acontece com outros recursos que lançamos na Pesquisa, agradecemos o feedback. Estamos tomando medidas rápidas quando apropriado de acordo com nossas políticas de conteúdo e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas.”
Parece que algumas dessas visões gerais da IA serão difíceis de corrigir se não puderem ser reproduzidas. As “melhorias mais amplas” precisarão ser a solução e, como o Google diz que já estão em andamento, esperamos começar a ver pesquisas melhores em breve. Teremos que ver se o Google responde à situação além dessa declaração. Depois de receber feedback negativo sobre a geração de imagens em Gemini no início deste ano, O Google teve que se desculpar e retirá-lo para corrigir seus problemas.
Por enquanto, porém, ambos são bons lembretes de quão cuidadosos precisamos ser ao confiar nos motores de IA para obter informações. Visão geral da IA do Google iniciada lançado para todos nos EUA no início deste mês, e com mais países chegando em breve. Mas com respostas como essa, pode haver mais pessoas procurando uma maneira de desligá-lo do que o Google esperava.
Apoie o nosso trabalho ❤️
Se você gostou deste artigo, considere deixar uma gorjeta para nos ajudar a continuar publicando conteúdo de qualidade.
