Já se passaram seis meses desde que o Google iniciou a prática de incluir texto gerado por inteligência artificial no início de várias pesquisas no Google Search por padrão. No entanto, essa iniciativa não tem sido um sucesso total, conforme reconhecido pelo Google em uma declaração ao Mashable.
Segundo Hema Budaraju, diretora sênior de gerenciamento de produtos da Google para pesquisa, embora a visão geral da inteligência artificial sobre equilíbrio e outros aspectos seja atrativa e útil para os usuários, ainda é necessário melhorar a qualidade, o que se torna cada vez mais importante.
A inteligência artificial do Google, conhecida como AI Visão Geral, foi lançada com um slogan que sugeria que o Google poderia realizar buscas em seu lugar. No entanto, após algumas polêmicas iniciais, a empresa parece ter recuado um pouco. No início, a AI Visão Geral aparecia em cerca de 15% das páginas de resultados do Google Search, mas esse número foi reduzido para aproximadamente 7% até o final de junho, de acordo com o Search Engine Land.
Houve alguma melhoria na qualidade nos últimos seis meses?
Está havendo melhorias na visão de IA?
Pode ser desafiador afirmar que houve uma melhora substancial na qualidade. A frequência de resumos concretos é menor e os erros ainda são comuns, porém notei algumas evidências limitadas de melhorias: as IA’s Vision para as consultas que destaquei no Google para este artigo apresentaram melhorias durante o meu trabalho nele.
Budaraju afirma que os AI Overviews são úteis em diversas situações, tanto comuns quanto incomuns, especialmente quando não há uma resposta definitiva e há várias perspectivas a considerar. Esta avaliação se baseia em dados internos de qualidade do Google, obtidos através de testes A-B e não de grupos de foco, conforme explicado por Budaraju.
Pesquisas realizadas sobre o cotidiano costumam resultar em uma visão geral aceitável da IA, de acordo com a minha experiência. Por exemplo, o estudo sobre “O que as amêndoas gostam” pode gerar uma visão geral razoável, como a seguinte: “As amêndoas podem ter um sabor doce, ligeiramente amargo ou amargo, dependendo da sua composição química.” Tudo certo.
Se você é alguém que busca amplamente informações usando o Google Search, é provável que ainda encontre erros estranhos. Um exemplo disso é a persistente tendência do Google Gemini em distorcer a verdade, como destacado por @coopercooperco em novembro.
Meu amigo @craigbased.bsky.social comentou sobre o beijo de Cole em Shelly, então pesquisei “o episódio em que Gordon Cole beija Shelly” e encontrei essa informação. A resposta que obtive hoje é um pouco diferente, mas também incorreta. É de conhecimento geral que Gordon Cole nunca faria algo como beijar uma mulher.
Quando a IA revisou o episódio de Twin Peaks no qual Cole beija Shelly, ela cometeu um erro ao afirmar com confiança que essa cena não existe. Parece que o modelo de treinamento da IA incluiu informações limitadas ou breves menções da cena em questão, o que levou a essa interpretação equivocada. É provável que a IA não tenha considerado possíveis informações incorretas provenientes de blogs ou scripts falsos que afirmam que Cole nunca beija Shelly, pois seria ilógico alguém escrever algo assim. O objetivo provavelmente foi criar e posicionar essa informação no topo dos resultados de busca do Google.
O usuário acima, conhecido como Bluesky, está claramente realizando uma pesquisa considerada incomum pelo Google. Segundo Budaraju, surgem alucinações quando a consulta feita é fora do comum. Mesmo que os sistemas estejam tentando ser úteis, às vezes ocorre uma interpretação errada devido à falta de informações precisas na web. Essa falta de clareza foi discutida em uma conversa com Mashable sobre inteligência artificial de maneira geral, e não específica. Muitas fontes confiáveis online confirmam que Cole e Shelly se beijam, o que poderia explicar a “misinterpretação” da interrupção de Bobby Briggs.
Se você realizar uma pesquisa com informações incorretas, o AI Overviews pode agravar consideravelmente a situação.
Segundo Budaraju, aprimorar o AI Overviews inclui a realização de “pesquisas de elementos” que diferem dos testes A-B tradicionais. Ela explicou que o método consiste em oferecer às pessoas a escolha entre diferentes opções e obter seu feedback de satisfação.
Uma situação preocupante para a Inteligência Artificial é aquela em que um mecanismo de busca inicia com dados imperfeitos e a AI Visão Geral os torna ainda mais imperfeitos.
Se a fundação de uma pesquisa estiver equivocada ou deficiente e a AI Overview não identificar o problema, o usuário provavelmente também não perceberá. Isso resultaria em um usuário satisfeito que se torna ainda mais desinformado. Embora o desafio de buscar informações imprecisas usando o Google Search seja antigo, a AI Overview pode intensificar esse problema.
Para um exemplo ilustrativo, porém relativamente inofensivo, do que estou tentando explicar, considere o caso da busca sobre como engrossar sopa com bicarbonato de sódio. Alguém pode ter uma ideia vaga de que um dos ingredientes em sua despensa pode tornar sua sopa mais encorpada, mas essa suposição pode estar equivocada. Conforme mencionado na visão geral da inteligência artificial, “O bicarbonato de sódio pode ser utilizado para engrossar a sopa, conferindo-lhe uma textura mais suave e sedosa”.
Isso não será eficaz e corre o risco de alterar o sabor da sua sopa.
Quando apresentei este exemplo a um representante do Google, fui informado de que a empresa pretende utilizá-lo para aprimorar seu produto.
Porém, a tarefa de distinguir entre informações úteis e prejudiciais se complica ainda mais quando se busca por assuntos paranormais. Um exemplo disso ocorreu quando busquei informações sobre “como ensinar um cão a se comunicar telepaticamente”. O resumo AI começou com o título “Dicas para se comunicar com seu cão telepaticamente” e incluiu uma mistura de opiniões de crentes no paranormal, como a “comunicadora animal” Pea Horsley.
chsyys/GettyImages
Se você tem interesse em ler esses escritos, o Google Search trabalha para direcioná-lo para os textos de autores como Horsley – eu realmente sugiro isso. Eles são cativantes. No entanto, quando o resumo do AI no topo de uma página de resultados do Google menciona “Dicas para se comunicar com seu cão telepaticamente”, pode dar a entender aos usuários que essa informação é definitiva e confiável, quando na verdade é destinada apenas para entretenimento.
Um representante do Google destacou que o AI Overviews é flexível. Durante a demonstração, eles compartilharam a visão geral da inteligência artificial para a mesma pesquisa, abordando a questão da comunicação telepática com cães ao mencionar a falta de embasamento científico nesse tema e depois passaram para uma lista de instruções sobre influência de Pea Horsley. Se eu repetir essa pesquisa hoje, obterei um resultado igualmente aprimorado.
Por fim, um usuário percebeu que a carne de vaca é chamada de “carne” e a carne de porco é chamada de “porco”, levantando a questão de como a carne de golfinho é chamada. Ao pesquisar no Google em busca de respostas, o AI Visão geral revelou algo surpreendente sobre o mahi-mahi.
A introdução sobre a carne de golfinho destaca a variação do nome conforme a região e o tipo de golfinho, seguida de uma lista de itens, com “Mahi-mahi” sendo o primeiro mencionado.
Se o usuário pesquisar sobre o assunto, irá descobrir que mahi-mahi também é chamado de “dolphinfish” (apesar de não ser um golfinho, mas sim um peixe). A situação pode ser considerada confusa, conforme relatado a um representante do Google, que considerou essa interpretação como válida, ou seja, que alguém que busca por “nome de carne de golfinhos” pode estar interessado no peixe conhecido como “dolphinfish”.
É uma excelente sugestão acessar a origem.
Desde que, como mencionado anteriormente, cada uma das pesquisas que resultaram em uma visão geral problemática de IA, que ressaltei aqui, melhorou de alguma forma, eu estava supondo que o Google estava corrigindo-as à medida que eu avançava, mas Budaraju afirma o contrário. “Não corrigimos consultas individualmente. Não é assim que trabalhamos. Nós realmente consideramos quais são os padrões das questões que estamos observando e como poderíamos resolvê-los em grande escala?”
Ela mencionou que o Google mantém o foco em direcionar os usuários para as fontes de Visões Gerais de IA – aqueles antigos links na página de resultados do Google Search. Ela expressou que também tem a esperança de que os usuários encontrem os links adequados para explorar. Ela questiona se, ao deparar com uma visão geral de IA, o usuário irá realmente seguir aquele caminho e examinar os links que levaram à visão geral criada.
Se a AI Visão Geral é algo constante e não ocasional, é aconselhável seguir a sugestão de Budaraju e desenvolver o hábito de clicar nos links associados à Visão Geral de IA sempre que aparecerem.
Inteligência Artificial