Resumos de inteligência artificial do Google geram nova polêmica ao destacar informações sobre suicídio
Os resumos gerados por inteligência artificial do Google voltaram a ser alvo de controvérsia nesta semana após exibirem, em posição de destaque na página de resultados, detalhes sensíveis sobre o suicídio de Paul Flack. O caso foi identificado em pesquisas relacionadas ao irmão da ex-apresentadora Caroline Flack e reacendeu o debate sobre a responsabilidade das plataformas que utilizam IA generativa para sintetizar conteúdos jornalísticos. A discussão levanta preocupações sobre os limites éticos da apresentação automática de informações delicadas a milhões de usuários.
Atenção: esta matéria aborda o tema suicídio. Caso você ou alguém próximo precise de ajuda, o Centro de Valorização da Vida oferece atendimento gratuito pelo telefone 188, além de chat e e-mail, funcionando 24 horas por dia.
A situação veio à pública depois que Nicola Agius, diretora de SEO e Discover da Reach — um dos maiores grupos de comunicação do Reino Unido —, relatou ter encontrado um resumo automático do Google que apresentava, logo no início da página de resultados, informações detalhadas sobre a morte de Paul Flack. Segundo ela, a ferramenta foi além de simplesmente confirmar o falecimento e organizou os acontecimentos em seções que aprofundavam aspectos do caso. Em publicação na rede social LinkedIn, Agius afirmou que a forma como o conteúdo foi estruturado ultrapassou o que seria esperado para um tema dessa natureza e pediu que o Google repensasse a abordagem da inteligência artificial em assuntos sensíveis.
De acordo com o relato da diretora, o resumo gerado pela inteligência artificial do Google, conhecida pelo nome Gemini, também trazia informações sensíveis logo nas primeiras linhas e repetia parte desse conteúdo quando o usuário expandia o texto. Foi observado ainda que as informações utilizadas pelo sistema tinham origem em reportagens publicadas por veículos de comunicação. Mesmo assim, esses detalhes não apareciam com o mesmo destaque nas matérias originais, e parte desse conteúdo já havia sido removida por alguns dos sites citados pela própria ferramenta antes da geração do resumo.
As críticas também partiram de organizações dedicadas à saúde mental. As diretrizes elaboradas pelo Samaritans recomendam que veículos jornalísticos evitem mencionar métodos de suicídio em reportagens, sobretudo em títulos. A entidade Mind adota orientação semelhante e alerta que esse tipo de informação pode provocar impacto negativo em pessoas em situação de vulnerabilidade emocional. Essas recomendações são amplamente adotadas em redações de diversos países como forma de reduzir riscos associados à chamada "contaminação comportamental", na qual a exposição detalhada a um método pode influenciar pessoas suscetíveis.
Lois Sparkes, chefe de salvaguarda da Mind, avaliou que a forma como os resumos foram apresentados representa um motivo sério de preocupação. Em declaração à imprensa britânica, ela afirmou ser extremamente preocupante e decepcionante ver parte da cobertura jornalística e os resumos gerados por inteligência artificial incluírem referências a métodos de suicídio. Para Sparkes, a exibição dessas informações em posição de destaque pode ser especialmente prejudicial por atingir pessoas em situação de vulnerabilidade e por oferecer pouca indicação de canais de apoio especializados.
A representante da Mind também argumentou que respostas produzidas por inteligência artificial tendem a transmitir uma impressão de certeza sobre assuntos complexos, mesmo quando os temas exigem sensibilidade e contextualização cuidadosa. Ela defendeu que esse tipo de ferramenta seja submetido aos mesmos padrões éticos aplicados aos meios tradicionais de comunicação, uma vez que os resumos automáticos alcançam audiências igualmente amplas e exercem influência significativa sobre a forma como o público compreende determinados acontecimentos.
O episódio reacende um debate mais amplo sobre a responsabilidade das grandes plataformas digitais diante do avanço da inteligência artificial generativa. Ferramentas como o Gemini, da Google, são treinadas para sintetizar grandes volumes de informação e apresentar respostas diretas aos usuários, muitas vezes em posição privilegiada nas páginas de busca. Quando o conteúdo sintetizado envolve temas sensíveis como suicídio, abuso ou violência, especialistas argumentam que a tecnologia pode acabar reproduzindo ou amplificando práticas editoriais que deveriam ser evitadas, em vez de aplicar filtros mais rigorosos.
O caso envolvendo Paul Flack não é o primeiro a colocar em xeque a forma como o Google apresenta informações delicadas por meio de inteligência artificial. Pesquisas anteriores já haviam identificado problemas semelhantes na exibição de dados de saúde, orientações médicas e conteúdos relacionados a transtornos mentais. À medida que os chamados "AI Overviews" se consolidam como porta de entrada para milhões de buscas diárias em todo o mundo, cresce a pressão para que empresas de tecnologia revisem seus protocolos internos e invistam em mecanismos mais eficazes de modulação de conteúdo sensível.
Até o momento da publicação, o Google foi procurado pela reportagem no Brasil, mas não havia enviado um posicionamento oficial sobre o caso.
