A Meta retirou de circulação uma ferramenta lançada para identificar imagens geradas por inteligência artificial depois que testes revelaram falhas graves. Segundo análise da Reuters, o detector errou em 55% das imagens produzidas pelo próprio modelo Muse Image da empresa quando elas foram cortadas. Foram avaliadas 40 imagens geradas pelo sistema, e a ferramenta só conseguiu reconhecer corretamente as versões originais, sem edições.
O recurso havia sido apresentado em pré-visualização na mesma semana do lançamento do Muse Image, mas a falha expôs limitações técnicas. A Reuters destacou que, embora a ferramenta tenha identificado todas as imagens não modificadas, o desempenho caiu drasticamente com alterações simples, como cortes. A Meta não detalhou se o problema motivou a remoção definitiva ou se ajustes estão em andamento.
A decisão ocorre em meio a um debate global sobre a necessidade de ferramentas confiáveis para distinguir conteúdo real de gerado por IA, especialmente em redes sociais. A falha da Meta levanta dúvidas sobre a eficácia de soluções atuais e reforça desafios para plataformas que buscam combater desinformação.
A empresa não comentou se a remoção está ligada ao backlash de usuários mencionado pelo TechCrunch, mas a coincidência de datas sugere que a polêmica pode ter acelerado a decisão. A Reuters não testou o detector com imagens de outros modelos de IA, como DALL-E ou Midjourney.