A OpenAI anunciou um plano para combater a exploração sexual infantil usando inteligência artificial. A empresa, responsável pelo ChatGPT, vai implementar ferramentas que detectam e bloqueiam imagens ilegais de abuso infantil em seus sistemas. O objetivo é evitar que sua tecnologia seja usada para disseminar ou criar conteúdo criminoso.
A estratégia inclui o uso de algoritmos treinados para identificar padrões suspeitos em imagens e textos. A OpenAI também vai colaborar com organizações especializadas no combate a crimes cibernéticos, como o National Center for Missing & Exploited Children (NCMEC), para aprimorar a detecção e reportar casos às autoridades.
O plano surge em um momento em que empresas de IA enfrentam pressão crescente para garantir que suas tecnologias não sejam usadas para fins ilegais. A OpenAI já havia adotado medidas similares em outras áreas, como a moderação de conteúdo violento ou discriminatório, mas agora reforça o foco em crimes contra crianças.
Especialistas destacam que a iniciativa pode servir como modelo para outras empresas do setor. No entanto, críticos alertam que a eficácia dependerá da transparência e da constante atualização dos sistemas, já que criminosos frequentemente buscam brechas em novas tecnologias.