Os relatórios de exploração infantil da OpenAI aumentaram acentuadamente este ano

OpenAI enviou 80 vezes mais relatórios de incidentes de exploração infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas durante o primeiro semestre de 2025 do que durante um período semelhante em 2024, de acordo com um atualização recente da empresa. O CyberTipline do NCMEC é uma câmara de compensação autorizada pelo Congresso para denunciar material de abuso sexual infantil (CSAM) e outras formas de exploração infantil.

As empresas são obrigadas por lei a reportar aparente exploração infantil para o CyberTipline. Quando uma empresa envia um relatório, o NCMEC analisa-o e depois encaminha-o para a agência de aplicação da lei apropriada para investigação.

As estatísticas relacionadas aos relatórios do NCMEC podem ter nuances. Às vezes, o aumento de relatórios pode indicar mudanças na moderação automatizada de uma plataforma ou nos critérios que ela usa para decidir se um relatório é necessário, em vez de indicar necessariamente um aumento em atividades nefastas.

Além disso, o mesmo conteúdo pode ser objeto de vários relatórios, e um único relatório pode tratar de vários conteúdos. Algumas plataformas, incluindo OpenAI, divulgam o número de relatórios e o total de conteúdos de que tratavam para uma imagem mais completa.

A porta-voz da OpenAI, Gaby Raila, disse em um comunicado que a empresa fez investimentos no final de 2024 “para aumentar (sua) capacidade de revisar e executar relatórios a fim de acompanhar o crescimento atual e futuro de usuários”. Raila disse ainda que o prazo corresponde “à introdução de mais superfícies de produtos que permitiram o upload de imagens e à crescente popularidade dos nossos produtos, o que contribuiu para o aumento dos relatórios”. Em agosto Nick Turley vice-presidente e chefe do ChatGPT anunciado que o aplicativo tinha quatro vezes mais usuários ativos semanais do que no ano anterior.

Durante o primeiro semestre de 2025, o número de relatórios CyberTipline que a OpenAI enviou foi aproximadamente o mesmo que a quantidade de conteúdo sobre os quais a OpenAI enviou os relatórios – 75.027 em comparação com 74.559. No primeiro semestre de 2024, enviou 947 relatórios CyberTipline sobre 3.252 conteúdos. Tanto o número de relatórios quanto o conteúdo dos relatórios tiveram um aumento acentuado entre os dois períodos.

O conteúdo, neste contexto, pode significar várias coisas. OpenAI disse que relatórios todas as instâncias de CSAM, incluindo uploads e solicitações, ao NCMEC. Além de seu aplicativo ChatGPT, que permite aos usuários fazer upload de arquivos – incluindo imagens – e pode gerar texto e imagens em resposta, o OpenAI também oferece acesso aos seus modelos por meio de acesso API. A contagem mais recente do NCMEC não incluiria quaisquer relatórios relacionados a aplicativo de geração de vídeo Sorajá que seu lançamento em setembro ocorreu após o período coberto pela atualização.

O aumento nos relatórios segue um padrão semelhante ao que o NCMEC observou no CyberTipline de forma mais ampla com o surgimento da IA ​​generativa. O centro análise de todos os dados da CyberTipline descobriram que os relatórios envolvendo IA generativa tiveram um aumento de 1.325 por cento entre 2023 e 2024. O NCMEC ainda não divulgou dados de 2025, e enquanto outros grandes laboratórios de IA como Google publicam estatísticas sobre os relatórios do NCMEC que fizeram, eles não especificam qual porcentagem desses relatórios está relacionada à IA.