Índia ordena que plataformas de mídia social eliminem deepfakes mais rapidamente

A Índia ordenou que as plataformas de mídia social intensifiquem o policiamento de deepfakes e outras imitações geradas por IA, ao mesmo tempo que reduzem drasticamente o tempo que têm para cumprir as ordens de remoção. É uma medida que poderá remodelar a forma como as empresas globais de tecnologia moderam o conteúdo num dos maiores e mais rápidos mercados de serviços de Internet do mundo.

As mudanças, publicado (PDF) na terça-feira como alterações ao Regras de TI da Índia para 2021colocam os deepfakes sob um quadro regulamentar formal, obrigando a rotulagem e a rastreabilidade do conteúdo áudio e visual sintético, ao mesmo tempo que reduzem os prazos de conformidade das plataformas, incluindo um prazo de três horas para ordens oficiais de remoção e uma janela de duas horas para determinadas reclamações urgentes dos utilizadores.

A importância da Índia como mercado digital amplifica o impacto das novas regras. Com mais de mil milhões de utilizadores da Internet e uma população predominantemente jovem, o país do Sul da Ásia é um mercado crítico para plataformas como Meta e YouTube, tornando provável que as medidas de conformidade adotadas na Índia influenciem as práticas globais de produtos e moderação.

De acordo com as regras alteradas, as plataformas de redes sociais que permitem aos utilizadores carregar ou partilhar conteúdo audiovisual devem exigir a divulgação sobre se o material é gerado sinteticamente, implementar ferramentas para verificar essas alegações e garantir que os deepfakes sejam claramente rotulados e incorporados com dados de proveniência rastreáveis.

Certas categorias de conteúdo sintético – incluindo personificações enganosas, imagens íntimas não consensuais e material ligado a crimes graves – são totalmente excluídas das regras. O incumprimento, especialmente em casos sinalizados pelas autoridades ou pelos utilizadores, pode expor as empresas a uma maior responsabilidade legal, colocando em risco as suas protecções de porto seguro ao abrigo da legislação indiana.

As regras baseiam-se fortemente em sistemas automatizados para cumprir essas obrigações. Espera-se que as plataformas implementem ferramentas técnicas para verificar as divulgações dos utilizadores, identificar e rotular deepfakes e, em primeiro lugar, impedir a criação ou partilha de conteúdo sintético proibido.

“As regras de TI alteradas marcam uma abordagem mais calibrada para regular os deepfakes gerados por IA”, disse Rohit Kumar, sócio fundador da empresa de consultoria política The Quantum Hub, com sede em Nova Delhi. “Os prazos de reclamação significativamente reduzidos – como as janelas de remoção de duas a três horas – aumentarão significativamente os encargos de conformidade e merecerão um exame minucioso, especialmente tendo em conta que o não cumprimento está ligado à perda de proteções de porto seguro.”

Aprajita Rana, sócia da AZB & Partners, um importante escritório de advocacia corporativo indiano, disse que as regras agora se concentram em conteúdo audiovisual gerado por IA, em vez de todas as informações on-line, ao mesmo tempo em que abrem exceções para usos rotineiros, cosméticos ou relacionados à eficiência da IA. No entanto, ela advertiu que a exigência de que os intermediários removam o conteúdo no prazo de três horas, uma vez que tomem conhecimento do mesmo, afasta-se dos princípios estabelecidos de liberdade de expressão.

“A lei, no entanto, continua a exigir que os intermediários removam o conteúdo ao terem conhecimento ou receberem conhecimento real, também no prazo de três horas”, disse Rana, acrescentando que os requisitos de rotulagem se aplicariam a todos os formatos para conter a propagação de material de abuso sexual infantil e conteúdo enganoso.

Grupo de defesa digital com sede em Nova Delhi, Internet Freedom Foundation disse as regras correm o risco de acelerar a censura ao comprimir drasticamente os prazos de remoção, deixando pouco espaço para revisão humana e empurrando as plataformas para a remoção excessiva automatizada. Num comunicado publicado no X, o grupo também levantou preocupações sobre a expansão de categorias de conteúdo proibido e disposições que permitem às plataformas divulgar as identidades dos utilizadores a reclamantes privados sem supervisão judicial.

“Esses prazos impossivelmente curtos eliminam qualquer revisão humana significativa”, disse o grupo, alertando que as mudanças poderiam minar as proteções à liberdade de expressão e o devido processo.

Duas fontes da indústria disseram ao TechCrunch que as alterações seguiram um processo de consulta limitado, com apenas um conjunto restrito de sugestões refletidas nas regras finais. Embora o governo indiano pareça ter aceitado propostas para restringir o âmbito da informação abrangida — concentrando-se em conteúdos audiovisuais gerados por IA e não em todo o material online — outras recomendações não foram adotadas. A escala das mudanças entre o projeto e as regras finais justificou outra rodada de consultas para dar às empresas uma orientação mais clara sobre as expectativas de conformidade, disseram as fontes.

Os poderes de derrubada do governo já foram uma ponto de discórdia na Índia. As plataformas de mídia social e os grupos da sociedade civil há muito criticam o amplitude e opacidade dos pedidos de remoção de conteúdoe até mesmo o X de Elon Musk desafiou Nova Deli em tribunal sobre diretivas para bloquear ou remover postagensargumentando que representavam um exagero e careciam de salvaguardas adequadas.

Meta, Google, Snap, X e o ministério de TI indiano não responderam aos pedidos de comentários.

As últimas mudanças ocorrem poucos meses depois do governo indiano, em outubro de 2025, reduzido o número de funcionários autorizados a ordenar remoções de conteúdo da Internet em resposta a um contestação legal por X sobre o âmbito e a transparência dos poderes de remoção.

As regras alteradas entrarão em vigor em 20 de fevereiro, dando às plataformas pouco tempo para ajustar os sistemas de conformidade. O lançamento coincide com a realização do evento na Índia Cimeira de Impacto da IA ​​em Nova Deli de 16 a 20 de fevereiro, que deverá atrair executivos seniores de tecnologia global e legisladores para o país.