Meta lança sistema de IA para barrar anúncios velados de exploração infantil

A Meta começou a operar novos modelos de inteligência artificial desenvolvidos para identificar anúncios no Facebook e no Instagram que tentam contornar filtros de segurança e direcionar usuários a materiais de abuso sexual infantil.

Como o sistema funciona

De acordo com o TechCrunch, os modelos analisam redirecionamentos de links e padrões visuais ocultos usados por anunciantes para disfarçar o destino real das campanhas.

O objetivo é identificar anúncios que, à primeira vista, parecem cumprir as regras das plataformas, mas que levam o usuário, por meio de redirecionamentos, a conteúdos que violam as políticas da empresa contra exploração infantil.

A detecção ocorre em tempo real, permitindo que as campanhas sejam bloqueadas antes de alcançar um grande número de pessoas.

Contexto e por que importa

Plataformas de redes sociais enfrentam há anos o desafio de impedir que anúncios sejam usados como porta de entrada para conteúdo ilegal, especialmente material de abuso sexual infantil, um dos tipos de conteúdo mais combatidos por legislações ao redor do mundo.

O uso de inteligência artificial para esse tipo de detecção busca acompanhar táticas cada vez mais sofisticadas usadas para burlar sistemas automáticos de moderação, que tradicionalmente dependiam de análise de texto e imagem isoladas.

O que muda para usuários e para o mercado

Para usuários das plataformas, a medida representa uma camada adicional de proteção contra exposição a conteúdo ilegal disfarçado de anúncios comuns. A identificação em tempo real busca reduzir o tempo em que essas campanhas ficam no ar antes de serem removidas.

Para o mercado de publicidade digital, a iniciativa reforça a pressão sobre plataformas para investir em moderação automatizada mais sofisticada, à medida que reguladores e organizações de proteção à infância cobram respostas mais rápidas contra esse tipo de abuso.

O que observar daqui para frente

• Se outras plataformas de redes sociais vão adotar sistemas semelhantes de detecção.
• Como a Meta vai medir e divulgar a eficácia do novo sistema ao longo do tempo.
• Se autoridades vão exigir relatórios periódicos sobre o volume de anúncios removidos.