A Advocacia-Geral da União (AGU) enviou uma notificação extrajudicial à Meta, dona do WhatsApp e Facebook, solicitando a exclusão de robôs de IA que simulam aparência infantil ou mantenham diálogos de cunho sexual com crianças. O movimento ocorre após documentos revelarem que chatbots da empresa podiam até mesmo flertar com crianças.

No documento proposto pela AGU e elaborado pela Procuradoria Nacional da União de Defesa da Democracia (PNDD) e a Senacom, a Meta deveria indisponibilizar chatbots que usam linguagem infantil para propagar conteúdo sexual. Essa medida afetaria também redes sociais como o Facebook, Instagram e WhatsApp, com ações para evitar que menores não tenham acesso a conteúdo erótico.

Também é dito que os chatbots das plataformas digitais da Meta não possuem um filtro de idade. Teoricamente, somente pessoas acima de 13 anos podem acessar os robôs de IA, mas não há uma ferramenta que identifique menores de 18 anos acessando conteúdos inadequados nessas tecnologias.

Meta confirmou comportamento dos chatbots com crianças

A notificação da Advocacia-Geral da União também pede para a Meta explicar ao governo quais são as medidas adotadas para proteger crianças e adolescentes. O documento também informa que essas condutas violam os Padrões de Comunidade da própria Meta, já que os mesmos proíbem erotização ou exploração sexual infantil.

“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”, explica o conteúdo publicado pela AGU.