Mais de 100 organizações cobram medidas para tornar a IA mais segura, enquanto a ONU discute governança e proteção infantil

A proteção das crianças virou um dos principais temas do primeiro Diálogo Global da ONU sobre Governança de IA, realizado em Genebra. O encontro reúne governos e especialistas para discutir como acompanhar o avanço acelerado da inteligência artificial.

O debate ganhou força com um apelo de mais de 100 organizações internacionais, que defendem regras mais rígidas e maior responsabilidade das empresas que desenvolvem sistemas de IA.

Na abertura do encontro, o secretário-geral da ONU, António Guterres, afirmou que a inteligência artificial está evoluindo mais rapidamente do que governos, empresas e até os próprios desenvolvedores conseguem acompanhar. “Uma tecnologia que pode remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está sendo implantada mais rápido do que qualquer pessoa, incluindo aqueles que a desenvolvem, consegue acompanhar”, declarou.

Segundo a Reuters, Guterres defendeu a adoção de regras harmonizadas globalmente para acompanhar essa transformação. Para ele, inovação e segurança precisam caminhar juntas. “Se a IA quiser ser poderosa, ela precisa ser governada”, afirmou.

O encontro também analisa a primeira avaliação científica global e independente sobre inteligência artificial, elaborada por um painel de 40 especialistas apoiado pela ONU.

Um dos pontos mais debatidos foi o impacto dos sistemas de IA sobre crianças e adolescentes. Guterres alertou que essas ferramentas já participam do aprendizado, das amizades e até das conversas mais íntimas de menores antes que sua segurança tenha sido comprovada.

Entre as propostas apresentadas estão:

comprovar a segurança dos sistemas antes do lançamento para crianças;

impedir a geração de imagens sexuais envolvendo menores;

interromper conversas quando houver sinais de sofrimento infantil;

estabelecer regras internacionais de proteção ao público infantil.

Outro dado citado por Guterres chama a atenção: enquanto a internet levou cerca de 15 anos para alcançar um bilhão de usuários, a IA atingiu essa marca em apenas dois anos. Ele também demonstrou preocupação com a concentração dos sistemas mais avançados em poucos países e empresas.

Na véspera do encontro, mais de 100 organizações, entre elas Anistia Internacional e Save the Children, divulgaram um apelo conjunto. De acordo com a Euronews, a iniciativa é liderada pela 5Rights Foundation e defende que a responsabilidade pela segurança dos sistemas seja das empresas, e não dos pais.