Uma recente investigação levada a cabo pelo gabinete do Procurador-Geral do Novo México expôs uma realidade alarmante: contas falsas de crianças, criadas no Instagram e no Facebook, foram alvo de conteúdo sexual explícito e propostas indecorosas.
A acusação, lançada contra a Meta, alega que a gigante tecnológica falhou em proteger os utilizadores mais jovens, colocando-os em risco direto.
Como foram conduzidos os testes?
Os investigadores criaram contas falsas nas plataformas, alegando serem pré-adolescentes ou adolescentes, e usaram fotos de perfil geradas por inteligência artificial.
Segundo a acusação, estas contas receberam mensagens e imagens explícitas, além de propostas sexuais de outros utilizadores.
Mais perturbador ainda, os algoritmos da Meta teriam recomendado conteúdo sexual às contas de teste.
Acusações graves e implicações para Zuckerberg
O processo afirma que a Meta permitiu que o Facebook e o Instagram se tornassem “um mercado para predadores em busca de crianças para predar”.
Alega-se também que Mark Zuckerberg, CEO da empresa, é pessoalmente responsável pelas escolhas de produto que aumentaram os riscos para as crianças.
A Meta enfrenta críticas por não implementar medidas eficazes para impedir que menores de 13 anos utilizem as suas plataformas.
Detalhes inquietantes do processo
Para contornar as restrições de idade da Meta, os investigadores forneceram datas de nascimento adultas ao configurar as contas fictícias.
No entanto, as contas indicavam ser de crianças, com postagens sobre perder um dente de leite e iniciar o sétimo ano.
Num caso extremo, uma conta foi configurada para parecer que a mãe da criança fictícia a estava a traficar.
Resposta da Meta e ações futuras
Em resposta, a Meta alegou priorizar a segurança infantil e investir significativamente em equipas de segurança.
A empresa destacou o uso de tecnologia sofisticada e a cooperação com órgãos de aplicação da lei para combater predadores.
A Meta também mencionou a criação de uma força-tarefa para abordar questões de segurança infantil, em resposta a relatórios anteriores que indicavam que os algoritmos do Instagram facilitavam a conexão entre contas que comercializavam material de exploração infantil.
Impacto e repercussões legais
Este caso surge após ações legais semelhantes movidas por um grupo de 41 estados e o Distrito de Columbia, que acusaram a empresa de conhecer os aspetos “viciantes” das suas plataformas e de enganar o público sobre a segurança nestas.
O desenrolar deste processo poderá ter implicações significativas para a Meta e para a segurança online das crianças em geral.