A inteligência artificial está a tornar mais fácil criar vídeos convincentes, mas nem sempre as plataformas conseguem responder aos problemas que isso provoca. Um novo caso no Facebook expõe uma contradição particularmente séria: conteúdos artificiais com representações de comportamentos abusivos foram inicialmente considerados compatíveis com as regras, antes de a Meta remover as contas denunciadas.
Segundo uma investigação do Futurism, foram comunicadas dez contas que publicavam vídeos criados por IA mostrando treinadores mais velhos em interações inadequadas com jovens atletas. As primeiras respostas da plataforma indicaram que a maioria das contas não violava as regras.
O que precisas de saber
- Uma investigação identificou dez contas com vídeos artificiais que retratavam interações abusivas.
- A Meta rejeitou inicialmente várias denúncias, mas removeu depois as contas sinalizadas.
- O caso levanta dúvidas sobre a coerência da moderação e sobre os algoritmos de recomendação.
O que aconteceu depois das denúncias
Os jornalistas apresentaram denúncias pelos mecanismos habituais do Facebook. De acordo com o relato publicado, oito das dez contas foram inicialmente consideradas em conformidade com os padrões da comunidade. Quando a equipa contactou diretamente o departamento de comunicação da Meta, a avaliação mudou e todas as contas sinalizadas foram retiradas.
A empresa afirmou que conteúdos que retratem abuso ou exploração não têm lugar nas suas plataformas, independentemente de serem reais ou gerados artificialmente. A questão é o que levou a uma resposta tão diferente quando o pedido chegou através de jornalistas, e não simplesmente através das ferramentas disponibilizadas aos utilizadores.
O problema não termina quando um vídeo é removido
A investigação do Futurism, na sua cobertura de ética tecnológica, descreve ainda um efeito preocupante: depois de as contas terem sido denunciadas, o sistema de recomendações terá mostrado ao perfil usado pelos repórteres mais vídeos semelhantes. Isto não demonstra, por si só, como o algoritmo funciona para todos os utilizadores, mas ilustra o risco de amplificação involuntária de material nocivo.
Neste tipo de conteúdo, o contexto importa. A utilização de imagens sintéticas não elimina a possibilidade de normalizar comportamentos abusivos ou de influenciar a forma como pessoas jovens interpretam relações de autoridade. Não é preciso reproduzir os vídeos ou os seus pormenores gráficos para perceber a gravidade do problema.
A supervisão da Meta já tinha recebido alertas
A preocupação com conteúdos manipulados por IA não é nova. Em decisões recentes, o Conselho de Supervisão da Meta criticou lacunas na proteção contra imagens artificiais usadas para humilhar pessoas, defendendo uma resposta mais eficaz às consequências desta tecnologia.
Há também um desafio de escala: modelos generativos permitem produzir muitas versões de conteúdos semelhantes, dificultando a deteção e revisão humana. Mas isso não dispensa políticas claras nem respostas consistentes às denúncias feitas pelos utilizadores comuns.
O que pode mudar para quem utiliza Facebook
Uma plataforma pode ter normas rigorosas no papel e, ainda assim, falhar na aplicação. Este episódio sugere precisamente a necessidade de melhorar a revisão de denúncias, explicar decisões e garantir que os sistemas de recomendação não agravam a exposição a material problemático.
Se encontrarem conteúdos preocupantes, os utilizadores devem recorrer às ferramentas de denúncia e evitar partilhá-los para lhes dar visibilidade. Podes acompanhar a evolução da moderação nas redes sociais através das notícias sobre a Meta e dos desenvolvimentos de inteligência artificial. A tecnologia muda depressa; a responsabilidade por aquilo que é distribuído não pode ficar para trás.
Outros temas relacionados com proteção de utilizadores podem ser consultados na nossa secção de segurança digital.
Vitor Urbano
Amante de tecnologia, desporto, música e muito mais coisas que não cabem em 24 horas. Fundador do AndroidBlog em 2011 e autor no Techenet desde 2012.
A conversa continua