Em Portugal, investigadores académicos desenvolveram uma ferramenta inovadora para combater o crescente problema do discurso de ódio online.
O projeto ‘Knowhate’, liderado pela investigadora Rita Guerra do ISCTE, utiliza inteligência artificial para identificar automaticamente mensagens de ódio em plataformas como o YouTube e o Twitter.
Uma Resposta Tecnológica a um Problema Crescente
A necessidade desta ferramenta surge do aumento alarmante do discurso de ódio online, que muitas vezes transborda para o mundo real, resultando em violência e discriminação contra comunidades vulneráveis, como os Roma, grupos racializados e a comunidade LGBTQIA+.
Pessoalmente, já me deparei com comentários odiosos online e sei o quão perturbador pode ser. É reconfortante ver que a tecnologia está a ser utilizada para combater este problema.
Como Funciona o ‘Knowhate’?
O protótipo da ferramenta, disponível no site https://huggingface.co/knowhate, permite que qualquer pessoa insira uma frase para avaliação.
O sistema, treinado com milhares de exemplos de discurso de ódio e linguagem não odiosa, analisa a frase e determina se contém elementos de ódio.
O projeto ‘Knowhate’ não se limita à vertente tecnológica. Inclui também campanhas de sensibilização, como vídeos e podcasts, para educar o público sobre o impacto do discurso de ódio e a importância de promover um ambiente online mais respeitoso e inclusivo.
Desafios e Complexidades da Linguagem
A criação da ferramenta não foi fácil. A linguagem é complexa e cheia de nuances. Distinguir entre discurso de ódio, ironia e outras formas de expressão é um desafio que exigiu o desenvolvimento de um modelo de linguagem sofisticado.
O projeto ‘Knowhate’ representa um passo importante na luta contra o discurso de ódio online em Portugal. Ao combinar tecnologia e sensibilização, os investigadores esperam criar um ambiente digital mais seguro e acolhedor para todos.
