Inteligência Artificial Portuguesa Combate o Discurso de Ódio Online

Lê o resumo

Lê o artigo completo

Em Portugal, investigadores académicos desenvolveram uma ferramenta inovadora para combater o crescente problema do discurso de ódio online.

O projeto ‘Knowhate’, liderado pela investigadora Rita Guerra do ISCTE, utiliza inteligência artificial para identificar automaticamente mensagens de ódio em plataformas como o YouTube e o Twitter.

Know Hate Iscte

Uma Resposta Tecnológica a um Problema Crescente

A necessidade desta ferramenta surge do aumento alarmante do discurso de ódio online, que muitas vezes transborda para o mundo real, resultando em violência e discriminação contra comunidades vulneráveis, como os Roma, grupos racializados e a comunidade LGBTQIA+.

Pessoalmente, já me deparei com comentários odiosos online e sei o quão perturbador pode ser. É reconfortante ver que a tecnologia está a ser utilizada para combater este problema.

Como Funciona o ‘Knowhate’?

O protótipo da ferramenta, disponível no site https://huggingface.co/knowhate, permite que qualquer pessoa insira uma frase para avaliação.

O sistema, treinado com milhares de exemplos de discurso de ódio e linguagem não odiosa, analisa a frase e determina se contém elementos de ódio.

O projeto ‘Knowhate’ não se limita à vertente tecnológica. Inclui também campanhas de sensibilização, como vídeos e podcasts, para educar o público sobre o impacto do discurso de ódio e a importância de promover um ambiente online mais respeitoso e inclusivo.

Desafios e Complexidades da Linguagem

A criação da ferramenta não foi fácil. A linguagem é complexa e cheia de nuances. Distinguir entre discurso de ódio, ironia e outras formas de expressão é um desafio que exigiu o desenvolvimento de um modelo de linguagem sofisticado.

O projeto ‘Knowhate’ representa um passo importante na luta contra o discurso de ódio online em Portugal. Ao combinar tecnologia e sensibilização, os investigadores esperam criar um ambiente digital mais seguro e acolhedor para todos.

Pontos Principais:

  • Investigadores portugueses desenvolveram um modelo de inteligência artificial para identificar automaticamente o discurso de ódio online.
  • O projeto 'Knowhate' visa combater o aumento do discurso de ódio online e as suas consequências no mundo real.
  • O protótipo da ferramenta está disponível online e permite aos utilizadores avaliarem frases para identificar se constituem discurso de ódio.
  • O projeto inclui também campanhas de sensibilização para o problema do discurso de ódio.
  • A criação do modelo de linguagem foi complexa, devido à necessidade de distinguir entre discurso de ódio, ironia e outras formas de expressão.
  • O discurso de ódio tem vindo a aumentar, especialmente durante a pandemia, e está a passar do online para o mundo real, com impacto em diversas comunidades.
Vitor Urbano
Amante de tecnologia, desporto, música e muito mais coisas que não cabem em 24 horas. Fundador do AndroidBlog em 2011 e autor no Techenet desde 2012.