A União Europeia aprovou uma legislação inovadora e abrangente que rege o uso de sistemas de inteligência artificial (AI) dentro do seu território.
Esta legislação marca um passo crucial na regulação de uma tecnologia que tem evoluído rapidamente e que influencia vários aspetos da nossa vida diária.
Aspetos cruciais da legislação AI
AI de alto-risco: salvaguardas reforçadas
A nova lei categoriza certos sistemas AI como “alto-risco”, especialmente aqueles que podem afetar a saúde, segurança, direitos fundamentais, ambiente, democracia, eleições e a lei.
Estes sistemas estarão sujeitos a requisitos rigorosos, como testes de avaliação e ações corretivas rápidas em caso de problemas.
Restrições no uso de AI pelas autoridades
A legislação estabelece limites no uso de sistemas de identificação biométrica em tempo real em espaços públicos, como o reconhecimento facial.
Este tipo de tecnologia será restrito a situações específicas, como a identificação de vítimas de rapto ou em casos de ameaças terroristas.
Regras de transparência para sistemas GPAI e modelos
Os sistemas General Purpose AI e os seus modelos estarão sujeitos a regras de transparência, exigindo a divulgação dos conteúdos usados para o seu treino, documentação técnica, e conformidade com as leis de direitos de autor na UE.
Proibições específicas
A legislação proíbe explicitamente o uso de AI para categorização biométrica baseada em características como orientação sexual, raça, tendências políticas, religiosas e filosóficas.
Implicações e desafios futuros
Impacto nas empresas e penas severas
As empresas que não cumprirem com as novas regras podem enfrentar multas significativas, variando entre 7,5 milhões de euros e 35 milhões de euros, ou até 7% da faturação anual.
Preocupações e críticas
Críticos da legislação expressam preocupações sobre o potencial de abuso de sistemas AI, especialmente no que diz respeito ao reconhecimento facial em espaços públicos.
Há temores de que, apesar das restrições, o uso indevido destas tecnologias possa ter um impacto negativo na privacidade e liberdade dos cidadãos.
Um olhar para o futuro
A UE espera que esta legislação seja um modelo para regulamentações futuras em outras regiões.
Com a rápida evolução da AI, a necessidade de equilibrar inovação tecnológica com direitos humanos e liberdades civis torna-se cada vez mais premente.