O Regulamento de Inteligência Artificial (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho (AI ACT) é o primeiro quadro jurídico global para harmonizar os sistemas de inteligência artificial (IA), posicionando a Europa como líder mundial na regulação ética desta tecnologia.

Este ato legislativo estabelece regras claras para assegurar a transparência, a segurança e a ética na conceção e utilização da IA, promovendo a inovação responsável e assegurando a proteção dos direitos fundamentais dos cidadãos.

No sentido de certificar o cumprimento cabal das ações previstas no AI ACT, a área governativa da Juventude e Modernização criou um Grupo Técnico de Trabalho sobre Inteligência Artificial com vista à promoção de uma cultura de adoção progressiva da IA na Administração Pública (AP). Um dos resultados esperados deste grupo é o acompanhamento da implementação do Regulamento ecossistema da AP (cfr. o ponto 11, alínea g), da Resolução do Conselho de Ministros n.º 94/2024, de 25 de julho).

Em novembro de 2024, seguindo recomendação do Grupo Técnico de Trabalho IA, em articulação com as respetivas áreas governativas, foram designadas as autoridades e organismos públicos responsáveis por supervisionar o respeito à proteção dos direitos fundamentais na utilização de sistemas de IA de alto risco (vd. o artigo 77.º do Regulamento), garantindo-se assim o cumprimento do primeiro marco do calendário de obrigações aplicáveis aos Estados-Membros no contexto deste Regulamento.

Considerando o cronograma de implementação do Regulamento de Inteligência Artificial, ressalve-se que no dia 2 de fevereiro de 2025, (vd. o artigo 5.º do Regulamento) entraram em vigor as proibições relativas a determinados sistemas de IA onde se destacam aqueles que:

• Distorçam ou modifiquem comportamentos, de uma forma que cause ou seja suscetível de causar danos significativos a uma pessoa ou a um grupo:
• Usem técnicas propositadamente manipuladoras ou enganosas; ou
• Que explorem vulnerabilidades pessoais, bem como a utilização de sistemas de categorização biométrica que categorizem pessoas com base nos seus dados biométricos para deduzir as suas demais características. 
• Avaliem ou classifiquem pessoas, no seu comportamento, inferindo dele característicos pessoais, conduzindo a tratamentos desfavoráveis relativos a contextos diversos daqueles para os quais se recolheram os dados ou meramente injustificados ou desproporcionais;
• Sistemas que criem ou expandam bases de dados de reconhecimento facial através da recolha de imagens faciais na internet ou CCTV e os que infiram emoções nos locais de trabalho e estabelecimentos de ensino, salvo quando estejam em causa razões de saúde ou segurança;
• No domínio penal, e no que respeita aos dados biométricos, os sistemas que permitam a identificação remota “em tempo real” e em locais públicos, salvo na medida em que o seu uso seja estritamente necessário para:
  • A procura de vítimas de crimes como rapto, tráfico de seres humanos e exploração sexual, bem como para a busca de pessoas desaparecidas;
  • A prevenção de uma ameaça específica, substancial e iminente à vida ou à segurança das pessoas, ou uma genuína e presente (ou previsível) ameaça de ataque terrorista; e
  • A localização ou a identificação de uma pessoa suspeita da prática de crime para efeitos de investigação criminal ou execução de pena, quando o referido crime seja punido com uma moldura cujo máximo seja superior a quatro anos de prisão.