O Artigo 38.º - Coordenação dos organismos notificados do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece que a Comissão Europeia deve garantir a existência de mecanismos eficazes de coordenação e cooperação entre os organismos notificados que avaliam a conformidade de sistemas de IA de risco elevado. Essa coordenação deve ocorrer através de um grupo setorial de organismos notificados, promovendo o intercâmbio de conhecimentos técnicos e boas práticas. As autoridades notificadoras de cada Estado-Membro devem assegurar a participação ativa dos organismos por elas designados nesse grupo, direta ou indiretamente, reforçando a consistência e a qualidade das avaliações em toda a União Europeia.
O Artigo 41.º - Especificações comuns do Regulamento da Inteligência Artificial (UE) 2024/1689 permite à Comissão Europeia adotar atos de execução que estabeleçam especificações técnicas comuns para garantir a conformidade dos sistemas de IA de risco elevado, especialmente quando não existam normas harmonizadas adequadas ou disponíveis. Estas especificações comuns servem como referência para os requisitos legais e podem abranger aspetos como segurança, transparência, supervisão humana e proteção dos direitos fundamentais. Os sistemas de IA que cumpram essas especificações são presumidos como conformes com o regulamento, promovendo uniformidade e segurança jurídica em toda a União Europeia.
O Artigo 79.º - Procedimento a nível nacional aplicável aos sistemas de IA que apresentam um risco do Regulamento da Inteligência Artificial (UE) 2024/1689 define o processo que as autoridades de fiscalização do mercado devem seguir quando identificam um sistema de IA que represente riscos para a saúde, segurança ou direitos fundamentais. Nestes casos, a autoridade avalia a conformidade do sistema com o regulamento e, se necessário, exige medidas corretivas urgentes, como a retirada do mercado ou recolha do sistema, num prazo máximo de 15 dias úteis. Caso o risco ultrapasse o território nacional, a autoridade deve informar a Comissão Europeia e os restantes Estados-Membros. O artigo também prevê a cooperação com outras autoridades nacionais, especialmente quando estão em causa direitos fundamentais, e permite a adoção de medidas provisórias caso o operador não atue de forma adequada.
O Anexo I - Lista da legislação de harmonização da União do Regulamento da Inteligência Artificial (UE) 2024/1689 identifica os atos legislativos da União Europeia que estabelecem requisitos essenciais para produtos e serviços que podem integrar sistemas de IA. O objetivo é assegurar que, ao aplicar o regulamento da IA, exista coerência com outras normas europeias já em vigor, como as que regulam máquinas, brinquedos, dispositivos médicos, veículos, equipamentos marítimos, ferroviários e aeronáuticos. Esta lista permite que os sistemas de IA incorporados nesses produtos sejam avaliados e certificados de forma integrada, evitando duplicações e promovendo uma harmonização técnica e jurídica em todo o mercado interno.
O Anexo II do Regulamento da Inteligência Artificial (UE) 2024/1689 apresenta a lista de infrações penais graves que justificam, em certos casos, a utilização de sistemas de identificação biométrica à distância em tempo real por autoridades públicas. Entre essas infrações estão crimes como terrorismo, tráfico de seres humanos, exploração sexual de crianças, homicídio, tráfico de armas, sequestro, violação, sabotagem e participação em organizações criminosas. O objetivo é garantir que o uso de sistemas de IA altamente intrusivos seja estritamente limitado a situações de ameaça grave à segurança pública, respeitando os princípios da proporcionalidade e da legalidade.
O Anexo III do Regulamento da Inteligência Artificial (UE) 2024/1689 identifica os domínios específicos em que os sistemas de IA são considerados de risco elevado, conforme o artigo 6.º, n.º 2. Estes incluem áreas como identificação biométrica à distância, infraestruturas críticas, educação, emprego, serviços essenciais, aplicação da lei, gestão da migração, e administração da justiça e processos democráticos. O objetivo é garantir que, nestes contextos sensíveis, os sistemas de IA estejam sujeitos a **obrigações rigorosas de conformidade, transparência, supervisão humana e proteção dos direitos fundamentais**, dada a sua capacidade de afetar diretamente a vida das pessoas.
O Anexo IV do Regulamento da Inteligência Artificial (UE) 2024/1689 define os elementos obrigatórios da documentação técnica exigida para sistemas de IA de risco elevado, conforme o artigo 11.º, n.º 1. Esta documentação deve demonstrar a conformidade do sistema com os requisitos legais e incluir informações como: descrição geral do sistema, arquitetura e lógica algorítmica, métodos de desenvolvimento e treino, medidas de supervisão humana, validação e testagem, cibersegurança, gestão de riscos, desempenho pós-comercialização e normas aplicadas. O objetivo é garantir que as autoridades competentes possam avaliar de forma clara e completa a segurança, fiabilidade e ética dos sistemas de IA antes da sua colocação no mercado.
O Anexo IX do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece as informações obrigatórias que devem ser apresentadas aquando do registo de sistemas de IA de risco elevado (enumerados no Anexo III) que serão submetidos a testagem em condições reais, conforme o artigo 60.º. Estas informações incluem: número único de identificação da testagem, dados do fornecedor e dos responsáveis pela implantação, descrição do sistema e da sua finalidade, resumo do plano de testagem e dados sobre suspensão ou cessação da testagem. O objetivo é garantir que estas experiências sejam transparentes, rastreáveis e supervisionadas, protegendo os direitos fundamentais e permitindo uma avaliação rigorosa antes da comercialização.
O Anexo V - Declaração UE de conformidade do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece os elementos obrigatórios que devem constar na declaração formal emitida pelos fornecedores de sistemas de IA de risco elevado, conforme o artigo 47.º. Esta declaração deve incluir informações como a identificação do sistema de IA, dados do fornecedor, referência à conformidade com o regulamento e outras legislações da UE, normas técnicas aplicadas, tratamento de dados pessoais, procedimentos de avaliação de conformidade e assinatura responsável. O objetivo é garantir que os sistemas de IA colocados no mercado europeu sejam transparentes, rastreáveis e legalmente responsáveis, reforçando a confiança e a segurança jurídica.
O Anexo VI - Procedimento de avaliação da conformidade baseado no controlo interno do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece um método simplificado para que os fornecedores de sistemas de IA de risco elevado possam demonstrar conformidade sem recorrer a organismos externos. Este procedimento exige que o fornecedor verifique se o seu sistema de gestão da qualidade cumpre os requisitos do artigo 17.º, analise a documentação técnica para garantir que o sistema respeita os requisitos essenciais definidos no Capítulo III, Secção 2, e assegure que o processo de conceção, desenvolvimento e acompanhamento pós-comercialização está alinhado com os padrões exigidos. O objetivo é permitir uma autoavaliação estruturada e responsável, promovendo a conformidade regulatória com eficiência e rigor.
O Anexo VII do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece um procedimento de avaliação de conformidade para sistemas de IA de risco elevado, baseado na análise do sistema de gestão da qualidade e na avaliação da documentação técnica por um organismo notificado. Este processo exige que o fornecedor demonstre que o seu sistema de gestão da qualidade cumpre os requisitos do artigo 17.º, que a documentação técnica está conforme com os requisitos essenciais do Capítulo III, Secção 2, e que o sistema de IA é seguro, robusto e ético. O organismo notificado realiza auditorias, pode exigir testes adicionais e tem acesso aos dados e modelos utilizados, garantindo uma verificação independente e rigorosa antes da colocação do sistema no mercado.
O Anexo VIII do Regulamento da Inteligência Artificial (UE) 2024/1689 especifica as informações obrigatórias que devem ser apresentadas aquando do registo de sistemas de IA de risco elevado na base de dados da União Europeia, conforme o artigo 49.º. Estas informações incluem dados de identificação do fornecedor, descrição do sistema de IA e da sua finalidade, lógica de funcionamento, certificações, declaração de conformidade, instruções de uso e avaliações de impacto sobre os direitos fundamentais e proteção de dados. O objetivo é garantir a transparência, rastreabilidade e responsabilidade legal dos sistemas de IA de risco elevado, permitindo às autoridades competentes e ao público acompanhar a sua utilização e conformidade.
O Anexo X do Regulamento da Inteligência Artificial (UE) 2024/1689 apresenta a lista dos atos legislativos da União Europeia que regulam sistemas informáticos de grande escala no espaço de liberdade, segurança e justiça, como o Sistema de Informação de Schengen (SIS), o Sistema de Informação sobre Vistos (VIS), o Eurodac, o Sistema de Entrada/Saída (SES), o ETIAS, o ECRIS-TCN e os regulamentos de interoperabilidade entre esses sistemas. O objetivo é garantir que estes sistemas, que lidam com dados sensíveis e biométricos de nacionais de países terceiros, estejam sujeitos a regras específicas de conformidade, segurança e proteção de direitos fundamentais, especialmente quando integram componentes de IA. Estes sistemas são geridos pela agência eu-LISA, que assegura a sua operação segura e eficiente.
O Anexo XI do Regulamento da Inteligência Artificial (UE) 2024/1689 define os elementos obrigatórios da documentação técnica que os prestadores de modelos de IA de finalidade geral devem apresentar, conforme o artigo 53.º, n.º 1, alínea a). Esta documentação deve incluir uma descrição geral do modelo (tarefas, arquitetura, formato de entradas e saídas, políticas de uso), detalhes sobre o processo de desenvolvimento e treino (dados utilizados, metodologias, recursos computacionais, consumo energético), e, no caso de modelos com risco sistémico, estratégias de avaliação, testagens antagónicas e arquitetura do sistema. O objetivo é garantir transparência, rastreabilidade e segurança, permitindo que os modelos sejam integrados de forma responsável em sistemas de IA mais amplos.
O Anexo XII do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece os requisitos mínimos de transparência que os prestadores de modelos de IA de finalidade geral devem fornecer aos prestadores a jusante que integrem esses modelos nos seus próprios sistemas de IA. As informações exigidas incluem uma descrição geral do modelo (tarefas, arquitetura, formato das entradas e saídas, políticas de uso, licença), detalhes sobre o desenvolvimento (dados utilizados, metodologias de curadoria, infraestrutura técnica), e instruções para integração segura e eficaz. O objetivo é garantir que os prestadores a jusante compreendam as capacidades, limitações e riscos dos modelos fundacionais que utilizam, promovendo uma utilização responsável, segura e conforme com os direitos fundamentais.
O Anexo XIII do Regulamento da Inteligência Artificial (UE) 2024/1689 define os critérios técnicos e operacionais que a Comissão Europeia deve considerar ao designar um modelo de IA de finalidade geral como tendo risco sistémico, nos termos do artigo 51.º. Esses critérios incluem o número de parâmetros do modelo, a qualidade e o volume dos dados de treino, o poder computacional utilizado, os tipos de entrada e saída, o desempenho em tarefas diversas, a escalabilidade, o grau de autonomia e o impacto no mercado — presumido, por exemplo, quando o modelo é utilizado por mais de 10.000 empresas na UE. O objetivo é identificar modelos que, pela sua capacidade ou difusão, possam gerar riscos significativos para a segurança pública, os direitos fundamentais ou a estabilidade social, exigindo medidas adicionais de avaliação, mitigação e supervisão.
O Regulamento da Inteligência Artificial (UE) 2024/1689 visa promover uma IA segura, confiável e centrada no ser humano , assegurando a proteção da saúde, da segurança e dos direitos fundamentais na União Europeia. Além de incentivar a inovação, este regulamento estabelece normas para minimizar impactos negativos dos sistemas de IA na sociedade e no ambiente, garantindo uma abordagem ética e transparente.
O Artigo 10.º - Dados e governação de dados do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece requisitos rigorosos para a gestão de dados utilizados no treino de sistemas de IA de risco elevado. Ele exige que os conjuntos de dados de treino, validação e teste sejam representativos, isentos de erros e livres de enviesamentos, garantindo que os sistemas de IA operem de forma justa e segura. Além disso, impõe práticas de governação de dados, incluindo a recolha, anotação e tratamento adequado das informações, para evitar discriminações e proteger os direitos fundamentais dos cidadãos.
O Artigo 100.º - Coimas aplicáveis às instituições, órgãos e organismos da União do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece que a Autoridade Europeia para a Proteção de Dados pode impor coimas administrativas a entidades da União que violem o regulamento. As sanções variam consoante a gravidade da infração: até 1 500 000 EUR para práticas proibidas (artigo 5.º) e até 750 000 EUR para outras violações. A determinação do montante considera fatores como a gravidade da infração, o número de pessoas afetadas, o grau de responsabilidade, a cooperação com a autoridade e o orçamento da entidade. O artigo garante ainda o respeito pelos direitos de defesa, incluindo o direito de ser ouvido e de aceder ao processo, promovendo uma aplicação justa e transparente das sanções.
O Artigo 101.º - Coimas aplicáveis aos prestadores de modelos de IA de finalidade geral do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece que a Comissão Europeia pode aplicar coimas até 15 milhões de euros ou 3% do volume de negócios anual mundial do prestador, consoante o que for mais elevado, em caso de infrações graves. Estas incluem o incumprimento das obrigações do regulamento, a não resposta a pedidos de informação (artigo 91.º), a desobediência a medidas corretivas (artigo 93.º) ou a recusa de acesso ao modelo para avaliação (artigo 92.º). O artigo garante o direito de defesa, exige que as coimas sejam proporcionais e dissuasivas, e prevê a possibilidade de recurso junto do Tribunal de Justiça da União Europeia.