Anexo IX do AI Act: Registo de Sistemas de IA de Risco Elevado para Testes em Condições Reais

O Anexo IX do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece as informações obrigatórias que devem ser apresentadas aquando do registo de sistemas de IA de risco elevado (enumerados no Anexo III) que serão submetidos a testagem em condições reais, conforme o artigo 60.º. Estas informações incluem: número único de identificação da testagem, dados do fornecedor e dos responsáveis pela implantação, descrição do sistema e da sua finalidade, resumo do plano de testagem e dados sobre suspensão ou cessação da testagem. O objetivo é garantir que estas experiências sejam transparentes, rastreáveis e supervisionadas, protegendo os direitos fundamentais e permitindo uma avaliação rigorosa antes da comercialização.

O Regulamento da Inteligência Artificial (UE) 2024/1689 cria um quadro jurídico harmonizado para o desenvolvimento, comercialização e utilização de sistemas de IA na União Europeia. Com uma abordagem baseada no risco, proíbe práticas inaceitáveis, impõe obrigações rigorosas para sistemas de risco elevado e promove a transparência, supervisão humana e responsabilidade nos modelos de IA de finalidade geral. O regulamento visa garantir que a IA seja segura, ética e centrada no ser humano, protegendo os direitos fundamentais e incentivando a inovação responsável em todo o território europeu.

Anexos

ANEXO IX - Informações a apresentar aquando do registo dos sistemas de IA de risco elevado enumerados no anexo III em relação à testagem em condições reais em conformidade com o artigo 60.o

As informações a seguir indicadas devem ser prestadas e, subsequentemente, mantidas atualizadas no respeitante à testagem em condições reais a efetuar em conformidade com o artigo 60.o:

1. Número único de identificação a nível da União da testagem em condições reais;

2. Nome e contactos do prestador ou potencial prestador e dos responsáveis pela implantação envolvidos na testagem em condições reais;

3. Uma breve descrição do sistema de IA, da sua finalidade prevista e outras informações necessárias para a identificação do sistema;

4. Um resumo das principais características do plano de testagem em condições reais;

5. Informações sobre a suspensão ou cessação da testagem em condições reais.

Exemplos de aplicação da testagem em condições reais

• Saúde: Hospitais estão a testar sistemas de IA para triagem de pacientes em urgências, diagnóstico por imagem e gestão de camas hospitalares. A testagem permite verificar se os algoritmos respeitam critérios clínicos, éticos e legais, com supervisão médica constante.
• Mobilidade: Cidades inteligentes estão a testar IA em semáforos adaptativos, gestão de tráfego e veículos autónomos em zonas delimitadas. A testagem avalia segurança, impacto ambiental e interação com peões e condutores humanos.
• Justiça: Tribunais estão a experimentar IA para triagem de processos, análise de jurisprudência e apoio à decisão judicial. A testagem garante que os sistemas não reproduzem enviesamentos e respeitam o direito ao contraditório e à não discriminação.

Durante estas testagens, os fornecedores devem registar o sistema na base de dados da UE com informações como plano de testagem, responsáveis envolvidos, objetivos, duração e medidas de proteção dos direitos fundamentais.