Artigo 76.º do AI Act: Supervisão da Testagem de IA em Condições Reais pelas Autoridades de Fiscalização

O Artigo 76.º - Supervisão da testagem em condições reais pelas autoridades de fiscalização do mercado do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece que as autoridades de fiscalização do mercado devem garantir que a testagem de sistemas de IA de risco elevado em condições reais decorra em conformidade com o regulamento. Estas autoridades têm poderes para aprovar, suspender ou cessar testagens, especialmente em caso de incidentes graves ou incumprimento das condições previstas nos artigos 60.º e 61.º. Podem ainda autorizar derrogações específicas e devem comunicar as suas decisões às autoridades de outros Estados-Membros envolvidos. O objetivo é assegurar uma supervisão eficaz, coordenada e transparente, protegendo os direitos fundamentais e a segurança pública durante a experimentação de sistemas de IA fora dos ambientes de testagem regulamentar.

O Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece um quadro jurídico harmonizado para o desenvolvimento, comercialização e utilização de sistemas de IA na União Europeia. Adota uma abordagem baseada no risco, proibindo práticas inaceitáveis, impondo obrigações rigorosas para sistemas de risco elevado e promovendo a transparência e responsabilidade nos modelos de IA de finalidade geral. O regulamento visa garantir que a IA seja segura, ética e centrada no ser humano, protegendo os direitos fundamentais, a saúde, a segurança e a privacidade dos cidadãos, ao mesmo tempo que estimula a inovação, especialmente entre PME e startups.

Capítulo IX - Acompanhamento Pós-Comercialização, Partilha de Informações e Fiscalização do Mercado

Secção 3 - Execução

Artigo 76.º - Supervisão da testagem em condições reais pelas autoridades de fiscalização do mercado

1. As autoridades de fiscalização do mercado devem ter competências e poderes para assegurar que a testagem em condições reais está em conformidade com o presente regulamento.

2. Sempre que seja realizada uma testagem em condições reais para sistemas de IA supervisionados no âmbito de um ambiente de testagem da regulamentação da IA nos termos do artigo 58.o, as autoridades de fiscalização do mercado devem verificar a conformidade com o artigo 60.o no âmbito da sua função de supervisão do ambiente de testagem da regulamentação da IA. Essas autoridades podem, conforme adequado, permitir que a testagem em condições reais seja realizada pelo prestador ou potencial prestador em derrogação das condições estabelecidas no artigo 60.o, n.o 4, alíneas f) e g).

3. Se a autoridade de fiscalização do mercado for informada pelo prestador, pelo potencial prestador ou por terceiros de um incidente grave ou tiver outros motivos para considerar que as condições estabelecidas nos artigos 60.o e 61.o não estão preenchidas, pode tomar uma das seguintes decisões no seu território, conforme adequado:

a) Suspender ou cessar a testagem em condições reais;

b) Solicitar ao prestador ou potencial prestador e aos responsáveis pela implantação ou potenciais responsáveis pela implantação que alterem qualquer um dos aspetos da testagem em condições reais.

4. Se a autoridade de fiscalização do mercado tiver tomado uma das decisões referidas no n.o 3 do presente artigo ou formulado uma objeção na aceção do artigo 60.o, n.o 4, alínea b), a decisão ou objeção deve indicar os motivos da mesma e a forma como o prestador ou potencial prestador podem contestar a decisão ou objeção.

5. Se for caso disso, sempre que uma autoridade de fiscalização do mercado tomar uma das decisões referidas no n.o 3, deve comunicar os seus motivos às autoridades de fiscalização do mercado dos outros Estados-Membros em que o sistema de IA tenha sido testado em conformidade com o plano de testagem.