Artigo 61.º do AI Act: Consentimento Informado para Testagens Reais de Sistemas de IA

O Artigo 61.º - Consentimento informado para participar em testagens em condições reais fora dos ambientes de testagem da regulamentação da IA do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece que os participantes em testagens de sistemas de IA de risco elevado em condições reais devem dar o seu consentimento informado de forma livre, antes da participação. Esse consentimento só é válido se for precedido de informações claras, concisas e compreensíveis sobre a natureza e os objetivos da testagem, eventuais incómodos, duração, direitos dos participantes (incluindo o direito de recusar ou abandonar a testagem sem prejuízo), formas de contestar decisões do sistema e dados de contacto do prestador. O consentimento deve ser documentado, datado e entregue ao participante ou ao seu representante legal.

O Regulamento da Inteligência Artificial (UE) 2024/1689 cria um quadro jurídico harmonizado para o desenvolvimento, comercialização e utilização de sistemas de IA na União Europeia. Adota uma abordagem baseada no risco, proibindo práticas inaceitáveis, impondo obrigações rigorosas para sistemas de risco elevado e promovendo a transparência e responsabilidade nos modelos de IA de finalidade geral. O regulamento visa garantir que a IA seja segura, ética e centrada no ser humano, protegendo os direitos fundamentais, a saúde, a segurança e a privacidade dos cidadãos, ao mesmo tempo que estimula a inovação, especialmente entre PME e startups.

Capítulo VI - Medidas de Apoio à Inovação

Artigo 61.º - Consentimento informado para participar em testagens em condições reais fora dos ambientes de testagem da regulamentação da IA

1. Para efeitos de testagem em condições reais nos termos do artigo 60.o, o consentimento informado deve ser dado livremente pelos participantes na testagem antes da sua participação nessa testagem e depois de lhe terem sido devidamente prestadas informações concisas, claras, pertinentes e compreensíveis sobre:

a) A natureza e os objetivos da testagem em condições reais e os eventuais incómodos que possam estar ligados à sua participação na testagem;

b) As condições em que a testagem em condições reais vai realizar-se, incluindo a duração prevista da sua participação na testagem;

c) Os seus direitos e garantias no tocante à sua participação, em particular o seu direito de recusar a participação na testagem em condições reais e o direito de se retirar da mesma em qualquer altura sem que daí decorra qualquer prejuízo e sem ter de dar qualquer justificação;

d) As modalidades para solicitar que as previsões, recomendações ou decisões do sistema de IA sejam revertidas ou ignoradas;

e) O número único de identificação a nível da União da testagem em condições reais, em conformidade com o artigo 60.o, n.o 4, alínea c), e os dados de contacto do prestador, ou do seu representante legal, junto do qual podem ser obtidas mais informações.

2. O consentimento informado deve ser datado e documentado e deve dele ser dado um exemplar aos participantes na testagem ou ao seu representante legal.