Artigo 16.º do AI Act: Obrigações dos Prestadores de Sistemas de IA de Alto Risco

O Artigo 16.º - Obrigações dos prestadores de sistemas de inteligência artificial de risco elevado do Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece requisitos rigorosos para os prestadores desses sistemas. Eles devem garantir que os seus produtos cumprem todas as normas de segurança e transparência, incluindo a avaliação da conformidade, a manutenção de documentação técnica, a gestão da qualidade e a marcação CE para indicar conformidade com o regulamento. Além disso, os prestadores são responsáveis por manter registos, adotar medidas corretivas quando necessário e colaborar com as autoridades competentes para garantir que os sistemas de IA de risco elevado operem de forma segura e ética.

O Regulamento da Inteligência Artificial (UE) 2024/1689 cria um quadro jurídico harmonizado para o desenvolvimento, comercialização e utilização de sistemas de IA na União Europeia. O seu objetivo é garantir que a IA seja segura, transparente e centrada no ser humano, protegendo os direitos fundamentais, a segurança e a privacidade dos cidadãos. Além disso, impõe restrições a práticas de IA consideradas de risco elevado e incentiva a inovação responsável, promovendo um equilíbrio entre progresso tecnológico e proteção social.

Capítulo III - Sistemas de IA de Risco Elevado

Secção 3 - Obrigações dos prestadores e dos responsáveis pela implantação de sistemas de IA de risco elevado e de outras partes

Artigo 16.º - Obrigações dos prestadores de sistemas de inteligência artificial de risco elevado

Os prestadores de sistemas de IA de risco elevado devem:

a) Assegurar que os seus sistemas de IA de risco elevado cumpram os requisitos estabelecidos na secção 2;

b) Indicar no sistema de IA de risco elevado ou, se tal não for possível, na embalagem ou na documentação que o acompanha, consoante o caso, o seu nome, o nome comercial registado ou a marca registada e o endereço no qual podem ser contactados;

c) Dispor de um sistema de gestão da qualidade que cumpra o disposto no artigo 17.o;

d) Conservar a documentação nos termos do artigo 18.o;

e) Quando tal esteja sob o seu controlo, manter os registos gerados automaticamente pelos sistemas de IA de risco elevado que disponibilizam, conforme previsto no artigo 19.o;

f) Assegurar que o sistema de IA de risco elevado seja sujeito ao procedimento de avaliação da conformidade aplicável, tal como previsto no artigo 43.o, antes da colocação no mercado ou da colocação em serviço;

g) Elaborar uma declaração UE de conformidade, nos termos do artigo 47.o;

h) Apor a marcação CE no sistema de IA de risco elevado ou, se tal não for possível, na embalagem ou na documentação que o acompanha, para indicar a conformidade com o presente regulamento, nos termos do artigo 48.o;

i) Respeitar as obrigações de registo a que se refere o artigo 49.o, n.o 1;

j) Adotar as medidas corretivas necessárias e prestar as informações, tal como estabelecido no artigo 20.o;

k) Mediante pedido fundamentado de uma autoridade nacional competente, demonstrar a conformidade do sistema de IA de risco elevado com os requisitos estabelecidos na secção 2;

l) Assegurar que o sistema de IA de risco elevado cumpra os requisitos de acessibilidade em conformidade com as Diretivas (UE) 2016/2102 e (UE) 2019/882.