Artigo 55.º do AI Act: Regras para Prestadores de Modelos de IA com Risco Sistémico

O Artigo 55.º - Obrigações dos prestadores de modelos de IA de finalidade geral com risco sistémico do Regulamento da Inteligência Artificial (UE) 2024/1689 impõe requisitos reforçados aos prestadores desses modelos, dada a sua capacidade de gerar impactos significativos na sociedade e no mercado interno. Estes prestadores devem realizar avaliações técnicas rigorosas, identificar e mitigar riscos sistémicos, garantir cibersegurança robusta, comunicar incidentes graves às autoridades competentes e manter documentação técnica atualizada. Devem ainda permitir auditorias independentes, publicar resumos dos dados de treino e assegurar que os modelos não violam direitos fundamentais. Estas obrigações visam garantir que modelos altamente poderosos sejam desenvolvidos e utilizados de forma segura, ética e responsável.

O Regulamento da Inteligência Artificial (UE) 2024/1689 estabelece um quadro jurídico harmonizado para o desenvolvimento, comercialização e utilização de sistemas de IA na União Europeia. O seu objetivo é garantir que a IA seja segura, transparente e centrada no ser humano, protegendo os direitos fundamentais, a segurança e a privacidade dos cidadãos. Além disso, impõe restrições a práticas de IA consideradas de risco elevado e define obrigações específicas para modelos de IA de finalidade geral, promovendo um equilíbrio entre inovação tecnológica e proteção social.

Capítulo V - Modelos de IA de Finalidade Geral

Secção 3 - Obrigações dos prestadores de modelos de IA de finalidade geral com riso sistémico

Artigo 55.º - Obrigações dos prestadores de modelos de IA de finalidade geral com risco sistémico

1. Para além das obrigações enumeradas nos artigos 53.o e 54.o, os prestadores de modelos de IA de finalidade geral com risco sistémico devem:

a) Realizar a avaliação do modelo em conformidade com protocolos e instrumentos normalizados que reflitam o estado da arte, incluindo a realização e documentação de testagens antagónicas do modelo, com vista a identificar e atenuar os riscos sistémicos;

b) Avaliar e atenuar eventuais riscos sistémicos a nível da União, incluindo as respetivas fontes, que possam resultar do desenvolvimento, da colocação no mercado ou da utilização de modelos de IA de finalidade geral com risco sistémico;

c) Acompanhar, documentar e comunicar, sem demora injustificada, ao Serviço para a IA e, se for caso disso, às autoridades nacionais competentes, as informações pertinentes sobre incidentes graves e eventuais medidas corretivas para os resolver;

d) Assegurar um nível adequado de proteção em termos de cibersegurança para o modelo de IA de finalidade geral com risco sistémico e a infraestrutura física do modelo.

2. Os prestadores de modelos de IA de finalidade geral com risco sistémico podem basear-se em códigos de práticas na aceção do artigo 56.o para demonstrarem o cumprimento das obrigações previstas no n.o 1 do presente artigo, até que seja publicada uma norma harmonizada. O cumprimento das normas europeias harmonizadas concede aos prestadores a presunção de cumprimento, na medida que essas normas abranjam essas obrigações. Os prestadores de modelos de IA de finalidade geral com risco sistémico que não cumpram um código de práticas aprovado ou que não cumpram uma norma europeia harmonizada devem demonstrar meios de conformidade alternativos adequados para avaliação pela Comissão.

3. Todas as informações ou documentação obtidas nos termos do presente artigo, nomeadamente segredos comerciais, são tratadas em conformidade com as obrigações de confidencialidade estabelecidas no artigo 78.o.