Lei da UE sobre IA de 2025: O lado jurídico da inteligência artificial

O panorama jurídico da inteligência artificial na UE está a ser remodelado pela Lei de IA de 2025. Esta não é apenas mais uma legislação; é o primeiro arcabouço jurídico abrangente do mundo projetado especificamente para IA. Ele funciona com base em um princípio simples: uma abordagem baseada em risco. Em suma, as regras que um sistema de IA deve seguir estão diretamente ligadas ao nível de risco que ele representa para nossa saúde, segurança e direitos fundamentais.

O que é a Lei da IA ​​da UE? Uma introdução prática

Pense na Lei de IA da UE como um novo conjunto de leis de trânsito para a era digital. Assim como temos regras diferentes para bicicletas, carros e caminhões pesados, a Lei estabelece regulamentações claras para diferentes tipos de inteligência artificial. O objetivo principal não é frear a inovação, mas guiá-la por um caminho seguro, transparente e ético. Isso garante que, à medida que a IA se torna uma parte cada vez maior de nossas vidas, ela o faça de uma forma que proteja as pessoas e gere confiança.

Para qualquer empresa que opere na União Europeia, familiarizar-se com essa estrutura não é mais uma escolha — é essencial. Assim como o Regulamento Geral sobre a Proteção de Dados (GDPR) se tornou a referência global para privacidade de dados, a Lei da IA ​​está pronta para fazer o mesmo com a inteligência artificial. Você pode ler mais sobre os princípios de segurança de dados em nosso guia: https://lawandmore.eu/blog/general-data-protection/.

Por que esta regulamentação é importante agora

O momento é crucial, especialmente para um mercado como a Holanda, que é um dos pioneiros da Europa na adoção de IA. Em 2025, cerca de três milhões de adultos holandeses usavam ferramentas de IA todos os dias, e um número incrível 95% das organizações holandesas têm programas de IA em funcionamento. Esse rápido crescimento evidencia uma grande lacuna entre inovação e supervisão formal, visto que os órgãos nacionais de supervisão ainda estão em processo de criação.

A Lei intervém para preencher essa lacuna, criando um conjunto único de regras para todos os Estados-membros. Isso evita um mercado caótico em que cada país tem suas próprias leis de IA, o que só geraria confusão e prejudicaria os negócios internacionais. Em vez disso, oferece um ambiente jurídico previsível para todos.

Para ajudar a esclarecer seu propósito, aqui está um rápido resumo do que a Lei pretende fazer.

Principais objetivos da Lei da IA ​​da UE em resumo

Esta tabela detalha os principais objetivos da Lei de IA da UE, dando uma imagem clara de sua missão.

Objetivo	O que isso significa na prática
Garantir que a IA seja segura e legal	Definir requisitos claros para sistemas de IA para proteger direitos fundamentais, saúde e segurança de todos os cidadãos da UE.
Proporcionar segurança jurídica	Criar um ambiente jurídico estável e previsível para incentivar o investimento e a inovação em IA em toda a UE.
Melhorar a governança	Estabelecer uma estrutura de governança clara tanto no nível da UE quanto nacional para garantir que as regras sejam aplicadas de forma eficaz.
Construir um mercado único	Evitar a fragmentação do mercado criando regras harmonizadas, permitindo que produtos e serviços de IA circulem livremente no mercado interno da UE.

Ao estabelecer essas regras básicas, a Lei oferece às empresas um caminho claro e confiável a seguir.

A Lei de IA da UE foi concebida para ser uma estrutura de confiança. Ao estabelecer limites claros para aplicações de alto risco e exigir transparência, oferece às empresas um modelo para a construção de uma IA na qual clientes e parceiros podem confiar.

Este regulamento fornece a clareza necessária. Vale ressaltar também que a IA está mudando a própria profissão jurídica, com ferramentas para Revisão de documentos legais de IA tornando-se mais comuns — e essas ferramentas também podem se enquadrar nas novas regras. Ao estabelecer uma estrutura comum, a Lei ajuda todos, desde startups até grandes corporações, a compreender suas responsabilidades e inovar com confiança. Ela efetivamente tira a IA de uma fase de "velho oeste" de desenvolvimento não regulamentado e a conduz a um ecossistema estruturado onde a segurança e os direitos fundamentais vêm em primeiro lugar.

Os quatro níveis de risco da IA ​​explicados

No seu núcleo, o lado jurídico da inteligência artificial na UE (Lei da IA ​​de 2025) adota uma abordagem direta e baseada em riscos. É muito semelhante aos sistemas de certificação de segurança que temos para produtos do dia a dia. Uma cadeirinha de carro, por exemplo, precisa atender a padrões muito mais rigorosos do que um simples capacete de bicicleta, porque o potencial de danos é muito maior. A Lei de IA aplica exatamente essa mesma lógica à tecnologia, classificando os sistemas de IA em quatro níveis distintos com base no potencial de danos que podem causar.

Essa estrutura foi projetada para ser prática. Ela concentra as regulamentações mais rigorosas nas aplicações mais perigosas, permitindo que inovações de baixo risco prosperem com pouca interferência. Para qualquer empresa, descobrir a qual categoria suas ferramentas de IA pertencem é o primeiro e mais crucial passo para a conformidade. Essa classificação determinará tudo, desde proibições definitivas até simples avisos de transparência.

Risco Inaceitável: A Lista Proibida

A primeira categoria é simples: Risco inaceitável. Estes são sistemas de IA vistos como uma clara ameaça à segurança, aos meios de subsistência e aos direitos fundamentais das pessoas. A Lei não apenas os regulamenta; também os proíbe completamente do mercado da UE.

Esta proibição visa aplicativos que manipulam o comportamento humano para contornar o livre-arbítrio de uma pessoa ou que exploram as vulnerabilidades de grupos específicos. Também proíbe a coleta indiscriminada de imagens faciais da internet ou de imagens de câmeras de segurança para construir bancos de dados de reconhecimento facial.

Alguns exemplos clássicos de sistemas proibidos incluem:

• Pontuação social liderada pelo governo: Qualquer sistema usado por autoridades públicas para classificar pessoas com base em seu comportamento social ou características pessoais, o que leva a que elas sejam maltratadas.
• Identificação biométrica em tempo real em espaços públicos: O uso desta tecnologia para vigilância em massa é proibido, com apenas exceções muito restritas para lei execução em casos criminais graves.

Sistemas de IA de alto risco: regras rígidas se aplicam

O processo de Alto risco É nessa categoria que a maioria das regras e obrigações detalhadas da Lei de IA realmente entram em jogo. Trata-se de sistemas que, embora não sejam proibidos, podem impactar seriamente a segurança ou os direitos fundamentais de uma pessoa. Se sua empresa desenvolve ou utiliza uma IA nessa categoria, você enfrentará requisitos rigorosos antes e depois de ela ser lançada no mercado.

Esses sistemas costumam ser os responsáveis ​​por tomar decisões críticas em áreas sensíveis. Uma ferramenta de IA usada para diagnosticar condições médicas a partir de exames, por exemplo, se enquadra nessa categoria. O mesmo ocorre com softwares usados ​​para avaliar a adequação de um candidato a uma vaga. O potencial de dano — um diagnóstico incorreto ou uma decisão de contratação tendenciosa — é significativo o suficiente para justificar uma supervisão rigorosa.

De acordo com a Lei de IA, os sistemas de alto risco não se limitam a algoritmos complexos. Eles se referem ao impacto real na vida das pessoas, desde sua saúde e educação até suas perspectivas de emprego e acesso à justiça.

Exemplos comuns de IA de alto risco incluem:

• Dispositivos médicos: Software de IA que influencia decisões diagnósticas ou terapêuticas.
• Software de recrutamento: Ferramentas que filtram currículos ou classificam candidatos a empregos.
• Pontuação de crédito: Algoritmos que determinam a elegibilidade para empréstimos ou serviços financeiros.
• Infraestrutura crítica: Sistemas que gerenciam serviços essenciais, como redes de água ou eletricidade.

Risco limitado: a transparência é fundamental

Os próximos são Risco Limitado Sistemas de IA. Com essas aplicações, a principal preocupação não é o dano direto, mas o potencial de engano caso os usuários não percebam que estão interagindo com uma IA. A principal obrigação aqui é simplesmente transparência,.

Você deve garantir que os usuários saibam que estão lidando com um sistema artificial. Isso permite que eles tomem uma decisão informada sobre continuar ou não a interação.

Um exemplo perfeito é um chatbot para atendimento ao cliente. A empresa que o utiliza deve declarar claramente que o usuário está falando com uma máquina, não com uma pessoa. A mesma regra se aplica aos deepfakes: qualquer conteúdo de áudio, imagem ou vídeo gerado por IA que mostre pessoas reais deve ser rotulado como criado artificialmente.

Risco mínimo: livre para inovar

Por fim, temos a categoria que abrangerá a grande maioria dos sistemas de IA em uso hoje: Risco Mínimo. Esses aplicativos representam pouca ou nenhuma ameaça aos direitos ou à segurança dos cidadãos. Pense em filtros de spam com tecnologia de IA, sistemas de gerenciamento de inventário ou videogames.

Para esses sistemas, a Lei de IA não impõe novas obrigações legais. As empresas são livres para desenvolvê-los e utilizá-los sem obstáculos adicionais. O objetivo da UE aqui é evitar sufocar a inovação, permitindo que os desenvolvedores criem ferramentas úteis e de baixo impacto sem se verem atolados em regulamentações desnecessárias. Trata-se de uma abordagem leve, projetada para incentivar a adoção generalizada da IA ​​onde for seguro fazê-lo.

Navegando pelos requisitos de sistemas de IA de alto risco

Se a sua empresa desenvolve ou utiliza um sistema de IA de alto risco, você está entrando no território mais regulamentado da Lei de IA da UE. É aqui que o arcabouço legal se torna mais exigente, e por um bom motivo. As obrigações são rigorosas porque o impacto potencial na vida das pessoas é significativo.

Pense nisso como preparar um veículo comercial para a estrada. Não basta apenas funcionar; ele deve passar por uma série de rigorosas inspeções de segurança, abrangendo tudo, do motor aos freios. A Lei da IA ​​estabelece uma lista de verificação semelhante para sistemas de alto risco, garantindo que sejam robustos, transparentes e justos antes de poderem operar no mercado da UE. Esses não são apenas obstáculos burocráticos; são a base para a construção de uma IA confiável.

Para qualquer organização que lida com IA de alto risco, entender essas obrigações é o primeiro passo para uma conformidade bem-sucedida. Errar não só acarreta o risco de multas pesadas, como também pode minar a confiança do cliente e prejudicar permanentemente sua reputação.

Os Pilares Fundamentais da Conformidade

A Lei define diversas obrigações essenciais que constituem a espinha dorsal da governança de IA de alto risco. Cada uma delas foi elaborada para abordar um ponto específico de falha potencial, desde dados tendenciosos até a falta de controle humano.

Sua jornada de conformidade se concentrará no domínio destes requisitos principais:

• Sistema de gerenciamento de risco: Você deve estabelecer, implementar e manter um processo contínuo de gestão de riscos durante todo o ciclo de vida do sistema de IA. Isso envolve a identificação de potenciais riscos à saúde, à segurança e aos direitos fundamentais e, em seguida, a tomada de medidas concretas para mitigá-los.
• Governança e qualidade de dados: Dados de alta qualidade, relevantes e representativos não são negociáveis. Os dados usados ​​para treinar seu modelo de IA devem ser gerenciados cuidadosamente para minimizar riscos e vieses. O velho ditado "entra lixo, sai lixo" agora traz sérias consequências jurídicas.
• Documentação técnica: Você precisa criar e manter documentação técnica detalhada que comprove que seu sistema de IA está em conformidade com a Lei. Pense nisso como seu arquivo de evidências, pronto para inspeção pelas autoridades nacionais a qualquer momento.
• Manutenção de registros e registro: Seu sistema de IA deve ser projetado para registrar eventos automaticamente durante sua operação. Esses registros são cruciais para a rastreabilidade e permitem investigações pós-incidente, mostrando o que o sistema fez e quando.
• Transparência e Informação ao Usuário: Os usuários devem receber informações claras e abrangentes sobre as capacidades do sistema de IA, suas limitações e sua finalidade. Caixas-pretas não são permitidas.
• Supervisão Humana: Este é um ponto crucial. Você deve projetar seu sistema de forma que humanos possam supervisionar efetivamente sua operação e, principalmente, intervir ou interrompê-lo, se necessário. Esta é a salvaguarda contra situações em que o computador diz não, em que os indivíduos ficam sem recurso.

Esses pilares não são apenas sugestões; são requisitos obrigatórios. Eles representam uma mudança fundamental em direção à responsabilização, forçando desenvolvedores e implantadores a provar que seus sistemas são seguros por design, não apenas por acaso.

A supervisão humana é um elemento inegociável

De todos os requisitos, supervisão humana é sem dúvida a salvaguarda mais importante contra danos automatizados. O objetivo é garantir que um sistema de IA nunca tenha a palavra final e incontestável em uma decisão que afete significativamente uma pessoa.

Isso significa criar mecanismos reais e funcionais para intervenção humana. Por exemplo, uma IA usada em recrutamento que rejeita automaticamente o currículo de um candidato deve ter um processo para que um gerente de RH humano revise e anule essa decisão. Trata-se de manter um ser humano informado, especialmente quando os riscos são altos.

O setor público holandês oferece um estudo de caso convincente sobre o quão desafiadoras — e importantes — essas regras são. De acordo com o instituto de pesquisa TNO, a administração pública holandesa testou mais de 260 aplicações de IA, ainda que apenas um 2% foram totalmente ampliados. Essa implementação lenta destaca a dificuldade de passar de projetos-piloto para soluções em larga escala e legalmente compatíveis.

Com as autoridades holandesas agora exigindo que os órgãos públicos garantam a alfabetização e a responsabilização dos funcionários em IA, a pressão para implementar uma supervisão robusta está aumentando. Você pode ler mais sobre essas descobertas e a oportunidade da IA ​​para o governo eletrônico na Holanda. Este exemplo real mostra que, mesmo com alta ambição, os obstáculos práticos e legais para sistemas de alto risco são substanciais.

Compreendendo a aplicação e a governança

Conhecendo as regras do Lei da UE sobre IA de 2025 Uma coisa é entender quem realmente as aplica, mas outra completamente diferente. A Lei cria um sistema de dois níveis para garantir que as regras sejam aplicadas de forma consistente em todos os Estados-membros, evitando uma colcha de retalhos confusa de diferentes abordagens nacionais.

No topo, você tem o Conselho Europeu de IA. Este conselho é composto por representantes de cada estado-membro e atua como coordenador central. Pense nele como o órgão que garante que todos leiam a mesma partitura, emitindo orientações e harmonizando a interpretação da Lei.

Abaixo do Conselho de IA, cada país deve nomear seu próprio Autoridades Supervisoras Nacionais. Estes são os agentes em campo — os órgãos locais responsáveis ​​pela aplicação direta, monitoramento e tratamento de questões de conformidade em seu próprio território. Para as empresas, essas autoridades nacionais serão o principal ponto de contato.

Principais participantes na governança da IA

Esta estrutura foi concebida para aliar consistência de alto nível à experiência local e prática. Enquanto o Conselho Europeu de IA supervisiona o panorama geral, são as autoridades nacionais que gerirão as realidades quotidianas da fiscalização do mercado.

As funções principais são divididas da seguinte forma:

• Conselho Europeu de IA: Sua principal função é emitir pareceres e recomendações para garantir que a Lei seja aplicada da mesma forma em todos os lugares. Atua como um órgão consultivo fundamental da Comissão Europeia.
• Autoridades Nacionais de Supervisão: Estes são os responsáveis ​​pela aplicação da lei. Eles têm a tarefa de verificar se os sistemas de IA estão em conformidade com a lei, investigar quaisquer suspeitas de violação e aplicar penalidades quando necessário.
• Órgãos Notificados: Trata-se de organizações independentes e terceirizadas. Os Estados-Membros as designam para realizar avaliações de conformidade de sistemas de IA de alto risco antes que possam ser vendidos ou colocados em serviço.

Isso significa que, embora as regras sejam europeias, a aplicação é local. Para as empresas na Holanda, isso aproxima o processo regulatório de casa. No entanto, a abordagem holandesa ainda está sendo finalizada. Um relatório de novembro de 2024 sugeriu um modelo coordenado, com a Autoridade Holandesa de Proteção de Dados (APD) assumindo a liderança como principal "supervisora ​​de mercado" para IA de alto risco. Outros órgãos setoriais monitorariam a IA em áreas como saúde e segurança do consumidor. Em meados de 2025, essas autoridades não haviam sido formalmente nomeadas, criando um período de incerteza regulatória para as empresas.

O alto custo da não conformidade

A Lei de IA tem uma força considerável. As penalidades financeiras por erros estão entre as mais significativas em qualquer regulamentação de tecnologia, tornando a conformidade uma preocupação de alto nível para qualquer empresa. As multas são escalonadas, baseadas diretamente na gravidade da violação.

As penalidades são projetadas para serem "eficazes, proporcionais e dissuasivas", tornando muito mais caro ignorar a lei do que cumpri-la.

Veja o que as empresas podem estar enfrentando:

1. Até € 35 milhões ou 7% do faturamento anual global por usar aplicativos de IA proibidos ou não atender aos requisitos de dados para sistemas de alto risco.
2. Até € 15 milhões ou 3% do faturamento anual global por não cumprir nenhuma das outras obrigações previstas na Lei da IA.
3. Até € 7.5 milhões ou 1.5% do faturamento anual global por fornecer informações incorretas ou enganosas às autoridades.

Esses números demonstram o quão alto é o risco. Para uma pequena ou média empresa, uma penalidade desse porte pode ser catastrófica. Além disso, abre espaço para disputas judiciais, um tema que exploraremos mais a fundo em nosso artigo sobre o assunto. possibilidade de litígio digital. Simplificando, os riscos financeiros e legais são grandes demais para deixar a conformidade ao acaso.

Com o prazo de 2025 para a Lei de IA da UE Com a aproximação rápida, simplesmente entender a teoria não é mais suficiente. É hora de passar do saber para a prática. Embora a preparação para esta importante legislação possa parecer exaustiva, você pode dividi-la em uma série de etapas claras e práticas.

O segredo é enquadrar a conformidade não como um fardo regulatório, mas como uma vantagem estratégica. Ao se antecipar, você pode transformar esses requisitos legais em uma maneira poderosa de construir a confiança profunda e duradoura que os clientes agora exigem. Essa mentalidade proativa o diferenciará em um mercado onde a IA responsável está rapidamente se tornando inegociável.

Comece com um inventário de IA

Não é possível gerenciar o que não foi medido. Seu primeiro passo deve ser criar um inventário completo de todos os sistemas de IA que sua empresa utiliza, desenvolve ou está pensando em implantar. Pense nisso como seu mapa fundamental — e ele precisa ser detalhado.

Isso vai além de apenas listar nomes de software. Para cada sistema, você precisa documentar informações importantes para obter uma visão clara de sua função e impacto potencial.

Para cada ferramenta de IA em sua organização, seu inventário deve responder:

• Qual é seu propósito? Seja específico. Ele automatiza consultas de atendimento ao cliente ou analisa dados de recrutamento?
• Quem é o provedor? Este é um produto pronto de terceiros ou algo que sua equipe desenvolveu internamente?
• Quais dados ele usa? Identifique os tipos de dados com os quais o sistema foi treinado e o que ele processa em suas operações diárias.
• Quem são os usuários? Anote quais departamentos ou indivíduos específicos interagem com o sistema.

Esta auditoria inicial fornece a clareza necessária para a fase mais importante: a avaliação de riscos.

Realize uma avaliação de risco completa

Com seu inventário de IA em mãos, a próxima tarefa é classificar cada sistema de acordo com os quatro níveis de risco da Lei. Esta é a parte mais crítica do processo, pois sua classificação determinará as obrigações legais específicas que sua empresa precisa cumprir.

Coloque seu chapéu de inspetor de segurança e avalie cada ferramenta em relação às definições da Lei. Esse novo chatbot de marketing é apenas um Risco Mínimo conveniência? Ou cruza para Risco Limitado, o que significa que você precisa ser transparente sobre seu uso? E quanto ao software de RH que você usa para selecionar candidatos — isso se qualifica como Alto risco?

O objetivo aqui não é apenas preencher um requisito. Trata-se de obter uma compreensão profunda e prática de como o uso da IA ​​pode afetar as pessoas e identificar exatamente onde seus esforços de conformidade precisam ser focados.

Essa classificação deve ser feita com cuidado. Classificar erroneamente um sistema de alto risco como mínimo pode levar a penalidades severas e, igualmente prejudicial, à perda total da confiança do cliente.

Realizar uma análise de lacunas

Com seus sistemas de IA devidamente classificados, é hora de uma análise de lacunas. É aqui que você compara suas práticas atuais com os requisitos específicos de cada categoria de risco. Para quaisquer sistemas de alto risco que você tenha identificado, essa análise precisa ser especialmente completa.

Crie uma lista de verificação com base nas obrigações de alto risco estabelecidas na Lei — itens como governança de dados, documentação técnica e supervisão humana. Em seguida, analise-a ponto por ponto e faça algumas perguntas honestas:

• Temos um sistema formal de gerenciamento de riscos para essa IA específica?
• Nossa documentação técnica é detalhada o suficiente para resistir a uma auditoria?
• Existem procedimentos claros e eficazes para que um humano intervenha e supervisione suas decisões?

As lacunas que você descobrir formarão seu roteiro de conformidade. Não se trata de encontrar falhas; trata-se de criar um plano claro e prático para alinhar totalmente sua organização aos novos padrões legais.

Monte sua equipe de conformidade

Por fim, lembre-se de que a conformidade não é um esporte individual. Para lidar com isso de forma eficaz, você precisa montar uma equipe pequena e multifuncional. Esse grupo deve reunir pessoas de diferentes áreas da empresa, cada uma com uma perspectiva única.

Sua equipe ideal pode incluir pessoas de:

• Legal: Para interpretar as letras miúdas legais específicas.
• TI e Ciência de Dados: Fornecer insights técnicos sobre como esses sistemas de IA realmente funcionam.
• Operações: Para entender o impacto prático e cotidiano do uso dessas ferramentas.
• Recursos humanos: Especialmente se você estiver usando IA em recrutamento ou gestão de funcionários.

Ao trabalhar em conjunto, essa equipe pode garantir que sua abordagem de conformidade seja abrangente e prática, transformando o que parece um desafio jurídico complexo em uma meta comercial alcançável.

Seu Plano de Ação de Conformidade com IA

Se familiarizando com o lado jurídico da inteligência artificial na UE (Lei da IA ​​de 2025) não se trata de frear o progresso. Trata-se de construir inovação em que as pessoas possam confiar, com os humanos no centro. Como vimos, a Lei é uma estrutura projetada para o crescimento responsável, não um obstáculo.

Sua abordagem baseada em risco significa que o escrutínio intenso é reservado para onde é realmente necessário. Isso permite que aplicações de baixo risco prosperem com o mínimo de atrito. Se você abordar essa regulamentação proativamente, a conformidade deixa de ser uma tarefa árdua e se torna uma verdadeira vantagem competitiva — que gera confiança duradoura do cliente.

A jornada começa agora. Esperar até que os prazos se aproximem é um jogo arriscado. Começando hoje, você pode integrar a conformidade ao seu ciclo de desenvolvimento, tornando-a uma parte natural do seu processo, em vez de uma correria de última hora.

A mensagem central da Lei de IA é clara: preparação e responsabilização são os alicerces de uma IA confiável. Ao iniciar sua jornada de conformidade agora, você não está apenas cumprindo um requisito legal; você está investindo em um futuro em que sua tecnologia será vista como segura, confiável e ética.

Pense nas etapas práticas — desde a criação de um inventário de IA até a realização de uma análise de lacunas — como seu roteiro. Use-as para se antecipar e transformar essa mudança jurídica em uma oportunidade estratégica. Para uma compreensão mais aprofundada da estrutura mais ampla em que isso se enquadra, você pode encontrar nosso guia em conformidade legal e gestão de riscos útil.

É hora de começar sua avaliação, montar sua equipe e entrar com confiança no futuro da IA ​​regulamentada.

Perguntas frequentes

Quando se trata das novas regras da UE sobre inteligência artificial, muitas questões práticas surgem para as empresas. Vamos abordar algumas das dúvidas mais comuns sobre a Lei de IA de 2025, desde o que é considerado "alto risco" até o que isso significa para pequenas empresas que utilizam ferramentas de terceiros.

O que é um sistema de IA de alto risco?

Em termos simples, um sistema de IA de alto risco é qualquer sistema que possa representar uma ameaça grave à saúde, à segurança ou aos direitos fundamentais de uma pessoa. A Lei define diversas categorias específicas, como a IA utilizada em infraestruturas críticas, como transportes, em dispositivos médicos e em sistemas de recrutamento ou gestão de funcionários.

Por exemplo, um algoritmo que seleciona currículos para selecionar candidatos para uma entrevista de emprego é considerado alto risco. Por quê? Porque suas decisões podem ter um enorme impacto na carreira e no sustento de alguém. Sistemas como esses precisarão passar por rigorosas avaliações de conformidade antes mesmo de poderem ser colocados no mercado da UE.

A Lei de IA afeta minha pequena empresa se eu usar apenas ferramentas de IA de outras empresas?

Sim, quase certamente. As regras da Lei de IA não se aplicam apenas às grandes empresas de tecnologia que desenvolvem a IA. Embora o "provedor" (a empresa que cria a IA) tenha a maior responsabilidade de conformidade, o "usuário" (que é o seu negócio, quando você implementa o sistema) também tem responsabilidades claras.

Se você usa um sistema de alto risco, é responsável por garantir que ele seja operado de acordo com as instruções do provedor, mantendo supervisão humana e monitorando seu desempenho. Mesmo para algo de menor risco, como um chatbot de atendimento ao cliente, você ainda tem uma obrigação de transparência para deixar claro para as pessoas que elas estão interagindo com uma IA.

Quais são os primeiros passos para minha organização se preparar?

O primeiro passo mais crítico é criar um inventário detalhado de todos os sistemas de IA que sua organização utiliza atualmente ou planeja adotar. Pense nessa auditoria como a base de toda a sua estratégia de conformidade.

Para cada sistema, você precisa ir além de apenas listar seu nome. Você deve documentar sua finalidade e, em seguida, classificá-lo de acordo com as categorias de risco da Lei de IA: inaceitável, alto, limitado ou mínimo.

Após identificar os sistemas de alto risco, o próximo passo é realizar uma análise de lacunas. Isso envolve comparar suas práticas atuais com os requisitos específicos da Lei para aspectos como governança de dados, documentação técnica e supervisão humana. Iniciar esse processo agora é absolutamente vital, pois atingir a conformidade total é um trabalho detalhado e demorado.