A Lei Europeia sobre Inteligência Artificial introduziu mudanças significativas em 2 de fevereiro de 2025, tornando certas práticas de IA ilegal em toda a UE. empresas holandesas Agora devem cumprir regras rigorosas sobre quais sistemas de IA podem usar.
Empresas que não removerem ferramentas de IA proibidas estão sujeitas a multas pesadas e possíveis ações judiciais por parte de qualquer pessoa que sofra danos.
A partir de fevereiro de 2025, sistemas de IA que manipulam pessoas, utilizam pontuação social, categorizam indivíduos com base em dados biométricos ou empregam reconhecimento facial em tempo real em espaços públicos serão proibidos na Holanda. Essas proibições também abrangem a tecnologia de reconhecimento de emoções em locais de trabalho e escolas, bem como a coleta indiscriminada de imagens faciais da internet para a criação de bancos de dados de reconhecimento.
As regras entram em vigor imediatamente, sem conceder às empresas um período de adaptação para a eliminação gradual desses sistemas. Compreender quais práticas de IA são proibidas e quais medidas sua organização deve tomar é essencial para evitar penalidades.
Este guia explica as proibições específicas e descreve o seu deveres de conformidade Como empresa holandesa, e abrange os requisitos de treinamento necessários para manter suas operações dentro da legalidade sob a nova lei.
Visão geral das proibições de fevereiro de 2025
Regulamento (UE) 2024/1689, conhecido como o Lei de IA da UEA legislação holandesa introduziu proibições específicas sobre certas práticas de inteligência artificial, que entraram em vigor em 2 de fevereiro de 2025. Essas regras se aplicam à sua empresa holandesa se você desenvolver, implementar ou usar inteligência artificial. Sistema de IAs dentro dos Países Baixos ou da União Europeia em geral.
Âmbito das práticas de IA proibidas
A Lei de Inteligência Artificial proíbe práticas específicas de IA que representam riscos inaceitáveis para os direitos fundamentais e os valores europeus. O artigo 5.º do Regulamento (UE) 2024/1689 identifica essas práticas proibidas com base no seu potencial de dano, e não na tecnologia em si.
As principais categorias proibidas incluem:
- Sistemas de IA manipulativos que exploram as vulnerabilidades de grupos específicos
- Sistemas de pontuação social por autoridades públicas
- Identificação biométrica remota em tempo real em espaços de acesso público para lei aplicação da lei (com exceções limitadas)
- Sistemas de categorização biométrica que inferem atributos sensíveis
- Raspagem não direcionada de imagens faciais da internet ou filmagens de câmeras de segurança
Seu negócio está sujeito a essas proibições, independentemente de você operar como fornecedor, implementador ou distribuidor de IA na Holanda. A Autoridade Holandesa de Proteção de Dados trabalha em conjunto com outros órgãos de fiscalização da União Europeia para garantir a conformidade.
O não cumprimento acarreta multas de até 7% do seu faturamento anual mundial.
Datas de entrada em vigor e períodos de transição
As proibições previstas no Artigo 5º entraram em vigor em 2 de fevereiro de 2025. Isso significa que sua empresa deve cumprir essas regras imediatamente se usar ou desenvolver sistemas de IA relevantes.
O regime de aplicação da lei segue um cronograma escalonado. As penalidades completas, as estruturas de governança e as disposições de confidencialidade entram em vigor a partir de 2 de agosto de 2025.
Isso concede à sua organização um período de seis meses durante o qual as regras se aplicam, mas os mecanismos de fiscalização completos ainda estão sendo estabelecidos. A Comissão Europeia publicou diretrizes oficiais em 4 de fevereiro de 2025 para esclarecer como essas proibições funcionam na prática.
As autoridades de fiscalização de mercado, incluindo a Autoridade Holandesa de Proteção de Dados, passaram a ser responsáveis pelo monitoramento e aplicação dessas regras a partir de fevereiro.
Definições-chave: Sistemas e práticas de IA
Nos termos da Lei de IA, um Sistema de IA Significa software que utiliza aprendizado de máquina, abordagens baseadas em lógica ou métodos estatísticos para gerar resultados como previsões, recomendações ou decisões. Essa definição é propositalmente ampla para abranger tecnologias atuais e emergentes.
A práticas de IA proibidas Refere-se a formas específicas de implementação ou utilização da inteligência artificial que a União Europeia considerou inaceitáveis. A proibição aplica-se à prática em si, e não à tecnologia subjacente.
Isso significa que você pode usar o mesmo sistema de IA para fins permitidos, mesmo estando proibido de usá-lo em determinadas aplicações. Sua empresa deve distinguir entre o sistema de IA (a tecnologia) e sua prática (como você o utiliza).
Um sistema de IA para reconhecimento facial pode ser legal para controle de acesso a edifícios, mas proibido para vigilância em tempo real em espaços públicos. O contexto e a aplicação determinam a legalidade de acordo com o Regulamento (UE) 2024/1689.
Lista detalhada de práticas de IA proibidas
A Lei de IA da UE proíbe aplicações específicas de IA que representam riscos inaceitáveis para os direitos fundamentais e a segurança. Essas práticas proibidas se enquadram em três categorias principais: sistemas que manipulam o comportamento humano, aqueles que explorar grupos vulneráveise mecanismos que permitem a vigilância em massa por meio de pontuação social.
Sistemas Manipulativos e Enganosos
A Lei de Inteligência Artificial proíbe qualquer sistema de IA que utilize técnicas subliminares para distorcer materialmente o comportamento humano de forma a causar danos. Trata-se de métodos que operam além da sua consciência para influenciar suas decisões ou ações.
Práticas manipuladoras proibidas incluem:
- Sistemas de IA que implantam componentes subliminares que você não consegue detectar.
- Sistemas concebidos para explorar vulnerabilidades relacionadas à idade em crianças.
- Tecnologias que manipulam o comportamento para causar danos físicos ou psicológicos.
Você não pode usar IA deliberadamente para... enganar as pessoas de maneiras que levam a dano significativoIsso significa que sua empresa não pode implantar chatbots ou assistentes virtuais que induzam os usuários ao erro sobre sua natureza de IA, pois esse engano pode resultar em danos.
A proibição se estende a sistemas de IA que usam padrões obscuros ou manipulação psicológica para induzir os usuários a fazer escolhas prejudiciais. lei Protege os indivíduos de práticas de IA que ignoram a tomada de decisões racionais.
Se o seu sistema de IA influencia o comportamento através de manipulação oculta em vez de informação transparente, ele viola a Lei.
Exploração de indivíduos vulneráveis
Sistemas de IA que exploram vulnerabilidades relacionadas à idade, deficiência ou circunstâncias socioeconômicas são estritamente proibidos. Você não pode usar IA para tirar vantagem de pessoas que não têm capacidade de compreender ou resistir à manipulação.
Essa proibição abrange a IA que visa a inexperiência de crianças ou o declínio cognitivo de idosos. Sua empresa não pode implantar sistemas que explorem deficiências físicas ou mentais para manipular comportamentos.
A inteligência artificial que se aproveita do desespero econômico ou do isolamento social também se enquadra nessa proibição.
Os grupos vulneráveis protegidos incluem:
- Crianças e menores
- Idosos com comprometimento cognitivo
- Pessoas com deficiências físicas ou mentais
- Indivíduos que enfrentam dificuldades econômicas
A proibição aplica-se quando o seu sistema de IA causa ou é suscetível de causar danos significativos através da exploração. Deve avaliar se as suas aplicações de IA podem visar injustamente populações vulneráveis.
Avaliação Social e Perfil Comportamental
A Lei de Inteligência Artificial proíbe sistemas de IA que avaliam ou classificam pessoas com base em suas características físicas. comportamento social ou características pessoais. Não é possível usar mecanismos de pontuação social que levem a tratamento injusto ou danos.
A avaliação social consiste em analisar indivíduos com base em sua conduta, relacionamentos ou comportamento previsto. Isso cria perfis que determinam o acesso a serviços, oportunidades ou direitos.
Atividades de pontuação social proibidas incluem:
- Classificar cidadãos com base em comportamento social ou profissional.
- Criação de índices de confiabilidade a partir de dados pessoais
- Previsão de comportamento criminoso com base em perfis
- Negar serviços com base em avaliações comportamentais.
Não é permitido implementar sistemas de IA que atribuam pontuações para determinar se alguém recebe cuidados de saúde, educação, emprego ou serviços financeiros. A proibição aplica-se independentemente de esses sistemas serem operados por uma entidade pública ou por uma empresa privada.
Remoto em tempo real identificação biométrica Em espaços públicos também está sujeito a proibições rigorosas, com exceções limitadas para aplicação da lei.
Proibições de inteligência artificial biométrica, de reconhecimento facial e emocional.
A Lei de IA da UE proíbe vários tipos de sistemas biométricos e de reconhecimento facial que representam riscos para a segurança. direitos fundamentaisEssas proibições afetam a forma como as empresas holandesas podem usar dados biométricos, bases de dados de reconhecimento facial, ferramentas de reconhecimento de emoções e sistemas de identificação em tempo real em espaços públicos.
Categorização biométrica e uso de dados
Não é permitido usar sistemas de IA que categorizam pessoas com base em seus dados biométricos para inferir sua raça, opiniões políticas, filiação sindical, crenças religiosas ou orientação sexual. Essa proibição se aplica quando esses sistemas são comercializados, colocados em operação ou usados para esse propósito específico.
A proibição visa sistemas que fazem inferências sensíveis sobre indivíduos por meio de análise biométrica. Sua empresa está sujeita a multas de até 7% do faturamento anual mundial por descumprimento.
Existe uma exceção a essa regra. É possível rotular ou filtrar conjuntos de dados biométricos adquiridos legalmente, como imagens, com base em dados biométricos em contextos de aplicação da lei.
Fora do âmbito das forças policiais, essas práticas de categorização permanecem totalmente proibidas.
Restrições às tecnologias de reconhecimento facial
Não é possível criar ou expandir bancos de dados de reconhecimento facial por meio da coleta indiscriminada de imagens faciais da internet ou de gravações de câmeras de segurança. Essa proibição entrou em vigor em 2 de fevereiro de 2025.
Quatro condições devem estar presentes para que essa proibição se aplique:
- A prática envolve a instalação, manutenção ou utilização de um sistema de IA.
- O objetivo é criar ou expandir bancos de dados de reconhecimento facial.
- O método utiliza a extração não direcionada de imagens faciais.
- As fontes de dados são a internet ou imagens de câmeras de segurança.
A palavra-chave é "não direcionado". Não é possível coletar imagens faciais de forma ampla e indiscriminada.
Isso significa que não é possível instalar câmeras em supermercados ou áreas públicas que coletem dados faciais automaticamente para criar bancos de dados de reconhecimento sem critérios de segmentação específicos.
Reconhecimento de emoções no emprego e na educação
Não é possível usar sistemas de IA para inferir as emoções das pessoas em ambientes de trabalho e instituições de ensino. Essa proibição afeta diretamente departamentos de RH, escolas e centros de treinamento que possam estar considerando o uso de ferramentas de detecção de emoções.
A proibição abrange qualquer sistema de IA projetado para ler ou interpretar estados emocionais nesses contextos específicos. Se você usa análise facial, reconhecimento de padrões de voz ou outros indicadores biométricos, não faz diferença.
Existe uma exceção restrita. Você pode usar IA para reconhecimento de emoções se isso servir a propósitos médicos ou de segurança.
Por exemplo, monitorar o estado de alerta do motorista por motivos de segurança ou detectar sofrimento do paciente em ambientes de saúde podem se enquadrar nessa exceção.
Limitações da Identificação Biométrica Remota
Não é permitido o uso de sistemas de identificação biométrica remota em tempo real em espaços públicos para fins de aplicação da lei, exceto em circunstâncias estritamente definidas. Essas exceções incluem a busca por vítimas de sequestro ou tráfico de pessoas, a prevenção de ameaças iminentes à vida ou ataques terroristas e a localização de suspeitos de crimes graves puníveis com pena de prisão de pelo menos quatro anos.
Cada utilização requer autorização prévia a partir de um autoridade judiciária ou órgão administrativo independente. Em situações urgentes, você pode iniciar o uso sem autorização, mas deve solicitar a aprovação em até 24 horas.
Caso as autoridades rejeitem a autorização, você deverá interromper imediatamente o uso do sistema e excluir todos os dados. Os Países Baixos podem estabelecer suas próprias regras detalhadas para essas exceções dentro da legislação nacional.
Sua empresa deve notificar a autoridade de fiscalização de mercado competente e a autoridade nacional de proteção de dados sobre cada utilização. Os Estados-Membros apresentam relatórios anuais à Comissão Europeia sobre a utilização da identificação biométrica remota em tempo real.
Obrigações de conformidade para empresas holandesas
As empresas holandesas devem tomar medidas concretas para alcançar a conformidade com a IA, identificando sistemas proibidos, removendo-os das operações e mantendo a documentação adequada. DPA holandês A Autoridade Holandesa para Infraestrutura Digital fará cumprir esses requisitos, com penalidades significativas para violações.
Identificação de IA proibida em operações
É necessário realizar avaliações de risco minuciosas em toda a sua organização para identificar sistemas de IA que possam violar as novas regras. Isso significa examinar qualquer tecnologia que utilize técnicas de manipulação, explore vulnerabilidades, implemente pontuação social ou faça identificações biométricas em tempo real em espaços públicos.
Comece criando um inventário de todos os sistemas de IA atualmente em uso. Documente o que cada sistema faz, como ele processa os dados e quem ele afeta.
Preste especial atenção aos sistemas que interagem com clientes, funcionários ou o público. Suas avaliações de risco devem analisar se algum sistema pode prejudicar direitos fundamentais.
Isso inclui verificar se os sistemas de IA tomam decisões sobre pessoas com base em comportamento, características pessoais ou conexões sociais. Sistemas que rastreiam ou criam perfis de indivíduos sem transparência exigem revisão imediata.
Trabalhe com suas equipes técnicas para entender como cada sistema de IA funciona. Você não pode confiar apenas nas descrições dos fornecedores.
A Autoridade Holandesa de Proteção de Dados (DPA) deixou claro que a responsabilidade pela conformidade é sua, independentemente de você ter construído o sistema ou tê-lo adquirido de terceiros.
Eliminação gradual ou remoção de sistemas de IA proibidos
Você deve interromper imediatamente o uso de práticas de IA proibidas. A lei não prevê período de tolerância para sistemas banidos.
Se a sua avaliação de riscos identificar uma prática proibida, você precisa desativá-la imediatamente. Crie um plano de remoção que contemple os impactos técnicos e operacionais.
Alguns sistemas podem estar integrados em plataformas maiores ou conectados a múltiplos processos. Você precisará garantir que a remoção dos elementos proibidos não interrompa funções essenciais do negócio.
Antes de desativar um sistema, identifique como você lidará com as tarefas que ele executava anteriormente. Isso pode significar retornar a processos manuais, implementar tecnologias diferentes ou redesenhar completamente os fluxos de trabalho.
Documente cada etapa do processo de remoção. Registre quando você descobriu a prática proibida, quais ações tomou e quando o sistema foi completamente desativado.
Os órgãos reguladores esperarão evidências claras de que você agiu prontamente assim que identificou a violação.
Manutenção de registros e documentação
Você deve manter documentação técnica que comprove a conformidade com as regras de proibição. Isso inclui registros de suas avaliações de risco, decisões sobre sistemas de IA e quaisquer alterações que você tenha feito para alcançar a conformidade.
Sua documentação deve abranger:
- Inventários do sistema com descrições de cada aplicação de IA
- Relatórios de avaliação de risco Apresentando sua análise de possíveis violações.
- Registros de remoção Detalhando quando e como você desativou sistemas proibidos.
- avaliações de impacto sobre os direitos fundamentais para quaisquer casos limítrofes
Guarde esses registros por pelo menos cinco anos. A Autoridade Holandesa de Proteção de Dados (DPA) pode solicitá-los durante inspeções ou investigações.
A falta ou incompletude da documentação pode resultar em multas de até € 7,500,000 ou 1% do faturamento global anual. Sua documentação técnica deve ser detalhada o suficiente para que os órgãos reguladores compreendam o funcionamento dos seus sistemas de IA e por que eles estão em conformidade com a lei.
Descrições genéricas ou materiais de marketing não atendem a esse requisito. Inclua especificações técnicas, fluxos de dados e processos de tomada de decisão.
Atualize sua documentação sempre que modificar sistemas de IA ou implantar novos. É necessário ter processos contínuos para garantir que os sistemas futuros não introduzam práticas proibidas.
Requisitos de alfabetização em IA e treinamento de pessoal
A partir de 2 de fevereiro de 2025, as empresas holandesas que fornecem ou implementam sistemas de IA devem garantir que seus funcionários possuam conhecimento adequado em IA. Essa obrigação se aplica independentemente de utilizarem sistemas de IA de alto ou baixo risco.
Os programas de treinamento documentados devem ser adaptados às funções e à formação técnica de seus funcionários.
A Obrigação de Alfabetização em IA Explicada
O artigo 4.º da Lei da IA da UE impõe uma Requerimento legal É fundamental que todos os fornecedores e implementadores de IA assegurem um nível suficiente de conhecimento em IA entre seus funcionários. Você deve tomar medidas para garantir que a equipe e os contratados que lidam com sistemas de IA compreendam a tecnologia com a qual trabalham.
A obrigação de alfabetização em IA abrange qualquer pessoa que opere, utilize ou tome decisões sobre sistemas de IA em seu nome. Isso inclui a equipe técnica que constrói ou mantém sistemas de IA, bem como funcionários não técnicos que utilizam ferramentas de IA em seu trabalho diário.
É preciso adaptar o treinamento em alfabetização em IA à função, ao conhecimento técnico, à experiência, à formação de cada pessoa e ao contexto específico em que utilizam sistemas de IA. Um desenvolvedor de software que implementa modelos de IA precisa de um treinamento diferente de um representante de atendimento ao cliente que utiliza chatbots com IA.
A obrigação exige que você faça o máximo possível para garantir níveis adequados de alfabetização. Você não pode simplesmente oferecer treinamento simbólico e alegar conformidade.
Desenvolvendo programas de treinamento eficazes
O programa de alfabetização em IA da sua organização deve abordar os sistemas de IA específicos que ela utiliza, em vez de fornecer informações genéricas. Os funcionários precisam entender como funcionam as ferramentas de IA específicas com as quais trabalham, suas limitações e os riscos potenciais.
O conteúdo do treinamento deve abranger:
- Conceitos básicos de IA relevantes para seus sistemas
- Como operar ferramentas de IA corretamente
- Possíveis vieses e erros nos resultados da IA
- Quando a supervisão humana é necessária
- Políticas e procedimentos de IA da sua organização
É preciso considerar o nível de conhecimento inicial de cada funcionário. A equipe técnica pode precisar de treinamento avançado em desenvolvimento e teste de modelos, enquanto os usuários em geral necessitam de orientação prática sobre como interpretar os resultados da IA e reconhecer quando os resultados parecem incorretos.
A formação pode assumir várias formas, incluindo workshops, cursos online, acompanhamento no local de trabalho ou programas externos. O formato é menos importante do que garantir que os funcionários adquiram efetivamente os conhecimentos e as competências necessárias.
Documentando atividades de alfabetização em IA
Você deve manter registros de suas atividades de treinamento em alfabetização em IA para demonstrar conformidade com a Lei de IA da UE. Essa documentação serve como prova de que você cumpriu sua obrigação. obrigações legais.
Seus registros devem incluir:
- Conteúdo e materiais do programa de treinamento
- Listas de funcionários que concluíram o treinamento
- Datas e duração das sessões de treinamento
- Resultados da avaliação (se aplicável)
- Como você determinou os níveis de alfabetização adequados para diferentes funções?
Documente o processo de identificação das necessidades de alfabetização em IA em toda a sua organização. Isso inclui como você avaliou quais funcionários precisam de treinamento e qual conhecimento específico eles necessitam com base na interação com sistemas de IA.
Mantenha registros de como você atualiza o treinamento à medida que seus sistemas de IA mudam ou novos funcionários ingressam em sua organização. O conhecimento em IA não é um requisito pontual, mas uma obrigação contínua que deve se adaptar ao uso em constante evolução da tecnologia de IA.
Supervisão, fiscalização e penalidades
A Lei de IA da UE estabelece uma estrutura de aplicação da lei em várias camadas com implicações significativas. penalidades financeiras por descumprimento. As empresas holandesas estão sujeitas à supervisão de autoridades nacionais e europeias, com multas que chegam a 7% do faturamento anual mundial para práticas de IA proibidas.
Autoridades de supervisão holandesas e da UE
A Autoridade Holandesa de Proteção de Dados atua como o principal órgão nacional de supervisão para a aplicação da Lei de Inteligência Artificial nos Países Baixos. Essa autoridade trabalha em conjunto com outros órgãos de fiscalização de mercado holandeses designados para monitorar o cumprimento da regulamentação.
A nível europeu, a Comissão Europeia supervisiona a implementação da Lei da Inteligência Artificial em todos os Estados-Membros. O Gabinete Europeu da Inteligência Artificial, criado no seio da Comissão, coordena as atividades de fiscalização e presta assessoria técnica.
O Conselho Europeu de Proteção de Dados apoia a aplicação consistente da Lei, especialmente nos casos em que os sistemas de IA envolvem o processamento de dados pessoais. Essas autoridades colaboram para garantir a aplicação uniforme da lei em toda a União Europeia.
Se você opera sistemas de IA em vários países da UE, pode estar sujeito à fiscalização por parte dos órgãos de supervisão em cada jurisdição onde seus sistemas estão implantados ou têm efeito.
Sanções e Responsabilidade Civil
As violações das práticas proibidas no Artigo 5º acarretam penalidades de até € 35 milhões ou 7% do seu faturamento anual mundial total, o que for maior. Essas multas são aplicáveis a partir de 2 de fevereiro de 2025.
O Tribunal de Justiça da UE (TJUE) detém a autoridade máxima para interpretar as disposições da Lei de Inteligência Artificial. Os tribunais nacionais podem submeter questões ao TJUE quando surgirem litígios sobre o que constitui uma prática proibida.
Além das multas administrativas, você pode enfrentar ações de responsabilidade civil por parte de indivíduos ou organizações prejudicadas por sistemas de IA não conformes. Os Estados-Membros podem estabelecer penalidades adicionais ao abrigo da sua legislação nacional.
Orientações de organismos europeus e nacionais
A Comissão Europeia publicou diretrizes sobre o proibido Práticas de IA em 4 de fevereiro de 2025. Esses documentos explicam como as autoridades interpretarão as proibições do Artigo 5 e fornecem exemplos práticos de conformidade.
Embora estas diretrizes não sejam vinculativas, oferecem informações valiosas sobre as prioridades de aplicação da lei. Somente o Tribunal de Justiça da União Europeia (TJUE) pode fornecer interpretações jurídicas definitivas.
As autoridades de supervisão holandesas podem emitir orientações nacionais adicionais adaptadas aos contextos empresariais locais. É recomendável acompanhar as atualizações dos órgãos europeus e holandeses à medida que as abordagens de fiscalização evoluem.
As diretrizes estão disponíveis em todos os idiomas da UE para facilitar o entendimento transfronteiriço.
Perguntas frequentes
A Lei Europeia de IA estabelece requisitos e restrições específicos que afetam as empresas holandesas a partir de fevereiro de 2025. Essas regulamentações proíbem certas práticas de IA e exigem medidas de conformidadee estabelecer penalidades para as violações.
Quais são as novas regulamentações relativas ao uso de inteligência artificial em empresas holandesas a partir de fevereiro de 2025?
A Lei Europeia de IA entrou em vigor em 1 de agosto de 2024, com o primeiro conjunto de proibições a entrar em vigor em 2 de fevereiro de 2025. Estas regulamentações aplicam-se a todas as empresas holandesas que desenvolvem, implementam ou utilizam sistemas de IA na União Europeia.
A lei proíbe sistemas de IA manipulativos que utilizam técnicas subliminares para influenciar decisões que as pessoas normalmente não tomariam. Sistemas de IA que exploram vulnerabilidades com base na idade, deficiência ou condição socioeconômica também são proibidos.
Sistemas de pontuação social que avaliam indivíduos com base em seu comportamento social ou características pessoais estão sujeitos a proibição total. As regulamentações também proíbem avaliações de risco baseadas em IA que preveem crimes exclusivamente por meio de perfis ou análise de traços de personalidade, em vez de fatos relacionados à atividade criminosa.
Sistemas de categorização biométrica que inferem raça, opiniões políticas, filiação sindical, crenças religiosas ou orientação sexual a partir de imagens faciais ou impressões digitais não são permitidos. A identificação biométrica remota em tempo real em espaços públicos é proibida, exceto em situações estritamente definidas e com critérios específicos. autorização legal.
Como as diretrizes holandesas de IA de fevereiro de 2025 impactam a privacidade e a proteção de dados dos consumidores?
A Lei de IA funciona em conjunto com as regulamentações de proteção de dados existentes, incluindo o RGPD (Regulamento Geral de Proteção de Dados). A Autoridade Holandesa de Proteção de Dados fornece orientações sobre como os sistemas de IA devem cumprir as regras de proteção de dados, especialmente no que diz respeito à tomada de decisões automatizada.
É proibida a extração indiscriminada de imagens faciais da internet ou de gravações de câmeras para criar ou expandir bancos de dados de reconhecimento facial. Essa restrição protege os direitos de privacidade dos indivíduos e impede a coleta não autorizada de dados biométricos.
Os sistemas de IA devem respeitar os direitos fundamentais ao longo de todo o seu ciclo de vida. As autoridades públicas e as entidades que prestam serviços públicos devem realizar uma avaliação de impacto sobre os direitos fundamentais ao utilizarem sistemas de IA de alto risco.
Quais atividades baseadas em IA as empresas holandesas não estão mais autorizadas a realizar devido às recentes alterações legislativas?
Sua empresa não pode usar sistemas de reconhecimento de emoções em ambientes de trabalho ou educacionais. Esses sistemas são proibidos, independentemente dos benefícios ou casos de uso alegados.
Não é possível implantar sistemas de IA que manipulem pessoas por meio de técnicas subliminares ou explorem suas vulnerabilidades. Isso inclui sistemas que visam indivíduos com base em sua deficiência, condição social ou idade para influenciar seu comportamento.
Sistemas de categorização biométrica que classificam pessoas com base em características sensíveis são proibidos. Não é possível usar IA para inferir a raça, as opiniões políticas, as crenças religiosas ou a orientação sexual de alguém a partir de seus dados biométricos.
Sistemas de pontuação social são totalmente proibidos. Não é possível implementar IA que avalie ou classifique pessoas com base em seu comportamento social ou características pessoais.
A identificação biométrica remota em tempo real em espaços públicos é proibida para uso comercial. As autoridades policiais só podem utilizar esses sistemas em circunstâncias estritamente definidas e com a devida autorização legal.
Que medidas devem as empresas holandesas tomar para alinhar seus sistemas de IA com os padrões de conformidade definidos em fevereiro de 2025?
Você deve identificar todos os sistemas de IA que sua organização usa ou implementa atualmente. Esse inventário deve categorizar cada sistema de acordo com as classificações de risco definidas na Lei de IA.
Analise seus sistemas de IA em relação à lista de práticas proibidas. Se você utiliza algum sistema proibido, deve desativá-lo imediatamente para evitar penalidades regulatórias.
Documente os objetivos, as fontes de dados e os processos de tomada de decisão dos seus sistemas de IA. Essa documentação ajuda a demonstrar a conformidade e a dar suporte a quaisquer avaliações de impacto necessárias.
Para sistemas de IA de alto risco, são necessárias medidas de conformidade adicionais. As autoridades públicas devem registar os sistemas de alto risco na base de dados europeia até 2 de agosto de 2026 e realizar avaliações de impacto sobre os direitos fundamentais.
Treine sua equipe sobre os novos requisitos e estabeleça processos internos para o monitoramento contínuo da conformidade. Seu programa de conformidade deve incluir revisões regulares dos sistemas de IA para garantir que permaneçam dentro dos limites regulatórios.
Há alguma proibição específica do setor em relação à IA que as empresas holandesas devam ter em mente após as novas regulamentações?
As organizações do setor educacional enfrentam restrições específicas. Não é possível usar sistemas de reconhecimento de emoções para monitorar alunos ou avaliar seus estados emocionais, independentemente do benefício educacional pretendido.
Os ambientes de trabalho apresentam limitações semelhantes. Os empregadores não podem implementar IA de reconhecimento de emoções para monitorar os estados emocionais ou as reações dos funcionários durante as atividades de trabalho.
As agências de aplicação da lei têm exceções limitadas para sistemas de identificação biométrica. Essas exceções exigem autorização legal rigorosa e aplicam-se apenas a situações específicas, como a busca por vítimas de sequestro, a prevenção de ameaças iminentes ou o rastreamento de suspeitos de crimes graves.
As autoridades públicas que prestam serviços públicos estão sujeitas a requisitos adicionais além das proibições gerais. É obrigatório realizar avaliações de impacto sobre os direitos fundamentais para todos os sistemas de IA de alto risco e registrá-los no banco de dados europeu.
Quais são as penalidades por descumprimento das restrições holandesas à inteligência artificial introduzidas em fevereiro de 2025?
Os órgãos reguladores podem impor multas substanciais por descumprimento da Lei de Inteligência Artificial. A estrutura de penalidades segue uma abordagem escalonada com base na gravidade da infração.
A utilização de sistemas de IA proibidos representa a categoria de violação mais grave. Sua organização corre o risco de sofrer penalidades financeiras significativas se continuar operando sistemas proibidos após o prazo de fevereiro de 2025.
Os valores exatos das multas dependem da classificação da sua organização como pequena ou média empresa ou como uma grande empresa. As autoridades reguladoras consideram fatores como a natureza da infração, sua duração e os danos causados.
Além das penalidades financeiras, o descumprimento pode prejudicar a reputação da sua organização. Indivíduos lesados por sistemas de IA proibidos podem buscar reparação adicional por meio de processos judiciais.
A Autoridade Holandesa de Proteção de Dados e outros órgãos reguladores têm poderes de fiscalização. Podem investigar denúncias, realizar auditorias e exigir a cessação imediata de práticas proibidas.
