Na Holanda, a responsabilidade por sistemas de IA recai sempre sobre uma pessoa ou empresa, nunca sobre o software. Na prática, duas posições são relevantes: a do usuário, ou seja, o indivíduo ou organização que implementa o sistema e toma decisões com base nele, e a do produtor, ou seja, a parte que desenvolveu o sistema, o colocou no mercado ou o forneceu. A responsabilidade pelo prejuízo depende de onde ocorreu a falha, do conhecimento que cada um tinha e do que estipula o contrato entre eles. Este artigo analisa ambas as posições; o próprio quadro do direito penal, desde a perpetração funcional até a responsabilidade corporativa nos termos do artigo 51 do Código Penal, é abordado em nosso artigo complementar sobre se um algoritmo pode ser parcialmente responsável.
Por que o sistema nunca é o réu
A legislação holandesa reconhece dois tipos de pessoa: pessoas físicas e pessoas jurídicas. Um sistema de IA não se enquadra em nenhuma dessas categorias. Ele não pode ter direitos, não pode ser intimado, não pode ser multado e não pode ser obrigado a pagar indenizações, porque não possui nada e não tem existência jurídica separada da empresa que o controla. Propostas para a criação de uma terceira categoria, por vezes denominada personalidade eletrônica, foram debatidas em nível europeu, mas não avançaram, por uma razão mais prática do que filosófica: um instrumento de responsabilidade sem ativos e sem capacidade de alterar seu comportamento transferiria o risco das partes que de fato podem evitar danos.
Portanto, a questão nunca é se a máquina é responsável. A questão é qual agente humano ou corporativo na cadeia falhou em seu dever, e essa cadeia tem um formato previsível: a parte que construiu o modelo, a parte que o transformou em um produto, a parte que o forneceu ou integrou, a organização que o implementou e o indivíduo que apertou o botão. A responsabilidade por sistemas de IA consiste em localizar a falha nessa cadeia e encontrar uma base legal para ela.
Duas dessas bases legais predominam. Para o usuário, a lei geral de responsabilidade civil e o dever de cuidado que acompanha o uso de uma ferramenta poderosa em benefício de terceiros. Para o produtor, a responsabilidade pelo produto, que não exige culpa alguma. Tudo o mais, incluindo a responsabilidade criminal, se sobrepõe a essas duas bases.
A posição do usuário
Os usuários subestimam sua exposição porque pensam no sistema como uma caixa preta construída por outra pessoa. No âmbito jurídico, a pessoa que opta por implantar uma ferramenta, configurá-la, alimentá-la com dados e agir com base em seus resultados está realizando uma ação, e essa ação é avaliada por seus próprios méritos.
Quando o sistema é simplesmente o instrumento de uma ofensa
Os casos mais simples são aqueles em que um sistema de IA é usado deliberadamente. Gerar uma fatura convincente para fraudar uma empresa é considerado fraude, de acordo com o artigo 326 do Código Penal, independentemente de a fatura ter sido redigida por uma pessoa ou por um modelo, e falsificar um documento continua sendo falsificação, de acordo com o artigo 225, independentemente da ferramenta utilizada. Usar um modelo para escrever código que invade um sistema ainda configura invasão de computador, de acordo com o artigo 138ab. Gerar e distribuir imagens manipuladas de uma pessoa real pode configurar difamação e, quando o material for de natureza sexual, enquadra-se nos crimes previstos na Lei de Crimes Sexuais, em vigor desde 1º de julho de 2024. O assédio persistente a um indivíduo, com auxílio de IA, pode constituir perseguição, de acordo com o artigo 285b, crime que só pode ser processado mediante denúncia da vítima.
Nada disso é uma nova lei. A tecnologia altera a escala e a plausibilidade do engano, não os elementos do crime. O que ela altera são as provas: avisos, registros de contas, resultados de modelos e o momento da criação de arquivos são o material que vincula o crime a uma pessoa, e os usuários que presumem que o conteúdo gerado por IA é impossível de rastrear geralmente estão enganados.
Uso negligente: o risco mais comum
Muito mais organizações se metem em problemas por descuido do que por intenção. O padrão é familiar. Um sistema é comprado para um propósito e usado para outro. Seu resultado é tratado como uma decisão, e não como um sinal. Ninguém verifica os casos em que ele está errado, porque as pessoas que o operam nunca foram informadas sobre sua taxa de erro ou onde ele falha. Quando o dano se materializa, a organização descobre que não possui nenhum registro de como a decisão foi tomada.
Em termos civis, trata-se de um ato ilícito simples: o artigo 6:162 do Código Civil responsabiliza uma pessoa por um ato ilícito que lhe seja imputável e que cause dano. A violação do dever de cuidado na sociedade é uma das categorias de ilicitude, e o conteúdo desse dever é definido pelo que um agente cuidadoso, nessa posição, teria feito. O empregador também é responsável pelas faltas de seus empregados, nos termos do artigo 6:170, e a parte que utiliza um prestador de serviços para cumprir uma obrigação contratual responde por esse prestador, nos termos do artigo 6:76, que é a disposição que abrange uma organização que utiliza o modelo de um fornecedor para prestar seu próprio serviço.
O dever de cuidado não está mais inteiramente a cargo dos tribunais. A Lei de IA da UE impõe obrigações concretas aos responsáveis pela implementação de sistemas de alto risco: usar o sistema de acordo com as instruções, atribuir supervisão humana a pessoas com competência e autoridade para exercê-la, garantir que os dados de entrada sob seu controle sejam relevantes, monitorar a operação e suspender o uso quando surgir um risco, manter os registros e informar os trabalhadores e seus representantes antes de implementar tal sistema no trabalho. Essas obrigações são regulamentares, mas um tribunal que avalia negligência as interpretará como uma descrição do que significa conduta cuidadosa. Uma organização que ignorou as instruções de uso não está apenas em situação de não conformidade; ela entregou o caso ao reclamante.
O viés da automação merece uma menção à parte, pois é onde a supervisão falha silenciosamente. Um revisor que aprova praticamente tudo o que o sistema propõe não está exercendo supervisão, e uma organização que avalia seus funcionários com base na produtividade efetivamente projetou esse resultado. A questão jurídica é se uma decisão humana foi realmente tomada, e uma simples aprovação automática não se qualifica como tal.
Nos casos em que o usuário não pode transferir o risco.
Três pontos costumam surpreender as organizações que presumiam que o fornecedor assumia o risco.
Em primeiro lugar, perante o terceiro lesado, o usuário é a parte visível. Um cliente que teve o crédito recusado, um funcionário rejeitado por uma ferramenta de triagem, um paciente que recebeu uma triagem incorreta: todos eles contratam com o prestador de serviços ou são atendidos por ele, e irão processá-lo. A possibilidade de o prestador de serviços recuperar o valor pago pelo fornecedor é uma questão à parte, que depende do contrato e não atrasa o processo contra ele.
Em segundo lugar, as regras gerais de proteção de dados aplicam-se independentemente de tudo o mais. Se o sistema processa dados pessoais, o responsável pela implementação é normalmente o controlador, responsável pela base jurídica, pela transparência, pela avaliação de impacto e pela segurança. Uma decisão tomada exclusivamente por meios automatizados que produza efeitos jurídicos ou que afete significativamente uma pessoa de forma semelhante é regulamentada separadamente e confere a essa pessoa o direito à intervenção humana e à contestação do resultado. A nossa visão geral do Regulamento Geral sobre a Proteção de Dados descreve esse regime.
Em terceiro lugar, a modificação altera seu papel. Um implementador que coloca seu próprio nome em um sistema, altera sua finalidade original ou o modifica substancialmente torna-se um provedor sob a Lei de Inteligência Artificial e herda as obrigações de um provedor. Ajustar um modelo de uso geral para transformá-lo em uma ferramenta de triagem para uma decisão regulamentada é exatamente o tipo de passo que cruza essa linha. Organizações que se baseiam no modelo de terceiros devem definir em que lado da lei estão antes do lançamento, e não após um incidente.
A posição do produtor
A responsabilidade do produtor segue um caminho diferente e é mais rigorosa. A responsabilidade pelo produto, nos termos dos artigos 6:185 e seguintes do Código Civil, responsabiliza o produtor pelos danos causados por um defeito em seu produto, sem que a parte lesada precise comprovar culpa. Um produto é considerado defeituoso quando não oferece a segurança que uma pessoa tem o direito de esperar, levando-se em consideração sua apresentação, o uso que se pode razoavelmente esperar dele e o tempo em que foi colocado em circulação. O demandante deve comprovar o dano, o defeito e o nexo causal entre eles, que, em um caso de IA, é onde reside a verdadeira batalha.
O regime tem limites fixos. As reclamações devem ser apresentadas no prazo de três anos a contar do dia em que a parte lesada tomou conhecimento, ou deveria ter tomado conhecimento, do dano, do defeito e da identidade do produtor, e o direito prescreve dez anos após a colocação do produto específico em circulação. A responsabilidade ao abrigo deste regime não pode ser excluída ou limitada por contrato e abrange morte, lesões corporais e danos a outros bens de uso privado, sujeitos a um limiar inferior. O produtor dispõe de um conjunto limitado de defesas, incluindo a defesa do risco de desenvolvimento, que se aplica quando o estado do conhecimento científico e técnico à época da circulação não poderia ter revelado o defeito.
A reforma que muda a situação do software
No regime holandês atual, um produto é considerado um bem móvel, e a questão de se um software independente se enquadra nessa categoria tem sido debatida há anos. Esse debate está agora chegando ao fim. A Diretiva de Responsabilidade por Produtos Defeituosos revisada, Diretiva (UE) 2024/2853, entrou em vigor em 8 de dezembro de 2024 e deve ser transposta para a legislação nacional até 9 de dezembro de 2026; ela se aplica a produtos colocados no mercado ou em serviço após essa data, portanto, as disposições atuais do Código Civil continuam a reger os produtos comercializados antes da sua publicação. Quatro mudanças são relevantes para a responsabilidade por sistemas de IA.
O software, incluindo sistemas de IA e arquivos de fabricação digital, é expressamente um produto. O círculo de responsáveis se amplia além do fabricante para incluir a parte que modifica substancialmente um produto fora do controle do fabricante, o representante autorizado, o importador e, em determinadas circunstâncias, o prestador de serviços de logística e a plataforma online. Os danos indenizáveis abrangem a destruição ou corrupção de dados que não são utilizados profissionalmente, o que constitui uma categoria real de prejuízo em falhas de software. E um produto pode ser considerado defeituoso devido a eventos que ocorrem após sua comercialização: um defeito em uma atualização de software necessária, a falha no fornecimento de atualizações de segurança ou os efeitos da aprendizagem contínua, quando o produtor mantém o controle sobre ela.
A reforma também ataca diretamente o problema das provas. Um tribunal pode ordenar que o réu divulgue provas relevantes a pedido do autor, e se o réu não cumprir, presume-se a existência de defeito. Presunções refutáveis de defeito e de causalidade aplicam-se quando o autor enfrenta dificuldades excessivas em comprová-las devido à complexidade técnica ou científica, desde que o autor torne a probabilidade plausível. Para um autor confrontado com um modelo que ninguém consegue explicar completamente, essa é a diferença entre um caso plausível e um caso impossível.
Contrato, conformidade e os limites das cláusulas de exclusão
Entre empresas, o primeiro campo de batalha costuma ser o contrato, e não a legislação. Um fornecedor de um sistema de IA deve cumprir o que se comprometeu a fazer: o sistema entregue deve corresponder ao contrato e possuir as qualidades que o comprador tinha o direito de esperar. Quando um fornecedor promete um nível de precisão, um nível de disponibilidade ou conformidade com a Lei de IA, o não cumprimento dessa promessa constitui quebra de contrato, e as medidas cabíveis, como indenização por danos e rescisão, são aplicadas após notificação adequada da inadimplência.
Os fornecedores respondem com cláusulas de limitação e exclusão, e essas cláusulas geralmente são eficazes entre partes comerciais. Elas não são ilimitadas. Uma cláusula pode ser anulada quando a sua aplicação for inaceitável de acordo com os padrões de razoabilidade e equidade, que é o caminho que os tribunais seguem em casos de negligência deliberada ou culpa grave por parte do fornecedor. Além disso, quando a cláusula é genérica, ela pode ser considerada inválida se a outra parte não teve uma oportunidade genuína de analisá-la. A responsabilidade sob o regime de responsabilidade pelo produto não pode ser totalmente excluída por contrato em relação à parte lesada. Na prática, a negociação gira em torno de limites máximos, exceções para violações de dados e infrações de propriedade intelectual, indenizações por multas regulatórias e a obrigação do fornecedor de fornecer a documentação e os registros necessários para a defesa do cliente. Nossa página sobre pedidos de indenização por danos explica como esses pedidos são estruturados.
O que a Lei de Inteligência Artificial faz e o que não faz
A Lei de IA é um instrumento regulatório. Ela orienta provedores e implementadores sobre o que fazer e confere poderes aos supervisores para garantir seu cumprimento; ela não cria um direito à indenização para pessoas prejudicadas por um sistema de IA. A proposta de Diretiva de Responsabilidade por IA, que teria harmonizado as ações cíveis e introduzido a divulgação e as presunções em todos os casos, foi retirada. O que resta é a combinação descrita acima: direito civil e contratual nacional, além do regime de responsabilidade por produtos reformado.
Isso não torna a Lei de IA irrelevante para a responsabilidade. Ela é importante de três maneiras. Ela estabelece o padrão de cuidado, de modo que o descumprimento constitui evidência de negligência. Ela gera documentos, pois a documentação técnica, as instruções de uso, os registros e o arquivo de monitoramento pós-comercialização existem por lei e podem ser solicitados em processos judiciais. E ela define funções, de modo que a questão de quem é o provedor e quem é o responsável pela implementação, que antes era motivo de discussão, agora tem uma resposta legal. Nossa prática de direito de TI lida com essas questões de classificação antes que elas se tornem disputas.
Onde o usuário e o produtor se encontram
A maioria dos incidentes reais não é causada por uma única falha em uma das pontas da cadeia. São causados por um modelo treinado com dados que não representavam a população à qual foi aplicado, integrado por um fornecedor que não o testou nesse contexto, implementado por uma organização que o utilizou para uma finalidade não contemplada nas instruções e operado por funcionários que nunca foram informados sobre suas limitações. A legislação holandesa não encontra dificuldades nisso: várias partes podem ser responsabilizadas pelo mesmo dano, cada uma é responsável pela totalidade do dano perante a parte lesada, e a divisão interna da responsabilidade é feita posteriormente entre elas, de acordo com suas respectivas contribuições.
A tabela abaixo descreve onde normalmente recai a responsabilidade e com base em quê.
| Party | Base típica de responsabilidade | O que determina o resultado? |
|---|---|---|
| Fornecedor ou fabricante | Responsabilidade do produto sem culpa; responsabilidade contratual perante o cliente. | Se o sistema oferecia a segurança esperada e o que a documentação e as instruções realmente diziam. |
| Parte que modifica substancialmente | Assume a posição de produtor para o produto modificado. | Se a alteração ultrapassou o propósito pretendido ou foi feita fora do controle do produtor original. |
| Organização de implantação | Ato ilícito, violação do próprio dever de cuidado, responsabilidade por funcionários e auxiliares. | Utilizar conforme as instruções, com supervisão humana de qualidade, entrada de dados, registro e monitoramento. |
| Operador individual | A responsabilidade pessoal é rara; a exposição criminal ocorre quando o sistema é usado deliberadamente. | Intenção, ou culpa grave, e se o empregador é o responsável. |
O caso dos benefícios de assistência infantil na Holanda é o ponto de referência ao qual todas as discussões holandesas retornam, e ilustra um padrão, em vez de uma regra de direito: um sistema opaco de classificação de risco, decisões tomadas com base em seus resultados sem uma avaliação individual real e consequências que recaíram inteiramente sobre as pessoas que os receberam. Suas repercussões legais foram administrativas e políticas, e não criminais, e discutimos o que isso revela e o que não revela sobre responsabilidade criminal em nosso artigo sobre IA e direito penal.
O problema das evidências e como ele está mudando.
Quem apresentar a queixa tem que comprová-la, e em casos de IA, a comprovação é a parte mais difícil. O reclamante precisa demonstrar o que o sistema fez, por que estava errado e que o erro causou o prejuízo. As informações necessárias para isso estão em posse do réu, e em um modelo complexo pode ser realmente difícil reconstruí-las, mesmo internamente.
Três desenvolvimentos estão mudando esse equilíbrio. O registro de logs agora é um requisito legal para sistemas de alto risco, portanto, o registro que antes era opcional precisa existir. A divulgação de provas em ações de responsabilidade por produtos defeituosos torna-se possível sob o regime reformado, respaldada por uma presunção de defeito quando o réu não cumpre a exigência. E o processo civil holandês já permite que uma parte exija a apresentação de documentos específicos identificados nos quais tenha um interesse legítimo, o que é usado regularmente para obter relatórios de testes, registros de incidentes e avaliações internas de risco.
Para o réu, a conclusão prática é desconfortável, mas clara: a documentação que você guarda é a documentação que será lida contra você, e a documentação que você deixou de guardar também será usada contra você. Registros completos, datados e honestos de testes, limitações conhecidas, incidentes e seu tratamento são a defesa mais forte disponível, porque demonstram que a organização exerceu discernimento em vez de simplesmente esperar pelo melhor. Quando o incidente também tem uma dimensão criminal, por exemplo, acesso não autorizado a sistemas ou manipulação de dados, o regime penal para crimes informáticos e cibernéticos nos Países Baixos aplica-se em conjunto com a ação cível, e uma investigação criminal apreenderá exatamente o mesmo material.
Sistemas autônomos no mundo físico
Quando um sistema de IA controla um veículo, pilota um drone ou movimenta um braço robótico, aplica-se uma camada adicional de responsabilidade, geralmente mais rigorosa do que qualquer outra discutida até agora. Danos físicos acarretam responsabilidade por riscos, que não leva em consideração se houve negligência por parte de alguém.
Para veículos motorizados, o artigo 185 da Lei de Trânsito Rodoviário de 1994 responsabiliza o proprietário ou detentor de um veículo motorizado por danos causados a pedestres e ciclistas, a menos que haja força maior, um padrão muito difícil de atender. Essa regra é indiferente ao fato de o condutor ser humano ou um sistema de assistência ao motorista: o proprietário responde primeiro, e qualquer recurso contra o fabricante do software vem depois. Testar veículos genuinamente autônomos em vias públicas exige uma autorização de acordo com a legislação holandesa específica para experimentação, e as condições associadas a essa autorização, incluindo a presença e o papel de um supervisor, tornam-se parte do padrão de cuidado.
As aeronaves não tripuladas são regidas pelas normas europeias para drones, com o registo do operador e os requisitos dependentes da categoria administrados nos Países Baixos pela Rijksinspectie Digitale Infrastructuur (Inspeção de Infraestruturas Digitais). Um operador que voa fora da sua categoria, ou sem a competência necessária, não só infringe as regras da aviação, como também ultrapassa os limites da conduta que um tribunal consideraria cuidadosa, o que resolve a questão da negligência antes mesmo de se iniciar o debate técnico sobre o piloto automático.
Paralelamente a esses regimes, existe a regra geral sobre objetos defeituosos. O possuidor de um bem móvel que não atenda aos padrões estabelecidos para ele e que, por conseguinte, represente um perigo específico, é responsável pelos danos causados por esse perigo. Essa regra se aplica à máquina física, mesmo quando a falha subjacente estiver em seu software, o que explica por que o proprietário de um robô industrial ou de um sistema automatizado de armazém não pode simplesmente culpar o fornecedor. Quando o regime de responsabilidade pelo produto se aplica, os dois sistemas interagem, e a parte lesada normalmente seguirá o caminho que for mais fácil de comprovar.
A consequência prática para organizações que operam máquinas com funções autônomas é que o seguro e o contrato precisam ser estruturados em torno da responsabilidade objetiva, e não da análise baseada em culpa. Ter o direito de recorrer contra um fornecedor é importante, mas isso não impede que a reclamação chegue primeiro à sua porta.
Reduzindo a exposição em ambos os lados
As medidas que reduzem a responsabilidade dos sistemas de IA são as mesmas que garantem o seu bom funcionamento, razão pela qual vale a pena adotá-las independentemente do calendário regulatório.
Para uma organização que está implementando um sistema, comece com o inventário: quais sistemas estão em uso, quem os forneceu, o que eles decidem ou influenciam e quem os opera. Defina sua função para cada um, pois as responsabilidades do fornecedor e do implementador são diferentes. Em seguida, anote a finalidade pretendida e atenha-se a ela; a causa mais comum de responsabilidade evitável é usar uma ferramenta para algo para o qual ela não foi validada. Dê às pessoas que operam o sistema autoridade real para anulá-lo e avalie-as pelo julgamento, e não pelo volume. Mantenha os registros e guarde-os por tempo suficiente para serem úteis em caso de disputa. Registre os incidentes, incluindo os quase acidentes, e registre o que foi feito a respeito.
Para um produtor ou fornecedor, a lista equivalente se estende por todo o ciclo de vida: gestão de riscos documentada, governança de dados que possa ser explicada a um órgão regulador, testes com a população que efetivamente utilizará o sistema, instruções de uso honestas quanto às limitações e taxas de erro, em vez de apenas tranquilizar, um canal para que os clientes relatem problemas e uma política de atualização que defina quem é responsável pelos patches de segurança e por quanto tempo. O regime de responsabilidade civil por produtos reformulado torna esse último ponto mais crítico do que era antes: a falha em fornecer as atualizações que você se comprometeu a fornecer pode, por si só, tornar o produto defeituoso.
Ambas as partes devem encarar o contrato como um exercício de alocação de riscos, e não como uma mera formalidade. As cláusulas que importam são a descrição da finalidade pretendida, as garantias de conformidade e desempenho, a obrigação de entregar documentação e registros, os deveres de notificação de incidentes em ambas as direções, o limite de responsabilidade e suas exceções, as indenizações por reclamações de terceiros e multas regulatórias, e os mecanismos de rescisão que determinam o que acontece com o modelo e os dados caso a relação comercial termine. Um limite negociado de forma abstrata, sem levar em consideração o que o sistema realmente decide, não protege ninguém.
Por fim, mantenha em vista a possibilidade de responsabilização criminal, mesmo quando o risco imediato for de natureza civil. Processar uma empresa por uma falha em IA ainda é incomum, mas os elementos são comuns: um dever, uma violação, um dano previsível e uma organização que comprovadamente aceitou o risco. Quando um sistema é usado para algo claramente ilegal, ou quando uma empresa continua a operar um sistema que sabe estar causando danos, a via penal se abre, e a análise completa é apresentada em nosso artigo sobre direito penal holandês e no artigo complementar sobre algoritmos e responsabilidade criminal.
Perguntas frequentes
Uma inteligência artificial pode servir como testemunha em tribunal?
A resposta curta é não, pelo menos não no cenário jurídico atual. O conceito de testemunha é fundamentalmente humano. Para ser testemunha, uma pessoa deve ser capaz de prestar juramento, prometendo dizer a verdade. Ela também precisa ter conhecimento pessoal dos eventos em questão e ser capaz de resistir a um interrogatório, onde sua memória, percepção e credibilidade são examinadas.
Uma IA simplesmente não atende a esses critérios. Ela não tem consciência, não pode prestar juramento e não possui memórias pessoais no sentido humano. Na melhor das hipóteses, ela pode apresentar dados que processou. Isso a torna muito mais parecida com uma prova, como uma gravação de circuito fechado de TV, do que com uma testemunha de fato. O resultado da IA certamente pode ser apresentado em um tribunal, mas seria um especialista humano explicando esses dados que, de fato, serviria como testemunha.
Qual a diferença entre responsabilidade civil e criminal em casos de inteligência artificial?
Essa distinção é crucial sempre que uma IA causa danos. Embora tanto os casos civis quanto os criminais envolvam responsabilidade legal, sua finalidade, o ônus da prova e as penalidades são completamente diferentes.
Eis uma maneira simples de pensar sobre isso:
- Responsabilidade Civil: Trata-se de reparar integralmente o dano sofrido pela vítima. O foco está na compensação por danos, como perdas financeiras decorrentes de um algoritmo defeituoso ou lesões causadas por um veículo autônomo. O padrão de prova é mais baixo — geralmente uma questão de "preponderância de probabilidades".
- Responsabilidade Penal: Trata-se de punir um erro cometido contra a própria sociedade. Isso exige provar a culpa "além de qualquer dúvida razoável" — um obstáculo muito maior — e pode levar a penalidades severas, como prisão ou multas elevadas.
Quando uma IA está envolvida, uma empresa pode enfrentar um processo civil para indenizar os danos causados por seu produto. Mas, para que acusações criminais sejam procedentes, o promotor precisa provar que um agente humano agiu com "dolo" ( mens rea ). É exatamente por isso que a responsabilidade recai sobre uma pessoa, e não sobre a máquina.
Como minha organização pode se preparar para a Lei de IA da UE?
Com regulamentações como a Lei de IA da UE já em vigor e sendo aplicadas em etapas, esperar até que as últimas obrigações entrem em vigor é uma estratégia arriscada. A conformidade proativa é a única maneira eficaz de mitigar seus riscos legais.
Aqui estão alguns passos importantes para você começar:
- Classifique seus sistemas de IA: Primeiro, você precisa determinar em qual categoria de risco suas aplicações de IA se enquadram: inaceitável, alto, limitado ou mínimo. Essa classificação determinará suas obrigações específicas de conformidade.
- Realizar avaliações de risco: Para qualquer sistema de alto risco, é imprescindível realizar avaliações minuciosas para identificar e abordar possíveis danos aos direitos fundamentais. Não se trata apenas de cumprir requisitos formais; é uma análise profunda do impacto do seu sistema.
- Garantir transparência e documentação: Mantenha registros meticulosos do design da sua IA, dos conjuntos de dados usados para treinamento e dos seus processos de tomada de decisão. Essa documentação é essencial para demonstrar conformidade e responsabilidade caso ocorra um incidente.
Law & More Assessoramos organizações que desenvolvem sistemas de IA e organizações que os utilizam na alocação de riscos em contratos, na classificação e nas obrigações previstas na Lei de IA, e na defesa ou apresentação de reclamações quando um sistema causa prejuízos. Se um sistema de IA em sua organização produziu uma decisão que agora está sendo contestada, entre em contato conosco para que possamos avaliar a situação rapidamente.
