Daniel CavalcantiApós negociações prolongadas, autoridades da União Europeia chegaram a um acordo sobre o Artificial Intelligence Act, um conjunto abrangente de regulamentações em torno da inteligência artificial (IA). Esse ato poderia servir como um modelo para outras nações e regiões que buscam limitar os perigos da IA.
Neste ponto, os negociadores concordaram apenas sobre o que os legisladores da União Europeia eventualmente votarão, em vez de promulgar quaisquer regulamentações reais. O Parlamento Europeu, composto por mais de 700 membros, votará sobre o AI Act até o final do mês ou no início do próximo ano. Contudo, qualquer legislação ratificada não entrará em vigor antes de 2025, no mínimo.
UE na vanguarda
À medida que os Estados Unidos e o Reino Unido, entre outros, trabalham rapidamente para legislar e orientar o desenvolvimento e a implementação das tecnologias de IA, a UE, como frequentemente acontece, está na vanguarda com a legislação proposta.
O AI Act é abrangente, determinando salvaguardas para o uso geral de IA. “Esta regulamentação visa garantir que os direitos fundamentais, a democracia, o estado de direito e a sustentabilidade ambiental sejam protegidos contra a IA de alto risco, ao mesmo tempo que impulsiona a inovação e torna a Europa líder no campo. As regras estabelecem obrigações para a IA com base em seus riscos potenciais e nível de impacto,” escreve o Parlamento Europeu em um comunicado de imprensa oficial.
A versão acordada do AI Act provisório inclui diversas “aplicações proibidas”. Primeiramente, uma dessas utilizações proibidas da IA é a categorização com base em “características sensíveis” como afiliação política, crenças religiosas, ideologias filosóficas, orientação sexual ou raça. Além disso, o AI Act também proíbe a coleta não direcionada de imagens faciais da internet ou de imagens de circuito fechado de televisão (CCTV) para criar bancos de dados de reconhecimento facial.
Outras aplicações proibidas incluem o uso da IA para medir e reconhecer o estado emocional de funcionários. Além disso também proíbem o uso em empresas para realizar “pontuação social baseada em comportamento social e características pessoais”.
Duas outras aplicações proibidas são mais gerais e talvez as mais importantes. O AI Act afirma que as empresas não podem implantar “sistemas de IA que manipulem o comportamento humano para contornar sua livre vontade” ou “explorar as vulnerabilidades das pessoas (devido à sua idade, deficiência, situação social ou econômica)”.
A dificuldade de legislar uma tecnologia que avança rapidamente
O AI Act tem sido elaborado ao longo de vários anos, com o primeiro rascunho chegando em abril de 2021, muito antes de muitas das tecnologias de IA mais difundidas chegarem ao público. Contudo, a rapidez com que os sistemas de IA são desenvolvidos, implantados e proliferam torna a legislação altamente direcionada notavelmente desafiadora. Desse modo, a UE optou por uma abordagem mais geral, visando limitar o risco da IA em sua origem.
Nesse sentido, como prometido, a versão final do AI Act exige que as empresas divulguem detalhes sobre como seus modelos de IA são treinados. Além disso e, talvez o mais importante, exige que as empresas cumpram a lei de direitos autorais da UE. Como isso moldará o treinamento de modelos de geração de imagens, muitos dos quais têm origens duvidosas, será extremamente interessante.
Regras que permitam um sistema de IA inovador
Primeiramente, qualquer sistema de IA classificado como de alto risco estará dujeito a uma avaliação de impacto nos direitos fundamentais. O alto risco é baseado no potencial de causar danos à saúde, segurança, direitos, meio ambiente, democracia e estado de direito. Os cidadãos podem apresentar reclamações oficiais contra sistemas de IA de alto risco e receber explicações sobre como a UE avaliou um sistema de IA específico.
O AI Act também visa fomentar o desenvolvimento de sistemas de IA inovadores. A lei provisória inclui a promoção de “sandboxes regulatórias” e outros ambientes de teste do mundo real. Desse modo, as empresas, especialmente as menores, podem desenvolver e treinar sistemas de IA inovadores antes de lançar para o público em geral.
Quanto à aplicação do AI Act, os negociadores da UE também concordaram sobre punições potenciais. Elas vão desde multas de até 35 milhões de euros (37,7 milhões de dólares) ou 7% do “faturamento global” de uma empresa. Tudo isso baseado na gravidade da infração e do tamanho da empresa infratora.
Quer saber como a IA influencia artistas diretamente? Nesse artigo você acompanha a primeira grande ação de artistas contra a IA.
Boa semana! Daniel desligando.
Fonte: Peta Pixel