Comissão europeia propõe regras mais duras para ia

AComissão Europeia anunciou, ontem, um projeto rígido de regras sobre o uso de inteligência artificial (IA), incluindo a proibição da maior parte de instrumentos de vigilância. A iniciativa faz parte de um esforço para definir padrões globais a uma tecnologia-chave, dominada pela China e pelos Estados Unidos.
As empresas que violarem as regras poderão ser multadas em até 6% de seu faturamento global ou US$ 36 milhões. Valerá a punição mais alta. O texto define ainda salvaguardas rígidas para aplicações de IA consideradas de alto risco.
"Na inteligência artificial, a confiança é uma obrigação, não algo desejável. Com essas regras históricas, a União Europeia (UE) está liderando o desenvolvimento de novas normas globais para garantir que a IA seja confiável", destacou Margrethe Vestager, vice-presidente da Comissão Europeia responsável por assuntos digitais, em comunicado.
O projeto estabelece limites ao uso de inteligência artificial em uma série de atividades, desde carros autônomos até decisões de contratação, seleção de matrículas escolares e pontuação em exames. Também trata do uso de IA pela aplicação da lei e sistemas judiciais, áreas consideradas de alto risco porque podem ameaçar a segurança das pessoas ou os direitos fundamentais.
Alguns usos seriam totalmente proibidos, incluindo o reconhecimento facial ao vivo em espaços públicos, embora haja algumas isenções para segurança nacional e outros fins.
As regras têm implicações de longo alcance para grandes empresas de tecnologia, incluindo Amazon, Google, Facebook e Microsoft, que investiram recursos no desenvolvimento de IA, mas também para várias outras empresas que usam a tecnologia em saúde, seguros e finanças. Governos têm usado a tecnologia na Justiça criminal e na alocação de serviços públicos.
automação do trabalho
A IA, na qual as máquinas são treinadas para aprender a realizar tarefas por conta própria, estudando grandes volumes de dados, é vista por tecnólogos, líderes empresariais e governos como uma das tecnologias mais transformadoras do mundo. Mas pesquisadores levantam questões éticas sobre seu uso, sugerindo que ele poderia perpetuar os preconceitos existentes na sociedade, invadir a privacidade e resultar na automatização de mais empregos.
Ao apresentar o projeto de regras, a União Europeia está tentando se estabelecer como o cão de guarda mais agressivo do mundo da indústria de tecnologia. O bloco já promulgou os regulamentos de privacidade de dados mais abrangentes do mundo e também está debatendo leis antitruste e de moderação de conteúdo.
O projeto gerou reações negativas tanto por parte de grupos de tecnologia quanto por ONGs de proteção de direitos dos cidadãos europeus. Na avaliação do grupo de lobby de tecnologia CCIA, as regras não deveriam criar mais burocracia para empresas e usuários.
" A IA será fundamental para a recuperação econômica da Europa e sua competitividade futura. No entanto, a regulamentação por si só não fará da UE um líder em IA " disse o vice-presidente da CCIA, Christian Borggreen.
A European Digital Rights, rede de ONGs que defendem o direito digital, apontou lacunas preocupantes na proposta.
" O projeto de lei não proíbe a extensão total dos usos inaceitáveis de IA e, em particular, todas as formas de vigilância biométrica em massa. Isso deixa uma lacuna preocupante para tecnologias discriminatórias e de vigilância usadas por governos e empresas " disse Sarah Chander, da European Digital Rights.
preconceito racial
A Comissão Europeia terá de discutir os detalhes com os governos nacionais da UE e no Parlamento Europeu antes que as regras entrem em vigor.
Em Washington, os riscos da IA também estão sendo considerados. Esta semana, a Comissão de Comércio Federal alertou contra sistemas de IA que usam algoritmos com preconceito racial ou que podem "negar às pessoas emprego, moradia, crédito, seguro ou outros benefícios".