A União Europeia está planejando banir tecnologias de IA para determinados tipos de uso social considerados nocisvos. A informação é de um projeto de lei que ainda está em desenvolvimento pela Comissão de Assuntos Digitais e Competitividade, o qual a agência de notícias britânica Reuters teve acesso.

O documento determina uma série de situações nas quais fica proibido o uso de inteligência artificial, dentre eles o uso em qualquer tipo de pesquisa que busque vigiar o comportamento humano. Empresas que forem pegas com essas práticas, podem ser punidas com multa de até 4% de seu rendimento (mesmo que a empresa tenha sede fora da Europa) caso a lei seja aprovada.

A ideia por trás desse projeto é criar garantias de que o uso de IA em para fins de alto risco não gere danos à saúde, segurança, direitos fundamentais e liberdade das pessoas. Além disso, o projeto de leis também foi pensado para evitar que possíveis governos autoritários não façam uso desse tipo de tecnologia para tentativas de controle social, segregação e demais mecanismos prejudiciais à sociedade.

Pontuação social

A União Europeia também pretende banir o uso de IA para qualquer sistema de pontuação social. Ou seja, análise de comportamento de usuários para lhes conferir pontos que, em consequência, lhe garantirão benefícios. Esse tipo de sistema acaba sendo usado por empresas para contratar funcionários ou definir perfil de crédito, no qual quem tem mais pontos consegue empréstimos ou financiamentos. Também é usado por empresas de recursos humanos para excluir candidatos “problemáticos” por seus comportamentos na internet.

Segundo o documento, esse tipo de uso da inteligência artificial se enquadra nos perfis de alto risco porque algumas empresas podem fazer mau uso dos dados para favorecer grupos sociais privilegiados. Portanto, sistemas desse tipo devem ser mediados por seres humanos e precisam ser livres de viés ou interesses.

Texto em aberto

O texto que pretende elaborar leis para controle de uso da IA ainda não foi aprovado, trata-se de um rascunho que será implementado pela Comissão da UE. Nele, ainda há pontos em aberto quanto ao modo como a legislação irá ser aplicada e outros tópicos que ainda precisam ser revistos.

Contudo, o texto prevê que cada Estado Membro deve indicar uma autoridade para compor um grupo de supervisão do projeto de lei, chamado Painel Europeu de Inteligência Artificial. O objetivo desse grupo é emitir recomendações e análises relevantes quanto às aplicações das leis para auxiliar os legisladores.

A previsão é que Margrethe Vestager, líder da Comissão, apresente o texto completo no dia 12 de abril. Até lá, o documento pode receber diversas modificações.

Via Tech Crunch

Imagem: Christian Lue (Unsplash)