UE dá grande passo para regulamentar IA

A União Europeia deu um passo importante na quarta-feira para aprovar o que seria uma das primeiras grandes leis a regular a inteligência artificial, um modelo potencial para os formuladores de políticas em todo o mundo enquanto eles lutam para colocar barreiras na tecnologia em rápido desenvolvimento.

O Parlamento Europeu, um dos principais ramos legislativos da UE, aprovou um projeto de lei conhecido como AI Act, que colocaria novas restrições sobre o que é visto como os usos mais arriscados da tecnologia. Isso reduziria severamente o uso de software de reconhecimento facial, ao mesmo tempo em que exigiria que os fabricantes de sistemas de IA, como o chatbot ChatGPT, divulgassem mais sobre os dados usados ​​para criar seus programas.

A votação é uma etapa de um processo mais longo. A versão final da lei não deve ser aprovada até o final deste ano.

A União Européia está mais adiantada do que os Estados Unidos e outros grandes governos ocidentais na regulamentação da IA sobre os efeitos potenciais da tecnologia no emprego e na sociedade.

Os formuladores de políticas em todos os lugares, de Washington a Pequim, estão agora correndo para controlar uma tecnologia em evolução que está alarmando até mesmo alguns de seus primeiros criadores. Nos Estados Unidos, a Casa Branca divulgou ideias de políticas que incluem regras para testar sistemas de IA antes de serem disponibilizados ao público e proteger os direitos de privacidade. Na China, o projeto de regras divulgado em abril exigiria que os fabricantes de chatbots aderissem às rígidas regras de censura do país. Pequim também está assumindo mais controle sobre como os fabricantes de sistemas de IA usam dados.

Quão eficaz qualquer regulamentação de IA pode ser não está claro. Em um sinal de que os novos recursos da tecnologia estão surgindo aparentemente mais rápido do que os legisladores são capazes de abordar, as versões anteriores da lei da UE não deram muita atenção aos chamados sistemas de IA generativos, como o ChatGPT, que pode produzir texto, imagens e vídeos em resposta a Comandos.

Na versão mais recente do projeto de lei europeu aprovado na quarta-feira, a IA generativa enfrentaria novos requisitos de transparência. Isso inclui a publicação de resumos de material protegido por direitos autorais usado para treinar o sistema, uma proposta apoiada pela indústria editorial, mas contestada por desenvolvedores de tecnologia por ser tecnicamente inviável. Os fabricantes de sistemas de IA generativos também teriam que implementar salvaguardas para impedi-los de gerar conteúdo ilegal.

Francine Bennett, diretora interina do Ada Lovelace Institute, uma organização de Londres que pressiona por novas leis de IA, disse que a proposta da UE é um “marco importante”.

“É claro que é difícil regulamentar a tecnologia rápida e rapidamente adaptável, quando nem mesmo as empresas que desenvolvem a tecnologia têm certeza absoluta de como as coisas vão acontecer”, disse Bennett. “Mas definitivamente seria pior para todos nós continuar operando sem nenhuma regulamentação adequada.”

O projeto de lei da UE adota uma abordagem “baseada em risco” para regulamentar a IA, concentrando-se em aplicativos com maior potencial de danos humanos. Isso incluiria onde os sistemas de IA são usados ​​para operar infraestrutura crítica como água ou energia, no sistema legal e ao determinar o acesso a serviços públicos e benefícios do governo. Os fabricantes da tecnologia terão que realizar avaliações de risco antes de colocar a tecnologia em uso diário, semelhante ao processo de aprovação de medicamentos.

Uma grande área de debate é o uso de reconhecimento facial. O Parlamento Europeu votou para proibir o uso de reconhecimento facial ao vivo, mas permanecem dúvidas sobre se as isenções devem ser permitidas para fins de segurança nacional e outros fins de aplicação da lei.

Outra disposição proibiria as empresas de extrair dados biométricos das mídias sociais para criar bancos de dados, uma prática que atraiu escrutínio depois de ser usada pela empresa de reconhecimento facial Clearview AI.

Os líderes de tecnologia têm tentado influenciar o debate. Sam Altman, presidente-executivo da OpenAI, criadora do ChatGPT, visitou nos últimos meses pelo menos 100 legisladores americanos e outros formuladores de políticas globais na América do Sul, Europa, África e Ásia, incluindo Ursula von der Leyen, presidente da Comissão Europeia . Altman pediu a regulamentação da IA, mas também disse que a proposta da UE pode ser proibitivamente difícil de cumprir.

Após a votação na quarta-feira, uma versão final da lei será negociada entre representantes dos três ramos da União Europeia – o Parlamento Europeu, a Comissão Europeia e o Conselho da União Europeia. Autoridades disseram que esperam chegar a um acordo final até o final do ano.