AI escreveu uma lei de habitação. Os críticos dizem que não é inteligente.

Hoje em dia parece que o alcance da inteligência artificial não tem limites, desde a geração de imagens, prosa e piadas até a automação de várias funções de trabalho. Mas os avanços tecnológicos podem acarretar custos ocultos.

No início deste ano, um advogado se viu em apuros depois de usar o Chat GPT para escrever seu argumento legal – resultando em citações de jurisprudência imaginária e decisões de julgamento inexistentes. A segurança dos carros autônomos da Tesla, que dependem de IA, está sob escrutínio federal.

Agora, para a próxima virada de estrela da IA: um legislador em Nova York disse que consultou um bot de IA para apresentar ideias para uma nova legislação.

O legislador, deputado Clyde Vanel, um democrata que preside o Subcomitê da Assembleia para Internet e Novas Tecnologias, pediu ao software que identificasse uma lacuna na lei de Nova York.

O resultado é um projeto de lei, inserido no registro legislativo pelo Sr. Vanel, que alteraria o código habitacional para exigir que os proprietários forneçam aos inquilinos uma cópia de seu contrato mediante solicitação até duas vezes por ano.

Como parte do projeto de lei, que foi relatado pela primeira vez pela cidade e pelo estado, o Sr. Vanel revelou que foi pesquisado e escrito por inteligência artificial.

“Não podemos ser luditas”, disse Vanel, um democrata que representa o leste do Queens, em uma entrevista. “Temos que entender essas tecnologias e descobrir como elas podem aprimorar o que fazemos.”

O Sr. Vanel usou o Auto-GPT, um programa que é uma versão mais avançada do software Chat GPT que provocou um pandemônio de plágio nas escolas americanas.

O objetivo do projeto de lei, explicou a IA, era capacitar os inquilinos e familiarizá-los com suas responsabilidades, ao mesmo tempo em que promovia “uma relação mais transparente entre proprietário e inquilino”.

Vanel disse que ficou impressionado com a visão do software, acrescentando que fez algumas pequenas alterações após algum refinamento humano e verificação de fatos. No entanto, o impacto prático do projeto de lei é um tanto obscuro.

Os inquilinos geralmente recebem uma cópia de seus contratos de aluguel quando os assinam, embora haja casos em que possam precisar solicitar uma substituição – para provar os termos do contrato de aluguel original em litígio ou ao solicitar benefícios, por exemplo.

“Não é algo que nos importe tanto assim”, disse Cea Weaver, coordenadora de campanha do Housing Justice for All, um dos grupos de defesa de inquilinos mais vociferantes do estado.

Frank Ricci, da Rent Stabilization Association, concordou: “Não sei qual é o objetivo do projeto de lei, para ser totalmente honesto”, disse ele, acrescentando: “Talvez a verdadeira história aqui seja que a inteligência artificial em algumas áreas apenas não faz o menor sentido. Talvez não seja tão inteligente.”

James Fishman, um advogado com décadas de experiência em questões de locador-inquilino, disse que tal medida só seria útil em circunstâncias limitadas, quando tal documento realmente existisse e o próprio locador tivesse uma cópia. E porque não diz nada sobre a execução, observou o Sr. Fishman, provavelmente beneficiaria apenas aqueles cujos proprietários estivessem dispostos a cumprir sem serem obrigados a fazê-lo.

“É como uma visão homogeneizada do senhorio-inquilino de Nova York, sem levar em conta que há tantas nuances e áreas cinzentas”, disse ele.

Com certeza, a falta de moradia, especialmente moradia acessível, é uma crise em Nova York que fez com que muitos deixassem o estado. E embora a questão tenha sido proclamada repetidamente no topo da lista de prioridades na última sessão legislativa, os democratas não conseguiram chegar a um acordo que abordasse os numerosos e muitas vezes conflitantes objetivos de inquilinos, proprietários, desenvolvedores e formuladores de políticas.

Linda Rosenthal, uma democrata que preside o Comitê de Habitação da Assembleia, não se impressionou com a contribuição do software para o debate sobre habitação.

“A IA falhou em identificar e refletir sobre o que é a crise imobiliária”, disse Rosenthal. “Certamente não são as pessoas que clamam para que o proprietário, por lei, envie uma cópia do contrato de aluguel.”

Vanel defendeu o software, dizendo que o projeto de lei não pretendia ser “inovador”. Ele disse que buscar ideias da IA ​​não era diferente de aceitar aquelas compartilhadas por constituintes ou grupos de defesa – uma única etapa no início de um processo legislativo muito longo e muito humano.

Mas John Pelissero, um estudioso da ética governamental da Universidade de Santa Clara, pediu cautela, dizendo que embora fosse interessante imaginar um mundo em que as leis fossem feitas com base nas prioridades e na moralidade da inteligência artificial, tal jogada provavelmente teria consequências éticas e custos políticos.

“Se os eleitores tiverem que tomar outra decisão em dois anos sobre a manutenção dessa pessoa no cargo”, disse ele, “eles devem poder fazê-lo com base em uma expectativa razoável de que o que estão observando e vendo é o indivíduo real. que eles elegeram”.

Ele acrescentou: “É nisso que se baseia a democracia representativa”.