IA ou armas nucleares: você consegue diferenciar essas citações?

A comparação parece estar em toda parte hoje em dia. “É como armas nucleares”, disse um pesquisador pioneiro de inteligência artificial. Os principais executivos de IA compararam seu produto à energia nuclear. E um grupo de líderes da indústria alertou na semana passada que a tecnologia de IA pode representar uma ameaça existencial para a humanidade, a par da guerra nuclear.

As pessoas têm comparado os avanços da IA ​​à divisão do átomo há anos. Mas a comparação tornou-se mais rígida em meio ao lançamento de chatbots de IA e aos apelos dos criadores de IA por regulamentação nacional e internacional – assim como os cientistas clamavam por proteções que governassem as armas nucleares na década de 1950. Alguns especialistas temem que a IA elimine empregos ou espalhe desinformação no curto prazo; outros temem que sistemas hiperinteligentes possam eventualmente aprender a escrever seu próprio código de computador, escapar das amarras do controle humano e, talvez, decidir nos eliminar. “Os criadores dessa tecnologia estão nos dizendo que estão preocupados”, disse Rachel Bronson, presidente do Bulletin of the Atomic Scientists, que rastreia as ameaças feitas pelo homem à civilização. “Os criadores dessa tecnologia estão pedindo governança e regulamentação. Os criadores dessa tecnologia estão nos dizendo que precisamos prestar atenção.”

Nem todo especialista acha que a comparação se encaixa. Alguns observam que a destrutividade da energia atômica é cinética e demonstrada, enquanto o perigo da IA ​​para a humanidade permanece altamente especulativo. Outros argumentam que quase todas as tecnologias, incluindo IA e energia nuclear, têm vantagens e riscos. “Diga-me uma tecnologia que não pode ser usada para algo maligno, e eu lhe direi uma tecnologia completamente inútil que não pode ser usada para nada”, disse Julian Togelius, cientista da computação da NYU que trabalha com inteligência artificial.

Mas as comparações tornaram-se rápidas e frequentes o suficiente para que seja difícil saber se pessimistas e defensores estão falando sobre IA ou tecnologia nuclear. Faça o teste abaixo para ver se você pode dizer a diferença.

As citações acima são apenas uma parte das respostas – e do debate sobre – IA e tecnologia nuclear. Eles capturam paralelos, mas também algumas diferenças notáveis: o medo da destruição iminente e ardente de armas atômicas; ou como os avanços na IA agora são principalmente trabalho de empresas privadas, e não de governos.

Mas em ambos os casos, algumas das mesmas pessoas que trouxeram a tecnologia ao mundo estão soando o alarme mais alto. “Trata-se de administrar os riscos do avanço da ciência”, disse Bronson, presidente do Bulletin of the Atomic Scientists, sobre a IA “Este é um enorme avanço científico que requer atenção, e há tantas lições a aprender com o espaço nuclear naquele . E você não precisa igualá-los para aprender com eles.”