IA representa ‘risco de extinção’, alertam líderes da indústria

“Há um equívoco muito comum, mesmo na comunidade de IA, de que há apenas um punhado de pessimistas”, disse Hendrycks. “Mas, na verdade, muitas pessoas expressariam suas preocupações em particular sobre essas coisas.”

Alguns céticos argumentam que a tecnologia de IA ainda é muito imatura para representar uma ameaça existencial. Quando se trata dos sistemas de IA atuais, eles se preocupam mais com problemas de curto prazo, como respostas tendenciosas e incorretas, do que com perigos de longo prazo.

Mas outros argumentaram que a IA está melhorando tão rapidamente que já ultrapassou o desempenho do nível humano em algumas áreas e logo o superará em outras. Eles dizem que a tecnologia mostrou sinais de capacidades avançadas e compreensão, dando origem a temores de que a “inteligência geral artificial”, ou AGI, um tipo de inteligência artificial que pode igualar ou exceder o desempenho de nível humano em uma ampla variedade de tarefas, não pode estar longe.

Em uma postagem no blog na semana passada, Altman e dois outros executivos da OpenAI propuseram várias maneiras pelas quais sistemas poderosos de IA poderiam ser gerenciados com responsabilidade. Eles pediram cooperação entre os principais fabricantes de IA, mais pesquisas técnicas em grandes modelos de linguagem e a formação de uma organização internacional de segurança de IA, semelhante à Agência Internacional de Energia Atômica, que busca controlar o uso de armas nucleares.

Altman também expressou apoio a regras que exigiriam que os fabricantes de grandes modelos de IA de ponta se registrassem para obter uma licença emitida pelo governo.

Em março, mais de 1.000 tecnólogos e pesquisadores assinaram outra carta aberta pedindo uma pausa de seis meses no desenvolvimento dos maiores modelos de IA, citando preocupações sobre “uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas. ”

Essa carta, organizada por outra organização sem fins lucrativos focada em IA, o Future of Life Institute, foi assinada por Elon Musk e outros líderes tecnológicos conhecidos, mas não tinha muitas assinaturas dos principais laboratórios de IA.