O Vale do Silício Confronta a Singularidade

Durante décadas, o Vale do Silício antecipou o momento em que uma nova tecnologia surgiria e mudaria tudo. Uniria humanos e máquinas, provavelmente para melhor, mas possivelmente para pior, e dividiria a história em antes e depois.

O nome desse marco: a Singularidade.

Isso pode acontecer de várias maneiras. Uma possibilidade é que as pessoas adicionariam o poder de processamento de um computador à sua própria inteligência inata, tornando-se versões sobrecarregadas de si mesmas. Ou talvez os computadores se tornassem tão complexos que pudessem realmente pensar, criando um cérebro global.

Em ambos os casos, as mudanças resultantes seriam drásticas, exponenciais e irreversíveis. Uma máquina sobre-humana autoconsciente poderia projetar suas próprias melhorias mais rapidamente do que qualquer grupo de cientistas, provocando uma explosão de inteligência. Séculos de progresso podem acontecer em anos ou mesmo meses. The Singularity é um estilingue para o futuro.

A inteligência artificial está agitando a tecnologia, os negócios e a política como nada na memória recente. Ouça as reivindicações extravagantes e as afirmações selvagens vindas do Vale do Silício, e parece que o tão prometido paraíso virtual finalmente está próximo.

Sundar Pichai, executivo-chefe geralmente discreto do Google, chama a inteligência artificial de “mais profunda do que fogo ou eletricidade ou qualquer coisa que fizemos no passado”. Reid Hoffman, um investidor bilionário, diz: “O poder de fazer mudanças positivas no mundo está prestes a receber o maior impulso que já teve”. E o cofundador da Microsoft, Bill Gates, proclama que a IA “mudará a maneira como as pessoas trabalham, aprendem, viajam, obtêm assistência médica e se comunicam umas com as outras”.

A IA é o lançamento definitivo de novos produtos do Vale do Silício: transcendência sob demanda.

Mas há uma reviravolta sombria. É como se as empresas de tecnologia introduzissem carros autônomos com a ressalva de que poderiam explodir antes de você chegar ao Walmart.

“O advento da inteligência artificial geral é chamado de Singularidade porque é muito difícil prever o que acontecerá depois disso”, disse Elon Musk, que comanda o Twitter e a Tesla, à CNBC no mês passado. Ele disse que achava que “uma era de abundância” resultaria, mas havia “alguma chance” de que “destrói a humanidade”.

O maior líder de torcida da IA ​​na comunidade de tecnologia é Sam Altman, executivo-chefe da OpenAI, a startup que gerou o frenesi atual com seu chatbot ChatGPT. Ele diz que a IA será “a maior força para o empoderamento econômico e muita gente ficando rica que já vimos.”

Mas ele também diz que Musk, um crítico da IA ​​que também abriu uma empresa para desenvolver interfaces cérebro-computador, pode estar certo.

O apocalipse é um território familiar e até amado para o Vale do Silício. Alguns anos atrás, parecia que todo executivo de tecnologia tinha um bunker apocalíptico totalmente abastecido em algum lugar remoto, mas acessível. Em 2016, Altman disse que estava acumulando “armas, ouro, iodeto de potássio, antibióticos, baterias, água, máscaras de gás da Força de Defesa de Israel e um grande pedaço de terra em Big Sur para o qual posso voar”. A pandemia de coronavírus fez com que os preparadores de tecnologia se sentissem justificados por um tempo.

Agora, eles estão se preparando para a Singularidade.

“Eles gostam de pensar que são pessoas sensatas fazendo comentários sábios, mas soam mais como monges no ano 1000 falando sobre o Arrebatamento”, disse Baldur Bjarnason, autor de “The Intelligence Illusion”, um exame crítico da IA ​​“É uma um pouco assustador”, disse.

As raízes da transcendência

As raízes intelectuais da Singularidade remontam a John von Neumann, um cientista da computação pioneiro que, na década de 1950, falou sobre como “o progresso cada vez mais acelerado da tecnologia” produziria “alguma singularidade essencial na história da raça”.

Irving John Good, um matemático britânico que ajudou a decodificar o dispositivo alemão Enigma em Bletchley Park durante a Segunda Guerra Mundial, também foi um proponente influente. “A sobrevivência do homem depende da construção inicial de uma máquina ultrainteligente”, escreveu ele em 1964. O diretor Stanley Kubrick consultou o Sr. Good sobre HAL, o computador benigno que se tornou malévolo em “2001: Uma Odisseia no Espaço” — um dos primeiros exemplos das fronteiras porosas entre ciência da computação e ficção científica.

Hans Moravec, professor adjunto do Instituto de Robótica da Carnegie Mellon University, pensou que a IA seria uma benção não apenas para os vivos: os mortos também seriam recuperados na Singularidade. “Teríamos a oportunidade de recriar o passado e interagir com ele de maneira real e direta”, escreveu ele em “Mind Children: The Future of Robot and Human Intelligence”.

Nos últimos anos, o empresário e inventor Ray Kurzweil tem sido o maior campeão da Singularidade. Kurzweil escreveu “The Age of Intelligent Machines” em 1990 e “The Singularity Is Near” em 2005, e agora está escrevendo “The Singularity Is Nearer”.

Até o final da década, ele espera que os computadores passem no Teste de Turing e sejam indistinguíveis dos humanos. Quinze anos depois, calcula ele, chegará a verdadeira transcendência: o momento em que “a computação fará parte de nós mesmos e aumentaremos mil vezes nossa inteligência”.

Até então, Kurzweil terá 97 anos. Com a ajuda de vitaminas e suplementos, ele planeja viver para ver isso.

Para alguns críticos da Singularidade, é uma tentativa intelectualmente duvidosa de replicar o sistema de crença da religião organizada no reino do software.

“Todos eles querem a vida eterna sem a inconveniência de ter que acreditar em Deus”, disse Rodney Brooks, ex-diretor do Laboratório de Ciência da Computação e Inteligência Artificial do Instituto de Tecnologia de Massachusetts.

A inovação que alimenta o debate atual sobre a Singularidade é o grande modelo de linguagem, o tipo de sistema de IA que alimenta os chatbots. Inicie uma conversa com um desses LLMs e ele poderá responder de forma rápida, coerente e muitas vezes com um bom grau de iluminação.

“Quando você faz uma pergunta, esses modelos interpretam o que ela significa, determinam o que sua resposta deve significar e traduzem isso de volta em palavras – se isso não é uma definição de inteligência geral, o que é?” disse Jerry Kaplan, um empresário de IA de longa data e autor de “Inteligência Artificial: o que todos precisam saber”.

Kaplan disse que era cético em relação a maravilhas tão anunciadas como carros autônomos e criptomoedas. Ele abordou o último boom da IA ​​com as mesmas dúvidas, mas disse que foi conquistado.

“Se isso não é ‘a Singularidade’, certamente é uma singularidade: um passo tecnológico transformador que vai acelerar amplamente um monte de arte, ciência e conhecimento humano – e criar alguns problemas”, disse ele.

Os críticos respondem que mesmo os resultados impressionantes dos LLMs estão muito longe da enorme inteligência global há muito prometida pela Singularity. Parte do problema em separar com precisão o hype da realidade é que os motores que impulsionam essa tecnologia estão ficando ocultos. A OpenAI, que começou como uma organização sem fins lucrativos usando código-fonte aberto, agora é um empreendimento com fins lucrativos que os críticos dizem ser efetivamente uma caixa preta. Google e Microsoft também oferecem visibilidade limitada.

Grande parte da pesquisa de IA está sendo feita pelas empresas com muito a ganhar com os resultados. Pesquisadores da Microsoft, que investiram US$ 13 bilhões na OpenAI, publicaram um artigo em abril concluindo que uma versão preliminar do mais recente modelo OpenAI “exibe muitos traços de inteligência”, incluindo “abstração, compreensão, visão, codificação” e “compreensão dos motivos humanos e emoções.”

Rylan Schaeffer, estudante de doutorado em ciência da computação em Stanford, disse que alguns pesquisadores de IA pintaram uma imagem imprecisa de como esses grandes modelos de linguagem exibem “habilidades emergentes” – capacidades inexplicáveis ​​que não eram evidentes em versões menores.

Juntamente com dois colegas de Stanford, Brando Miranda e Sanmi Koyejo, Schaeffer examinou a questão em um trabalho de pesquisa publicado no mês passado e concluiu que as propriedades emergentes eram “uma miragem” causada por erros de medição. Com efeito, os pesquisadores estão vendo o que querem ver.

Vida eterna, lucros eternos

Em Washington, Londres e Bruxelas, os legisladores estão despertando para as oportunidades e problemas da IA ​​e começando a falar sobre regulamentação. O Sr. Altman está em um road show, buscando desviar as críticas iniciais e promover a OpenAI como o pastor da Singularidade.

Isso inclui uma abertura à regulamentação, mas exatamente o que isso pareceria é confuso. O Vale do Silício geralmente sustenta a visão de que o governo é muito lento e estúpido para supervisionar desenvolvimentos tecnológicos de rápida quebra.

“Não há ninguém no governo que possa acertar”, Eric Schmidt, ex-presidente-executivo do Google, disse em entrevista ao “Meet the Press” no mês passado, defendendo a autorregulação da IA. “Mas a indústria pode acertar aproximadamente.”

A IA, assim como a Singularidade, já está sendo descrita como irreversível. “Parar isso exigiria algo como um regime de vigilância global, e mesmo isso não tem garantia de funcionar”, escreveram Altman e alguns de seus colegas no mês passado. Se o Vale do Silício não conseguir, acrescentaram, outros o farão.

Menos discutidos são os vastos lucros obtidos com o upload do mundo. Apesar de toda a conversa de que a IA é uma máquina geradora de riqueza ilimitada, as pessoas que estão ficando ricas são praticamente aquelas que já são ricas.

A Microsoft viu sua capitalização de mercado subir meio trilhão de dólares este ano. A Nvidia, fabricante de chips que executam sistemas de IA, recentemente se tornou uma das empresas públicas americanas mais valiosas quando disse que a demanda por esses chips disparou.

“IA é a tecnologia que o mundo sempre quis”, tuitou Altman.

Certamente é a tecnologia que o mundo da tecnologia sempre desejou, chegando no melhor momento possível. No ano passado, o Vale do Silício estava se recuperando de demissões e aumento das taxas de juros. A criptomoeda, o boom anterior, estava enredada em fraudes e decepções.

Siga o dinheiro, disse Charles Stross, co-autor do romance “The Rapture of the Nerds”, uma versão cômica da Singularity, bem como autor de “Accelerando”, uma tentativa mais séria de descrever o que a vida pode fazer em breve. ser como.

“A verdadeira promessa aqui é que as corporações serão capazes de substituir muitas de suas subunidades de processamento de informações humanas defeituosas, caras e lentas por pedaços de software, acelerando assim as coisas e reduzindo suas despesas gerais”, disse ele.

A Singularidade há muito é imaginada como um evento cósmico, literalmente alucinante. E ainda pode ser.

Mas pode se manifestar em primeiro lugar – graças, em parte, à obsessão do atual Vale do Silício por resultados financeiros – como uma ferramenta para reduzir o número de funcionários corporativos na América. Quando você está correndo para adicionar trilhões ao seu valor de mercado, o céu pode esperar.