Opinião | Além da Teoria ‘Matrix’ da Mente Humana

Imagine que eu disse a você em 1970 que iria inventar uma ferramenta maravilhosa. Essa nova ferramenta possibilitaria que qualquer pessoa com acesso – e a maior parte da humanidade teria acesso – se comunicar e colaborar rapidamente com qualquer outra pessoa. Ele armazenaria quase a soma do conhecimento humano e pensamento até aquele ponto, e tudo isso seria pesquisável, classificável e portátil. O texto poderia ser instantaneamente traduzido de um idioma para outro, as notícias estariam imediatamente disponíveis de todo o mundo e não demoraria mais para um cientista baixar um artigo de jornal de 15 anos atrás do que abrir uma entrada na última edição .

O que você teria previsto que esse salto em informação, comunicação e colaboração faria pela humanidade? Quão mais rápido nossas economias cresceriam?

Agora imagine que eu disse a você que iria inventar uma ferramenta sinistra (talvez, ao contar isso, eu gargalhasse). À medida que as pessoas a usavam, seus períodos de atenção diminuíam, pois a ferramenta mudava constantemente seu foco, enfraquecendo seus poderes de concentração e contemplação. Essa ferramenta mostraria às pessoas tudo o que elas acharam mais difícil de desviar o olhar – o que geralmente seria o que há de mais ameaçador no mundo, das piores ideias de seus oponentes políticos às profundas injustiças de sua sociedade. Caberia em seus bolsos e brilharia em suas mesinhas de cabeceira e nunca ficaria realmente quieto; nunca haveria um momento em que as pessoas pudessem se livrar da sensação de que a pilha de mensagens, avisos e tarefas precisavam ser verificadas.

O que você teria pensado que esse motor de distração, divisão e fratura cognitiva faria com a humanidade?

Pensar na internet nesses termos ajuda a resolver um mistério econômico. A verdade embaraçosa é que o crescimento da produtividade – quanto mais podemos fazer com o mesmo número de pessoas, fábricas e terras – foi muito mais rápido durante grande parte do século 20 do que é agora. Hoje, temos em média cerca de metade da taxa de crescimento da produtividade que vimos nas décadas de 1950 e 1960. Isso significa renda estagnada, economias lentas e uma cultura política que é mais sobre lutar pelo que temos do que distribuir as riquezas e maravilhas que ganhamos. Então, o que deu errado?

Você pode pensar em duas maneiras pelas quais a Internet poderia ter acelerado o crescimento da produtividade. A primeira forma era óbvia: permitindo-nos fazer o que já fazíamos e fazê-lo com mais facilidade e rapidez. E isso aconteceu. Você pode ver um aumento no crescimento da produtividade de aproximadamente 1995 a 2005, à medida que as empresas digitalizaram suas operações. Mas é a segunda forma que sempre foi mais importante: ao conectar a humanidade a si mesma e a quase todo o seu depósito de informações, a internet poderia ter nos tornado mais inteligentes e capazes como um coletivo.

Não acho que essa promessa tenha se mostrado falsa, exatamente. Mesmo trabalhando neste artigo, isso foi verdade para mim: a velocidade com que pude encontrar informações, classificar por meio de pesquisas, contatar especialistas – é maravilhoso. Mesmo assim, duvido que tenha escrito isso mais rápido do que em 1970. Grande parte da minha mente estava preocupada com o esforço constante necessário apenas para manter uma linha de pensamento em um ambiente digital projetado para me distrair, agitar e entreter. E eu não estou sozinho.

Gloria Mark, professora de ciência da informação na Universidade da Califórnia, em Irvine, e autora de “Attention Span”, começou a pesquisar a forma como as pessoas usavam computadores em 2004. O tempo médio que as pessoas passavam em uma única tela era de 2,5 minutos. “Fiquei maravilhada”, ela me disse. “Isso foi muito pior do que eu pensei que seria.” Mas aquilo foi só o inicio. Em 2012, Mark e seus colegas descobriram que o tempo médio em uma única tarefa era de 75 segundos. Agora caiu para cerca de 47.

Este é um banho de ácido para a cognição humana. A multitarefa é principalmente um mito. Podemos nos concentrar em uma coisa de cada vez. “É como se tivéssemos um quadro branco interno em nossas mentes”, disse Mark. “Se estou trabalhando em uma tarefa, tenho todas as informações de que preciso naquele quadro mental. Então eu mudo para o e-mail. Tenho que apagar mentalmente aquele quadro branco e escrever todas as informações de que preciso para enviar um e-mail. E assim como em um quadro branco real, pode haver um resíduo em nossas mentes. Ainda podemos estar pensando em algo de três tarefas atrás.”

O custo está em mais do que apenas desempenho. Mark e outros em seu campo conectaram pessoas a aparelhos de pressão arterial e monitores de frequência cardíaca e mediram substâncias químicas no sangue. A mudança constante nos deixa estressados ​​e irritados. Eu não precisava exatamente de experimentos para provar isso – eu vivo isso e você provavelmente também – mas foi deprimente ouvir isso confirmado.

O que me leva à inteligência artificial. Aqui estou falando sobre os sistemas que estamos vendo agora: grandes modelos de linguagem como o GPT-4 da OpenAI e o Bard do Google. O que esses sistemas fazem, na maioria das vezes, é resumir as informações que foram mostradas e criar um conteúdo que se assemelhe a elas. Reconheço que essa frase pode soar um pouco desdenhosa, mas não deveria: isso é muito do que os seres humanos também fazem.

Já estamos sendo informados de que a IA está tornando os codificadores, representantes de atendimento ao cliente e escritores mais produtivos. Pelo menos um executivo-chefe planeja adicionar o uso do ChatGPT nas avaliações de desempenho dos funcionários. Mas sou cético em relação a esse hype inicial. É medir os benefícios potenciais da IA ​​sem considerar seus custos prováveis ​​– o mesmo erro que cometemos com a internet.

Preocupa-me que estejamos indo na direção errada em pelo menos três maneiras.

Uma delas é que esses sistemas farão mais para distrair e entreter do que para focar. No momento, os grandes modelos de linguagem tendem a alucinar informações: peça a eles que respondam a uma pergunta complexa e você receberá uma resposta erudita e convincente, na qual os principais fatos e citações são frequentemente inventados. Suspeito que isso desacelere seu uso generalizado em indústrias importantes muito mais do que está sendo admitido, semelhante à maneira como os carros sem motorista têm sido difíceis de lançar porque precisam ser perfeitamente confiáveis, em vez de apenas muito bons.

Uma pergunta a ser feita sobre grandes modelos de linguagem, então, é onde a confiabilidade não importa? Essas são as áreas onde a adoção será mais rápida. Um exemplo da mídia é revelador, eu acho. O CNET, o site de tecnologia, discretamente começou a usar esses modelos para escrever artigos, com humanos editando as peças. Mas o processo falhou. Quarenta e um dos 77 artigos gerados por IA provaram ter erros que os editores perderam, e a CNET, envergonhada, pausou o programa. O BuzzFeed, que recentemente fechou sua divisão de notícias, está avançando no uso da IA ​​para gerar questionários e guias de viagem. Muitos dos resultados foram ruins, mas isso realmente não importa. Um questionário do BuzzFeed não precisa ser confiável.

A IA será ótima para criar conteúdo onde a confiabilidade não é uma preocupação. Os videogames personalizados e shows infantis e mash-ups de música e imagens sob medida serão deslumbrantes. E novos domínios de deleite e distração estão chegando: acredito que estamos muito mais próximos de amigos, amantes e companheiros de IA se tornarem uma parte comum de nossas vidas sociais do que a sociedade está preparada para isso. Mas onde a confiabilidade importa – digamos, um grande modelo de linguagem dedicado a responder perguntas médicas ou resumir as interações médico-paciente – a implantação será mais problemática, pois os custos de supervisão serão imensos. O problema é que essas são as áreas que mais importam para o crescimento econômico.

Marcela Martin, presidente do BuzzFeed, resumiu bem minha próxima preocupação quando disse aos investidores: “Em vez de gerar 10 ideias em um minuto, a IA pode gerar centenas de ideias em um segundo”. Ela quis dizer isso como uma coisa boa, mas é? Imagine isso multiplicado por toda a economia. Alguém em algum lugar terá que processar toda essa informação. O que isso fará com a produtividade?

Uma lição da era digital é que mais nem sempre é melhor. Mais e-mails e mais relatórios e mais Slacks e mais tweets e mais vídeos e mais artigos de notícias e mais apresentações de slides e mais chamadas de Zoom não levaram, ao que parece, a mais grandes ideias. “Podemos produzir mais informações”, disse Mark. “Mas isso significa que há mais informações para processarmos. Nossa capacidade de processamento é o gargalo.”

Sistemas de e-mail e bate-papo como o Slack oferecem analogias úteis aqui. Ambos são amplamente utilizados em toda a economia. Ambos foram inicialmente vendidos como impulsionadores de produtividade, permitindo que mais comunicação ocorresse mais rapidamente. E como qualquer pessoa que os usa sabe, os ganhos de produtividade – embora reais – são mais do que compensados ​​pelo custo de ser enterrado sob muito mais comunicação, muitas delas lixo e bobagens.

A mágica de um modelo de linguagem grande é que ele pode produzir um documento de quase qualquer tamanho em quase qualquer estilo, com um mínimo de esforço do usuário. Poucos pensaram nos custos que irão impor a quem deve responder a todo este novo texto. Um dos meus exemplos favoritos disso vem do The Economist, que imaginou NIMBYs – mas, na verdade, escolha seu grupo de interesse – usando GPT-4 para produzir rapidamente uma reclamação de 1.000 páginas se opondo a um novo desenvolvimento. Alguém, é claro, terá que responder a essa reclamação. Isso realmente acelerará nossa capacidade de construir moradias?

Você pode argumentar que a IA resolverá esse problema resumindo rapidamente as reclamações de formuladores de políticas sobrecarregados, assim como o aumento do spam é (às vezes, um pouco) combatido por filtros de spam mais avançados. Jonathan Frankle, cientista-chefe da MosaicML e cientista da computação em Harvard, descreveu isso para mim como o cenário de “apocalipse chato” para IA, no qual “usamos o ChatGPT para gerar e-mails e documentos longos e, em seguida, a pessoa que o recebeu usa ChatGPT para resumir de volta a alguns pontos, e há toneladas de informações mudando de mãos, mas tudo isso é apenas fofo. Estamos apenas inflando e comprimindo o conteúdo gerado pela IA”

Quando conversamos, Frankle notou a mágica de alimentar um documento de 100 páginas da Suprema Corte em um grande modelo de linguagem e obter um resumo dos pontos-chave. Mas isso era, ele se preocupou, um bom resumo? Muitos de nós já tivemos a experiência de pedir ao ChatGPT para redigir um texto e ver uma composição totalmente formada aparecer, como num passe de mágica, em segundos.

Minha terceira preocupação está relacionada ao uso da IA: mesmo que esses resumos e rascunhos sejam muito bons, algo se perde na terceirização. Parte do meu trabalho é ler documentos de 100 páginas da Suprema Corte e redigir os primeiros rascunhos de colunas. Certamente seria mais rápido para mim ter a IA fazendo esse trabalho. Mas o aumento da eficiência viria ao custo de novas ideias e insights mais profundos.

Nossa obsessão em toda a sociedade com velocidade e eficiência nos deu um modelo falho de cognição humana que passei a considerar como a teoria Matrix do conhecimento. Muitos de nós gostaríamos de poder usar o pequeno macaco de “The Matrix” para baixar o conhecimento de um livro (ou, para usar o exemplo do filme, um mestre de kung fu) em nossas cabeças, e então o teríamos instantaneamente. Mas isso perde muito do que realmente acontece quando passamos nove horas lendo uma biografia. O que importa é o tempo dentro desse livro gasto fazendo conexões com o que sabemos e tendo pensamentos que de outra forma não teríamos.

“Ninguém gosta de escrever relatórios ou enviar e-mails, mas queremos manter contato com as informações”, disse Mark. “Aprendemos quando processamos informações profundamente. Se formos removidos disso e delegarmos tudo ao GPT – fazendo com que ele resuma e escreva relatórios para nós – não estaremos nos conectando a essas informações.”

Entendemos isso intuitivamente quando aplicado aos alunos. Ninguém pensa que ler o resumo do SparkNotes de uma grande peça de literatura é semelhante a realmente ler o livro. E ninguém pensa que, se os alunos fizerem o ChatGPT escrever suas redações, eles aumentarão sua produtividade de maneira inteligente, em vez de perder a oportunidade de aprender. A analogia com o trabalho de escritório não é perfeita – há muitas tarefas enfadonhas que vale a pena automatizar para que as pessoas possam gastar seu tempo em atividades mais criativas – mas os perigos de superautomatizar os processos cognitivos e criativos são reais.

Essas são preocupações antigas, é claro. Sócrates questionava o uso da escrita (registrado, ironicamente, por Platão), preocupando-se que “se os homens aprenderem isso, implantará o esquecimento em suas almas; eles deixarão de exercitar a memória porque se apóiam no que está escrito, chamando as coisas à lembrança não mais de dentro de si, mas por meio de marcas externas”. Acho que valeu a pena o trade-off aqui – afinal, sou um escritor – mas foi um trade-off. Os seres humanos realmente perderam as faculdades de memória que já tivemos.

Para cumprir sua promessa, a inteligência artificial precisa aprofundar a inteligência humana. E isso significa que os seres humanos precisam construir a IA e construir os fluxos de trabalho e ambientes de escritório em torno dela, de maneira que não nos sobrecarregue, distraia e nos diminua. Falhamos nesse teste com a internet. Não vamos falhar com a IA