Cada vez mais, montes de resultados sintéticos gerados por IA flutuam em nossos feeds e em nossas pesquisas. O que está em jogo vai muito além do que está nas nossas telas. Toda a cultura está a ser afectada pelo escoamento da IA, uma infiltração insidiosa nas nossas instituições mais importantes.
Considere a ciência. Logo após o lançamento de grande sucesso do GPT-4, o mais recente modelo de inteligência artificial da OpenAI e um dos mais avançados que existem, a linguagem da investigação científica começou a sofrer mutações. Especialmente no campo da própria IA.
Um novo estudo este mês examinou as revisões por pares de cientistas – pronunciamentos oficiais de pesquisadores sobre o trabalho de outros que constituem a base do progresso científico – em uma série de conferências científicas de alto perfil e prestígio que estudam IA. palavra “meticuloso” quase 3.400% a mais do que as avaliações do ano anterior. O uso de “louvável” aumentou cerca de 900% e “complexo” em mais de 1.000%. Outras conferências importantes mostraram padrões semelhantes.
Essas frases são, obviamente, algumas das palavras-chave favoritas dos modelos modernos de grandes linguagens, como o ChatGPT. Por outras palavras, um número significativo de investigadores em conferências de IA foram apanhados a entregar a sua revisão por pares do trabalho de outros à IA – ou, no mínimo, a escrevê-las com muita assistência da IA. E quanto mais próximo do prazo as avaliações enviadas foram recebidas, mais uso de IA foi encontrado nelas.
Se isso o deixa desconfortável – especialmente dada a atual falta de confiabilidade da IA – ou se você pensa que talvez não devessem ser as IAs revisando a ciência, mas os próprios cientistas, esses sentimentos destacam o paradoxo no cerne desta tecnologia: não está claro qual é a linha ética entre fraude e uso regular. Alguns golpes gerados por IA são fáceis de identificar, como o artigo de uma revista médica que mostra um rato de desenho animado com uma genitália enorme. Muitos outros são mais insidiosos, como o caminho regulatório erroneamente rotulado e alucinado descrito no mesmo artigo – um artigo que também foi revisado por pares (talvez, poder-se-ia especular, por outra IA?).
E quando a IA é usada de uma das formas pretendidas – para auxiliar na escrita? Recentemente, houve um alvoroço quando se tornou óbvio que pesquisas simples em bases de dados científicas devolviam frases como “Como um modelo de linguagem de IA” em locais onde os autores que dependiam da IA se tinham esquecido de cobrir os seus rastos. Se os mesmos autores tivessem simplesmente excluído essas marcas d’água acidentais, o uso da IA para escrever seus artigos teria sido adequado?
O que está acontecendo na ciência é um microcosmo de um problema muito maior. Postar nas redes sociais? Qualquer postagem viral no X agora quase certamente inclui respostas geradas por IA, desde resumos da postagem original até reações escritas na voz branda da Wikipédia do ChatGPT, tudo para buscar seguidores. O Instagram está se enchendo de modelos gerados por IA, o Spotify com músicas geradas por IA. Publicar um livro? Logo depois, na Amazon aparecerão frequentemente à venda “livros de exercícios” gerados por IA que supostamente acompanham o seu livro (que estão incorretos em seu conteúdo; eu sei porque isso aconteceu comigo). Os principais resultados de pesquisa do Google agora são frequentemente imagens ou artigos gerados por IA. Grandes meios de comunicação como a Sports Illustrated têm criado artigos gerados por IA atribuídos a perfis de autores igualmente falsos. Profissionais de marketing que vendem métodos de otimização de mecanismos de pesquisa gabar-se abertamente usando IA para criar milhares de artigos com spam para roubar tráfego dos concorrentes.
Depois, há o uso crescente de IA generativa para dimensionar a criação de vídeos sintéticos baratos para crianças no YouTube. Alguns exemplos de resultados são os horrores Lovecraftianos, como vídeos musicais sobre papagaios onde os pássaros têm olhos dentro de olhos, bicos dentro de bicos, transformando-se insondavelmente enquanto cantam com uma voz artificial “O papagaio na árvore diz olá, olá!” As narrativas não fazem sentido, os personagens aparecem e desaparecem aleatoriamente, fatos básicos como os nomes das formas estão errados. Depois de identificar vários desses canais suspeitos em meu boletim informativo, The Intrinsic Perspective, a Wired encontrou evidências de uso generativo de IA nos pipelines de produção de algumas contas com centenas de milhares ou até milhões de assinantes.
Como neurocientista, isso me preocupa. Não é possível que a cultura humana contenha micronutrientes cognitivos — coisas como frases coesas, narrações e continuidade de personagens — de que os cérebros em desenvolvimento necessitam? Einstein supostamente disse: “Se você quer que seus filhos sejam inteligentes, leia contos de fadas para eles. Se você quer que eles sejam muito inteligentes, leia mais contos de fadas para eles.” Mas o que acontece quando uma criança consome principalmente resíduos de sonhos gerados por IA? Encontramo-nos no meio de uma vasta experiência de desenvolvimento.
Há tanto lixo sintético na Internet agora que as próprias empresas e investigadores de IA estão preocupados, não com a saúde da cultura, mas com o que vai acontecer com os seus modelos. À medida que as capacidades de IA aumentavam em 2022, escrevi sobre o risco de a cultura ficar tão inundada com criações de IA que, quando futuras IAs fossem treinadas, o resultado anterior da IA vazaria para o conjunto de treinamento, levando a um futuro de cópias de cópias de cópias , à medida que o conteúdo se tornou cada vez mais estereotipado e previsível. Em 2023, os investigadores introduziram um termo técnico para definir como este risco afetava a formação em IA: colapso do modelo. De certa forma, nós e estas empresas estamos no mesmo barco, remando na mesma lama que flui para o nosso oceano cultural.
Com esta analogia desagradável em mente, vale a pena olhar para aquela que é sem dúvida a analogia histórica mais clara para a nossa situação actual: o movimento ambientalista e as alterações climáticas. Pois, tal como as empresas e os indivíduos foram levados a poluir pela sua inexorável economia, também a poluição cultural da IA é motivada por uma decisão racional de satisfazer o apetite voraz da Internet por conteúdos o mais barato possível. Embora os problemas ambientais não estejam nem de longe resolvidos, tem havido um progresso inegável que manteve as nossas cidades praticamente livres de poluição atmosférica e os nossos lagos praticamente livres de esgotos. Como?
Antes de qualquer solução política específica estava o reconhecimento de que a poluição ambiental era um problema que necessitava de legislação externa. Influente para esta visão foi uma perspectiva desenvolvida em 1968 por Garrett Hardin, biólogo e ecologista. Hardin enfatizou que o problema da poluição foi impulsionado por pessoas que agem em seu próprio interesse e que, portanto, “estamos presos a um sistema de ‘sujar nosso próprio ninho’, enquanto nos comportarmos apenas como independentes, racionais e livres. empreendedores.” Ele resumiu o problema como uma “tragédia dos comuns”. Este enquadramento foi fundamental para o movimento ambientalista, que passaria a depender da regulamentação governamental para fazer o que as empresas sozinhas podiam ou não queriam.
Mais uma vez, deparamo-nos com uma tragédia dos bens comuns: o interesse próprio económico a curto prazo incentiva a utilização de conteúdos baratos de IA para maximizar cliques e visualizações, o que, por sua vez, polui a nossa cultura e até enfraquece a nossa compreensão da realidade. E, até agora, as principais empresas de IA recusam-se a procurar formas avançadas de identificar o trabalho da IA – o que poderiam fazer adicionando padrões estatísticos subtis escondidos no uso de palavras ou nos pixels das imagens.
Uma justificativa comum para a inação é que os editores humanos sempre poderão mexer em quaisquer padrões implementados, se souberem o suficiente. No entanto, muitos dos problemas que enfrentamos não são causados por agentes mal-intencionados motivados e tecnicamente qualificados; em vez disso, eles são causados principalmente pelo não cumprimento de uma linha de uso ético por usuários regulares que é quase inexistente. A maioria não estaria interessada em contramedidas avançadas aos padrões estatísticos aplicados em resultados que deveriam, idealmente, marcá-los como gerados pela IA.
É por isso que os pesquisadores independentes conseguiram detectar resultados de IA no sistema de revisão por pares com uma precisão surpreendentemente alta: eles realmente tentaram. Da mesma forma, agora professores de todo o país criaram métodos caseiros de detecção do lado dos resultados, como adicionar solicitações ocultas de padrões de uso de palavras a solicitações de redação que aparecem apenas quando copiadas e coladas.
Em particular, as empresas de IA parecem opor-se a quaisquer padrões incorporados nos seus resultados que possam melhorar os esforços de detecção de IA para níveis razoáveis, talvez porque temam que a aplicação de tais padrões possa interferir com o desempenho do modelo, restringindo demasiado os seus resultados – embora não haja evidências atuais de que isso é um risco. Apesar das promessas públicas anteriores de desenvolver marcas de água mais avançadas, está cada vez mais claro que a relutância e a lentidão das empresas se devem ao facto de ter produtos detectáveis ir contra os resultados da indústria da IA.
Para lidar com esta recusa corporativa em agir, precisamos do equivalente a uma Lei do Ar Limpo: uma Lei da Internet Limpa. Talvez a solução mais simples seria forçar legislativamente marcas de água avançadas intrínsecas aos resultados gerados, como padrões que não são facilmente removíveis. Tal como o século XX exigiu extensas intervenções para proteger o ambiente partilhado, o século XXI irá exigir extensas intervenções para proteger um recurso comum diferente, mas igualmente crítico, um recurso que não tínhamos notado até agora, uma vez que nunca esteve sob ameaça : nossa cultura humana compartilhada.
THE NAIS IS OFFICIAL EDITOR ON NAIS NEWS