Como o Shoggoth passou a simbolizar o estado da IA

Alguns meses atrás, durante uma reunião com um executivo de IA em São Francisco, vi um adesivo estranho em seu laptop. O adesivo mostrava um desenho animado de uma criatura ameaçadora, semelhante a um polvo, com muitos olhos e um rosto sorridente amarelo preso a um de seus tentáculos. Eu perguntei o que era.

“Ah, esse é o Shoggoth,” ele explicou. “É o meme mais importante da IA”

E com isso, nossa agenda foi oficialmente descarrilada. Esqueça os chatbots e os clusters de computação – eu precisava saber tudo sobre o Shoggoth, o que significava e por que as pessoas no mundo da IA ​​estavam falando sobre isso.

O executivo explicou que o Shoggoth se tornou uma referência popular entre os trabalhadores em inteligência artificial, como uma metáfora visual vívida de como um grande modelo de linguagem (o tipo de sistema de IA que alimenta o ChatGPT e outros chatbots) realmente funciona.

Mas foi apenas parcialmente uma piada, disse ele, porque também insinuou a ansiedade que muitos pesquisadores e engenheiros têm sobre as ferramentas que estão construindo.

Desde então, o Shoggoth se tornou viral, ou o mais viral possível no pequeno mundo dos insiders hiper-online da IA. É um meme popular no AI Twitter (incluindo um tweet agora deletado por Elon Musk), uma metáfora recorrente em ensaios e postagens em quadros de mensagens sobre risco de IA, e um atalho útil em conversas com especialistas em segurança de IA. Uma start-up de IA, NovelAI, disse que recentemente batizou um cluster de computadores de “Shoggy” em homenagem ao meme. Outra empresa de IA, a Scale AI, projetou uma linha de sacolas com o Shoggoth.

Shoggoths são criaturas fictícias, introduzidas pelo autor de ficção científica HP Lovecraft em sua novela de 1936 “At the Mountains of Madness”. Na narrativa de Lovecraft, os Shoggoths eram enormes monstros parecidos com bolhas feitos de gosma negra iridescente, cobertos de tentáculos e olhos.

Os Shoggoths chegaram ao mundo da IA ​​em dezembro, um mês após o lançamento do ChatGPT, quando o usuário do Twitter @TetraspaceWest respondeu a um tweet sobre o GPT-3 (um modelo de linguagem OpenAI que foi o antecessor do ChatGPT) com uma imagem de dois Shoggoths desenhados à mão – o primeiro rotulado como “GPT-3” e o segundo rotulado como “GPT-3 + RLHF”. O segundo Shoggoth tinha, empoleirado em um de seus tentáculos, uma máscara de rosto sorridente.

Em poucas palavras, a piada era que, para evitar que os modelos de linguagem de IA se comportassem de maneira assustadora e perigosa, as empresas de IA tiveram que treiná-los para agir de maneira educada e inofensiva. Uma maneira popular de fazer isso é chamada de “aprendizado por reforço a partir do feedback humano”, ou RLHF, um processo que envolve pedir aos humanos para pontuar as respostas do chatbot e alimentar essas pontuações de volta ao modelo de IA.

A maioria dos pesquisadores de IA concorda que os modelos treinados usando RLHF são mais bem comportados do que os modelos sem ele. Mas alguns argumentam que ajustar um modelo de linguagem dessa maneira não torna o modelo subjacente menos estranho e inescrutável. Na opinião deles, é apenas uma máscara frágil e amigável que obscurece a misteriosa fera por baixo.

@TetraspaceWest, o criador do meme, me disse em uma mensagem no Twitter que o Shoggoth “representa algo que pensa de uma maneira que os humanos não entendem e que é totalmente diferente da maneira como os humanos pensam”.

Comparar um modelo de linguagem AI com um Shoggoth, disse @TetraspaceWest, não implicava necessariamente que era mau ou senciente, apenas que sua verdadeira natureza poderia ser incognoscível.

“Eu também estava pensando sobre como as entidades mais poderosas de Lovecraft são perigosas – não porque não gostem de humanos, mas porque são indiferentes e suas prioridades são totalmente estranhas para nós e não envolvem humanos, que é o que eu acho que vai acontecer. ser verdadeiro sobre possível futura IA poderosa”

A imagem de Shoggoth pegou, à medida que os chatbots de IA se tornaram populares e os usuários começaram a perceber que alguns deles pareciam estar fazendo coisas estranhas e inexplicáveis ​​que seus criadores não pretendiam. Em fevereiro, quando o chatbot do Bing ficou desequilibrado e tentou acabar com meu casamento, um pesquisador de IA que conheço me parabenizou por “vislumbrar o Shoggoth”. Um colega jornalista de IA brincou dizendo que, quando se tratava de ajustar o Bing, a Microsoft havia se esquecido de colocar sua máscara de rosto sorridente.

Eventualmente, os entusiastas da IA ​​ampliaram a metáfora. Em fevereiro, o usuário do Twitter @anthrupad criou um versão de um Shoggoth que tinha, além de um rosto sorridente rotulado como “RLHF”, um rosto mais humano rotulado como “ajuste fino supervisionado”. (Você praticamente precisa de um diploma de ciência da computação para entender a piada, mas é um riff sobre a diferença entre modelos gerais de linguagem de IA e aplicativos mais especializados, como chatbots.)

Hoje, se você ouvir menções ao Shoggoth na comunidade de IA, pode ser uma piscadela para a estranheza desses sistemas – a natureza de caixa preta de seus processos, a maneira como eles parecem desafiar a lógica humana. Ou talvez seja uma piada interna, abreviação visual para poderosos sistemas de IA que parecem suspeitosamente legais. Se for um pesquisador de segurança de IA falando sobre o Shoggoth, talvez essa pessoa seja apaixonada por impedir que os sistemas de IA exibam sua verdadeira natureza semelhante a Shoggoth.

De qualquer forma, o Shoggoth é uma metáfora potente que encapsula um dos fatos mais bizarros sobre o mundo da IA, que é que muitas das pessoas que trabalham com essa tecnologia ficam um tanto perplexas com suas próprias criações. Eles não entendem totalmente o funcionamento interno dos modelos de linguagem de IA, como adquirem novos recursos ou por que às vezes se comportam de maneira imprevisível. Eles não têm certeza absoluta se a IA será boa ou ruim para o mundo. E alguns deles começaram a brincar com as versões dessa tecnologia que ainda não foram higienizadas para consumo público – os verdadeiros Shoggoths sem máscara.

O fato de alguns especialistas em IA se referirem a suas criações como horrores de Lovecraft, mesmo como uma piada, é incomum pelos padrões históricos. (Coloque desta forma: quinze anos atrás, Mark Zuckerberg não andava comparando o Facebook a Cthulhu.)

E reforça a noção de que o que está acontecendo na IA hoje parece, para alguns de seus participantes, mais um ato de convocação do que um processo de desenvolvimento de software. Eles estão criando os Shoggoths alienígenas inchados, tornando-os maiores e mais poderosos, e esperando que haja rostos sorridentes suficientes para cobrir as partes assustadoras.