Ei, Alexa, o que os alunos devem aprender sobre IA?

Rohit Prasad, um executivo sênior da Amazon, tinha uma mensagem urgente para os alunos do nono e décimo ano da Dearborn STEM Academy, uma escola pública no bairro de Roxbury, em Boston.

Ele tinha ido à escola em uma manhã recente para observar uma aula de inteligência artificial patrocinada pela Amazon que ensina os alunos a programar tarefas simples para Alexa, a assistente virtual ativada por voz da Amazon. E ele garantiu aos alunos de Dearborn que em breve haveria milhões de novos empregos em IA.

“Precisamos criar o talento para a próxima geração”, disse Prasad, cientista-chefe da Alexa, à classe. “Portanto, estamos educando sobre IA desde o início, no nível básico”.

A alguns quilômetros de distância, Sally Kornbluth, presidente do Instituto de Tecnologia de Massachusetts, transmitia uma mensagem mais sóbria sobre IA para alunos de escolas locais que se reuniram no complexo da Biblioteca Kennedy de Boston para um workshop sobre riscos e regulamentação de IA.

“Como a IA é uma nova tecnologia tão poderosa, para funcionar bem na sociedade, ela realmente precisa de algumas regras”, disse o Dr. Kornbluth. “Temos que ter certeza de que o que não faz é causar danos.”

Os eventos do mesmo dia – um incentivando o trabalho em inteligência artificial e o outro alertando contra a implantação da tecnologia com muita pressa – espelharam o debate mais amplo atualmente em andamento nos Estados Unidos sobre a promessa e o perigo potencial da IA.

Ambos os workshops para estudantes foram organizados por uma iniciativa do MIT sobre “IA responsável”, cujos doadores incluem Amazon, Google e Microsoft. E eles ressaltaram uma questão que incomodou os distritos escolares em todo o país este ano: como as escolas devem preparar os alunos para navegar em um mundo no qual, de acordo com alguns desenvolvedores de IA proeminentes, a ascendência de ferramentas alimentadas por IA parece quase inevitável?

Ensinar IA nas escolas não é novidade. Cursos como ciência da computação e educação cívica agora incluem regularmente exercícios sobre os impactos sociais do reconhecimento facial e de outros sistemas automatizados.

Mas o impulso para a educação em IA tornou-se mais urgente este ano, depois que as notícias sobre o ChatGPT – um novo chatbot que pode criar trabalhos de casa semelhantes aos humanos e às vezes fabrica desinformação – começaram a se espalhar nas escolas.

Agora, “alfabetização em IA” é uma nova frase da moda na educação. As escolas estão lutando por recursos para ajudar a ensiná-lo. Algumas universidades, empresas de tecnologia e organizações sem fins lucrativos estão respondendo com currículos prontos.

As lições estão proliferando, mesmo quando as escolas estão lutando com uma questão fundamental: elas devem ensinar os alunos a programar e usar ferramentas de IA, fornecendo treinamento em habilidades tecnológicas que os empregadores procuram? Ou os alunos devem aprender a antecipar e mitigar os danos da IA?

Cynthia Breazeal, professora do MIT que dirige a iniciativa da universidade sobre IA responsável para capacitação social e educação, disse que seu programa visa ajudar as escolas a fazer as duas coisas.

“Queremos que os alunos sejam usuários informados e responsáveis ​​e projetistas informados e responsáveis ​​dessas tecnologias”, disse o Dr. Breazeal, cujo grupo organizou as oficinas de IA para as escolas. “Queremos torná-los cidadãos informados e responsáveis ​​sobre esses rápidos desenvolvimentos na IA e as muitas maneiras pelas quais eles estão influenciando nossas vidas pessoais e profissionais”.

(Divulgação: recentemente fui membro do programa Knight Science Journalism no MIT)

Outros especialistas em educação dizem que as escolas também devem incentivar os alunos a considerar os ecossistemas mais amplos nos quais os sistemas de IA operam. Isso pode incluir alunos pesquisando os modelos de negócios por trás de novas tecnologias ou examinando como as ferramentas de IA exploram os dados do usuário.

“Se estamos envolvendo os alunos no aprendizado sobre esses novos sistemas, realmente precisamos pensar no contexto que envolve esses novos sistemas”, disse Jennifer Higgs, professora assistente de aprendizagem e ciências da mente na Universidade da Califórnia, em Davis. Mas muitas vezes, ela observou, “essa peça ainda está faltando”.

As oficinas em Boston fizeram parte do evento “Dia da IA” organizado pelo programa do Dr. Breazeal, que atraiu milhares de estudantes em todo o mundo. Ele ofereceu um vislumbre das várias abordagens que as escolas estão adotando para a educação em IA.

Na Dearborn STEM, Hilah Barbot, gerente sênior de produtos do Amazon Future Engineer, o programa de educação em ciência da computação da empresa, conduziu uma aula de AI de voz para os alunos. As aulas foram desenvolvidas pelo MIT com o programa Amazon, que fornece currículos de codificação e outros programas para escolas K-12. A empresa forneceu mais de US$ 2 milhões em doações ao MIT para o projeto.

Primeiro, a Sra. Barbot explicou alguns jargões de IA por voz. Ela ensinou aos alunos sobre “expressões”, as frases que os consumidores podem dizer para levar a Alexa a responder.

Em seguida, os alunos programaram tarefas simples para Alexa, como contar piadas. Jada Reed, uma aluna do nono ano, programou Alexa para responder a perguntas sobre personagens de mangá japoneses. “Acho muito legal você poder treiná-lo para fazer coisas diferentes”, disse ela.

O Dr. Breazeal disse que é importante que os alunos tenham acesso a ferramentas de software profissionais das principais empresas de tecnologia. “Estamos dando a eles habilidades e perspectivas à prova de futuro de como eles podem trabalhar com IA para fazer coisas com as quais se preocupam”, disse ela.

Alguns alunos de Dearborn, que já construíram e programaram robôs na escola, disseram que gostaram de aprender a codificar uma tecnologia diferente: helpbots ativados por voz. Alexa usa uma variedade de técnicas de IA, incluindo reconhecimento automático de fala.

Pelo menos alguns alunos também disseram que tinham privacidade e outras preocupações sobre ferramentas assistidas por IA.

A Amazon registra as conversas dos consumidores com seus alto-falantes Echo depois que uma pessoa diz uma “palavra de despertar” como “Alexa”. A menos que os usuários desistam, a Amazon pode usar suas interações com o Alexa para direcioná-los com anúncios ou usar suas gravações de voz para treinar seus modelos de IA. Na semana passada, a Amazon concordou em pagar US$ 25 milhões para encerrar as acusações federais de que manteve indefinidamente gravações de voz de crianças, violando a lei federal de privacidade infantil online. A empresa disse que contestou as acusações e negou que tenha violado a lei. A empresa observou que os clientes podem revisar e excluir suas gravações de voz do Alexa.

Mas o workshop de uma hora conduzido pela Amazon não tocou nas práticas de dados da empresa.

Os alunos de Dearborn STEM examinam regularmente a tecnologia. Vários anos atrás, a escola introduziu um curso no qual os alunos usavam ferramentas de IA para criar vídeos deepfake – ou seja, conteúdo falso – de si mesmos e examinar as consequências. E os alunos pensaram no assistente virtual que estavam aprendendo a programar naquela manhã.

“Você sabia que existe uma teoria da conspiração de que Alexa ouve suas conversas para mostrar anúncios?” um aluno do nono ano chamado Eboni Maxwell perguntou.

“Não tenho medo de ouvir”, respondeu Laniya Sanders, outra aluna do nono ano. Mesmo assim, Sanders disse que evitou usar assistentes de voz porque “eu só quero fazer isso sozinha”.

A alguns quilômetros de distância, no Instituto Edward M. Kennedy para o Senado dos Estados Unidos, um centro educacional que abriga uma réplica em tamanho real da câmara do Senado dos Estados Unidos, dezenas de alunos da Warren Prescott School em Charlestown, Massachusetts, estavam explorando uma tópico: Política de IA e regulamentos de segurança.

Desempenhando o papel de senadores de diferentes estados, os alunos do ensino médio participaram de uma audiência simulada na qual debateram disposições para um hipotético projeto de lei de segurança da IA.

Alguns estudantes queriam proibir empresas e departamentos de polícia de usar IA para atingir pessoas com base em dados como raça ou etnia. Outros queriam exigir que escolas e hospitais avaliassem a justiça dos sistemas de IA antes de implantá-los.

O exercício não era estranho para os alunos do ensino médio. Nancy Arsenault, professora de inglês e educação cívica da Warren Prescott, disse que frequentemente pedia a seus alunos que considerassem como as ferramentas digitais os afetavam e às pessoas de quem gostam.

“Por mais que os alunos gostem de tecnologia, eles estão cientes de que a IA sem restrições não é algo que eles desejam”, disse ela. “Eles querem ver limites.”