O que Mira Murati, mente por trás do ChatGPT, disse sobre Deepfakes

Mira Murati foi nomeada CEO interina da OpenAI.

Nova Delhi:

Há um ano, o ChatGPT não existia para o público em geral. Hoje, é um dos produtos de inteligência artificial mais comentados do mundo, e a responsável por ele é a engenheira Mira Murati, de 34 anos. Murati foi hoje nomeada CEO interina da OpenAI depois que o conselho perdeu a confiança em Sam Altman.

Além do ChatGPT, Murati também foi responsável por promover o Dall-E, um modelo de IA que gera imagens a partir de texto. Ambas as ofertas da OpenAI ganharam destaque depois que vídeos falsos dos atores Rashmika Mandanna, Katrina Kaif e Kajol se tornaram virais.

O primeiro-ministro Narendra Modi também expressou preocupação ontem com o uso indevido de IA e instou a equipe ChatGPT a implementar pilotos para impedir a criação de tal mídia transformada.

Mira Murati, falando em um talk show, explicou como a empresa está trabalhando para evitar a criação de mídia transformada usando suas tecnologias.

“Optamos por disponibilizar Dall-E ao público, mas com certas proteções e certas restrições”, disse ela ao falar com o comediante Trevor Noah no ano passado.

“Queremos que as pessoas entendam do que a IA é capaz. Mas, neste momento, não nos sentimos muito confortáveis ​​com a mitigação da desinformação e, por isso, temos certas barreiras de proteção”, acrescentou Murati.

O homem de 34 anos explicou como eliminam regularmente certos dados para garantir que os utilizadores não possam gerar imagens de figuras públicas.

“Não permitimos a geração de figuras públicas. Portanto, entraremos no conjunto de dados e eliminaremos certos dados. Esse é o primeiro passo: olhar os dados de treinamento do modelo e auditá-los, fazendo intervenções para evitar certos resultados”, disse ela. .

“Mais tarde, veremos a aplicação de filtros, para que, quando você inserir um prompt, ele não gere coisas que contenham violência ou ódio”, acrescentou Mira Murati.

Uma série de vídeos deepfake nas redes sociais com rostos transformados dos atores Rashmika Mandanna, Katrina Kaif e Kajol suscitou preocupação sobre o uso indevido da IA. Várias vozes na indústria cinematográfica, incluindo o lendário ator Amitabh Bachchan, pediram ações legais.

O governo emitiu na semana passada um comunicado às plataformas de redes sociais sublinhando as disposições legais que abrangem esses deepfakes e as sanções que a sua criação e circulação podem acarretar.