O Google, cujo trabalho em inteligência artificial ajudou a tornar o conteúdo gerado por IA muito mais fácil de criar e espalhar, agora quer garantir que esse conteúdo também seja rastreável.
A gigante da tecnologia disse na quinta-feira que estava se unindo a um esforço para desenvolver credenciais para conteúdo digital, uma espécie de “rótulo nutricional” que identifica quando e como uma fotografia, um vídeo, um clipe de áudio ou outro arquivo foi produzido ou alterado – inclusive com AI A empresa colaborará com empresas como Adobe, BBC, Microsoft e Sony para ajustar os padrões técnicos.
O anúncio segue uma promessa semelhante anunciada na terça-feira pela Meta, que, assim como o Google, permitiu a fácil criação e distribuição de conteúdo gerado artificialmente. A Meta disse que promoveria rótulos padronizados que identificassem esse material.
O Google, que passou anos investindo dinheiro em suas iniciativas de inteligência artificial, disse que iria explorar como incorporar a certificação digital em seus próprios produtos e serviços, embora não tenha especificado seu momento ou escopo. Seu chatbot Bard está conectado a alguns dos serviços de consumo mais populares da empresa, como Gmail e Docs. No YouTube, de propriedade do Google e que será incluído no esforço de credencial digital, os usuários podem encontrar rapidamente vídeos com avatares digitais realistas pontificando sobre eventos atuais em vozes alimentadas por serviços de conversão de texto em voz.
Reconhecer a origem do conteúdo online e como ele muda é uma alta prioridade para legisladores e vigilantes da tecnologia em 2024, quando milhares de milhões de pessoas votarão em eleições importantes em todo o mundo. Após anos de desinformação e polarização, imagens e áudio realistas produzidos pela inteligência artificial e ferramentas de detecção de IA não confiáveis fizeram com que as pessoas duvidassem ainda mais da autenticidade das coisas que viram e ouviram na Internet.
Configurar ficheiros digitais para incluir um registo verificado do seu histórico poderia tornar o ecossistema digital mais confiável, de acordo com aqueles que apoiam um padrão de certificação universal. O Google está se juntando ao comitê diretor de um desses grupos, a Coalition for Content Provenance and Authenticity, ou C2PA. Os padrões C2PA foram apoiados por organizações de notícias como o The New York Times, bem como por fabricantes de câmeras, bancos e agências de publicidade.
Laurie Richardson, vice-presidente de confiança e segurança do Google, disse em comunicado que a empresa espera que seu trabalho “forneça um contexto importante para as pessoas, ajudando-as a tomar decisões mais informadas”. Ela destacou outros esforços do Google para fornecer aos usuários mais informações sobre o conteúdo on-line que encontraram, incluindo a rotulagem de material de IA no YouTube e a oferta de detalhes sobre imagens na Pesquisa.
Os esforços para anexar credenciais aos metadados – as informações subjacentes incorporadas em arquivos digitais – não são perfeitos.
A OpenAI disse esta semana que suas ferramentas de geração de imagens de IA em breve adicionariam marcas d’água às imagens de acordo com os padrões C2PA. A partir de segunda-feira, disse a empresa, as imagens geradas por seu chatbot online, ChatGPT, e pela tecnologia autônoma de geração de imagens, DALL-E, incluirão uma marca d’água visual e metadados ocultos projetados para identificá-los como criados por inteligência artificial. A mudança, no entanto, “não é uma solução mágica para resolver questões de proveniência”, disse OpenAI, acrescentando que as tags “podem ser facilmente removidas acidentalmente ou intencionalmente”.
(A New York Times Company está processando a OpenAI e a Microsoft por violação de direitos autorais, acusando as empresas de tecnologia de usar artigos do Times para treinar sistemas de IA.)
Há “um senso de urgência compartilhado” para reforçar a confiança no conteúdo digital, de acordo com uma postagem no blog do mês passado de Andy Parsons, diretor sênior da Iniciativa de Autenticidade de Conteúdo da Adobe. A empresa lançou ferramentas de inteligência artificial no ano passado, incluindo o software de geração de arte de IA Adobe Firefly e uma ferramenta do Photoshop conhecida como preenchimento generativo, que usa IA para expandir uma foto além de suas fronteiras.
“Os riscos nunca foram tão altos”, escreveu Parsons.
Cade Metz relatórios contribuídos.
THE NAIS IS OFFICIAL EDITOR ON NAIS NEWS