As fotos dos smartphones estão ficando mais falsas. Uh-Oh?

As câmeras dos smartphones tornaram-se extremamente poderosas nos últimos cinco anos. O salto de qualidade foi impulsionado em grande parte pelos avanços na fotografia computacional, uma tecnologia que utiliza algoritmos, inteligência artificial e sensores para produzir imagens nítidas e realistas. Agora todos podemos captar imagens impressionantes que rivalizam com o trabalho dos profissionais.

Então o que vem depois? Odeio dizer isso: fotos falsas.

O Google, que há muito tempo é líder do setor em fotografia de smartphones, começará a enviar na quinta-feira o Pixel 8, um aparelho de US$ 700 com um conjunto de ferramentas de edição de fotos com tecnologia de IA. O software do telefone faz muito mais do que ajustar a nitidez e o brilho de uma foto – ele usa IA para gerar imagens ou remover elementos para fornecer exatamente a foto que você deseja.

Imagine, por exemplo, uma foto em que o ombro de uma pessoa está cortado. Com o software do Google, agora você pode tocar no botão Magic Editor e colocar a pessoa no quadro. A partir daí, o software usará IA para produzir o resto do ombro da pessoa.

Ou considere uma foto que você tirou de um amigo em frente a um monumento histórico, mas o fundo está lotado de outros turistas. Usando a mesma ferramenta de edição, você pode selecionar os bombardeiros fotográficos e clicar no botão Apagar. Em segundos, os estranhos desaparecerão – e o software do Google irá gerar automaticamente imagens para preencher o fundo.

O Google integrou essas novas ferramentas de edição de IA ao Google Fotos, seu aplicativo gratuito de álbum de fotos para dispositivos Android e iPhones, que tem mais de um bilhão de usuários. A empresa disse que o Pixel 8 foi o primeiro dispositivo com editor de IA, o que significa que as mesmas ferramentas poderão chegar em breve para outros dispositivos.

O editor de fotos de IA do Google faz parte de uma onda de IA generativa, que se tornou popular no ano passado após o lançamento do chatbot ChatGPT, que produz texto em resposta a solicitações. Ferramentas de IA generativa baseadas em imagens, como DALL-E, Midjourney e Adobe Firefly, também permitem que as pessoas criem imagens simplesmente digitando um prompt, como “um gato dormindo no parapeito de uma janela”.

No entanto, o Pixel 8 é um ponto de viragem. É o primeiro telefone convencional a incluir IA generativa diretamente no processo de criação de fotos, sem nenhum custo extra, empurrando a fotografia em smartphones para uma era em que as pessoas terão cada vez mais que questionar se o que veem em suas imagens é real – incluindo fotos de entes queridos.

(A câmera do iPhone da Apple pode adicionar alguns efeitos artificiais, como uma “luz de palco” que ilumina um objeto e escurece o fundo, mas não chega a gerar imagens falsas.)

“Este é realmente um grande momento que vai mudar muitas coisas sobre as imagens”, disse Ren Ng, professor de ciência da computação na Universidade da Califórnia, Berkeley, que ministra cursos sobre fotografia computacional. “À medida que avançamos corajosamente em direção a este futuro, uma foto não é mais um fato visual.”

Para testar se isso é bom, tirei e editei dezenas de fotos com o Pixel 8. Fiquei impressionado, assustado e cético quanto à possibilidade de continuar gerando fotos falsas. Aqui está o que eu encontrei.

Imagem imperfeita

Continuando minha tradição ao testar muitas câmeras de smartphones, usei o Pixel 8 para tirar fotos dos meus cachorros – Max, um corgi, e Mochi, um labrador marrom – e depois apliquei a IA

Os resultados foram imprevisíveis.

Em uma foto de Max sentado em uma pedra grande, eu queria remover um formulário de citação de um policial por deixar meus cães correrem sem coleira sem autorização em um parque para cães sem coleira. (Quem já ouviu falar disso?) No aplicativo Google Fotos, toquei no botão Magic Editor e tracei um contorno ao redor do pedaço de papel.

O software fez um trabalho notável. Substituiu a burocracia enlouquecedora pela laje de pedra e algumas agulhas de pinheiro.

Em outra foto, onde Mochi está perto de Max e o lado direito de sua bunda está cortado no enquadramento, tentei movê-la para a esquerda. O Pixel 8 conseguiu movê-la, mas o lado direito da parte traseira gerada por computador de Mochi estava embaçado e sua pata esquerda foi cortada.

Então veio o resultado mais chocante. Em uma foto de uma pizzaria onde o rosto de Mochi estava cortado no enquadramento, tentei movê-la para testar se a IA poderia gerar o resto de sua cabeça. Eu não esperava que o software reproduzisse perfeitamente sua caneca grisalha, mas a IA produziu algo de pesadelo, um cão infernal meio semideus com um par de cascos brotando de suas pernas.

O Google inclui um botão Regenerar para quando você não estiver satisfeito com os resultados, o que eu tentei. Mas sempre produziu resultados igualmente desanimadores.

Na mesma foto, tentei destacar e deletar os estranhos ao fundo. Isso funcionou bem, mas foi perturbador, como assistir à cena “snap” em “Vingadores: Guerra Infinita”, quando metade da população do universo desapareceu.

Ainda é cedo e o Google espera que as pessoas encontrem imperfeições. “Esse recurso está em estágio inicial e nem sempre funciona direito”, disse a empresa em comunicado. “Estamos em busca de feedback para melhorar continuamente nossos modelos.”

Usar ou não usar

Aqui está meu feedback: não acho que essas ferramentas de edição de IA devam ser apresentadas com tanto destaque no aplicativo de fotos de um smartphone carro-chefe, especialmente em seu estado imperfeito.

E mesmo quando a tecnologia amadurece, há questões mais amplas — como as questões éticas das imagens artificiais — a considerar e a abordar.

Editar fotos para obter clareza e brilho melhora uma imagem sem alterar sua substância. Mas adicionar elementos artificialmente a uma foto ultrapassa um limite, tornando a imagem falsa. A utilização destas ferramentas de IA para produzir e partilhar fotografias pode contribuir para a propagação de meios de comunicação falsos online, quando a desinformação já é galopante e é difícil saber em que confiar.

Ng, professor de ciência da computação, disse que cabe a nós decidir como usar a tecnologia fotográfica generativa de maneira responsável, especialmente agora que ela chegou aos smartphones. Ele estabeleceu seus próprios limites.

“Qualquer coisa que toque autenticidade para mim, como fotógrafo, seria muito problemático”, disse ele.

Quanto a mim, eu usaria essas ferramentas fotográficas de IA para remover distrações visuais, como o bombardeiro fotográfico arruinando uma foto que de outra forma seria ótima, de fotos compartilhadas entre a família. Mas mesmo assim, eu usaria essas ferramentas com moderação e não publicaria a falsificação online.