O Google está na vanguarda da luta contra as imagens "deep fake" geradas por inteligência artificial (IA). Em uma iniciativa liderada pela DeepMind, o braço de IA do Google, está sendo testada uma marca d'água digital que tem o poder de identificar e sinalizar imagens fabricadas por máquinas.

Batizado de SynthID, esse sistema inovador trabalha fazendo modificações nos pixels das imagens, tornando as marcas d'água invisíveis aos olhos humanos, porém perceptíveis para algoritmos computacionais. Embora não seja à prova de manipulações extremas, essa solução demonstra ser uma medida eficaz na detecção de imagens geradas por IA.

Esse avanço é uma resposta ao desafio crescente de distinguir entre imagens autênticas e deep fakes, alimentado por ferramentas populares como a Midjourney, que atraiu mais de 14,5 milhões de usuários. O sistema SynthID é exclusivo para imagens criadas com o gerador de imagens do Google, o Imagen, e busca estabelecer uma forma confiável de identificação mesmo após edições.

O Google, junto a outras gigantes de tecnologia como Microsoft e Amazon, está comprometido com o uso seguro da IA, utilizando essa abordagem como um passo para garantir a autenticidade das imagens digitais em um cenário em constante evolução.

À medida que as imagens geradas por IA se tornam mais complexas e acessíveis, a implementação de marcas d'água digitais invisíveis desempenhará um papel vital na preservação da integridade visual e da confiança online e na contínua batalha contra a disseminação de deep fakes.

Fonte: Terra