Cada trend que você participa na internet aumenta a quantidade de parâmetros que as inteligências artificiais têm de você. Uma brincadeira despretensiosa (como fazer fotos de casal) ou uma necessidade (dar um toque profissional a uma imagem) nos faz subir voluntariamente nossas imagens e nossas vozes nas IAs. Mas, será que isso é seguro?

Uma simples foto do filho da repórter Nicole Nguyen, do The Wall Street Journal, levou-a a uma reflexão inquietante. A imagem era fofa: o filho dela vestido de duende. Mas havia um detalhe perturbador, a imagem não era real.

Segundo ela relata, o gesto parecia inofensivo, mas levantou uma questão importante: até onde temos controle sobre nossa própria imagem na era da inteligência artificial?

As políticas de privacidade de gigantes como Meta, Google e OpenAI permitem que imagens de usuários sejam usadas para aperfeiçoar sistemas de IA. E, com o avanço das ferramentas de geração de vídeo e foto, bastam poucos segundos de gravação para que surja um clone digital capaz de agir, falar e até se emocionar como você. Tudo criado por algoritmos!

Deepfakes e IA: o novo desafio da identidade digital

Modelos de IA conseguem replicar rostos e vozes com realismo assustador.

Ferramentas populares como Sora (OpenAI), Vibes (Meta) e Veo (Google) geram vídeos inteiros com pessoas falsas.

Especialistas alertam: mesmo com filtros e bloqueios, o uso indevido é inevitável.

Celebridades e pessoas comuns já são vítimas de falsificações.

Leis começam a surgir, mas ainda não acompanham a velocidade da tecnologia.

Quando a ficção se torna crime

Em um experimento, a jornalista testou o aplicativo Sora, que cria vídeos usando avatares realistas. Bastaram alguns segundos diante da câmera para que a IA gerasse uma versão dela estrelando cenas absurdas, de um discurso no Oscar a uma fuga cinematográfica. O resultado era convincente o bastante para enganar amigos e familiares.

Meu avatar não era perfeito – meus dentes pareciam estranhos, assim como algumas das minhas expressões –, mas a semelhança era impressionante.

Nicole Nguyen

Aumentam os casos de uso indevido de imagem

Em 2023, uma imagem falsa do Papa Francisco vestindo um casaco fashion circulou na internet. De lá para cá, os modelos de linguagem se aperfeiçoaram e os deepfakes passaram de fotografias estáticas para vídeos.

Nos últimos dias, principalmente por conta do lançamento do Sora 2, o feed do Instagram está sendo bombardeado com vídeos de celebridades feitos com IA, como Michael Jackson, Albert Einstein, Martin Luther King, Taylor Swift, entre outros. Em geral, são vídeos “inofensivos”, como este:

No entanto, nem tudo são memes. Para exemplificar o lado mais sombrio da tecnologia, a repórter do WSJ cita o caso da meteorologista Bree Smith, nos Estados Unidos.

Em 2024, falsificadores criaram vídeos íntimos com seu rosto em corpos de outras pessoas, vendendo o conteúdo em redes sociais. “É degradante e traumatizante ver sua própria identidade distorcida sem consentimento”, disse a meteorologista. A repercussão foi tamanha que ajudou a aprovar uma lei no Tennessee que criminaliza a divulgação de deepfakes sexuais.

Mas, como a legislação não consegue acompanhar o ritmo da evolução das IAs, um novo tipo de empresa surgiu no mercado. Companhias como a Vermillio e a Loti já oferecem serviços pagos para monitorar e remover conteúdos falsos. Mas, ainda assim, o custo é alto, e a prevenção ainda é frágil.

Segundo a reportagem, a Vermillio cobra de US$ 10 a US$ 99 por mês (algo em torno de R$ 52 a R$ 520), conforme o número de solicitações de remoção de conteúdo. Já a Loti chega a cobrar até US$ 2.500 por mês para figuras públicas (cerca de R$ 14 mil).

O impacto humano da era dos rostos digitais

O uso indevido de imagens não é mais ficção científica, é um risco cotidiano. De influenciadores a adolescentes, qualquer pessoa pode se tornar alvo de manipulação.

Além da violação da privacidade, há impactos psicológicos e sociais profundos, que vão desde o constrangimento público até a perda de credibilidade profissional. Afinal, no ritmo frenético de novos conteúdos nas redes sociais, fica difícil acompanhar todas as histórias. Assim, é fácil ser impactado por um deepfake e nunca saber que se tratava de um vídeo falso.

O post Seu corpo, sua voz e seu rosto ainda são seus? A IA pode fazer você duvidar apareceu primeiro em Olhar Digital.