Especialistas em tecnologia da OpenAI e da Meta alertaram nesta quinta-feira (15) que vídeos e áudios falsificados por inteligência artificial (IA), conhecidos como deepfakes, estão cada vez mais difíceis de distinguir de conteúdos autênticos. O avanço dessa tecnologia pode dificultar a verificação de provas apresentadas em julgamentos nos Estados Unidos.
O alerta ocorreu durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, acompanhada pela Reuters. O grupo discute há três anos como lidar com os riscos de materiais falsificados por IA nos tribunais. Segundo os especialistas, os avanços da IA generativa tornaram as falsificações difíceis de identificar tanto por pessoas quanto por programas de computador.
“As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, afirmou Shira Anderson, consultora de políticas da OpenAI. Desde 2023, o comitê debate como verificar a autenticidade de materiais suspeitos e garantir que provas produzidas com IA atendam aos mesmos critérios de confiabilidade de outras evidências.
Impacto nos tribunais
Apesar da preocupação, ainda há poucos registros de casos do tipo nos tribunais americanos. Em março, o Centro Federal do Judiciário informou que apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado um caso em que uma das partes contestou uma prova por suspeita de ser um deepfake.
“Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”, declarou o juiz federal Jesse Furman, de Manhattan, que preside o comitê. Contudo, especialistas da indústria, da academia e do governo afirmam que o risco não é apenas hipotético.
Devin Norder, diretor de gestão de produtos da Meta, afirmou à Reuters que conteúdos criados pelos modelos de IA mais avançados já podem ser indistinguíveis de mídias autênticas para seres humanos. Ele ressaltou ainda que produzir esse tipo de material exige pouco tempo e dinheiro.
Marcas d’água e limitações
Na Califórnia e na União Europeia, novas leis exigem o uso de marcas-d’água para identificar materiais falsificados por IA. Esses sinais são incorporados ao conteúdo para indicar sua origem. Entretanto, Shira Anderson alertou que não existe um método universal capaz de identificar com segurança todas essas marcas ou confirmar a autenticidade de um conteúdo visual.
Como cada empresa utiliza seu próprio sistema, a verificação continua sujeita a limitações. “Minha impressão é que isso certamente continuará melhorando”, disse ela. “Não acho que algum dia será à prova de falhas.”
