Los anuncios fraudulentos «deepfake» inundan las redes sociales

En un videoclip promocionado en redes sociales aparece una imagen de una de las grandes voces de la música brasileña, en una supuesta entrevista, en la que se sincera sobre su relación íntima, revela problemas sexuales y, finalmente, sugiere un tratamiento para la disfunción eréctil. “Me sentí como un chico de 18 años”, publica el video del terapeuta Roberto Carlos. También se venden productos similares con rostros falsos del cantante Solimos, el jugador Ronaldo, el doctor Drausio Varela y otros.

En otro anuncio, el cantante de funk con más de 13,9 millones de seguidores señala una forma rápida y sencilla de ganar dinero: «Lo que es popular ahora es Subway Money», dice MC Ryan. Pero la imagen es falsa.

Desde promesas de un juego que podría convertir a los jugadores en millonarios hasta anuncios de curas milagrosas para la calvicie, la disfunción eréctil y las arrugas, casos realistas de simulación de IA están comenzando a llegar a los tribunales brasileños. Muestra cómo las redes sociales no logran reconocerlos y mantenerlos fuera del aire.

Por un lado, los “clones” de IA actúan como cebo para los usuarios de las redes sociales. Las figuras públicas, por otro lado, ven sus imágenes y voces utilizadas indiscriminadamente para vender productos y servicios. El material resultante de la “replicación” de rostros se llama deepfakes, un fenómeno que no es nuevo, pero que ha cobrado impulso con la proliferación de herramientas de inteligencia artificial generativa capaces de generar contenido.

Algoritmos

En la plataforma publicitaria de Meta, propietaria de Instagram, WhatsApp y Facebook, hay al menos 130 resultados de publicaciones pagas del juego Subway Money, que promete a los jugadores dinero instantáneo, «sin burocracia ni comisiones». Al menos desde diciembre del año pasado, estas publicaciones han presentado fotos falsas de personas conocidas, como la influencer Virginia y la actriz Mel Maia, así como MC Ryan. Mantenerlo en el aire aumenta los meta ingresos.

En TikTok también circulan vídeos similares.

Mientras que los anuncios de juegos se centran en los rostros de personajes populares entre los jóvenes, los anuncios de medicamentos y tratamientos médicos utilizan imágenes de personas que se adaptan a todas las generaciones. En vídeos cortos, deepfakes de Drausio Varela, Ana María Braga, Susana Vieira, Paula Oliveira e Ileana venden los secretos de la “cápsula rosa milagrosa” a los jóvenes. Todos tienen voces recreadas digitalmente.

Los artículos suelen ser breves, de 30 segundos a un minuto. Llevan mensajes pegadizos: “Casi pierdes tu matrimonio”, “¡El secreto de los artistas para deshacerte de la flacidez, las arrugas y más!”.

Anuncios potenciados

Al eludir los sistemas de seguridad de la red, los anuncios deepfake mejorados se vuelven más poderosos. Esto se debe a que las plataformas de monetización utilizan datos personales y de navegación de los usuarios, utilizando algoritmos, para segmentar audiencias y aumentar la probabilidad de que una persona haga clic en una determinada publicación, explica Fernando Ferreira, doctor en inteligencia computacional e investigador del NetLab de la UFRJ:

“Cuando hablamos de publicidad relevante, esto ayuda a las empresas a encontrar su público objetivo. El problema es que los estafadores también utilizan este tipo de herramientas.

Ferreira también señala que los estafadores suelen utilizar cuentas y sitios web temporales para dificultar el seguimiento. El investigador dice que el fraude también incluye la venta de cursos y materiales inexistentes y la publicación de sitios web de comercio electrónico falsos.

Este fenómeno ha cobrado fuerza en plataformas menos reguladas, dice João Finamor, profesor de marketing digital de la ESPM. Si bien Meta le permite configurar anuncios activos, X (anteriormente Twitter) y TikTok no ofrecen esta capacidad. También advierte contra la publicación de este contenido en grupos de aplicaciones de mensajería.

En sus redes sociales, algunas personas advierten a los «clones» sobre contenidos falsos. Pero ante la incapacidad de las plataformas de retirar el material, hay quienes recurren a los tribunales.

En abril, el podcaster y YouTuber Igor Rodríguez Coelho, conocido como Igor 3K, de Flow Podcast, ganó un fallo judicial a su favor contra Facebook para que un deepfake que supuestamente lo mostraba anunciando un servicio financiero fraudulento pudiera ser eliminado, so pena de multa. La decisión tomada por Ana Paula Mezzina Forlán, del Primer Juzgado del Juzgado Especial Civil de São Paulo, reconoció el fracaso de la plataforma.

Los abogados explicaron que la emisora ​​intentó comunicarse con él a través de canales oficiales en Facebook, sin éxito. Acudió a los tribunales porque temía daños a su imagen y estafas a los usuarios de Flow.

responsable

Según el Marco Civil da Internet, las redes sociales están protegidas de la responsabilidad por la difusión de contenidos de terceros, incluidos los deepfakes, que son cebos fraudulentos. El artículo 19 establece que los proveedores de servicios sólo pueden ser considerados civilmente responsables (con multas o indemnizaciones) si, tras una orden judicial clara y específica, no eliminan o bloquean contenidos ilegales dentro del plazo estipulado.

Desde 2021, el Código Penal considera más grave la pena por malversación (el delito de engañar a alguien para obtener un beneficio económico o material, mediante fraude o falsificación) cuando se aplica en un entorno digital.

Desde diciembre de 2023, Drauzio Varella ha presentado una demanda civil contra Facebook, exigiendo datos de registro que ayuden a identificar a personas o grupos que difunden deepfakes. En la demanda, los abogados afirman que los fraudes podrían constituir delitos contra la salud pública, porque involucran medicamentos.

En abril, el médico también presentó una denuncia contra Meta ante el Ministerio Público de São Paulo, argumentando que la empresa también era responsable de permitir la difusión de los anuncios.