Política cyti

Deepfakes, clonación de voz y descontextualización: la desinformación enturbia las campañas electorales en México

Alejandro Martín del Campo Huerta, Director de la Iniciativa de Humanidades Digitales en el Tec de Monterrey, habla sobre las campañas de desinformación que se han observado durante este proceso electoral

La próxima vez que votes basándote en la información que recuerdes en redes sociales, conviene que tomes en cuenta que hay operaciones de desinformación activas destinadas a captar la decisión del votante indeciso. “La desinformación es un negocio. Hay personas que viven precisamente de esa industria. Es importante que la población sepa que alguien puede estar generando dinero con estrategias de engaños movido por sus propios intereses”, menciona Alejandro Martín del Campo Huerta, profesor del Tecnológico de Monterrey, ante la oleada de noticias de origen cuestionable que aparece a diario en las redes sociales, previo a la jornada electoral de México el próximo 2 de junio de 2024.

Del Campo Huerta, junto a otros expertos en comunicación, periodismo, ingeniería de datos y derecho legal, forma parte de la Iniciativa de Humanidades Digitales de la universidad mexicana. Ellos desarrollaron el Observatorio de Medios Digitales del Tec de Monterrey como parte de un proyecto multidisciplinario para identificar narrativas dominantes y evidenciar mecanismos de desinformación latentes que pretenden manipular o engañar a la población.

En WIRED en Español entrevistamos al académico en busca de un diagnóstico de los discursos en redes sociales bajo un contexto electoral donde se definirán 20,708 cargos de elección popular y para conocer cuáles han sido los casos más sobresalientes de intentos de desinformación.

Teorías conspirativas, fraudes y clonación de voz

“La desinformación es el principal riesgo global en los próximos dos años. Esto lo aseguró un informe del Foro Económico Mundial. Está por encima de los temas de clima y económicos. La desinformación se encuentra en la primera posición porque puede desestabilizar la interconexión de todo ese ecosistema”, explica Del Campo Huerta. El observatorio del que hoy forma parte nació a raíz de las inquietudes mencionadas en el foro de Davos.

El proceso electoral no ha estado libre de intentos de manipulación de los usuarios con información modificada. Se trata, en palabras del propio Observatorio de Medios Digitales, de una pandemia que afecta a la sociedad y para la cual todavía no hay vacuna.

“Hemos encontrado teorías de conspiración en TikTok para ciertas instituciones, o también cómo se distorsionan los mensajes de una candidata solamente tomando capturas de pantalla y alterando ciertos elementos en la configuración. También ha habido cosas más complejas, como la alteración del audio o la creación de uno nuevo con inteligencia artificial para asegurar frases que un candidato no dijo. Es un abanico bastante amplio que se abre respecto a la desinformación, y cada vez lo hace más, mientras la población está expuesta”, aseguró el académico.

Del Campo Huerta señala que hubo una candidata a la que le clonaron la voz para invitar a sus seguidores a votar por otro político. También hubo quien, aprovechando el escenario de polarización en internet, usó deepfakes del presidente o de empresarios famosos para invitar a seguidores a invertir en plataformas digitales que conducían a un fraude. “Detectamos videos del presidente mismo donde decía que invirtieras en Pemex, y te conducía a una página falsa que simulaba ser oficial. Sin duda habrá muchas personas que desafortunadamente invirtieron cualquier cantidad de dinero en ello”, recuerda.

Hallazgos inesperados

Pero las operaciones de desinformación no tienen que ser tecnológicamente avanzadas e incluir herramientas de IA generativa. A veces, basta con un equipo coordinado con computadoras, constancia y amplia participación en todas las redes sociales. El Observatorio de Medios Digitales del Tecnológico de Monterrey afirma que las descalificaciones a los candidatos provienen del uso de memes irónicos, la construcción de narrativas de odio en torno a los orígenes socioculturales de los políticos y la creación de ecosistemas completos de influencers que favorecen a un solo partido político en plataformas como YouTube.

Según su monitoreo, las noticias falsas o descontextualizadas aparecieron en todas las redes sociales, saltando de una en una y transformándose en el proceso. Sin embargo, es en Facebook donde se concentra la mayor cantidad de interacciones. Además, cada candidato mostró tener competencias distintas en los diferentes lenguajes de redes sociales. Es claro que hubo un ganador de popularidad en Instagram, TikTok u otras plataformas.

Estrategias contra fakenews

Si bien no hay una “cura” inmediata para las campañas de desinformación, Alejandro Martín del Campo Huerta sostiene que hay formas en que la población puede protegerse de ellas. El profesor y su equipo concuerdan en que es fundamental fortalecer las competencias digitales de los usuarios mexicanos. Este plan no solo debe considerar a los ciudadanos contemporáneos, sino también a las futuras generaciones de votantes que crecerán en un mundo dominado por suplantaciones de identidad y clonación de voz.

Además, propone una lista de cuatro preguntas básicas que un usuario debe hacerse cuando encuentre información notablemente extraña: ¿Hay algún autor que esté avalando ese contenido?, ¿hay alguna foto del evento o información que indique cómo se obtuvo esa imagen?, ¿la información tiene vigencia? y ¿qué medio está impulsando el contenido que se está recibiendo?

“Esas cuatro cosas deben detenernos un segundo antes de darle ‘compartir’. La quinta es si apela a tus emociones. Si la información te hace sentir algo, detente, porque lo más seguro es que le estén hablando a tu parte más emocional», afirma Del Campo.

El miembro del Observatorio de Medios del Tecnológico de Monterrey da modelos de éxito para impedir la proliferación de campañas de desinformación. “¿Sabes quién lo está haciendo muy bien? Brasil. Cuando llegó Lula, como ya sintieron el calor de lo que pasó con Bolsonaro, Lula creó un ministerio que se encargará precisamente de estos temas. Impulsó a los periodistas, crearon fondos para el periodismo local y desarrollaron iniciativas y observatorios para que floreciera esta información verdadera, atajando lo que había pasado con la toma del Congreso. Creo que debemos voltear a ver lo que están haciendo allá”.

Fuente: es.wired.com