Videos o audios editados, sacados de contexto o completamente modificados con inteligencia artificial. La alteración de contenido para difamar se ha hecho cada vez más frecuente, sobre todo en campañas políticas que buscan resaltar o menoscabar la imagen pública de una persona.

La candidata presidencial de Chile Vamos, Evelyn Matthei, escaló su arremetida en contra de republicanos por la “campaña sucia” que ha acusado hay en su contra a través de redes sociales, en la que se desliza, principalmente, que padece alzhéimer. Ella misma instaló ese concepto y este lunes anunció una posible querella contra quienes resulten responsables.

Pero, en términos prácticos, ¿es posible saber quiénes operan esta “campaña sucia” y poder llevarlos hasta la justicia?

Según asevera el académico del Centro de Investigación en Ciberseguridad de la Universidad Mayor Camilo Garrido, estos trolls o cuentas esporádicas de difamación aparecen en redes sociales, principalmente en X, Instagram, WhatsApp o Tik Tok, donde existe manipulación en cuanto a la instrucción dada a una máquina que genera el contenido.

“En este caso se están utilizando para manipulación de opinión pública, mover tendencia. Lo que hay que estar validando mucho con los trolls y con los bots es que dentro de las redes sociales usualmente tienden a tener una respuesta bastante más rápida que lo que puede realizar un humano”, explica.

Casos como estos ya han ocurrido en otras campañas, como la difusión de videos contra el expresidente de Estados Unidos Joe Biden, cuando todavía era candidato a la reelección. Ahí también se difundían videos para destacar una posible enfermedad neurológica, al destacar pausas y titubeos del exmandatario norteamericano.

Al enfocarse directamente en Chile, Garrido aclara que este tipo de situaciones se podrían judicializar, amparándose en tres legislaciones vigentes. “La primera es la Ley 19.628 de seguridad de datos personales; la ley marco de ciberseguridad, que es la Ley 21.663. Ahora, si le hacemos un clic un poquito más profundo, nos tendríamos que ir al decreto N° 20 que aprobó la Política Nacional de Inteligencia Artificial sobre su correcta utilización".

Por su parte, el experto en comunicación digital y director de la Agencia Jelly, Manu Chatlani, comenta que lo que denuncia Matthei no es algo nuevo en la política. “Se usan cuentas que no son las oficiales para subir ciertos mensajes para instalar el tema y desinformar, y ahí vuelan los fake news”. Además explica que con la inteligencia artificial se ha añadido no solamente crear videos falsos, sino que adulterar piezas audiovisuales. “Cortar, sacar fuera de contexto o crear imágenes falsas de tal o cual candidato para desinformar y confundir a las bases”. Esto se hace, según comenta, para hacer dudar a la gente que no tiene decidido cuál va a ser su voto aún.

¿Qué tan complejo es hacer este tipo de acciones para difamar a una o un candidato o figura pública? Tanto Garrido como Chatlani aseveran que con la proliferación de la tecnología, las herramientas de fácil acceso que utilizan IA, hoy se está volviendo “extremadamente sencillo” realizar este tipo de acciones de difamación.

Incluso, ya no es necesario tener grandes conocimientos de programación o saber codificar lenguaje informático. Basta con saber entrenar a la IA mediante instrucciones, o prompts, para poder generar contenido que pueda causar perjuicios a figuras públicas en sus redes sociales.

“Debemos educar de mejor forma a quienes van a ser los electores para que ellos identifiquen que es una información falsa”, enfatiza Garrido. El experto agrega que cada vez se vuelve más complejo determinar el origen de una campaña sucia, porque se necesita tener un equipo que esté vigilando y validando la información, y si dicha información que esté apareciendo se detecta hasta su origen, determinar si corresponde a una información falsificada.

En este caso, también hay herramientas que lo pueden hacer y, por ejemplo en el caso de Evelyn Matthei, se pueden utilizar herramientas de detección como The Hive o Deepware Scanner, que son plataformas que identifican cuándo es una información falsa o cuándo es un deep fake directamente. “Se puede hacer, pero eso implica inversión”, agrega Garrido.

Las opciones para Evelyn Matthei

Sabiendo los recursos legales y tecnológicos para encontrar a los responsables de esta difamación digital, ¿qué tan factible es poder encontrar a quienes modificaron y difundieron los videos que intentaron denigrar la imagen de la candidata?

Garrido remarca que si bien existen opciones para buscar al culpable de esta acción, “hoy día nos encontramos lamentablemente con las manos atadas, porque efectivamente cuando la información viene por redes sociales o por un deep fake aparecen muchos interlocutores que tampoco sabemos si son válidos”.

Estas cuentas que difunden este tipo de contenido muchas veces no tienen una persona como usuario, sino que puede ser un bot o alguna IA entrenada para que genere algún tipo de información que no corresponda. “Entonces, llegar a quién es el que empezó con este perjurio finalmente la probabilidad tiende a cero. Esa es la verdad”, menciona el experto en ciberseguridad.

Y también destaca que el problema de todo esto es que la cantidad de recursos que se requieren para poder localizar al responsable, que no se garantiza su éxito tampoco, puede ser mucho. “Y lo otro es que, como esto va cambiando dinámicamente, día a día, minuto a minuto, se vuelve aun más irrastreable”, agrega el académico.

Por otro lado, Pedro Huichalaf, experto en ciberseguridad y exsubsecretario de Telecomunicaciones, argumenta que muchas veces se manda la información a través de un bot, lo que hace difícil incluso hacer la transferibilidad del contenido. “Porque puede llegar al primer mensaje, pero además como es un personaje falso, no sabes quién está detrás manipulándolo”, afirma.

Además añade que si bien se puede presentar una denuncia contra quien resulta responsable, “lamentablemente no tienes pruebas para acreditar quién es y va a quedar inoficiosa”. Es decir, es supercomplicado llegar a los culpables porque no hay certeza de quién podría ser la fuente primaria del contenido difamatorio.

Marcelo Santos, académico de la Escuela de Periodismo de la Universidad Diego Portales, concuerda con el poco esperanzador pronóstico para la candidata Matthei.

“Es muy difícil identificar a bots, redes de bots y, más aun, una vez identificada una actividad puede ser con alta probabilidad de ser automatizada, lo cual es muy difícil asociar a una persona, un lugar, una agencia”. ¿Quién puede hacer eso? Según dice Santos, el propietario de la plataforma de las redes sociales. Una vez teniendo eso, pueden ver si coincide con varios otros usuarios que están en el mismo grupo.

Pero, aun así, el pronóstico es desfavorable. Santos cuenta que durante la campaña de Gabriel Boric y José Antonio Kast, en 2021, él solicitó a Twitter (ahora X) ver cómo era posible lidiar con la proliferación de bots en dicha red social. “La respuesta fue bastante vaga y nunca me dijeron concretamente qué hicieron con mi denuncia. Fueron muy educados en recibir y agradecer, pero no se comprometieron con nada y nunca me dijeron qué se hizo con esos datos”, acusa.

Por eso Garrido también enfatiza que se debe insistir en un foco más de educación digital, de preparar a las personas para que sean más cuidadosos con el contenido que aparece en las redes y desconfiar de su origen.

Y Chatlani, por otro lado, también apunta a que esto debe abordarse desde una perspectiva ética y moral, en términos comunicacionales. “Lo ideal sería que la política de aquí en adelante firme un acuerdo donde se prohíba este tipo de cosas. Pero yo no veo que eso esté pasando, porque además uno nunca sabe si son los propios partidos los que piden esto o es a una tropa de fanáticos que se les ocurre”.

Más que una intención de buscar responsables, Santos cree que este anuncio de querellas por parte de Matthei responde más a un intento de hacer “una parada de carros con una amenaza judicial. Pero técnicamente yo creo que no hay ninguna posibilidad de prosperar en términos de una criminalización de esas acciones”.