Deepfakes, nuevo veneno en la red

La inteligencia artificial ha atizado la generación de videomontajes de alta calidad en internet. Gobiernos toman medidas para detener la ola de contenidos falsos

Tecnología para combatir las fake news

Las fake news no cesan de ocupar espacio en las discusiones entre los internautas y son alto motivo de preocupación entre políticos, líderes de opinión y medios masivos de comunicación que pueden ser utilizados como conejillos de indias para interpretar el rol que una inteligencia artificial les asigne.

La generación acelerada de contenido informativo apócrifo mella la credibilidad de los sitios de noticias y obliga al usuario a ser más cuidadoso en la selección de sus fuentes.

Las consecuencias negativas que pueden asomarse tras el consumo de fake news son tan variadas como numerosas, pero junto a la desinformación marcha la pérdida de confianza en la prensa, la polarización social, el daño a la reputación de figuras importantes y la desestabilización política, con el consecuente resquebrajamiento de la democracia.

Crece preocupación

La creciente inquietud por la propagación de la desinformación y las noticias falsas en internet, especialmente en las redes sociales, está generando una creciente alarma en todo el mundo. Según el Informe Digital 2021, elaborado por We Are Social —agencia creativa especializada en social media— el 56.4% de los usuarios de internet expresan su preocupación por la dificultad de discernir qué noticias son verdaderas y cuáles son falsas en la era digital.

Brasil es el país más interesado en eliminar la propagación de noticias falsas y la desinformación, con un porcentaje del 84%, mientras que los Países Bajos son el país menos preocupado, con un 32.3%. En España, el 65.1% de sus ciudadanos opta por discernir la veracidad de la información que circula en la red, una cifra similar a la de Chile, donde el 64.6% de los ciudadanos también manifiesta esta inquietud. Por el contrario, en México, la preocupación es menor, con un 59.5%. Por otro lado, Japón, Italia, Suecia y Dinamarca se sitúan por debajo de la media global.

Deepfakes

No se trata solo de escribir noticias falsas. También funciona con fotos y videos. Tiempo atrás se necesitaba ser un experto en edición de imágenes, pero gracias a los deep-fakes hoy cualquier neófito puede hacerlo.

Se trata de una técnica de inteligencia artificial que permite crear videos falsos mediante la superposición de una cara o cuerpo de manera muy realista. Estos vídeos o imágenes falsas se generan a través del aprendizaje automático, mediante el cual una computadora aprende de un conjunto de datos existentes para generar sus propias creaciones.

Esta técnica ha generado preocupación debido a su potencial para ser utilizada con fines malintencionados. Los nuevos videos alterados se han vuelto virales en redes sociales. El contenido funciona al clonar las voces de celebridades, alterar los movimientos de la boca para que coincidan con el audio alternativo y redactar diálogos persuasivos.

Una de las víctimas más recientes de esta herramienta fue Joe Rogan, el comediante convertido en podcaster, que apareció junto a Andrew Huberman, un profesor de neurobiología en la Escuela de Medicina de la Universidad de Stanford, promocionando las bondades de un café para hombres que «estimula la libido». El comercial resultó ser un fraude montado con tecnología impulsada por inteligencia artificial. Los expertos dijeron que la voz de Rogan parecía haber sido sintetizada y los comentarios de Huberman fueron tomados de una entrevista no relacionada.

Antes, el descarrilamiento de un tren que transportaba sustancias químicas tóxicas provocó un aluvión de afirmaciones engañosas y propaganda antiestadounidense, impulsadas por agentes prorrusos.

Las campañas de desinformación no son nada nuevo. «Lo diferente es que ahora todo mundo puede hacerlo», advierte Britt Paris, profesora asistente de ciencias de la información en la Universidad de Rutgers, en Nueva Jersey. «No se trata sólo de personas con tecnología computacional sofisticada y conocimientos computacionales relativamente sofisticados. En lugar de ello, es una app gratuita».

En febrero circuló un video falso que mostraba al presidente de Estados Unidos, Joe Biden, declarando una conscripción en Estados Unidos para la guerra entre Rusia y Ucrania. El montaje fue responsabilidad de Human Events Daily, un podcast operado por Jack Posobiec, un influencer ultraderechista, conocido por difundir teorías de conspiración. La publicación acumuló más de 8 millones de visitas. E4


Tecnología para combatir las fake news

Así como se crean programas para diseminar fake news por la red, también existe tecnología para hacerles frente. Se trata de los llamados fact-checking, sistemas de verificación en línea que surgieron como plataformas digitales y, en sus inicios tuvieron por objetivo validar y desmentir rumores y leyendas urbanas que circulaban por internet.

TinEye

Se trata de un motor de búsqueda inversa de imágenes que rastrea coincidencias en internet a partir de una imagen, en lugar de rastrear imágenes a partir de un texto. De esta forma, por ejemplo, se puede descubrir saber si una imagen se ha utilizado sin permiso. Esta herramienta cuenta con más de 16 mil 400 millones de imágenes indexadas, y para realizar sus búsquedas no utiliza nombres de archivos ni metadatos vinculados con la imagen en cuestión.

Whois

El origen del sistema de Whois se remonta a 1982, cuando el Grupo de Trabajo de Ingeniería en Internet (IETF) publicó un protocolo de servicio de directorio para los usuarios de ARPANET.

Actualmente, con Whois los usuarios pueden consultar online la información sobre un dominio. Para eso existen los registradores y registros que se encargan de recopilar y tener actualizados los datos, para que estén a disposición de cualquier persona que lo solicite.

La plataforma rastrea los datos de registro de un dominio para facilitar la revisión sobre la veracidad del sitio web, así como la duración en tiempo y las actualizaciones de la página.

Google Fact Check Tools

Google Fact Check Tools es un explorador que cuenta con un marcado de verificación. La plataforma se basa en las herramientas Fact Check Explorer y Fact Check Markup Tool.

La primera de ellas permite realizar búsquedas rápidas y en diferentes idiomas sobre fake news relacionadas con personas, organizaciones, temas, e incluso investigar hasta declaraciones.

La segunda, en cambio, es una herramienta exclusiva para periodistas. Con ella, se puede añadir información estructurada sobre el proceso de verificación.

De cualquier manera, es importante recordar que no importa de cuánta tecnología nos apertrechemos para filtrar lo verdadero de entre lo falso, lo más importante siempre será que los usuarios mantengan una visión crítica hacia los datos y las noticias que encuentran en internet. E4

La Habana, 1975. Escritor, editor y periodista. Es autor de los libros El nieto del lobo, (Pen)últimas palabras, A escondidas de la memoria e Historias de la corte sana. Textos suyos han aparecido en diferentes medios de comunicación nacionales e internacionales. Actualmente es columnista de Espacio 4 y de la revista hispanoamericana de cultura Otrolunes.

Deja un comentario