Páginas

jueves, 8 de abril de 2021

Deepfake: El último escalón de la Postverdad

 


Nos encontramos en plena Era Digital, en la que el uso de la tecnología es cada vez más intensivo y, al mismo tiempo, se genera un volumen de información impresionante, como nunca antes visto. Y no es para menos. Solo en el año 2020, según IDC[1], fueron creados, capturados, copiados y consumidos más de 50 zettabytes (ZB) durante el año 2020, es decir, el equivalente a más de 50.000 millones de disco duros de un terabyte (TB) cada uno. Y si piensan que eso es mucho, deben saber que se pronostica que para el 2025 la datasfera[2] se multiplicará por 3, superando los 160 ZB en los próximos 4 años.

Pero, tanta abundancia de información ha contribuido también al surgimiento de un nuevo fenómeno que cada vez luce más preocupante. Nos referimos a una de las consecuencias de semejante bombardeo, la “Postverdad”.

Postverdad: definición y aristas del fenómeno

El término “Postverdad”, utilizado por primera vez en 1992[3] y popularizado a partir del 2004[4], según la RAE significa “Distorsión deliberada de una realidad, que manipula creencias y emociones con el fin de influir en la opinión pública y en actitudes sociales”. Es decir, nos referimos a una nueva cultura política donde es más importante la “apariencia de verdad” que la verdad en sí misma, también denominada “política posfactual”.

Trump se destacó en la manipulación de emociones y creencias populares

Pero es a partir del 2016 que se viraliza esta palabra con la llegada al poder de Donald Trump en Estados Unidos y el surgimiento del movimiento pro Brexit en el Reino Unido, ya que ambos proyectos políticos se fundamentaron en la manipulación de la verdad. De hecho, el Diccionario de Oxford la declaró como “la palabra del año” en 2016[5]. Desde entonces los académicos de todo el mundo han visto con preocupación cómo la Postverdad se ha convertido en una filosofía que realmente genera adhesiones entre los movimientos anti-establishment, los partidarios de las teorías de conspiración y las corrientes populistas en general.

Y es que el crecimiento geométrico de la información falsa, no filtrada, principalmente en las redes sociales, mueve a preocupación a cualquiera. Una idea, por más cimentada que esté en toneladas de evidencias e investigaciones científicas, puede ser puesta en duda por un par de tuits que se conviertan en tendencia. Como resultado, todo se ha vuelto “relativo” y nada ya es 100% verdad ni 100% mentira.

En otras palabras, hablamos de que hoy las personas, a pesar de que están más “informadas” que en otras épocas, al mismo tiempo nunca habían estado tan “desinformadas” como ahora. Por supuesto, las causas no son fortuitas. Y, como veremos más adelante, alguien se beneficia de este engaño colectivo.

Primero, veamos a continuación algunas de las cualidades que caracterizan a la “Era de la Postverdad”:

Diagrama que representa el Sesgo de Confirmación


  • Sesgo de confirmación: Las personas tienden a buscar o favorecer las noticias o informaciones que favorecen sus creencias o ideas preconcebidas, tendiendo a descartar o filtrar cualquier otra información alternativa. Muchas informaciones falsas que abundan en las redes, contribuyen a alimentar teorías absurdas, como el terraplanismo o la creencia de extraterrestres ancestrales, aunque estas hayan sido descartadas científicamente desde hace décadas. Muchos canales de televisión y cadenas de noticias se dedican, abierta o subrepticiamente, a alimentar estas teorías con “reportajes” o “noticias” de dudosa rigurosidad científica. De esa forma, mantienen cautiva una audiencia con creencias sesgadas, dispuesta siempre a dar “like” a esos contenidos afines.
    Las plataformas tecnológicas "filtran" los contenidos que vemos

  • Filtros de burbuja: Son mecanismos que tienen varias plataformas para asegurarse de que sus usuarios reciban mensajes, informaciones y propaganda alineados con sus gustos y creencias, manteniéndolos encerrados en su propia burbuja, con poco o ningún acceso a informaciones que “difieran”. Los algoritmos de Google y Facebook, por ejemplo, se aseguran de que en tu perfil solo veas contenidos acordes a tus preferencias, como una forma de promover la fidelidad de sus usuarios y, por supuesto, un mayor número de “likes”. Es decir, dos personas distintas pueden encontrar diferentes resultados en la búsqueda de una misma palabra clave, con lo que se contribuye a aumentar el “sesgo de confirmación” explicado anteriormente. Si eres una persona de extrema derecha, lo más probable es que recibas constantemente abundante “material” relacionado con los sentimientos xenófobos, homófobos y supremacistas.
    Manipulación gráfica de resultados electorales de Venezuela (2013)

  • Estadísticas maquilladas: En nuestros tiempos, la mayoría de las personas entienden que “las estadísticas nunca mienten”. Por tal razón, es frecuente ver cómo partes interesadas manipulan gráficas y estadísticas con tal de falsear la realidad o despertar sentimientos específicos en los ciudadanos. Y es que, normalmente, las imágenes llaman más la atención que las palabras, por lo que muchas personas caen en la trampa de darle mayor importancia a la forma en que los datos son presentados que a los datos mismos. Una de las manipulaciones más comunes consiste en alterar o recortar las escalas de los ejes para distorsionar la impresión del gráfico.
    La incursión de la URSS provocó la derrota nazi,  pero los grandes medios cambiaron la percepción al respecto (cortesía de www.les-crises.fr)

  • Mentiras de los grupos de poder: Por todos es conocido que las grandes corporaciones y personas más influyentes de la sociedad normalmente tienen su propia agenda y, por tanto, su propia “verdad”, lo cual no es nuevo. Es por ello que los grandes medios de comunicación, frecuentemente controlados por el establishment, son utilizados como caja de resonancia de estos grupos de poder. Por ejemplo, la mayoría de la población de Estados Unidos pensaba que Sadam Hussein estaba implicado en los atentados del 11 de septiembre de 2001 y que tenía armas de destrucción masiva, por lo que se “justificaba” la invasión a Iraq en 2003. Aunque ambas afirmaciones quedaron demostradas como falacias, el bombardeo de los grandes medios de comunicación terminó de modelar a la opinión pública, solo con el fin de recabar apoyo político para las acciones bélicas impulsadas por el gobierno de George W. Bush.
    Ejemplo de Fake News anunciando supuesto respaldo del Papa a Trump

  • Noticias Falsas: Mejor conocidas como “Fake News”, se tratan de noticias deliberadamente falsas, concebidas para recabar “clics” y publicidad, que son tituladas con encabezados atractivos que incitan a su distribución masiva en las redes sociales, aunque el contenido sea completamente falso o simplemente no se corresponda con lo titulado. Ante un público cada vez más incapaz de leer más allá de los titulares, las Fake News se han convertido en un atractivo negocio, al tiempo que son una de las principales responsables de las teorías conspirativas y negacionistas más populares.
    Ejemplo de propaganda financiada por las fábricas para sembrar dudas sobre el Cambio Climático

  • Comerciantes de la duda: El sembrar dudas también se ha convertido en un lucrativo negocio, donde abundan los compradores y vendedores. Gracias a campañas bien orquestadas, apoyadas en publicidad engañosa o estudios científicos sesgados, compañías petroleras, tabacaleras y de otra índole, cuyos productos son dañinos a la salud o al medioambiente, se las han ingeniado para generar incertidumbre y así salirse con las suyas. De esa forma han logrado, por ejemplo, atenuar el impacto en la opinión pública de la abundante evidencia científica que respalda el aceleramiento del Cambio Climático.
    El público de hoy es maleable y no pensante, a merced de las redes sociales

  • Público irracional: Aunque parezca paradójico, hoy más que nunca el poder lo tiene el pueblo, el gran público. Pero nos referimos a un pueblo apático, acrítico, no pensante. A millones de personas que siguen a “influencers” que no tienen ningún talento ni ofrecen ningún valor agregado. A personas que son capaces de creer cualquier noticia apócrifa leída en Facebook, dispuestos a comprar lo que no necesitan con el dinero que no tienen, que solo leen los titulares y, sin realizar la más mínima digestión cognitiva, reenvían la noticia sin siquiera analizar su contenido. Ellos son el gran mercado, los que mueven la economía, los verdaderos “target” de la Postverdad, su razón de ser.

Según la tecnología ha ido avanzando, se han ido desarrollando nuevas herramientas que han sido aprovechadas por los modeladores de opinión pública para profundizar aún más el fenómeno, donde la Realidad Virtual, Aumentada, Inteligencia Artificial, etc., en conjunción con el Internet y el auge de las redes sociales, se han combinado para crear la “tormenta perfecta”. Es así como llegamos al “deepfake”.

Deepfake, el último escalón de la Postverdad

Antes del deepfake, ya estábamos acostumbrados a ver texto manipulado en las noticias o fotos retocadas digitalmente. Sin embargo, los videos seguían siendo una fuente confiable. Pero ya eso cambió para siempre.


¿Qué es el deepfake en realidad? Consiste en la suplantación en un video de la cara y voz de una persona por otra distinta utilizando inteligencia artificial para que parezca auténtico. Muchas veces, el nivel de realismo logrado es tal, que hasta el ojo más experto puede ser engañado.

El proceso que lo sustenta es aparentemente simple, aunque con mucho machine learning detrás: utilizando un video original como base, se alimenta el software de inteligencia artificial con un gran número de fotos o videos del individuo cuyo rostro queremos implantar en el video final, pudiéndose literalmente colocar palabras en su boca, utilizando su propia voz, la cual también puede ser generada por computadora.

Si ahora ya no podemos confiar en los videos, significa que ya hemos cruzado la última frontera de la Postverdad. Eso se traducirá en que, muy pronto, veremos a figuras públicas captadas en video cometiendo algún acto bochornoso, pero alegarán en su defensa que se trató de un deepfake para sembrar duda e evadir así su culpa. Y, por el contrario, podría suceder también que personas inocentes vean manchar su reputación con videos alterados digitalmente, y aunque lleguen a demostrar la manipulación, el daño moral podría ser significativo.

Ejemplo de deepfake con el rostro del actor Tom Cruise

Por supuesto, el deepfake ha sido también de gran utilidad para muchos sectores, especialmente para la industria cinematográfica y de entretenimiento.

Herramientas para enfrentar la Postverdad

Ante el avance de la Postverdad, en sus distintas vertientes, se ha puesto de moda desde el inicio del siglo XXI la creación de entidades dedicadas al servicio de “verificación de hechos” o “Fact Checkers”, para validar si el discurso público y las noticias son fehacientes y soportadas por evidencia. 

FactCheck.org es uno de los portales más conocidos para "verificación de hechos"

La primera iniciativa fue https://fastcheck.org/  en Estados Unidos, creada en 2003 con el apoyo de la Universidad de Pennsylvania. Luego en 2007 siguió https://www.politifact.com/, auspiciada por el Instituto Poynter y el https://www.washingtonpost.com/news/fact-checker/ del periódico Washington Post. En otros países se destacan las iniciativas de Channel 4 en Reino Unido (https://www.channel4.com/news/factcheck), https://bildblog.de/ de Alemania, https://www.lasexta.com/programas/el-objetivo/prueba-verificacion/ y https://maldita.es/ en España, y https://chequeado.com/ en Argentina, entre otros casos.

Hay otras herramientas que permiten desmontar bulos, rumores y diversas falsedades que circulan por Internet, tales como Snopes (https://www.snopes.com/), Hoaxy (https://hoaxy.iuni.iu.edu/) y First Draft del Harvard Kennedy School (https://firstdraftnews.com/).

Cuando se desee validar el origen de una foto que circule por las redes, las mejores opciones son Google Images (https://images.google.com/ y Tineye (https://www.tineye.com/). Para comprobar si hubo manipulación en una imagen, se puede utilizar el servicio de Fotoforensics (https://fotoforensics.com/).

La problemática ha llamado la atención de los organismos internacionales y, por ejemplo, la UNESCO ha impulsado internacionalmente una campaña de “alfabetización mediática e informacional” para enfrentar a la Postverdad, entrenando a periodistas y ciudadanía en general en la utilización de técnicas para detectar las Fake News y la manipulación mediática.

En fin, la Era Digital, como todo en la vida, tiene sus pros y contras. Y, en este caso, la Postverdad representa su lado oscuro. La clave está en que aprendamos a dominar las técnicas para distinguir la distorsión deliberada de la realidad, siendo las más potentes aquellas relacionadas con la lectura y escucha comprensivas, aunque siempre será útil aprovechar también las herramientas tecnológicas que están a nuestro alcance.

Solo así podremos distinguir mejor la verdad de la mentira.

www.reysonl.blogspot.com

 



[1] Instituto de investigación especializado en inteligencia de mercado. Publicaron el informe Data Age 2025, pronosticando el crecimiento de la datasfera para esa fecha: https://www.import.io/wp-content/uploads/2017/04/Seagate-WP-DataAge2025-March-2017.pdf

[2] Término proveniente del anglicismo Datasphere, que significa el universo de datos que son generados, transmitidos y consumidos por medios digitales

[3] En un artículo de Steve Tesich en el semanario The Nation, titulado “A government of lies”. Ver en https://www.thefreelibrary.com/A+government+of+lies.-a011665982

[4] Ese año Ralph Keyes publicó “The post-truth era: dishonesty and deception in contemporary life” y Eric Alterman publicó su obra “When Presidents Lie: A History of Official Deception and Its Consequences” donde analiza las declaraciones engañosas de George W. Bush.