¿La IA puede librarnos de las noticias falsificadas?

Lawrence Jones

06/03/2018

El hecho de que Rusia estuviera o no implicada en las elecciones presidenciales de Estados Unidos de 2016 lanzó el concepto de noticias falsificadas a los medios de comunicación. Para muchas personas la idea de que las noticias puedan estar manipuladas ha sido una gran sorpresa, pero las cosas podrían complicarse aún más.

A principios de este año, Gartner expuso sus predicciones para el futuro y advirtió que, para 2020, los usuarios tecnológicos sin escrúpulos serían capaces de crear imágenes, vídeos, documentos y sonidos digitales lo bastante buenos como para engañar a los humanos y, en algunos casos, a los ordenadores.

La empresa de investigación afirma que las máquinas, cada vez más avanzadas, podrán crear contenidos automáticamente. En manos de un canalla o de un grupo de personas que actúen en nombre de un estado corrupto, esta situación podría alterar fundamentalmente cómo percibimos la información que leemos y cómo usamos el Internet.

La cuestión es cómo saber la verdad.

Detección de la verdad

«En primer lugar, no estamos hablando de editar imágenes con Photoshop», explica Andrew Farmer, director ejecutivo de la empresa de IA y desarrollo de aplicaciones MyOxygen.

«Ya estamos viendo la capacidad de los expertos de manipular o crear contenido increíblemente realista que puede engañar a otros expertos», comenta Farmer. En su opinión, el contenido falsificado no podrá distinguirse del real. «La calidad del trabajo que producen es tan realista como si se tratara de artículos originales. La mayoría de la gente no sabe distinguirlo de la vida real».

La creación de imitaciones realistas del mundo no es toda negativa: de hecho, es la base de la industria multimillonaria de los videojuegos. El problema estriba en cómo se utilizan esas imitaciones.

Las noticias falsas se generan para moldear (o quizás deformar) nuestra percepción de los acontecimientos, incluso cuando se trata de elecciones. Cuando el concepto de las noticias falsas se convierte en una cuestión política, sabemos que hay que tomárselo en serio.

Para las empresas, la realidad falsificada plantea un problema: Si los consumidores no confían en Internet, podrían alterarse sus esquemas comerciales.

No se debe subestimar el potencial de la realidad falsificada para trastocar Internet. Se podrían utilizar máquinas para crear opiniones realistas de productos, lo que acabaría con los modelos de opiniones colaborativas y basadas en la confianza que utilizan empresas como Amazon, TripAdvisor y otras.

En términos más mundanos, la capacidad de generar de forma masiva contenidos que burlen los filtros actuales podría alterar los algoritmos utilizados por los motores de búsqueda, lo que daña fundamentalmente la fe de los clientes.

La lucha por la relevancia nunca ha sido más importante. 

El futuro de la IA

«Ya estamos viendo usuarios de Internet que comienzan a cuestionar la precisión del contenido», afirma Farmer. Lo que no está tan claro es quién es el responsable de abordar el problema si la realidad falsificada es una amenaza real.

«Facebook y Google son canales de distribución de buena parte del contenido falsificado», explica.

Los peligros de la realidad falsificada plantean graves problemas para los gigantes tecnológicos existentes. Prosiguen los debates sobre si Facebook, Google y otros agregadores de noticias cuentan como editores, mientras que estas empresas globales aparentemente cambian sin problema de postura según les conviene.

Farmer cree que la realidad falsificada puede cambiar nuestra opinión de estas empresas: «Tendrán que controlarla o conformarse con ser marcas menos fiables de lo que son de momento».

Puesto que cada día se crean miles de millones de páginas de nuevo contenido, cada vez se les presiona más para que busquen formas de ejercer un control editorial.

 Aquí entra en escena la inteligencia artificial (IA).

Las redes generativas antagónicas (RGA) son sistemas de IA que comparan automáticamente dos conjuntos de datos, separando lo real de lo falso. Facebook esa invirtiendo en esta tecnología con la esperanza de desarrollar sistemas de aprendizaje automático que detecten noticias falsificadas. Pero la potencia de procesamiento necesaria y la complejidad del reto ya están planteando problemas a algunas de las empresas más fuertes y con más recursos del mundo. Lejos de liderar el progreso tecnológico, los gigantes de Internet están procurando mantenerse al día con la tecnología para detectar la realidad falsificada, a la zaga de los que tienen capacidad de crearla.

¿Un futuro de noticias falsas?

Las noticias falsas aparecieron en el diccionario este año y han sido un rasgo definitorio de las noticias. La capacidad de los sistemas de crear y distribuir contenido falsificado supone un enorme riesgo a las empresas. Tenemos que esperar que las empresas tecnológicas líderes del mundo desarrollen soluciones lo suficientemente avanzadas para abordar este problema. De lo contrario, podríamos enfrentarnos a muchísimas más noticias falsas.

TAMBIÉN LE PUEDE INTERESAR...

La oficina de cara a 2020

Todo lo que necesitan saber las organizaciones del siglo XXI.