Fujitsu lidera un consorcio para combatir las fake news

El auge de las fakes news y los deepfakes es sumamente peligroso. La desinformación que circula por internet es tal que muchas veces nos cuesta diferenciar entre lo que es real y lo que es falso.

El problema de esta situación es que, una vez que se propagan una información falsa, siempre hay gente dispuesta a creérsela, pensando que quienes mienten son aquellos que desmontan el bulo. “Calumnia, que algo queda”, reza el viejo aforismo.

Por ejemplo, este verano nos hacíamos eco de la campaña de fake news en torno a los Juegos Olímpicos de París, desplegada por grupos hackactivistas prorrusos, como respuesta a la exclusión de Rusia y Bielorrusia de este evento.

Además, instalarse en un mundo que invita a pensar que todo lo que vemos, oímos o leemos es falso nos lleva a una situación en la que podemos correr el riesgo de pensar que nada es cierto porque todo es mentira, arrinconando injustamente la verdad.

Sin embargo, no todo está perdido. Igual que la tecnología es una herramienta muy útil a la hora de crear estas fakes news, también puede servir para descubrir sus mentiras.

En este reportaje ya contábamos algunas de las iniciativas puestas en marcha para detectar deepfakes. Y hace algún tiempo también hablábamos de AyGLOO, una startup española que estaba trabajando en una aplicación para luchar contra las fake news.

Fujitsu toma la iniciativa contra las fake news

En esta ocasión, nos centramos en un proyecto de gran envergadura, un consorcio industrial-académico liderado por Fujitsu que se enfocará en la creación de una plataforma integral de contramedidas para frenar la desinformación.

Se espera que esta plataforma sea capaz de detectar información falsa, recopilar pruebas, analizar la información y evaluar el impacto de las fake news. Se prevé que esté lista a finales del año fiscal 2025, que en el caso Fujitsu cierra en marzo.

Lo primero que hará la plataforma es analizar la información atendiendo al tipo de medio, con el fin de detectar desinformación. Aprovechando la experiencia del Instituto Nacional de Informática (NII) en la detección de medios falsos, se desarrollará una tecnología para detectar deepfakes de imágenes, vídeo y audio a partir de publicaciones en redes sociales y otros contenidos.

La tecnología identificará cómo se ha creado el contenido multimedia y las áreas que han sido manipuladas y asignará una puntuación de confianza que se proporcionará como prueba de apoyo.

Además, NEC desarrollará una tecnología de comprensión de los medios de comunicación que extraiga el contenido, incluyendo imágenes, vídeo, audio y texto, analizando las coincidencias con los posts de los medios sociales y recopilando información de apoyo.

En cuanto a la gestión de pruebas, el Instituto de Investigación Keio del SFC y Fujitsu desarrollarán una tecnología para integrar las pruebas recogidas en internet, incluidos los resultados de los análisis anteriores. Estas pruebas se estructurarán y almacenarán como un gráfico de pruebas con información como remitente (persona u organización y sus atributos), la ubicación y la fecha.

Asimismo, la Universidad de Osaka aprovechará su experiencia en el análisis de datos IoT para desarrollar una tecnología que permita recopilar datos de sensores como fuente de pruebas. Y si la información de la zona objetivo es incompleta, el sistema deducirá las pruebas basándose en los datos disponibles de las zonas vecinas.

Por otra parte, Fujitsu creará una tecnología para analizar la coherencia de las pruebas vinculadas a la información objetivo utilizando los gráficos de pruebas generados previamente, realizando un análisis exhaustivo de la autenticidad de la información y presentando los resultados y las pruebas de apoyo de forma sencilla para el usuario.

Además, desarrollará un LLM japonés especializado en contramedidas contra la desinformación, utilizando su superordenador Fugaku y su experiencia con el LLM Takane.

Dicho LLM especializado mejorará la comprensión de noticias y datos de redes sociales, mejorará las capacidades de razonamiento lógico y permitirá realizar inferencias de alta velocidad y precisión para verificar la autenticidad, mitigando al mismo tiempo las alucinaciones.

Por su parte, Fujitsu colaborará con el Instituto Tecnológico de Nagoya para idear una interfaz de usuario y una tecnología de suministro de información basadas en la ciencia cognitiva, teniendo en cuenta factores relacionados con la psicología humana.

Esto ayudará a los usuarios a juzgar con precisión la veracidad de la información y fomentará las acciones apropiadas, incluyendo la realización de esfuerzos para evitar la difusión involuntaria de información falsa.

Finalmente, el Instituto de Ciencias de Tokio, la Universidad de Tokio y la Universidad de Aizu desarrollarán tecnología para evaluar el impacto de la desinformación. Gracias a los LLM, construirán un modelo de IA para evaluar la desinformación, analizando sus características, como la similitud con desinformaciones anteriores y la velocidad de proliferación, centrándose en la fuente, el contenido y el contexto social de los mensajes a partir de los datos de las redes sociales. Esto permitirá evaluar parámetros como la escala de proliferación y el impacto social de las fake news.