Potencial y riesgos: la IA Generativa llega a las organizaciones

Está de moda. Es evidente. Pero todo apunta a que no se quedará simplemente en eso, en una moda pasajera sino que estamos ante una nueva tecnología que formará parte del ecosistema TI también empresarial.

La nueva generación de la Inteligencia Artificial Generativa ha llegado para permanecer y, aunque aún está dando sus primeros pasos, son muchos los expertos que aseguran que puede convertirse en el cambio más importante que veamos en el futuro de la tecnología y la sociedad.

Luces y sombras de la IA Generativa

Desarrollos de OpenAI como ChatGPT o DALL-E así como otras herramientas basadas en IA Generativa están provocando el asombro de todo el mundo y están ya siendo aprovechadas por las organizaciones para multitud de tareas. Desde crear, adaptar o mejorar contenido, tanto textos como imágenes, audio o vídeo, la mejora y automatización inteligente de procesos o la experiencia del usuario, el abanico de posibilidades es amplísimo.

Como vemos el potencial es enorme pero, como siempre, la IA Generativa tiene también su cara B, donde los riesgos y desafíos son igual de importantes: Deep fakes, suplantaciones de identidad, nuevos ataques más sofisticados…

Para analizar el impacto que la Inteligencia Artificial Generativa tiene en las organizaciones, sus posibilidades pero también los peligros que encierra Silicon España organizaba junto a Keepler y AWS, un encuentro que convocó a Javier Vélez, Head of Architecture de Capital Energy; Miguel Ángel Jurado, Gerente de Tecnología e ITS en Serveo; Israel Pedroche, Head of Enhanced Procurement Management de Alter Technology; Diego Alejandro Flores, IT Manager; Alberto Sánchez, Vicerrector for Digital Transformation and Learning en la Universidad Rey Juan Carlos; Eva González, Director of Language Technology; Antonio L. Flores; experto en tecnología para la Comisión Europea; y Olalla Nehme, Senior Manager Data Analytics en Pharmalex.

Un encuentro conducido por Daniel de Blas, responsable de Branded Content de NetMedia y que abría Esteban Álvarez, Global Lead of Business Development de Keepler, explicando algunos de los principales usos que la Generative AI tiene actualmente en las empresas: “Lo cierto es que estamos viviendo un boom en torno a esta tecnología que, entre otras aplicaciones, las compañías pueden utilizar para crear contenido de calidad y clasificarlo, crear un motor de recomendaciones para sus clientes, gestionar dudas o automatizar la generación de facturas, por citar algunos ejemplos”.

En España, primeros pasos

Así, el potencial para todas las industrias es enorme y aquellas compañías que aprovechen sus beneficios, tomarán la delantera en el ámbito de la eficiencia, el ahorro de tiempo y costes y, en consecuencia, la competitividad.

Sin embargo, como apuntó también Esteban Álvarez, la Inteligencia Artificial Generativa  supone un importante reto para los usuarios y las organizaciones, así como para los líderes en las áreas de tecnología de las empresas. “Son muchas sus aplicaciones y casos de uso donde puede ayudar al negocio pero la IA Generativa también trae consigo nuevos peligros y amenazas para la organizaciones: deepfakes y suplantaciones de identidad, sesgos, ataques a la privacidad…”.

Riesgos que coincidía en señalar Ana Jiménez, Senior Specialist AI/ML en AWS Iberia y a los que sumaba uno más: la falta de conocimiento. “Las empresas en España básicamente están haciendo pruebas de concepto y poco más en este terreno porque  no tienen el conocimiento y la cultura necesaria sobre IA Generativa. La mayoría de la organizaciones quiere utilizarla pero realmente no saben para qué; no saben ni siquiera qué proyectos pueden hacerse con esta tecnología y cuáles no ni qué datos necesitan para poder hacerlo”.

Formar e informar sobre IA

La falta de conocimiento era también destacada por Eva González, Director of Language Technology que, en su día a día, especialmente en proyectos de traducción, ve cómo “los clientes quieren automatizar el proceso para reducir su coste pero no saben qué puede realmente hacer con IA Generativa y qué no. Por ejemplo, es muy importante, si utilizas esta tecnología para una traducción, poder medir y determinar la calidad del out put para ver si tiene que intervenir un humano o no. Por ello, nos encontramos en un momento en el que hay que formar a los propios clientes, a las empresas, para que realmente sean conscientes de qué implica esta tecnología y que precisa de datos de calidad”.

Y es que precisamente los datos se presentan como no solo la base de cualquier desarrollo o proyecto de Inteligencia Artificial sino como el punto de partida.

Bien lo sabe Javier Vélez, Head of Architecture de Capital Energy que afirmaba que “todas las organizaciones estamos intentando experimentar con la Inteligencia Artificial sin tener completo el paso previo: contar con datos de calidad con los que alimentar el sistema”.

Así, explicó, en Capital Energy se encuentran inmersos en un proyecto “que nos lleve a la calidad del dato” para, cuando este sea una realidad, pasar a desarrollar proyectos con IA Generativa ya que “si los datos no son de calidad, cualquier cosa que intentes con Inteligencia Artificial va a ser un desastre”.

Los datos de calidad, la base

“Es algo que encontramos constantemente. Empresas que quieren hacer algo en IA pero que no tienen realmente una estrategia del dato o tienen datos insuficientes o, simplemente, no relacionados”, apuntó en ese sentido desde Keepler Esteban Álvarez.

Por ello también en Pharmalex, explicó Olalla Nehme, Senior Manager Data Analytics, se hayan inmersos en desarrollar una estrategia en este sentido. “Actualmente tenemos una estrategia del dato a cuatro años y, cuando esté totalmente desarrollada e implementada, comenzaremos a valorar las posibilidad de aplicar IA. Nuestro objetivo es ser una compañía data driven y esa es la prioridad ahora mismo”.

Un escenario en el que la Inteligencia Artificial Generativa o de cualquier otro tipo no puede aplicarse con garantía. Así lo afirmaba también Antonio L. Flores; experto en tecnología para la Comisión Europea: “La Inteligencia Artificial necesita que los datos que la alimentan sean de calidad; si no es así, corremos el riesgo del llamado data poisoning o datos envenenados”.

Para Flores, hay que plantearse qué datos se van a utilizar y, como consecuencia, cómo esto puede afectar a la privacidad por ejemplo. “Hace falta regulación en materia de IA; estamos aún en un momento inicial, de ingeniería podríamos decir pero esto va a estallar y es necesario tener un plan y una regulación desde ya”.

Privacidad y control

Justo el riesgo de la privacidad de la información era expuesto por Israel Pedroche, Head of Enhanced Procurement Management de Alter Technology quien directamente lanzaba al resto de asistentes la pregunta: “Como usuarios hemos perdido claramente el control de nuestros datos al utilizar determinadas herramientas, redes sociales, etc. Pero, con la Inteligencia Artificial Generativa, ¿va a pasar lo mismo con los datos corporativos? ¿Cómo mantener el control si, por ejemplo, decidimos utilizar una herramienta de IA para generar las facturas de la empresa”.

Dudas comunes para todos los participantes y que Israel Pedroche esgrimía para explicar que en Alter Technology no hayan iniciado ningún proyecto con IA todavía.

Sin embargo, otras organizaciones como Serveo ya han iniciado importantes proyectos en los que la Inteligencia Artificial Generativa tiene una papel protagonista. Es el caso de Serveo que, como explicó Miguel Ángel Jurado, Gerente de Tecnología e ITS de la compañía, ya ha desarrollado por ejemplo para predecir el uso del servicio público de bicicletas de Madrid, Bicimad, con la ayuda de Keepler, o el proyecto de gestión eficiente del alumbrado público ‘LayN’ con Vodafone.

“Claro que nos preocupan aspectos clave como la privacidad, la propiedad intelectual o la ciberseguridad pero no queremos ni podemos quedarnos trabajando como en la Edad Media y que la competencia avance más que nosotros. Adoptar esta tecnología es un riesgo pero no hacerlo, también”, declaraba rotundo Miguel Ángel Jurado.

En la misma situación se posicionaba Alberto Sánchez, Vicerrector for Digital Transformation and Learning en la Universidad Rey Juan Carlos. La Universidad participa junto al resto de universidades de Madrid en varios proyectos que, gracias a la Inteligencia Artificial, tratan, entre otros objetivos, de predecir el fracaso escolar.

Como explicó Alberto Sánchez, “ahora mismo, en la Rey Juan Carlos, además de esos proyectos, estamos en plena sustitución del sistema que tenemos de chatbot para atender las dudas de los estudiantes por otro que, con IA Generativa, nos permita hacer lo mismo pero ampliándolo a nuestros propios empleados”.

Aplicaciones de valor para el negocio que destacaba así mismo el IT Manager Diego Alejandro Flores: “La Inteligencia Artificial hace nada era el futuro y ya está aquí. En mi opinión, las oportunidades que ofrece son inmensas; de hecho, para mi, Chat GPT ya está compitiendo directamente con la misma Google. Es cierto que es necesario aún mucho trabajo, especialmente en el ámbito de los datos con los que desarrollar estos proyectos, su privacidad, etc. pero las puertas que se van a abrir son incalculables y, claro, eso también está provocando que haya cierta alarma sobre los posibles puestos de trabajo que pueden desaparecer con la expansión de la Inteligencia Artificial Generativa”.

De nuevo, miedos y riesgos que esta tecnología suscita pero que, como concluía Ana Jiménez, experta en Inteligencia Artificial, “no deben paralizarnos”. Según la portavoz de AWS, “hay que meterse sí o sí en este nuevo paradigma, sabiendo por qué, para qué, con qué información y con qué limitaciones pero no podemos dejar pasar esta oportunidad”.