HPE: “Ante cualquier riesgo ético en el uso de la IA, nosotros lo tenemos claro: no abordar ese proyecto”

El pasado mes de abril se inauguró en Madrid el Centro Global de Excelencia en Inteligencia Artificial y Datos de Hewlett Packard Enterprise, unas instalaciones que están dando soporte a nivel mundial en estas áreas de creciente demanda por parte de las organizaciones.

Este centro se ha convertido en un referente de la multinacional. Desde Madrid se está liderando un área de negocio clave para HPE: ayudará a empresas e instituciones de todo el mundo a extraer más valor de los crecientes volúmenes de datos en todas sus organizaciones, con especial foco en los aspectos éticos de estas tecnologías.

Silicon ha tenido la oportunidad de entrevistar a su mayor valedor, Luis Buezo, Director de la Práctica Mundial y del Centro Global de Excelencia en Inteligencia Artificial y Datos de HPE, que nos cuenta todos los detalles de su funcionamiento y los esfuerzos que están realizando para captar talento, formar a los profesionales y cumplir con los códigos éticos en el uso de la IA.

A continuación, la entrevista a Luis Buezo:

—¿En qué estado se encuentra actualmente la inteligencia artificial? Algunos dicen que estamos aún en la prehistoria…

Si nos fijamos en el concepto de redes neuronales, que ya se estudiaban en los años 90, ocurre que la capacidad de cómputo actual habilita procesos que no eran factibles antes.

Nosotros nos dedicamos a aplicar inteligencia artificial y analítica avanzada para ayudar a los clientes a modernizar sus plataformas de datos. Verás que yo siempre hablaré de estos dos conceptos de forma conjunta: inteligencia artificial y datos.

Dicho esto y en base a lo que estamos viendo con los clientes, especialmente grandes empresas, casi todos tienen ya alguna iniciativa relacionada con IA, ya sea en proceso de experimentación o de implementación. Es cierto que hablamos de distintos niveles de madurez, pero ya están ahí.

Por otra parte, estamos viendo durante los últimos tiempos una inversión creciente en esta materia. De hecho, más de la mitad de las empresas entienden la IA como una de las principales iniciativas estratégicas.

Yo no me fijaría tanto en si estamos o no en la prehistoria de la inteligencia artificial, sino en los retos que tenemos frente a nosotros, que se situarían principalmente en dos líneas: la primera está relacionada con los datos y la necesidad de acceder a ellos de forma más rápida y confiable. Los ‘sets’ de datos que se necesitan para los modelos tienen que tener estas dos características para poder tomar las decisiones adecuadas. Esto es fundamental para aquellas empresas que están empezando en su línea de trabajo sobre inteligencia artificial.

La segunda hace referencia a las operaciones. Una cosa es diseñar un modelo de datos en un laboratorio y otra es llevar ese modelo a producción para adaptarse a los procesos de negocio o incluso que los pueda modificar.

Más aún, existe un reto muy importante en esta línea: la gestión del ciclo de vida posterior. En los procesos relacionados con la inteligencia artificial no vale con entrenar una vez e inferir para siempre, sino que las compañías van cambiando y los modelos de datos deben retroalimentarse continuamente. Es lo que se denomina Machine Learning Operations (MLOps).

—¿Hasta qué punto el factor humano sigue siendo importante, sobre todo en esas primeras etapas de diseño y entrenamiento de los modelos en base a los datos?

Hay que tener en cuenta que nosotros trabajamos en casos de uso. Es decir, para poder aplicar correctamente la tecnología es necesario adaptar los proyectos a las necesidades concretas de cada organización. Es muy importante tener diferentes interlocutores de distintos departamentos porque son ellos los que saben muy bien las necesidades y los puntos de mejora que se pueden conseguir.

A partir de ahí, ver si los datos disponibles permiten realizar esos modelos y tomar decisiones. Muchas veces está claro lo que se pretende hacer, pero la realidad es otra cuando se analizan en detalle los datos que están disponibles. En determinados casos, las empresas se dan cuenta de que necesitan habilitar sensores o fuentes adicionales para que el caso de uso tenga sentido.

Así empezamos habitualmente nuestro ciclo de colaboración con los clientes. Nosotros no aportamos únicamente tecnología sino una serie de servicios a través de ‘workshops’ de colaboración conjunta para identificar las necesidades y los datos realmente importantes.

Una vez que estamos seguros de tener los datos correctos, pasamos a lo que denominamos pruebas de valor, un proceso que se realiza en el laboratorio donde se aplican los modelos adecuados para verificar si el proyecto genera el retorno de inversión esperado. Si se pasa este filtro, a partir de ahí se ponen en marcha los mecanismos de diseño, desarrollo, implantación y operacionalización con toda la gestión que incluimos en nuestros servicios HPE GreenLake.

—La inteligencia artificial está aportando innovación y muchas cosas positivas, pero ¿qué se puede hacer para combatir a ‘los malos’ que están desarrollando tecnologías basada en IA que puede hacer daño a la sociedad?

En HPE tenemos un grupo mundial de trabajo específico de ética en la aplicación de la inteligencia artificial. Es un grupo multidisciplinar con representantes de todas las organizaciones de la compañía. En mi equipo, por ejemplo, hay gente que está dentro de ese comité.

El objetivo es velar que todo uso interno o con nuestros clientes de la inteligencia artificial sea responsable. Aquí hablamos de preservar temas relacionados con los derechos humanos, privacidad, etc. Siempre que identificamos un proyecto sensible a estos aspectos, nos dirigimos antes al comité de ética para asegurarnos de que el uso de nuestra tecnología y servicios es correcto. Entendemos que si nosotros desarrollamos estos servicios también somos responsables de un uso correcto por parte de nuestros clientes y partners.

Por otra parte se encuentra la iniciativa AI for Good, una actividad muy importante en la que colaboramos con otras organizaciones para impulsar el uso de la inteligencia artificial para mejorar la vida de los ciudadanos.

—No obstante, siempre habrá organizaciones (públicas o privadas) que quieran usar la inteligencia artificial con fines ilícitos. ¿A qué peligros nos enfrentamos como sociedad?

Los riesgos siempre estarán ahí, no solamente con la inteligencia artificial sino con cualquier otra tecnología. Lo que es muy importante es entender antes de empezar cualquier iniciativa para qué se va a utilizar la IA y el impacto que va a tener. Ante cualquier potencial riesgo, nosotros en HPE y con la ayuda del comité de ética comentado anteriormente lo tenemos muy claro: no abordar ese proyecto.

—Me interesa la cuestión de la falta de talento y de profesionales con conocimientos en esta materia, ¿Cómo afrontáis desde HPE esta problemática y qué importancia tiene el Centro Global de Excelencia que inaugurasteis oficialmente el pasado mes de abril en Madrid?

Desde hace ya varios años existe una demanda creciente para proyectos de innovación. Las áreas de inteligencia artificial, analítica avanzada y plataforma de datos no son una excepción. Desde entonces, en HPE hemos estado buscando cuál era el mejor modelo para cubrir esta demanda a nivel internacional. Nuestra decisión fue la de ir creando centros de excelencia y el más reciente es el abierto en Madrid. Por un lado nos permite direccionar esa demanda con el talento que encontramos y generamos y, por otro, optimizar y maximizar toda la actividad de innovación que realizamos a nivel global.

Nuestro Centro Global de Excelencia es un punto de partida muy interesante para todos aquellos universitarios y profesionales que quieren prepararse y formarse en estas áreas relacionadas con la ingeniería de datos, por ejemplo.

Desde aquí aseguramos la disponibilidad de talento de este tipo de perfiles de forma sostenida durante los próximos años. De hecho, te puedo decir que hemos superado las expectativas durante estos primeros meses, ya que hemos tenido un número de candidatos muy bueno tanto en cantidad como en calidad, gente con conocimientos y motivación muy interesantes. A día de hoy, vamos por delante del plan que teníamos previsto cuando definimos los objetivos en noviembre de 2021.

Aquí hay una cuestión que conviene resaltar: los proyectos de innovación que HPE está abordando son muy interesantes para ellos porque a la vez que están aprendiendo también están aportando en las áreas donde quieren crecer profesionalmente. Además, se trata de proyectos internacionales, por lo que ese aspecto también lo tienen en cuenta.

—¿Cómo funciona en detalle el Centro Global de Excelencia de HPE y qué proyectos podrías mencionar?

La práctica y la formación de estos profesionales es uno de los objetivos del centro, pero el principal es el de desarrollar proyectos de aplicación de inteligencia artificial, analítica avanzada y modernización de plataformas de datos de nuestros clientes.

Este centro es el brazo ejecutor de la práctica mundial de inteligencia artificial y datos que estoy liderando.

En la práctica tenemos consultores, arquitectos, etc., certificados en diferentes países que trabajan con los clientes de forma local. Desde aquí vamos apoyando todo el ciclo de vida de dichos proyectos.

Por ejemplo, tenemos un fabricante de automóviles al que le hemos ayudado a optimizar uno de los procesos que tienen desde la definición hasta la configuración de los coches en la fábrica. Aquí hay una serie de pasos donde hemos aplicado procesamiento del lenguaje natural para optimizar dicho proceso. Lo hemos hecho de forma remota desde el CoE (Centro Global de Excelencia) y local, con una persona en el lugar donde se encuentra el cliente.

Otro proyecto muy interesante es el relacionado con el supercomputador Frontier, uno de los más potentes actualmente donde el CoE ha participado en la implementación de la plataforma de datos para la ingesta y procesamiento de la telemetría de los datos del entorno

En general, estamos muy contentos porque tanto la captación de talento como el número de proyectos están muy por encima de las expectativas iniciales para este centro.

Por último, me gustaría destacar los esfuerzos de la compañía en materia de diversidad a la hora de captar talento. Actualmente, el porcentaje de mujeres se sitúa en torno al 50%, algo que no es habitual en el sector pero que hemos conseguido en el CoE.

—En este sentido, estáis trabajando y colaborando estrechamente con el sector universitario. ¿Qué importancia tiene esta colaboración para ayudar a las Universidades a enseñar lo que realmente se está demandando en el sector?

Tiene mucha importancia porque los planes de estudio, que llevan años evolucionando, tienen que adaptarse casi en tiempo récord debido a la velocidad con la que se innova en el sector. Lo que estamos haciendo nosotros es colaborar más de cerca en determinadas asignaturas porque es un nexo muy interesante para las tres partes: alumnos, universidad y sector privado.

También estamos siendo muy activos en los trabajos de fin de grado y fin de máster ya que consideramos que esta última etapa es vital en la preparación de los futuros profesionales. De esta forma, les ayudamos en proyectos reales en los que estamos ya trabajando. Soy un fiel defensor de ello.