Las grandes empresas, a la búsqueda de forenses en comportamiento de inteligencia artificial

Aunque los avances tecnológicos apuntan a un papel protagónico de innovaciones como la inteligencia artificial durante los próximos años, la confianza de las empresas no es total.

De acuerdo con la consultora Gartner, los incidentes de privacidad hacen perder enteros tanto a las soluciones de inteligencia artificial (IA) como a las de aprendizaje automático. Y a esto hay que sumarles los sesgos de los que adolecen dichas soluciones, como aquellos que tienen que ver con la raza, el género, la edad o la ubicación de las personas.

De ahí que se necesite cierto control. Gartner espera que, en 2023 el 75 % de las grandes organizaciones tenga forenses en comportamiento de inteligencia artificial, especialistas en cuestión de privacidad y confianza del consumidor, que se encargarían de validar modelos durante el desarrollo y monitorizarlos durante la producción.

Jim Hare, vicepresidente de investigación en Gartner, dice que “cada vez más líderes de datos y analítica y chief data officers” o CDOs “contratan investigadores de ética y forenses de ML”, que son las siglas en inglés de aprendizaje automático. Y, si bien el número de contrataciones “sigue siendo escaso hoy”, “se acelerará en los próximos cinco años”.

Entre sus responsabilidades está que “la ética y el gobierno formen parte de las iniciativas de IA y construir una cultura de uso responsable, confianza y transparencia”.

“Promover la diversidad en los equipos, datos y algoritmos de IA, y promover las habilidades de las personas es un gran comienzo”, relata Hare. “Los líderes de datos y análisis también deben establecer responsabilidad para determinar e implementar los niveles de confianza y transparencia de los datos, algoritmos y resultados para cada caso de uso”.

Para ello, “es necesario que incluyan una evaluación de las características de explicabilidad de IA al evaluar análisis, inteligencia de negocio, ciencia de datos y plataformas de ML”.