Categories: Innovación

Las grandes empresas, a la búsqueda de forenses en comportamiento de inteligencia artificial

Aunque los avances tecnológicos apuntan a un papel protagónico de innovaciones como la inteligencia artificial durante los próximos años, la confianza de las empresas no es total.

De acuerdo con la consultora Gartner, los incidentes de privacidad hacen perder enteros tanto a las soluciones de inteligencia artificial (IA) como a las de aprendizaje automático. Y a esto hay que sumarles los sesgos de los que adolecen dichas soluciones, como aquellos que tienen que ver con la raza, el género, la edad o la ubicación de las personas.

De ahí que se necesite cierto control. Gartner espera que, en 2023 el 75 % de las grandes organizaciones tenga forenses en comportamiento de inteligencia artificial, especialistas en cuestión de privacidad y confianza del consumidor, que se encargarían de validar modelos durante el desarrollo y monitorizarlos durante la producción.

Jim Hare, vicepresidente de investigación en Gartner, dice que “cada vez más líderes de datos y analítica y chief data officers” o CDOs “contratan investigadores de ética y forenses de ML”, que son las siglas en inglés de aprendizaje automático. Y, si bien el número de contrataciones “sigue siendo escaso hoy”, “se acelerará en los próximos cinco años”.

Entre sus responsabilidades está que “la ética y el gobierno formen parte de las iniciativas de IA y construir una cultura de uso responsable, confianza y transparencia”.

“Promover la diversidad en los equipos, datos y algoritmos de IA, y promover las habilidades de las personas es un gran comienzo”, relata Hare. “Los líderes de datos y análisis también deben establecer responsabilidad para determinar e implementar los niveles de confianza y transparencia de los datos, algoritmos y resultados para cada caso de uso”.

Para ello, “es necesario que incluyan una evaluación de las características de explicabilidad de IA al evaluar análisis, inteligencia de negocio, ciencia de datos y plataformas de ML”.

Mónica Tilves

Licenciada en Xornalismo por la Universidad de Santiago de Compostela en la especialidad de Periodismo Electrónico y Multimedia. Apasionada de los gadgets, la fotografía digital, el diseño web y el arte. Tras un primer contacto con el mundo de la prensa escrita y con la suficiencia investigadora debajo del brazo, me decanto por los medios online. Cubro la actualidad informativa en Silicon Week desde 2011, además de colaborar en otras publicaciones del grupo NetMediaEurope en España como Silicon News. Ahora en Silicon.es.

Recent Posts

Bitdefender lanza un programa de garantía contra violaciones de seguridad

Ofrece hasta 1 millón de dólares de compensación económica en caso de incidente, con la…

12 mins ago

Cloud Expo evoluciona a Cloud & AI Infrastructure

Este cambio refleja los avances que se producen a nivel de infraestructura TI y el…

58 mins ago

DES2025 se centrará en la IA y ofrecerá una zona de experiencia tecnológica

El evento espera reunir a 17.000 directivos, que podrán escuchar a medio centenar expertos en…

2 horas ago

Snowflake llega a un acuerdo con Datavolo para su adquisición

Como resultado de esta operación, ampliará sus servicios en el "bronze layer" del ciclo de…

2 horas ago

NetApp aumenta un 6 % sus ingresos trimestrales

Durante el segundo trimestre de su año fiscal 2025 acumuló 1.660 millones de dólares, la…

3 horas ago

Denodo Platorm 9.1 estrena asistente de inteligencia artificial

También incluye un SDK open source para potencia el desarrollo de aplicaciones y agentes, especialmente…

3 horas ago