Categories: Innovación

Las grandes empresas, a la búsqueda de forenses en comportamiento de inteligencia artificial

Aunque los avances tecnológicos apuntan a un papel protagónico de innovaciones como la inteligencia artificial durante los próximos años, la confianza de las empresas no es total.

De acuerdo con la consultora Gartner, los incidentes de privacidad hacen perder enteros tanto a las soluciones de inteligencia artificial (IA) como a las de aprendizaje automático. Y a esto hay que sumarles los sesgos de los que adolecen dichas soluciones, como aquellos que tienen que ver con la raza, el género, la edad o la ubicación de las personas.

De ahí que se necesite cierto control. Gartner espera que, en 2023 el 75 % de las grandes organizaciones tenga forenses en comportamiento de inteligencia artificial, especialistas en cuestión de privacidad y confianza del consumidor, que se encargarían de validar modelos durante el desarrollo y monitorizarlos durante la producción.

Jim Hare, vicepresidente de investigación en Gartner, dice que “cada vez más líderes de datos y analítica y chief data officers” o CDOs “contratan investigadores de ética y forenses de ML”, que son las siglas en inglés de aprendizaje automático. Y, si bien el número de contrataciones “sigue siendo escaso hoy”, “se acelerará en los próximos cinco años”.

Entre sus responsabilidades está que “la ética y el gobierno formen parte de las iniciativas de IA y construir una cultura de uso responsable, confianza y transparencia”.

“Promover la diversidad en los equipos, datos y algoritmos de IA, y promover las habilidades de las personas es un gran comienzo”, relata Hare. “Los líderes de datos y análisis también deben establecer responsabilidad para determinar e implementar los niveles de confianza y transparencia de los datos, algoritmos y resultados para cada caso de uso”.

Para ello, “es necesario que incluyan una evaluación de las características de explicabilidad de IA al evaluar análisis, inteligencia de negocio, ciencia de datos y plataformas de ML”.

Mónica Tilves

Licenciada en Xornalismo por la Universidad de Santiago de Compostela en la especialidad de Periodismo Electrónico y Multimedia. Apasionada de los gadgets, la fotografía digital, el diseño web y el arte. Tras un primer contacto con el mundo de la prensa escrita y con la suficiencia investigadora debajo del brazo, me decanto por los medios online. Cubro la actualidad informativa en Silicon Week desde 2011, además de colaborar en otras publicaciones del grupo NetMediaEurope en España como Silicon News. Ahora en Silicon.es.

Recent Posts

Los ingresos anuales recurrentes de IFS crecen un 30%

La compañía ha registrado durante el tercer trimestre incrementos del 20 % en ingresos por…

3 horas ago

Fujitsu lanza una IA que piensa de forma autónoma y colabora con humanos

Fujitsu Kozuchi AI Agent se ofrecerá a través de la plataforma Fujitsu Data Intelligence PaaS.

4 horas ago

Los dispositivos TOUGHBOOK se certifican con Red Hat Enterprise Linux

De momento han sido certificados los modelos TOUGHBOOK 55mk3 y TOUGHBOOK 33mk4.

5 horas ago

Carmen Boronat, nueva CEO de la consultora Cloud District

El objetivo de esta compañía, especializada en productos digitales, es ayudar a las organizaciones combinando…

5 horas ago

Appian elige a Estefanía Vázquez como vicepresidenta de servicios financieros para Iberia y Latinoamérica

Entre sus cometidos están supervisar la implementación de proyectos y el desarrollo de iniciativas de…

6 horas ago

Los españoles están dispuestos a pagar más en Black Friday y Navidad para ayudar al pequeño comercio

Así lo afirma un 71 % de los consumidores encuestados por GoDaddy. Hasta una cuarta…

7 horas ago