¿Existe riesgo de injerencia de las máquinas en las tomas de decisiones empresariales?

El dilema sobre cómo gestionar la relación de fuerzas entre personas y máquinas, teniendo en cuenta que dichas máquinas son cada vez más inteligentes gracias a los avances tecnológicos, viene de lejos.

Pero ahora Gartner advierte de que las máquinas van a acabar siendo más importantes en el futuro para acometer nuevas actividades, como la propia toma de decisiones empresariales. Parece que podrían demostrar su eficacia para ello de aquí a un periodo de cinco años.

Stephen Prentice, que es vicepresidente de esta consultora comenta que, “a medida que las máquinas inteligentes se vuelven más capaces y más asequible, serán desplegadas más ampliamente en múltiples papeles en muchas industrias, sustituyendo a algunos trabajadores humanos”.

Y, más allá de eso, “se convertirán en alternativas viables a los trabajadores humanos en determinadas circunstancias, lo que llevará a repercusiones significativas para el negocio y por lo tanto para los CIOs”.

Según Gartner, esto podría crear un nuevo conflicto, porque la confianza en las máquinas relegaría en cierta medida a los propios seres humanos que toman decisiones y, en consecuencia, tendría potencial para generar problemas de control.

“El temor entre muchas personas es que las máquinas se ‘pongan al cargo’, empiecen a tomar decisiones por su cuenta y se salgan de control, lo que representaría una amenaza para las personas, la sociedad y la propia humanidad”, concreta Stephen Prentice.

“Sin embargo”, continúa este experto, “dentro de los límites de la tecnología actualmente conocida, la idea de máquinas que alcanzan un cierto nivel de ‘conciencia de sí mismas’, ‘consciencia’ o ‘sensibilidad’ es todavía cosa de ciencia ficción. Incluso con la próxima generación de máquinas inteligentes, que ‘aprenden’ activamente y serán capaces de adaptar sus acciones para optimizar su progreso hacia una meta, los seres humanos pueden elegir permanecer en control”.

Lo que sí se recomienda desde Gartner es equilibrar el uso de máquinas y posibles reducciones de plantilla, así como actuar sobre “el potencial de daño a la reputación derivado de la recopilación de datos no controlada e inapropiada” por parte de esas máquinas.