Estamos volviendo locos a los robots

La inteligencia artificial (IA) se ha convertido en una herramienta indispensable para mejorar infinidad de tareas y procesos, prediciendo comportamientos futuros, optimizando la gestión y ayudando en la toma de decisiones. ¿Pero qué sucede cuando las personas empiezan a comportarse de una manera extraña?

Por ejemplo, la pandemia está trastornando las previsiones de los modelos de machine learning. Cuando arrancó la crisis sanitaria y el confinamiento se hizo imprescindible, todo el mundo comenzó a pertrecharse para afrontar esta situación. De repente, empezamos a comprar cosas poco frecuentes, como mascarillas, gel hidroalcohólico, papel higiénico, cintas para correr, etc. Además, la gente compraba los productos en grandes cantidades. Este comportamiento se hizo tan evidente que se podía ver la evolución de la pandemia sólo con mirar los productos más comprados en Amazon en cada uno de los países a los que iba llegando la enfermedad.

Pero esta situación está volviendo locos a los robots, tal y como se explica en MIT Technology Review. El comportamiento fuera de lo común que estamos presentando está causando problemas a los algoritmos que rigen la gestión de inventario, la detección de fraudes, las acciones de marketing, etc.

Los modelos de machine learning están entrenados a partir de un comportamiento humano normal. Este es uno de sus puntos flacos, puesto que la mayoría muestran fragilidad cuando los datos de entrada difieren demasiado de los datos con los que fueron entrenados. Así que ahora no están funcionando como deberían, siendo necesaria la intervención humana para supervisarlos y corregir sus errores.

En el artículo se cita el ejemplo de una tienda india que vende salsas y condimentos, que ha visto cómo su sistema automatizado de gestión de inventario se ha desajustado por la repentina entrada de pedidos a granel.

Otro ejemplo es el de una empresa que analiza noticias mediante IA para evaluar el sentimiento de las informaciones publicadas, ofreciendo recomendaciones de inversión basadas en estos  resultados. El problema es que las noticias en este momento son más sombrías de lo habitual, sesgando negativamente los consejos.

También señala las complicaciones que está teniendo una empresa de vídeo en streaming, que ha experimentado un repentino crecimiento en el número de suscriptores. Sus algoritmos de recomendación para sugerir contenido relevante y personalizado a los espectadores se están viendo afectados por el cambio repentino en los datos de suscriptores, haciendo que las sugerencias sean menos precisas.

Pero a la vez que la pandemia trastoca a los robots y obliga a la intervención humana, también está teniendo consecuencias en el sentido opuesto. La crisis generada por la COVID-19 está acelerando la incorporación de chatbots, en detrimento de los call centers convencionales. Según recoge otro artículo publicado en MIT Technology Review, IBM ha visto incrementado en un 40% el tráfico a Watson Assistant entre los meses de febrero y abril. Por su parte, Google lanzó en abril Rapid Response Virtual Agent, una versión especial de su Contact Center AI, bajando el precio de su servicio como respuesta al aumento de la demanda por parte de los clientes.

Además de los incentivos ofrecidos por las empresas de IA, las mejoras obtenidas en el procesamiento del lenguaje natural han optimizado la respuesta de los robots. Además, la última generación de chatbots son más fáciles de construir, más rápidos de implementar y más receptivos a las consultas de los usuarios, por lo que cada vez son más las compañías que apuestan por ellos, ya sea como complemento a sus call centers o para sustituir a algunos agentes humanos.