3 errores que hay que evitar al usar chatbots en la empresa

“Las herramientas de IA pueden ayudarnos a desarrollar ideas, resumir o reformular fragmentos de texto, o incluso crear una base para una estrategia empresarial o encontrar un error en un código. Sin embargo, al utilizar la IA debemos recordar que los datos que introducimos en las herramientas dejan de pertenecernos en cuanto pulsamos el botón de envío”.

Así lo advierte Josep Albors, director de investigación y concienciación de ESET España, que recuerda que al interactuar con los chatbots paras solicitarles ayuda se termina compartiendo información personal o de la empresa. Y es que estos datos puedan acabar haciéndose públicos.

Esto es un riesgo que cobra importancia ahora que las herramientas de inteligencia artificial van ganando presencia en los entornos de trabajo, con herramientas como ChatGPT de OpenAI.

Esta herramienta ofrece la opción de desactivar el historial de chat para evitar precisamente que los datos introducidos terminen impulsando el entrenamiento de los modelos de IA. Pero incluso así los datos de los avisos se almacenan en servidores externos y existe la amenaza del acceso no autorizado por parte de ciberdelincuentes o errores técnicos.

La solución es aprender a relacionarse con las nuevas soluciones de forma segura. ESET identifica tres errores y explica cómo evitarlos para introducir la IA en la empresa sin que se convierta en un problema de futuro.

Uno de ellos es “utilizar datos de clientes como entrada”, esto es, “compartir inadvertidamente información sensible sobre los clientes” de la compañía. Lo mejor sería anonimizar las consultas antes de preguntar al chatbot, evitando nombres, direcciones, números de cuenta y demás datos sensibles.

Del mismo modo, tampoco es aconsejable “cargar documentos confidenciales en los chatbots”, aunque estos ahorren tiempo a las personas al resumir grandes volúmenes de datos y crear tanto borradores como informes enteros. Esta práctica debería evitarse en estrategias de desarrollo y también para notas de reuniones, ya que dejarían al descubierto el know-how del negocio. Como medida de contención, hay que revisar los documentos a mano primero.

“Exponer los datos de la empresa en los avisos” es otro error. De nuevo la solución es la anonimización y, a poder ser, probar mensajes estandarizados como plantillas.