Categories: Innovación

Vectra AI permite supervisar quién usa ChatGPT en la empresa

El furor por la inteligencia artificial y las posibilidades que ofrecen los modelos de lenguaje de gran tamaño se ha intensificado durante los últimos meses, especialmente con el lanzamiento de la herramienta de ChatGPT de OpenAI que permite conseguir respuestas rápidas haciendo preguntas a través de un navegador web.

Pero su uso conlleva desafíos. “Cualquier dato enviado a ChatGPT es almacenado por OpenAI con fines de calidad y seguimiento, la fuente de cualquier respuesta es desconocida y la respuesta puede ser completamente inventada”, señalan desde Vectra AI, que añade que “OpenAI no puede controlar realmente qué datos se envían a ChatGPT, por lo que acaban almacenando mucha información que realmente no quieren”.

A esto hay que añadir otros problemas. Por un lado, la generación de respuestas sin atribuir fuentes, lo que conlleva el uso de material sin el permiso de su autor. Por otro lado, las posibles “alucinaciones” o “mentiras” asociadas a una tecnología que no es transparente con su proceso.

Para ayudar a las empresas a supervisar quién utiliza ChatGPT, Vectra AI permite monitorizar su uso de forma nativa con Vectra NDR y la ayuda de sensores que trabajan con el tráfico que entra y sale de la red y también dentro de la propia red. Su análisis ofrece información sobre el cumplimiento, algo incluido en el Panel de Control de Uso de ChatGPT.

Este panel aprovecha tecnología de atribución de ID de host para el seguimiento de los usuarios y muestra la frecuencia con la que un dispositivo accede a la herramienta de inteligencia artificial.

“Este panel, que está disponible de forma gratuita para todos los clientes de la plataforma Vectra, mostrará los hosts en su entorno que están interactuando activamente con OpenAI”, explica Eutimio Fernández, Country Manager de Vectra AI para la península ibérica, “mediante el seguimiento de las solicitudes DNS a los servidores OpenAI realizadas por cualquier host”.

“Esto permitirá a los responsables de cumplimiento ver rápidamente no sólo una lista de personas que tienen cuentas con OpenAI o que han registrado un interés, sino supervisar activamente quién está utilizando exactamente un sistema y cuánto lo están utilizando”, apunta.

Redacción Silicon

La redacción de Silicon está compuesta por profesionales del periodismo 2.0

Recent Posts

Appian elige a Estefanía Vázquez como vicepresidenta de servicios financieros para Iberia y Latinoamérica

Entre sus cometidos están supervisar la implementación de proyectos y el desarrollo de iniciativas de…

32 mins ago

Los españoles están dispuestos a pagar más en Black Friday y Navidad para ayudar al pequeño comercio

Así lo afirma un 71 % de los consumidores encuestados por GoDaddy. Hasta una cuarta…

1 hora ago

¿Cuáles son los retos de la Smart City?

El desarrollo de la Smart City en España es crucial, ya que 4 de cada…

2 horas ago

Tecnología y estrategias para la nueva era de amenazas

La ciberseguridad es un desafío cada vez mayor con el usuario como punto más débil,…

3 horas ago

SIA crea una Cátedra de Ciberinteligencia junto con la Universidad de Málaga

Girará en torno a tres temáticas: desinformación, contrainteligencia y credenciales expuestas.

16 horas ago

La optimización de productos digitales gana a la creación entre las prioridades empresariales

El 57 % de las compañías españolas está manteniendo este año su nivel de inversión…

18 horas ago