En 2024 surgirán trucos de ingeniería maliciosos dirigidos a grandes modelos de lenguaje

La seguridad seguirá siendo un tema fundamental para las estrategias empresariales en 2024. A falta de un mes para que finalice 023, comienzan a surgir los primeros pronósticos para el nuevo año.

Con la inteligencia artificial (IA) como otra gran tendencia a tener en cuenta, el equipo de investigación de WatchGuard Threat Lab cree que surgirán trucos de ingeniería maliciosos dirigidos a grandes modelos de lenguaje (LLM).

No sólo las compañías experimentan con las posibilidades de la inteligencia artificial, los ciberdelincuentes también lo hacen, de modo que intentarán explotar estos modelos para sus fines maliciosos.

En 2024 “un ingeniero inteligente, ya sea un atacante criminal o un investigador, descifrará el código y manipulará un LLM para que filtre datos privados”, de acuerdo con la lista de predicciones.

También cabe espera que los proveedores de servicios gestionados redoblen su apuesta por las plataformas automatizadas, que cobre presencia el vishing por medio de chatbots de voz y que crezcan las ventas de herramientas de phishing con IA en la Dark Web.

La escasez de talento es un problema persistente. En 2024, tanto pequeñas como medianas empresas terminarán recurriendo a los a proveedores de servicios gestionados y de seguridad (MSP y MSSP) para reforzar su protección. Estos, a su vez, apostarán por tecnología de seguridad unificada y una fuerte automatización, algo que será posible gracias a los avances en inteligencia artificial y aprendizaje automático.

La combinación de audio deepfake y grandes modelos de lenguaje capaces de mantener conversaciones incrementará el volumen de las llamadas de vishing durante los próximos meses. Una vez que las víctimas hayan sido engañada, no será necesaria la participación de un actor de amenazas humano.

Del mismo modo, las herramientas impulsadas por IA ganarán enteros para terminar convertidas en las soluciones maliciosas más vendidas en los mercados clandestinos.

Otra predicción de WatchGuard Threat Lab tiene que ver con los hacks en auriculares de realidad virtual y mixta, que permitirán recrear entornos de usuario. En concreto, “un investigador o un hacker malintencionado encontrará una técnica para recopilar algunos de los datos de los sensores de los cascos de VR/MR para recrear el entorno en el que juegan los usuarios”.

Por último, es probable que el uso constante de códigos QR derive en “un hackeo importante que cope titulares, causado por un empleado que sigue un código QR hasta un destino malicioso“.

“Cada nueva tendencia tecnológica abre nuevos vectores de ataque para los ciberdelincuentes”, comenta Corey Nachreiner, director de seguridad de WatchGuard Technologies.

“En 2024, las amenazas emergentes dirigidas a empresas y particulares serán aún más intensas, complicadas y difíciles de gestionar”, dice.

Esto significa que, “con una escasez continua de habilidades de ciberseguridad, la necesidad de MSP, seguridad unificada y plataformas automatizadas para reforzar la ciberseguridad y proteger a las organizaciones del panorama de amenazas en constante evolución nunca ha sido mayor”, advierte Nachreiner.