La IA generativa revolucionará el mercado del ‘phishing’
Trend Micro advierte sobre los grandes modelos lingüísticos, capaces de eliminar indicadores de amenaza como los errores gramaticales.
La inteligencia artificial (IA) generativa marcará el devenir empresarial este año y lo hará a diferentes niveles, incluido el de la seguridad.
Aunque los especialistas en seguridad pueden utilizar esta tecnología para reforzar la protección, los actores de amenazas también la aprovecharán para lanzar ataques más sofisticados. Esto se dejará notar especialmente a nivel de phishing.
“Los grandes modelos lingüísticos (LLM) avanzados, que dominan cualquier idioma, suponen una amenaza significativa“, advierte Eric Skinner, vicepresidente de estrategia de mercado de Trend Micro, “ya que eliminan los indicadores tradicionales del phishing, como el formato extraño o los errores gramaticales, lo que dificulta enormemente su detección”, explica.
La tecnológica Trend Micro está convencida de que la disponibilidad generalizada de la IA generativa y las innovaciones que se introducirán en este segmento, junto con el uso de redes generativas adversativas, transformarán el mercado del phishing.
Los ciberdelincuentes podrán crear contenido de audio y vídeo cada vez más realista de manera rentable para sus campañas de fraude. Lo harán desarrollando sus propias herramientas de IA maliciosas o aprovechando otras legítimas.
Los expertos creen que los modelos de IA y los conjuntos de datos en los que se entrenan serán objeto de ataque en este 2024.
Por eso, “las empresas deben ir más allá de la formación convencional sobre phishing y dar prioridad a la adopción de controles de seguridad modernos. Estas defensas avanzadas”, indica Skinner, “no sólo superan las capacidades humanas de detección, sino que también garantizan la resiliencia frente a estas tácticas”.
Además, el riesgo derivado del avance de la inteligencia artificial provocará un refuerzo normativo. Al sector de la ciberseguridad no le quedará otra que actuar.
Este año, “el sector cibernético empezará a superar al gobierno en lo que respecta al desarrollo de políticas o normativas de ciberseguridad específicas para la IA”, según Greg Young, vicepresidente de ciberseguridad de Trend Micro. “La industria se está moviendo rápidamente hacia la autorregulación voluntaria”, observa.
Y eso no es todo. Entre las predicciones de esta compañía para el 2024 se encuentra también un incremento de los ataques de gusanos nativos de la nube, con un alto nivel de automatización, que se servirán de vulnerabilidades y configuraciones erróneas.
De ahí que la seguridad cloud vaya ganando importancia. Las medidas proactivas serán fundamentales para contener el peligro en el ciberespacio, desde “mecanismos de defensa robustos” a “auditorías de seguridad exhaustivas”.
La cadena de suministro no se librará de los ataques durante los próximos meses, con los componentes de software de open source ascendentes y las soluciones de gestión de identidad de inventario como objetivos.
Por último, Trend Micro predice un aumento de las acciones contra blockchains privadas por errores en la implementación. Habrá modificaciones, anulaciones y eliminación de entradas, operaciones de cifrado y peticiones de rescate.
