CyberArk presenta una herramienta para abordar vulnerabilidades en modelos de inteligencia artificial (IA o AI por sus siglas en inglés), tanto internos como alojados en la nube.
Se llama Fuzzy AI, es una solución de código abierto y permite probar los modelos frente a diferentes técnicas de ataque para detectar puntos débiles.
Esto le permite exponer problemáticas como elusiones de barreras de protección, inyección o fuga de información y generación de resultados dañinos. Las empresas tienen la posibilidad de adaptar las pruebas añadiendo sus propios métodos de ataque.
“El lanzamiento de FuzzyAI subraya el compromiso de CyberArk con la seguridad de la IA y ayuda a las organizaciones a dar un importante paso adelante en la resolución de los problemas de seguridad inherentes al cambiante panorama del uso de modelos de inteligencia artificial“, apunta el director de Producto de CyberArk, Peretz Regev.
“Desarrollado por CyberArk Labs, FuzzyAI ha demostrado la capacidad de hacer jailbreak a todos los modelos de IA probados”, apunta.
“Asimismo”, prosigue, “permite a las organizaciones identificar debilidades y fortalecer sus sistemas de IA contra las amenazas emergentes”.
Para el cuarto trimestre de 2024 espera estar cerca de los 50.000 millones de euros…
Los nuevos dispositivos para protección de datos de Synology unifican la copia de seguridad, la…
Combinan sus soluciones para detectar malware sin archivos y ransomware avanzado antes de que causen…
Esto incluye 1.500 municipios en la frecuencia de 3.500 MHz.
Este proveedor de soluciones para contabilidad, facturación electrónica y declaración de impuestos online trabaja en…
También se dirige al segmento de los creadores y los jugadores con otros lanzamientos: Intel…