Ya está disponible AMD ROCm 6.2
Esta versión ofrece compatibilidad ampliada con vLLM y FP8 y nuevas herramientas de perfilado Omnitrace y Omniperf.
Ya está aquí. AMD ha hecho oficial la nueva versión de su software de código abierto ROCm, que incluye modelos de programación, herramientas, compiladores, bibliotecas y tiempos de ejecución.
ROCm se utiliza para desarrollar soluciones de inteligencia artificial (IA) y computación de alto rendimiento (HPC) en las GPU de la compañía norteamericana.
AMD lanza la versión 6.2 de ROCm, que llega con avances tanto en la optimización del rendimiento como en la eficiencia para la familia de aceleradores AMD Instinct. Destaca la compatibilidad ampliada con vLLM.
Otras de sus principales características son nuevas herramientas de perfilado Omnitrace y Omniperf, nueva función Bitsandbytes con la que impulsa la eficiencia y el rendimiento de memoria y nuevo creador del instalador sin necesidad de conexión a red.
AMD también avanza en la compatibilidad con FP8 para ahondar en la inferencia de inteligencia artificial a través del entrenamiento y menor uso de la memoria.
