Vectara, la plataforma de productos de IA generativa de confianza, ha anunciado la inclusión de una Puntuación de Coherencia Fáctica (FCS, por sus siglas en inglés) para todas las respuestas generativas basadas en una versión evolucionada del modelo de evaluación de alucinaciones de Hughes (HHEM, por sus siglas en inglés), el modelo de detección de alucinaciones número 1 en Hugging Face con más de 100 000 descargas desde su lanzamiento el pasado noviembre. El Hallucination Leaderboard asociado es ahora el estándar de la industria para que los LLM evalúen su coherencia fáctica media. La plataforma “Retrieval Augmented Generation-as-a-service” (RAGaaS) de extremo a extremo de Vectara define un nuevo estándar como una característica pionera en la industria para la transparencia de respuestas de GenAI al proporcionar observabilidad RAG de extremo a extremo en tiempo real. Esta innovadora métrica proporciona una visibilidad desconocida hasta la fecha sobre la coherencia fáctica de las respuestas resumidas dentro de la plataforma RAGaaS de Vectara, lo que permite a los usuarios establecer umbrales personalizados para la aceptación de respuestas basados en una puntuación de precisión detallada.
Dado que las tasas medias de alucinación de los LLM en el mercado oscilan entre el 3% y el 16,2%, el riesgo de imprecisiones desconocidas en su respuesta sigue siendo una gran preocupación, lo que impide la adopción generalizada de esta potente tecnología por parte de las empresas. Vectara mitiga esta ambigüedad proporcionando una Puntuación de Coherencia Fáctica que califica la probabilidad de que la respuesta generada sea o no una alucinación. Solo con un método estandarizado y científicamente calculado para calificar las respuestas las empresas pueden introducir GenAI de forma responsable en aplicaciones críticas para el negocio. Los usuarios tienen la posibilidad de establecer umbrales para la aceptación de respuestas basados en una puntuación de precisión detallada, lo que ofrece a los equipos de producto la flexibilidad necesaria para actuar sobre esta información según sus preferencias.
La Puntuación de Coherencia Fáctica de Vectara es una herramienta innovadora en GenAI, que establece un nuevo punto de referencia para la detección de alucinaciones en tiempo real y ofrece un rendimiento, asequibilidad y velocidad superiores, un verdadero salto cuántico en términos de confianza. Su eficiencia y eficacia permiten a las empresas desplegar GenAI en casos de uso de productos críticos sin preocuparse por la exposición a responsabilidades que puedan surgir de respuestas alucinadas.
La Puntuación de Coherencia Fáctica de Vectara ofrece a los desarrolladores la capacidad de perfeccionar y mejorar una amplia gama de aplicaciones, desde los sistemas internos de preguntas y respuestas hasta la calidad de las interacciones con los consumidores finales. La fuerza de esta puntuación reside en su calibración, que la hace interpretable como una probabilidad directa: por ejemplo, una puntuación de 0,98 indica una probabilidad del 98% de coherencia fáctica. Esto contrasta en gran medida con muchos clasificadores ML contemporáneos que no tienen en cuenta la calibración y sacrifican la claridad y la posibilidad de interpretación directa.
“La integración de la Puntuación de Coherencia Fáctica de Vectara en la aplicación Yobi revolucionará la forma en que gestionamos la transparencia y la precisión de la IA para los casos de uso empresarial. Al proporcionar visibilidad y responsabilidad en las respuestas de nuestra plataforma, podemos mantenernos fieles a nuestro compromiso con una IA responsable en la que las empresas puedan confiar”, declaró Ahmed Reza, fundador y director ejecutivo de la aplicación Yobi. “Como socio de innovación conjunta con Vectara, estamos encantados de ver una tecnología tan avanzada incorporada directamente en la plataforma Vectara”.
El modelo HHEM avanzado que impulsa la Puntuación de Coherencia Fáctica proporciona una mayor visibilidad que las versiones de código abierto publicadas anteriormente, además de ofrecer mayor precisión y un mayor soporte lingüístico. Esta iniciativa forma parte del compromiso de Vectara con la transparencia y el control, dotando a las empresas de autonomía para gestionar eficazmente las respuestas de la IA.
“Al igual que fuimos pioneros en RAG para mejorar la relevancia y la calidad del contenido generado, una vez más nos ponemos a la vanguardia de la IA responsable al ser completamente abiertos sobre nuestros esfuerzos para mitigar las alucinaciones en la IA Generativa”, explicó Amr Awadallah, cofundador y director ejecutivo de Vectara. “Al proporcionar a nuestros clientes acceso en tiempo real a las Puntuaciones de Coherencia Fáctica, no solo estamos diseñando la confianza; les estamos entregando el control, para que puedan tomar decisiones fundamentadas sobre cómo utilizar las respuestas generadas por nuestra plataforma RAGaaS”.
Acerca de Vectara
Vectara es una plataforma completa para integrar potentes funciones de IA generativa en aplicaciones con resultados extraordinarios. Como plataforma integral de Generación Aumentada de Recuperación (RAG, por sus siglas en inglés), Vectara ofrece el camino más corto a una respuesta/acción correcta a través de un punto de entrada seguro y de confianza. Vectara nunca se entrena sobre sus datos, lo que permite a las empresas integrar capacidades de IA generativa sin riesgo de violación de datos o privacidad. Para obtener más información, visite vectara.com.
El texto original en el idioma fuente de este comunicado es la versión oficial autorizada. Las traducciones solo se suministran como adaptación y deben cotejarse con el texto en el idioma fuente, que es la única versión del texto que tendrá un efecto legal.
Vea la versión original en businesswire.com: https://www.businesswire.com/news/home/20240326338865/es/