Microsoft entrega más herramientas para crear aplicaciones de IA generativa

Microsoft amplía su colección de herramientas para desarrolladores en Azure AI Studio, que ahondan en la capacidad de crear aplicaciones de inteligencia artificial (IA) generativa.

Entre estas herramientas se encuentra Prompt Shields, que ayuda a detectar en tiempo real entradas que son sospechosas y bloquearlas para que no alcancen el modelo base. Y, así, evitar ataques de inyección de prompts, tanto directos como indirectos.

Otra novedad es Groundedness detection. En su caso contribuye a la identificación de alucinaciones basadas en texto. Es capaz de detectar material que no está fundamentado con el objetivo de mejorar los resultados de los modelos de lenguaje de gran tamaño (LLM).

Microsoft pondrá a disposición de los desarrolladores plantillas de mensajes de sistema de seguridad en los playgrounds Azure AI Studio y Azure OpenAI Service. Lo hará de forma predeterminada para reducir el contenido dañino y los usos indebidos.

También relacionado con la seguridad, anuncia evaluaciones automatizadas para métricas de riesgo que miden la susceptibilidad de las aplicaciones frente a tentativas de jailbreak. Microsoft busca combatir el contenido violento, relacionado con autolesiones, que incite al odio, sexual o injusto.

Además, introduce la monitorización de riesgos y seguridad en Azure OpenAI Service. Permitirá visualizar volumen, gravedad y categoría de las entradas de usuario y las salidas del modelo bloqueadas por filtros. Asimismo, incluirá informes para identificar abusos.

Redacción Silicon

La redacción de Silicon está compuesta por profesionales del periodismo 2.0

Recent Posts

Comprender el valor de la modularidad, tarea pendiente de los directivos

Un estudio de IFS, Boom e IDC revela que solamente un 19 % de las…

1 hora ago

Un 67 % de los consumidores rechaza en España a aquellas empresas que no protegen sus datos

Para garantizar la privacidad, el 30 % se ha pasado a otra compañía durante el…

2 horas ago

Phishing personalizado, malware adaptable y otras tendencias de ciberseguridad para 2025

Check Point Software Technologies prevé que los avances en inteligencia artificial permitirán a pequeños grupos…

3 horas ago

2 de cada 10 españoles usan herramientas de IA como ChatGPT

El 7 % de los internautas recurre a estas aplicaciones de forma habitual y cerca…

4 horas ago

CISO, perfil tecnológico que recibirá la mayor subida salarial en 2025

Le siguen otros profesionales como el gerente de gobernanza, el gestor de datos y el…

5 horas ago

Las 6 profesiones tecnológicas con mayor futuro

Desde el ingeniero en inteligencia artificial al ingeniero de 'prompts', son varios los perfiles que…

1 día ago