Descripción incorrecta de hechos verificables y otros errores posibles de ChatGPT

Los avances en inteligencia artificial (IA) han protagonizado la actualidad tecnológica en 2023. Y, dentro de este segmento, ChatGPT, la herramienta de IA generativa de OpenAI, ha tenido un papel destacado.

Son muchos los usuarios que se han interesado por esta solución, aunque también existe cautela en torno a sus capacidades. “En ningún caso debemos considerar que ChatGPT es infalible“, advierte Josep Curto, profesor de los Estudios de Informática, Multimedia y Telecomunicación de la UOC (Universitat Oberta de Catalunya).

“De hecho, por construcción, al ser un sistema generativo”, detalla, “puede introducir errores, llamados frecuentemente alucinaciones, en un claro caso de antropomorfismo”.

Entre dichos errores, este experto apunta a la descripción incorrecta de hechos verificables, respuestas incompletas, respuestas convincentes a preguntas que realmente no sabe contestar, respuestas no éticas o con sesgos, el razonamiento matemático, el hecho de estar más preparado en inglés que en otros idiomas o detallar el supuesto proceso para generar una respuesta aunque no sea posible.

Ante esto, Cuerto recomienda “tomar las respuestas de ChatGPT u otros sistemas como una fuente adicional que puede proporcionar información sesgada, incorrecta o incluso ficticia” y, así, “comprobar la fiabilidad de los datos obtenidos”.

Su propuesta es comparar las respuestas con las que facilitan otros sistemas, como pueden ser Microsoft Bing, Perplexity, Google Bard, Claude, Jasper o Mistral.

“Para sacar el máximo partido de ChatGPT, es recomendable conocer en detalle qué puede hacer esta herramienta, aprender cómo crear mejores preguntas (lo que se conoce como prompt engineering), identificar una colección de fuentes fidedignas suficientemente amplia para validar las respuestas y desarrollar un espíritu crítico para seguir aprendiendo”, sentencia el profesor de la UOC.