Por qué la inteligencia artificial inventa respuestas cuando no conoce la verdad

Los chatbots de inteligencia artificial pueden ofrecer respuestas convincentes aunque no dispongan de información suficiente, un fenómeno conocido como «alucinación». Una investigación de OpenAI lo ilustra con un caso sobre la tesis doctoral de Adam Tauman Kalai: el sistema dio tres títulos diferentes y ninguno era correcto.

Un estudio histórico del MIT aporta una posible pista sobre el origen de estas herramientas. Algunos pioneros de la inteligencia artificial introdujeron deliberadamente cierto grado de azar en los primeros sistemas porque buscaban máquinas capaces de generar respuestas inesperadas y potencialmente creativas.

El historiador Benjamin Lindquist sostiene que reducir por completo las respuestas imprevistas podría tener un coste para la creatividad. Sin embargo, el texto subraya que generar una posibilidad y comprobar si es válida son tareas distintas: una propuesta sorprendente solo se convierte en un hallazgo cuando se contrasta.

La investigadora Margaret Boden distingue entre combinar ideas conocidas, explorar posibilidades y transformar las reglas de un ámbito. En todos los casos, una máquina puede producir una ocurrencia novedosa, pero todavía es necesario verificar si resuelve realmente el problema o si se basa en hechos ciertos.

Entre las técnicas para detectar respuestas sin fundamento figura la «entropía semántica», que compara varias contestaciones a una misma pregunta y busca incompatibilidades entre ellas. El método puede revelar incertidumbre, aunque no garantiza la verdad, ya que un modelo también puede repetir de forma sistemática el mismo error.

El entrenamiento de estos sistemas se basa principalmente en predecir cómo continúa un texto, no en etiquetar cada afirmación como verdadera o falsa. Además, OpenAI advierte de que las evaluaciones pueden incentivar respuestas arriesgadas si penalizan poco los errores y no valoran suficientemente abstenerse. Para mejorar la fiabilidad, los investigadores plantean dar más peso a reconocer la duda que a ofrecer una respuesta falsa con seguridad. Es una cuestión relevante también para los usuarios de Palma y del resto de Mallorca, que recurren cada vez más a estas herramientas.

Información elaborada a partir de Diario de Mallorca.