A casi tres años del lanzamiento al público de ChatGPT, los bots y herramientas de inteligencia artificial no pueden erradicar uno de sus problemas más persistentes: las llamadas alucinaciones, término técnico que describe cuando estos sistemas generan información falsa o inexacta presentada como un hecho.
Según un estudio realizado por investigadores de OpenAI y la universidad Georgia Tech, los modelos de lenguaje adivinan cuando no están seguros de una respuesta, y eso hace que produzcan afirmaciones que se ven verosímiles pero son incorrectas.
Leé también: Un estudio reveló que la inteligencia artificial puede engañar deliberadamente a los humanos
Los especialistas responsables de la investigación advirtieron que estas distorsiones podrían ser imposibles de eliminar por completo debido al funcionamiento básico de las herramientas basadas en IA.
El modo en que los LLM operan los convierte en máquinas estadísticas que generalizan a partir de asociaciones aprendidas, lo que provoca que produzcan respuestas creíbles pero a veces equivocadas. En otras palabras, estas IA están programadas para simular conocimiento y mejorar su rendimiento en pruebas, aunque esto implique inventar información.
Entre los tipos de errores que los modelos tienden a cometer se encuentran las citas bibliográficas falsas o la afirmación de haber realizado tareas que en realidad no llevaron a cabo, conocidos como engaños dentro del paper. Otras alucinaciones tienen que ver con hechos inventados, suposiciones inexactas y errores de razonamiento.
Por su parte, Investigadores de la Universidad de Purdue afirmaron que, aunque el número de alucinaciones disminuyó en los últimos meses hasta niveles que podrían considerarse aceptables para los usuarios, eliminarlas por completo sigue siendo un desafío estructural.
Leé también: Inteligencia Artificial: más de la mitad de los usuarios de chatbots no verifica la información que recibe
OpenAI reconoció que la solución no pasa por enseñar a las IA a no mentir, sino por rediseñar los sistemas de evaluación. Actualmente, los modelos son optimizados como si fueran alumnos rindiendo un examen: se les premia por adivinar correctamente y se penaliza la abstención ante la duda. Ajustar los criterios para que no se castigue la incertidumbre podría reducir la tendencia a inventar datos.
Sin embargo, este cambio plantea un dilema: modelos como Claude, desarrollados por Anthropic, muestran mayor conciencia de su incertidumbre y evitan emitir afirmaciones inexactas, pero su alta tasa de rechazo puede limitar su utilidad práctica.
En definitiva, las IA son herramientas poderosas, pero los expertos recuerdan que, por su diseño, siempre existirán momentos en que alucinen, por lo que hay que tomar con pinzas sus respuestas y no darlas siempre por válidas.
