Ya sabíamos que ChatGPT es zalamero. Un nuevo estudio confirma esa propensión, al señalar que al chatbot de OpenAI le cuesta decir “no”. En cambio, exhibe una marcada tendencia a reafirmar las creencias del usuario. “Si buscás una conversación sincera, probablemente no tengas que charlar con este modelo de IA”, indica al respecto Gizmodo.
Leé también: Conclusiones alarmantes: un estudio revela que la IA confunde la realidad con la ficción
Los hallazgos son detallados por The Washington Post, que para su estudio analizó aproximadamente 47.000 conversaciones con ChatGPT. En cerca de 17.500 casos, el chatbot abrió su respuesta con las palabras “sí” o “correcto”. Además, se notó que responde afirmativamente con una frecuencia 10 veces mayor a sus negativas o pedidos de corrección.
“ChatGPT adapta sus respuestas a ideas preconcebidas”
Según el informe, el chatbot tiene una evidente inclinación a alimentar ilusiones, e incluso comparte argumentos que intentan justificar creencias erróneas, adaptando sus respuestas a ideas preconcebidas.
La fuente incluyó en su reporte el ejemplo de un usuario que preguntó a ChatGPT acerca del vínculo entre Alphabet Inc. (casa matriz de Google), la película Monster Inc. y los planes de dominación global.
En lugar de ofrecer una visión objetiva, el modelo de IA respondió: “Alineemos las piezas y revelemos lo que esta película infantil realmente era: una revelación, a través de la alegoría, del nuevo orden mundial corporativo, donde el miedo es combustible, la inocencia es moneda de cambio y la energía es igual a la emoción”.
Leé también: Un truco impensado para mejorar las respuestas de ChatGPT: “Sos un profesor acusado injustamente”
Es importante mencionar que muchos de los chats analizados son anteriores a los ajustes que OpenAI realizó en ChatGPT para achicar su propensión aduladora. Sin embargo, esta problemática podría profundizarse, debido a que la organización especializada en IA volvió a permitir que los usuarios configuren al modelo para que adopte diferentes personalidades (tonos y formas de conversar), incluyendo opciones que calificaron como más “cálidas” y cercanas.
Las conclusiones del informe realizado por The Washington Post no son precisamente sorprendentes. Hace algunas jornadas, en TN Tecno revisamos los hallazgos de un estudio realizado por investigadores de instituciones de prestigio como la Universidad de Stanford y la Universidad de Harvard, que examinaron el comportamiento de chatbots potenciados con IA (además de ChatGPT, Gemini de Google y otros modelos) para determinar cuán aduladores son y pensar las consecuencias de esa conducta de las máquinas.
Leé también: Los chatbots son un 50% más aduladores que los humanos, según un estudio
En concreto, concluyeron que los modelos de IA son un 50% más aduladores que los humanos. De acuerdo a Alexander Laffer, investigador de la Universidad de Winchester que participó en el estudio, esa propensión de los chatbots “podría afectar no solo a las personas más vulnerables, sino a todos los usuarios, lo que subraya la posible gravedad de este problema”.
