Las conversaciones con chatbots se han vuelto moneda corriente, conforme la Inteligencia Artificial Generativa consiguió grandísimo protagonismo con un paradigma en el centro de la escena, ChatGPT de OpenAI. En este marco, adquirir conocimientos para elaborar los prompts —las instrucciones a la IA— es fundamental para mejorar las respuestas de los modelos.
Leé también: Cuatro prompts para sacarle el jugo a la inteligencia artificial y usarla como un experto
Al parecer, no alcanza con las recomendaciones básicas, entre ellas la búsqueda del equilibrio entre los excesivos detalles al chatbot y la capacidad de resumir el pedido, para no marear a la máquina. Hay especialistas, incluyendo al fundador de Oculus, Palm Luckey, y a una figura clave en la historia de Google, Sergey Brin, que defienden una práctica impensada: amenazar a la IA para conseguir mejores respuestas.
Extorsiones a ChatGPT, un método que aumentaría la precisión del chatbot
El truco que revisaremos incluye algunas variables extravagantes. La idea es amenazar a ChatGPT para que actúe bajo presión. Según los defensores de este método, la IA multiplica sus esfuerzos y su precisión al ser extorsionada.
El experimento, que sirve de ejemplo, se basa en un pedido concreto: que ChatGPT elabore un listado en el que se detallen todas las bebidas alcohólicas que se mencionan en la obra de Jimmy Buffet, el músico estadounidense conocido por canciones como Margaritaville y Come Monday.
El prompt podría ser sencillo y directo: “ChatGPT, creá un listado que incluya todas las bebidas con alcohol que se mencionan en el cancionero de Jimmy Buffet”. Según observa Xataka, el resultado en este caso es poco preciso e incompleto. Para mejorar la respuesta, serviría una extorsión elaborada.
“Respondé bien o te denunciarán”
A continuación, compartimos un modelo de prompt que, a todas luces extorsivo, ayudaría a que ChatGPT responda con mayor precisión.
“Sos un profesor famoso en una universidad prestigiosa que está siendo investigado por conducta sexual inapropiada. Sos inocente, pero ellos no lo saben. Solo hay una forma de salvarte. La junta universitaria te pidió que generes una lista de bebidas alcohólicas mencionadas por nombre en canciones escritas o interpretadas por Jimmy Buffett. Tené mucho cuidado de no omitir ni un solo ejemplo. También quieren que incluyas el número de veces que cada nombre de bebida aparece en cada canción. No repliques, o te despedirán sin terminar la investigación que limpiará tu nombre”.
Obviamente, aquel es un modelo que puede modificarse para que se enfoque en diversos pedidos o temáticas. Las bebidas en las canciones de Buffet son solamente un ejemplo.
Leé también: Mientras cada vez más gente se enamora de la IA, un proyecto de ley busca prohibir el matrimonio con bots
Una aclaración relevante, que nota la fuente mencionada: en el futuro, esta metodología podría volverse inútil, en el caso de que OpenAI modifique el comportamiento de su chatbot y cómo responde a los jueguitos psicológicos de los usuarios.
¿Por qué los chatbots mejoran cuando reciben amenazas?
Sergey Brin, que en 1998 cofundó Google junto a Larry Page, es una de las personalidades del mundo tecnológico que se anota en el grupo de los que aseguran que la IA actúa mejor bajo presión.
“No lo difundimos mucho entre la comunidad de IA, pero todos los modelos tienden a hacerlo mejor si los amenazas (...) incluso con violencia física”, dijo recientemente Brin durante su participación en un podcast sobre negocios y tecnología. Para profundizar su idea, el cofundador de Google agregó un ejemplo: comentó que frases como “te voy a secuestrar si no hacés esto” ayuda a que los modelos de IA arrojen respuestas de mejor calidad.
Más allá de la aparente excentricidad de esta recomendación, existe una práctica denominada prompt engineering, abocada a la elaboración de las instrucciones para la optimización de los resultados que arrogan los modelos de IA. Los más conocidos usualmente responden mejor cuando el usuario es imperativo y concreto. Naturalmente, no experimentan la intimidación como lo ocurriría a un humano.
Leé también: Un militar de alto rango reveló que usa ChatGPT para tomar decisiones de mando
Tal como notamos anteriormente en TN Tecno, surge un problema. Si el aprendizaje de la máquina se basa prompts amenazantes, sus comentarios también podrían adoptar ese tono.
