El nuevo boom de la Inteligencia Artificial ha revolucionado las costumbres en numerosos ámbitos. El sector de la educación no escapa a esta lógica: hay múltiples usos provechosos e interesantes, que emplean esas tecnologías para la mejora en el aprendizaje; y, en paralelo, casos en los que la automatización va en desmedro de las prácticas de estudio aconsejadas.
Leé también: Enseñar en la era de la IA: desafíos y oportunidades para docentes y estudiantes
Con la intención de echar luz sobre ese panorama, la Universidad Católica Australiana (ACU, por sus siglas en inglés) recientemente acusó al 90% de sus estudiantes de usar sistemas de IA para hacer trampa en sus trabajos académicos.
El problema fue que para ese relevamiento, la institución también usó un modelo de IA que arrojó conclusiones erróneas.
El acusador, acusado: IA y trampas académicas en ambos lados del mostrador
Un informe del sitio Futurism reveló el accionar de la ACU que, para descubrir si sus alumnos usan IA tramposamente, también usó un sistema de IA.
El panorama es el siguiente: en la era de la Inteligencia Artificial Generativa, chatbots como ChatGPT de OpenAI y Google Gemini, entre otros, permiten crear textos en un abrir y cerrar de ojos, partiendo de simples instrucciones. Por mencionar un par de ejemplos, el usuario puede pedir que la IA cree un escrito de 20 páginas en el que se analicen las características de la obra de Jorge Luis Borges; o un texto resumido que repase los acontecimientos de la Segunda Guerra Mundial.
En ese marco, diversas instituciones, entre ellas la ACU, echaron mano a los denominados detectores de textos generados con IA. En la práctica, son sistemas que revisan ciertas marcas en el contenido, desde etiquetas que no son evidentes a simple vista, hasta frases recurrentes de los modelos. El problema es que esas herramientas también se basan en IA y, en tanto, sus resultados pueden ser inexactos.
Leé también: “Aquí tienes tu texto listo para copiar y pegar”: anularon una sentencia porque el juez usó IA para redactarla
En específico, la ACU usó el programa Turnitin, un clásico en centros educativos para la detección de plagios, que en el 2023 sumó funciones para identificar textos generados con IA. A pesar de que los propios desarrolladores de ese software advierten que no debe ser la única fuente para acusar a un estudiante, el informe de la universidad australiana se basó en sus conclusiones como única prueba.
Tras los señalamientos por su proceder, las autoridades de la ACU aseguran que revirtieron al menos un cuarto de sus acusaciones. Además, decidieron dejar de usar el mencionado software para este tipo de indagaciones.
El caso de un profesor que premia a los alumnos que usan IA
En abril, en TN Tecno contó el caso de un profesor que invita a que sus estudiantes usen IA en sus trabajos. “Este cuatrimestre, por primera vez, estamos concediendo un punto extra en la nota para los alumnos que hagan parte de una práctica con ChatGPT y lo justifiquen correctamente”, escribió en un tuit Carlos Fenollosa, profesor de Ingeniería Informática en la Universidad Politécnica de Cataluña (UPC). “Lo iban a hacer igualmente. Al menos, les ayudaremos a usarlo correctamente”, justificó.
Se trata de un plan dirigido a alumnos universitarios que ya están familiarizados con el chatbot. Además, Fenollosa es profesor de una materia que trata, precisamente, sobre esos avances. En su clase enseña cómo funcionan los modelos de lenguaje masivo, acerca de sus beneficios y también los riesgos que derivan del uso de esos sistemas. También les enseñó cómo generar correctamente los prompts, que en la jerga son las indicaciones por escrito, del usuario hacia el modelo.
Leé también: La IA es provechosa y también peligrosa: ¿cómo proteger a los chicos de los riesgos?
El docente señaló que usar IA para estas tareas no se trata meramente de copiar y pegar texto. “Decidimos darle la vuelta para atacarlo de manera proactiva y que los alumnos adquirieran esta competencia con un cierto rigor académico”, agregó Fenollosa.
Naturalmente, los beneficios de la herramienta se consiguen con un uso adecuado. En este caso, el docente recomendó:
- Estar atentos a las “alucinaciones” de los modelos de IA que, en criollo, son los errores que cometen esos sistemas que, además, en ocasiones inventan datos.
- Usar herramientas de verificación, como Scite o Consensus.
- Es clave la cita de las fuentes: conviene pedir a la IA que siempre indique de dónde extrajo la información.
