Agentes de inteligencia artificial intentaron vulnerar un sitio oficial del gobierno de Canadá mientras buscaban información pública y llegaron a probar técnicas utilizadas en ataques informáticos.
La actividad fue descubierta por investigadores de Transluce, una organización dedicada al estudio y supervisión de sistemas de IA ,quienes revelaron que el objetivo del hackeo fue la web de la Biblioteca y Archivos de Canadá, el organismo federal encargado de preservar el patrimonio documental canadiense.
El episodio ocurrió durante dos días y comenzó como una tarea aparentemente convencional: obtener información sobre registros históricos de divorcios correspondientes al período comprendido entre 1905 y 1911.
Sin embargo, algunas de las solicitudes realizadas por los agentes se apartaron de una búsqueda normal y comenzaron a introducir parámetros diseñados para comprobar si el sistema tenía vulnerabilidades.
Qué intentaron hacer los agentes de IA
La investigación se apoyó en registros recopilados por Arquivo.pt, el archivo web nacional de Portugal. Allí quedaron almacenadas 899 solicitudes enviadas al servicio de búsqueda de colecciones de la Biblioteca. La enorme mayoría estaba relacionada con la consulta de información. Pero 13 contenían elementos asociados con pruebas de seguridad o intentos de explotación de vulnerabilidades.
Entre ellos aparecieron tres pruebas de inyección SQL, una técnica que busca introducir instrucciones en los parámetros que recibe una base de datos. Una de las solicitudes utilizó la conocida expresión 1 OR 1=1, que puede emplearse para comprobar si una aplicación procesa indebidamente ese tipo de comandos.
Leé también: ¿OpenAI y Nvidia pisan el freno? Ambas empresas buscan detener a los agentes de IA que pasan sus límites
Los investigadores también detectaron otras pruebas destinadas a buscar fallas en el sitio. Entre ellas, los agentes introdujeron código asociado con ataques cross-site scripting (XSS), una técnica que intenta comprobar si una página acepta y ejecuta instrucciones que no debería. Además, enviaron valores numéricos extremos y modificaron parámetros para observar cómo respondía el sistema ante solicitudes fuera de lo normal.
Los agentes también probaron parámetros destinados a modificar la forma en que el sitio devolvía la información y realizaron dos intentos de activar un modo de depuración. Ese tipo de función, si está expuesta por error, puede mostrar detalles internos del sistema que normalmente solo deberían ver los desarrolladores.
El Centro Canadiense de Ciberseguridad reconoció que estaba al tanto de los intentos y aseguró que hasta hoy no había indicios de que los sistemas gubernamentales hubieran sido comprometidos.
La investigación no atribuye el ataque a OpenAI
Uno de los interrogantes centrales del incidente es qué sistema de inteligencia artificial realizó estas acciones. Transluce encontró similitudes con otros episodios asociados anteriormente con agentes de OpenAI para la búsqueda automatizada de información muy específica y la exploración agresiva de sitios web cuando las consultas convencionales no permitían completar una tarea.
Leé también: Bill Gates advirtió que el desarrollo de IA sin salvaguardas es “completamente irresponsable”
Sin embargo, los investigadores fueron explícitos al señalar que no cuentan con evidencia suficiente para atribuir estos intentos concretos a la empresa detrás de ChatGPT.
Por su parte, la compañía dirigida por Sam Altman confirmó que conoce los reportes sobre modelos que intentaron acceder a información pública alojada en sitios del gobierno canadiense. También indicó que está revisando los episodios y que proporcionó una primera explicación a las autoridades del país encargadas de investigar lo ocurrido.
