El uso de herramientas de inteligencia artificial en el ámbito legal plantea un dilema que la profesión todavía no logra resolver: ¿hasta qué punto puede delegarse en una máquina una tarea que requiere precisión, criterio y responsabilidad ética?
Hace poco, en Chubut, la Cámara Penal de Esquel anuló una condena luego de descubrir que el juez que la había dictado utilizó inteligencia artificial para su redacción.
Leé también: La inteligencia artificial en el Derecho: así impacta la IA en la Justicia y el sistema legal argentino
El caso, que expuso de forma concreta el riesgo de usar estas tecnologías sin supervisión humana, no es aislado y se suma a una serie de procesos en distintos países donde profesionales del derecho enfrentan multas, suspensiones y denuncias por confiar ciegamente en lo que redactan los chatbots.
Según un relevamiento realizado por el abogado y analista de IA Damien Charlotin, al menos 23 profesionales fueron sancionados desde 2023 por usar inteligencia artificial para redactar documentos legales que incluían fallos inexistentes, argumentos inventados o referencias imposibles de verificar.
Algunos jueces describen el fenómeno como una verdadera epidemia de alucinaciones de IA dentro de los tribunales.
Los castigos van desde multas de 150 hasta 85.000 dólares, suspensión temporal, devolución de honorarios e incluso derivaciones a comités disciplinarios. En casi todos los casos, los jueces remarcaron que admitir el error de inmediato y capacitarse en el uso responsable de estas herramientas habría reducido significativamente las sanciones. Sin embargo, no todos los abogados optaron por la honestidad.
Leé también: Sancionaron en Estados Unidos al primer robot abogado con inteligencia artificial por publicidad engañosa
“Me hackearon” y otras excusas insólitas
Entre las justificaciones más repetidas, varias rozan lo absurdo. Algunos abogados aseguraron que no sabían que el texto había sido generado por IA o pensaron que provenía de una respuesta común de Google. Otros culparon a asistentes, clientes o a la prisa por entregar un escrito.
El caso más extremo ocurrió en Nueva York: un abogado primero admitió haber usado Copilot para redactar su presentación, pero luego afirmó que un hackeo y un malware habían modificado su documento y agregado las citas falsas. El juez desestimó la explicación por increíble y sin sustento y lo sancionó con una multa de 1000 dólares y una denuncia ante el comité de ética.
En Alabama, otro abogado alegó que terminó usando IA por un motivo insólito: “Cambiar entre pestañas en la computadora es difícil”. El letrado dijo que, bajo presión y en un hospital acompañando a un familiar, optó por una herramienta automática dentro de Word porque le resultaba más cómodo que usar el software oficial de investigación legal. El argumento no convenció al juez, que le impuso una multa de 5000 dólares y calificó su conducta como “mala fe”.
Leé también: Crece el uso de la Inteligencia Artificial en consultas de salud: ¿ChatGPT es confiable como un médico?
“No pude entrar al sistema” y “era un borrador”
También hubo quienes culparon problemas técnicos. Una abogada de Iowa explicó que recurrió a una herramienta de IA porque no podía iniciar sesión en su cuenta de Westlaw, una base de datos jurídica profesional. Aunque el tribunal mostró comprensión, igual la sancionó, dándole la opción de pagar una multa simbólica o asistir a clases sobre ética y tecnología.
Otros intentaron decir que presentaron por error un borrador generado por IA en lugar del documento final. Y algunos, incluso, mintieron sobre las herramientas utilizadas, y atribuyeron los errores a plataformas como Westlaw o LexisNexis para ocultar el uso de chatbots.
“Abogados alucinadores” y un mensaje claro de los jueces
Las sanciones no solo buscan castigar, sino también enviar un mensaje a la profesión. Varios magistrados advirtieron que ya no hay excusa válida para no saber que los sistemas de IA pueden inventar información. Uno de ellos llegó a calificar a ciertos profesionales como “alucinadores seriales” por reincidir en este tipo de prácticas.
Leé también: La inteligencia artificial: ¿una nueva cómplice para cometer delitos?
El juez Michael Slade, de Illinois, fue tajante: “A esta altura, cualquier abogado que no sepa que usar IA generativa para hacer una investigación legal es jugar con fuego, vive en una nube.”
Mientras tanto, los tribunales siguen ajustando sus normas para exigir que todos los abogados verifiquen las citas y asuman la responsabilidad de lo que presentan. Porque, como ya quedó claro, la IA puede ser una aliada poderosa… o el motivo de una sanción pública y costosa.
