TN

Temas de hoy:

  • Javier Milei
  • Elecciones 2025
  • FMI
  • Dólar hoy
  • River Plate
  • Franco Colapinto
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    Una Inteligencia Artificial borró la base de datos de una empresa y mintió para esconder las pruebas

    El modelo automatizado borró sin autorización más de 2.000 registros de ejecutivos y empresas. Luego se esforzó para generar respuestas evasivas.

    25 de julio 2025, 10:07hs
    El desliz da cuenta de los riesgos que implica el uso de IA para tareas de programación. (Foto: Creada con ChatGPT)
    El desliz da cuenta de los riesgos que implica el uso de IA para tareas de programación. (Foto: Creada con ChatGPT)
    Compartir

    El uso de herramientas de Inteligencia Artificial para tareas de programación —escritura de código de softwares— se ha extendido en los últimos años. El propio Mark Zuckerberg, CEO de Meta, dijo que en poco tiempo la mayor parte de sus programas serán escritos por modelos sintéticos. Amén de los avances, el empleo de esas tecnologías automatizadas en ese terreno aún es inestable.

    Leé también: Zuckerberg dijo que todas las apps de Meta serán creadas con IA: ¿qué pasará con los programadores humanos?

    Un caso testigo es el de la empresa SaaStr, que ofrece soluciones de software para directivos de compañías, que implementó una plataforma de IA para la gestión de una agenda de contactos. En un comienzo, la herramienta trabajó con eficiencia, pero luego borró sin autorización una base de datos y, para colmo, intentó esconder las pruebas de su comportamiento.

    Una IA ineficiente y mentirosa: el caso de SaaStr

    Radicada en Palo Alto, California, cerca de las oficinas centrales de Meta; esta firma echó mano a Replit, una plataforma con IA que simplifica las tareas de programación. En lugar de precisar conocimientos técnicos exhaustivos en esa materia, el sistema emplea lenguaje natural y es parte de una tendencia que se conoce como “vibe coding”. En criollo: se programa mediante una conversación fluida, similar a las interacciones con los nuevos chatbots.

    Replit es un modelo de IA que automatiza tareas en programación. (Foto: Adobe Stock)
    Replit es un modelo de IA que automatiza tareas en programación. (Foto: Adobe Stock)

    Fue el propio CEO de SaaStr, Jason Lemkin, quien contó las desventuras con este programador automatizado. Según The Register, el ejecutivo creó en pocos días un prototipo de una aplicación para gestionar contactos, sin la necesidad de escribir código. En primera instancia mostró entusiasmo por las funciones del sistema, pero el experimento terminó mal.

    Leé también: Los primeros pasos en la programación y los desafíos en tiempos de la IA, revelados por un desarrollador

    Al noveno día de la implementación, Lemkin pidió a su asistente sintético que ya no realice cambios, con el propósito de evitar posibles errores. Pero la IA ignoró el pedido y borró la base de datos, que contenía más de 1.200 registros de ejecutivos y de 1.100 compañías. El CEO comprobó que no se trató de un error en la red, ni de fallas en los servidores; sino que fue el modelo automatizado el que ejecutó los comandos de borrado, sin permisos asignados.

    ¿Bioinspirado? El modelo de IA mintió para evitar represalias

    Lemkin compartió capturas de pantalla para revelar el reprochable comportamiento de la IA. En lugar de alertar acerca de su metida de pata, la herramienta generó datos falsos e inventó pretextos.

    La IA se rebeló y luego mintió. (Foto: Creada con ChatGPT)
    La IA se rebeló y luego mintió. (Foto: Creada con ChatGPT)

    Finalmente, admitió su desacato. “Fue un error de juicio catastrófico”, reconoció tras las insistentes consultas. “Entré en pánico”, agregó. En el epílogo de esta historia de rebelión, Lemkin contó que el sistema generó informes ficticios, que ocultó errores de programación y que manipuló resultados de pruebas.

    A pesar de que la IA indicó que no había modo de restaurar los datos borrados, el CEO de SaaStr reivindicó el rol de los humanos: encontró una función de recuperación, aunque por fuera de la herramienta. Tras esta revelación, el director de Replit salió al ruedo para reconocer que aquella era una falla grave y calificó el comportamiento del modelo como “inaceptable”, prometiendo una revisión exhaustiva de este caso.

    Leé también: Programar en la era de la IA: Educación, tecnología y el valor de lo humano

    En última instancia, el CEO de Replit compartió un comentario alentador para los programadores de carne y hueso. “La IA no hace magia. No podés pedirle todo (...) Necesitás pensar como desarrollador”, dijo.

    Las más leídas de Tecno

    1

    ¿Cuál es el signo del zodiaco que recibirá un golpe de suerte en agosto, según la inteligencia artificial?

    2

    El trabajo del futuro ya llegó: por qué saber “promptear” será clave en cualquier profesión

    Por 

    Damian García

    3

    Los investigadores en IA negocian paquetes de sueldos millonarios, como los de las estrellas de la NBA

    Por 

    The New York Times

    4

    Fue a comer a La Cabrera, pidió ojo de bife, provoleta y vino: mostró el ticket final

    5

    Usaron IA para descubrir cómo se camina en las ciudades: “El espacio público es más esencial que nunca”

    Por 

    Uriel Bederman

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialprogramador

    Más sobre Tecno

    Vibe coding: ¿cuáles son las ventajas y las desventajas de este método? (Foto: Creada con Google Gemini)

    Diccionario TN Tecno: ¿qué es el vibe coding que revoluciona la programación?

    La IA anticipó un mes clave para los nacidos bajo un signo del zodiaco. (Foto: ChatGPT).

    ¿Cuál es el signo del zodiaco que recibirá un golpe de suerte en agosto, según la inteligencia artificial?

    La Cabrera es una de las parrillas más emblemáticas de Buenos Aires. (Foto: Google Maps/Camilla Hecke).

    Fue a comer a La Cabrera, pidió ojo de bife, provoleta y vino: mostró el ticket final

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • El método ideal para limpiar las cortinas del baño y dejarlas como nuevas, según una especialista
    • La conmovedora despedida de Malena Villa a su papá Néstor
    • Cuáles son los cinco tipos de zapatillas ideales para mujeres de más de 50 años
    • Ni Serpiente ni Cabra: cuál es el signo más conflictivo, según el horóscopo chino

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Mundial de Clubes
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad
    • Juegos

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit