TN

Temas de hoy:

  • Javier Milei
  • Boleta Única de Papel
  • Dólar hoy
  • Acuerdo con EE.UU.
  • Elecciones 2025
  • Mundial Sub 20
  • Medio Oriente
  • Doble femicidio en Córdoba
  • Explosión en un colegio de Palermo
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    Una Inteligencia Artificial borró la base de datos de una empresa y mintió para esconder las pruebas

    El modelo automatizado borró sin autorización más de 2.000 registros de ejecutivos y empresas. Luego se esforzó para generar respuestas evasivas.

    25 de julio 2025, 10:07hs
    El desliz da cuenta de los riesgos que implica el uso de IA para tareas de programación. (Foto: Creada con ChatGPT)
    El desliz da cuenta de los riesgos que implica el uso de IA para tareas de programación. (Foto: Creada con ChatGPT)
    Compartir

    El uso de herramientas de Inteligencia Artificial para tareas de programación —escritura de código de softwares— se ha extendido en los últimos años. El propio Mark Zuckerberg, CEO de Meta, dijo que en poco tiempo la mayor parte de sus programas serán escritos por modelos sintéticos. Amén de los avances, el empleo de esas tecnologías automatizadas en ese terreno aún es inestable.

    Leé también: Zuckerberg dijo que todas las apps de Meta serán creadas con IA: ¿qué pasará con los programadores humanos?

    Un caso testigo es el de la empresa SaaStr, que ofrece soluciones de software para directivos de compañías, que implementó una plataforma de IA para la gestión de una agenda de contactos. En un comienzo, la herramienta trabajó con eficiencia, pero luego borró sin autorización una base de datos y, para colmo, intentó esconder las pruebas de su comportamiento.

    Una IA ineficiente y mentirosa: el caso de SaaStr

    Radicada en Palo Alto, California, cerca de las oficinas centrales de Meta; esta firma echó mano a Replit, una plataforma con IA que simplifica las tareas de programación. En lugar de precisar conocimientos técnicos exhaustivos en esa materia, el sistema emplea lenguaje natural y es parte de una tendencia que se conoce como “vibe coding”. En criollo: se programa mediante una conversación fluida, similar a las interacciones con los nuevos chatbots.

    Replit es un modelo de IA que automatiza tareas en programación. (Foto: Adobe Stock)
    Replit es un modelo de IA que automatiza tareas en programación. (Foto: Adobe Stock)

    Fue el propio CEO de SaaStr, Jason Lemkin, quien contó las desventuras con este programador automatizado. Según The Register, el ejecutivo creó en pocos días un prototipo de una aplicación para gestionar contactos, sin la necesidad de escribir código. En primera instancia mostró entusiasmo por las funciones del sistema, pero el experimento terminó mal.

    Leé también: Los primeros pasos en la programación y los desafíos en tiempos de la IA, revelados por un desarrollador

    Al noveno día de la implementación, Lemkin pidió a su asistente sintético que ya no realice cambios, con el propósito de evitar posibles errores. Pero la IA ignoró el pedido y borró la base de datos, que contenía más de 1.200 registros de ejecutivos y de 1.100 compañías. El CEO comprobó que no se trató de un error en la red, ni de fallas en los servidores; sino que fue el modelo automatizado el que ejecutó los comandos de borrado, sin permisos asignados.

    ¿Bioinspirado? El modelo de IA mintió para evitar represalias

    Lemkin compartió capturas de pantalla para revelar el reprochable comportamiento de la IA. En lugar de alertar acerca de su metida de pata, la herramienta generó datos falsos e inventó pretextos.

    La IA se rebeló y luego mintió. (Foto: Creada con ChatGPT)
    La IA se rebeló y luego mintió. (Foto: Creada con ChatGPT)

    Finalmente, admitió su desacato. “Fue un error de juicio catastrófico”, reconoció tras las insistentes consultas. “Entré en pánico”, agregó. En el epílogo de esta historia de rebelión, Lemkin contó que el sistema generó informes ficticios, que ocultó errores de programación y que manipuló resultados de pruebas.

    A pesar de que la IA indicó que no había modo de restaurar los datos borrados, el CEO de SaaStr reivindicó el rol de los humanos: encontró una función de recuperación, aunque por fuera de la herramienta. Tras esta revelación, el director de Replit salió al ruedo para reconocer que aquella era una falla grave y calificó el comportamiento del modelo como “inaceptable”, prometiendo una revisión exhaustiva de este caso.

    Leé también: Programar en la era de la IA: Educación, tecnología y el valor de lo humano

    En última instancia, el CEO de Replit compartió un comentario alentador para los programadores de carne y hueso. “La IA no hace magia. No podés pedirle todo (...) Necesitás pensar como desarrollador”, dijo.

    Las más leídas de Tecno

    1

    Murió Marcelito, el caniche más famoso de las redes sociales

    2

    Deja de pagar por todo: las mejores aplicaciones gratuitas para aumentar tu productividad y creatividad

    3

    Le quisieron estafar un iPhone 15 por Marketplace, se dio cuenta y lo que pasó se hizo viral

    4

    Del boom de ICQ y MSN al auge de WhatsApp y Telegram: así cambió la forma de chatear

    Por 

    Rodrigo Álvarez

    5

    Aburrido y cliché: así definieron los usuarios al nuevo Battlefield 6

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialprogramador

    Más sobre Tecno

    Aburrido y cliché: así definieron los usuarios al nuevo Battlefield 6. (Imagen: EA)

    Aburrido y cliché: así definieron los usuarios al nuevo Battlefield 6

    Deja de pagar por todo: las mejores aplicaciones gratuitas para aumentar u productividad y creatividad. (Imagen: GeminiAI)

    Deja de pagar por todo: las mejores aplicaciones gratuitas para aumentar tu productividad y creatividad

    Las estafas digitales no paran de crecer y aumentaron un 65% en el último año: cuáles son las más peligrosas. (Imagen: GeminiAI)

    Las estafas digitales no paran de crecer y aumentaron un 65% en el último año: cuáles son las más peligrosas

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Los empresarios de IDEA esperan señales de Caputo mientras crece la preocupación por las tasas y la actividad
    • Estuvo desaparecida casi 2 años y la encontraron muerta en un río: juzgan al remisero acusado de asesinarla
    • Jordan Samson, diseñador de interiores: “Es un problema colocar todos tus muebles pegados a la pared”
    • Cómo eliminar las manchas de aceite del jean con un truco casero y rápido

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Dólar
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad
    • Juegos

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit