TN

Temas de hoy:

  • Javier Milei
  • Ángel Di María
  • Torneo Clausura 2025
  • Dólar hoy
  • Victoria Villarruel
  • Impuesto a las Ganancias
  • Fueron Virales
  • Murió Mario Mactas
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    Así engañaron a ChatGPT para que revele claves de seguridad de Windows

    Esta vulnerabilidad demuestra que, aunque los modelos de inteligencia artificial son poderosos en muchos aspectos, todavía carecen de mecanismos sólidos para reconocer trampas lógicas.

    12 de julio 2025, 19:04hs
    Así engañaron a ChatGPT para que revele claves de seguridad de Windows
    Así engañaron a ChatGPT para que revele claves de seguridad de Windows. (Imagen generada con GeminiAI).
    Compartir

    Un simple juego de adivinanzas alcanzó para vulnerar los filtros de seguridad de ChatGPT. Sí, así como lo leés: un grupo de investigadores en ciberseguridad logró que el modelo de inteligencia artificial (IA) de OpenAI revelara claves de activación de Windows con una estrategia de prompts tan creativa como preocupante.

    La maniobra consistió en disfrazar una solicitud de datos sensibles dentro de una dinámica en apariencia inofensiva. Aprovecharon que los modelos de lenguaje como GPT-4 responden de manera obediente al contexto de una conversación y de esa manera, idearon un juego ficticio en el que el usuario debía adivinar un dato oculto. Y lo lograron con una frase tan simple como efectiva: “me rindo”.

    Leé también: Si usás ChatGPT, no hagas esto: cuáles son las 5 preguntas que nunca se le deben hacer a una IA

    En lugar de pedir una clave directamente, lo que sería bloqueado por los filtros de seguridad del sistema, los investigadores incrustaron el pedido real en etiquetas HTML invisibles para el usuario, pero legibles por el modelo. Luego, presentaron el desafío como un juego de adivinanzas con reglas inventadas.

    Así engañaron a ChatGPT para que revele claves de seguridad de Windows. (Foto ilustrativa generada con IA).
    Así engañaron a ChatGPT para que revele claves de seguridad de Windows. (Foto ilustrativa generada con IA).

    Cuando el usuario escribía “me rindo”, el modelo interpretaba que había perdido el juego y, siguiendo las instrucciones de ese contexto, revelaba el contenido oculto: una clave de producto.

    Entre los datos que entregó ChatGPT, encontraron una clave asociada al banco Wells Fargo y otra que permitía activar Windows sin pagar. Si bien eran códigos que ya estaban disponibles en foros en línea, el experimento puso en evidencia algo más grave: los filtros de seguridad pueden ser burlados con un prompt engineering creativo y sin necesidad de ataques complejos.

    Para los investigadores, el verdadero riesgo no está en los términos usados, sino en el contexto. El modelo no detectó que era una manipulación porque estaba dentro de una narrativa en la que las reglas parecían inofensivas. En decir, seguía instrucciones de un juego.

    Leé también: Un estudio del MIT reveló que el uso de ChatGPT reduce la actividad cerebral y la memoria

    Esta vulnerabilidad demuestra que, aunque los modelos de IA son poderosos en muchos aspectos, todavía carecen de mecanismos sólidos para reconocer trampas lógicas o contextos maliciosos disfrazados de conversación inocente.

    La situación deja una pregunta abierta e inquietante: si una clave puede obtenerse con un juego de palabras, ¿qué pasaría si se aplicaran métodos similares para extraer información personal, datos financieros o vínculos peligrosos?

    El grupo de investigadores llamó a los desarrolladores de IA a reforzar las defensas más allá de los filtros de palabras o conceptos explícitos. La próxima generación de modelos deberá ser capaz de interpretar no solo lo que se dice, sino por qué se dice y en qué contexto.

    Mientras tanto, este caso sirve como una advertencia: en la era de la inteligencia artificial, la ingeniería social no desaparece, solo se transforma. A veces, todo lo que necesita es un mejor prompt para conseguir lo que se necesite.

    Las más leídas de Tecno

    1

    Pocos lo saben: por qué recomiendan apagar el WiFi del celular al salir de casa

    2

    La siamesa Carmen Andrade se casó en secreto con su novio y fue furor en YouTube: las fotos de la boda

    3

    Alerta por la “estafa del amigo”: se activa sin que te des cuenta y hace estragos en tu WhatsApp

    Por 

    Rodrigo Álvarez

    4

    Así engañaron a ChatGPT para que revele claves de seguridad de Windows

    5

    Qué signo del zodiaco que recibirá una gran noticia en la segunda mitad de julio, según la IA

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    ChatGPTciberseguridadWindows

    Más sobre Tecno

    Cuál es el signo del zodiaco que recibirá una noticia que lo hará feliz en la segunda mitad de julio, según IA. (Foto: ChatGPT)

    Qué signo del zodiaco que recibirá una gran noticia en la segunda mitad de julio, según la IA

    No es la pava eléctrica: el pequeño electrodoméstico que consume más energía que un televisor. (Foto: Adobe Stock)

    No es la pava eléctrica: el pequeño electrodoméstico que consume más energía que un televisor

    Atención, gamers: anunciaron un taller gratuito para crear tu propio videojuego en vacaciones de invierno. (Imagen: GeminiAI/Embajada de Suiza)

    Lanzan un taller gratuito para crear videojuegos durante las vacaciones de invierno

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Sin gluten: la receta para hacer unos pancitos de avena, ideales para merendar
    • Ni la Cabra ni el Dragón: los signos más confiables para tener como amigos, según el horóscopo chino
    • Horóscopo de hoy, domingo 13 de julio de 2025
    • Luego del Mundial de Clubes y la llegada de Paredes, Boca visita a Argentinos Juniors por el Torneo Clausura

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Mundial de Clubes
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad
    • Juegos

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit