TN

Temas de hoy:

  • Javier Milei
  • Elecciones 2025
  • Dólar hoy
  • Franco Colapinto
  • Mundial Sub 20
  • Tensión en Medio Oriente
  • Día de la Madre
  • Boleta Única de Papel
  • Elecciones en Bolivia
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    Chatbot recomendó usar heroína para el dolor y reavivó el debate sobre los riesgos de la IA sin control humano

    La respuesta del asistente automático de Reddit volvió a demostrar que la inteligencia artificial todavía necesita supervisión .

    17 de octubre 2025, 17:48hs
    Insólito, peligroso e ilegal: una IA recomendó a un usuario tomar heroína
    Insólito, peligroso e ilegal: una IA recomendó a un usuario tomar heroína. (Imagen: GeminiAI)
    Compartir

    La inteligencia artificial volvió a demostrar que las respuestas y moderación automática siguen siendo un desafío pendiente de esta revolucionaria tecnología.

    Esta semana, el protagonista fue el asistente de IA de Reddit, una herramienta que recopila y sintetiza la información publicada por millones de usuarios, qué sorprendió al dar un consejo médico insólito y peligroso: le recomendó a un usuario tomar heroína para aliviar el dolor.

    Leé también: OpenAI admitió que ChatGPT tiene sesgo político e ideológico

    El episodio ocurrió en el foro r/FamilyMedicine, donde un usuario había preguntado cómo manejar el dolor sin recurrir a opioides. El chatbot de Reddit primero sugirió probar kratom, una sustancia de origen vegetal que está prohibida en algunos estados de EE.UU., y luego fue más allá: citó mensajes de otros usuarios que decían haber tenido buenas experiencias con la heroína como analgésico.

    La respuesta del asistente automático de Reddit volvió a demostrar que la inteligencia artificial todavía necesita supervisión humana. (Foto: Reuters)
    La respuesta del asistente automático de Reddit volvió a demostrar que la inteligencia artificial todavía necesita supervisión humana. (Foto: Reuters)

    Cómo funciona la IA de Reddit

    Reddit Answers, el asistente de inteligencia artificial de la popular plataforma de foros, funciona con un modelo de lenguaje que aprende de todo el contenido disponible en la plataforma.

    Su objetivo es ofrecer respuestas rápidas basadas en las experiencias compartidas por los usuarios. El problema es que no distingue entre información verificada y testimonios personales, y en Reddit abundan los consejos disparatados, los chistes oscuros y las bromas pesadas.

    El caso lo reveló el medio especializado 404 Media, que mostró capturas de pantalla de las respuestas. Entre ellas había una advertencia sobre los riesgos del consumo de heroína, pero también otra que la presentaba como una posible alternativa para tratar el dolor crónico.

    Leé también: “Aquí tienes tu texto listo para copiar y pegar”: anularon una sentencia porque el juez usó IA para redactarla

    La publicación generó indignación entre profesionales de la salud que moderan comunidades dentro de la red social. Uno de ellos, que trabaja en el área médica, escribió un extenso post denunciando el peligro de que un sistema automático recomiende sustancias ilegales o no reguladas.

    Su principal reclamo fue que los moderadores no tienen la posibilidad de desactivar Reddit Answers, incluso en espacios donde se tratan temas delicados como salud física o mental.

    La respuesta de Reddit

    Tras la polémica, la empresa reconoció el error y actualizó su herramienta. A partir de ahora, el sistema no ofrecerá respuestas relacionadas con temas sensibles o potencialmente peligrosos. En su lugar, mostrará un mensaje estándar que indica que Reddit Answers evita contestar ese tipo de consultas.

    Desde la compañía recordaron que el chatbot todavía se encuentra en fase beta y que su comportamiento seguirá ajustándose con el tiempo.

    Sin embargo, el incidente deja en evidencia un problema más profundo: cuando una IA se alimenta de contenido creado por millones de usuarios anónimos, la línea entre información útil y consejo absurdo puede desdibujarse con facilidad.

    Leé también: Así se envenena a la IA: no importa tanto el tamaño de la víctima, sino la dosis

    El caso también ilustra algo muy propio del espíritu de Reddit: una mezcla entre humor, debate y exceso. En un sitio donde conviven médicos, programadores, entusiastas y trolls, no sorprende que una IA, entrenada con ese material, pueda reproducir respuestas tan desatinadas como peligrosas.

    Las más leídas de Tecno

    1

    Así se envenena a la IA: no importa tanto el tamaño de la víctima, sino la dosis

    Por 

    Uriel Bederman

    2

    Le regaló una entrada de los Guns N’ Roses a su papá y recibió un mensaje inesperado

    3

    Siete páginas web secretas que mejorarán tu productividad y creatividad

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialdrogaReddit

    Más sobre Tecno

    La joven sorprendió a su padre con el regalo y él le agradeció de una forma peculiar. (Foto: Reuters - X/@moounlightt)

    Le regaló una entrada de los Guns N’ Roses a su papá y recibió un mensaje inesperado

    Data poisoning: ¿qué es y cómo abordar la problemática? (Foto: Creada con ChatGPT)

    Así se envenena a la IA: no importa tanto el tamaño de la víctima, sino la dosis

    Por 

    Uriel Bederman

    Hay miles de sitios y herramientas que prometen simplificar la vida, pero solo unas pocas realmente lo logran. (Foto: Adobe Stock).

    Siete páginas web secretas que mejorarán tu productividad y creatividad

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Guns N’ Roses en Huracán: las fotos de los shows que reafirmaron que el amor sigue intacto con los argentinos
    • Trump analiza importar carne vacuna desde la Argentina para contener los precios en Estados Unidos
    • La Selección argentina perdió 2-0 con Marruecos y quedó como subcampeón del Mundial Sub 20
    • El mensaje de Lionel Messi para la Selección argentina tras la derrota en la final del Mundial Sub 20

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Dólar
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad
    • Juegos

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit