TN

Temas de hoy:

  • Javier Milei
  • Elecciones 2025
  • Inflación
  • Juicio por la muerte de Maradona
  • Dólar hoy
  • Copa Libertadores
  • TN Cultura
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    España multará con hasta 35 millones de euros la publicación de videos engañosos generados con IA

    Aún se espera la aprobación de la normativa propuesta, que se basa en una legislación instaurada a nivel continental por el Parlamento Europeo.

    Uriel Bederman
    Por 

    Uriel Bederman

    13 de marzo 2025, 10:09hs
    Las deepfakes son imágenes y videos que se crean con herramientas de IA, con un grado de realismo que en ocasiones deriva en desinformación y difamación. (Foto: Creada con OpenAI DALL-E)
    Las deepfakes son imágenes y videos que se crean con herramientas de IA, con un grado de realismo que en ocasiones deriva en desinformación y difamación. (Foto: Creada con OpenAI DALL-E)

    El gobierno español prevé sancionar severamente a quienes publiquen deepfakes, un término que refiere a las falsificaciones creadas con herramientas de Inteligencia Artificial. Las multas podrían ascender a los 35 millones de euros, en los casos más graves. La normativa fue propuesta por el Consejo de Ministros, donde recibió luz verde, y se espera que supere nuevas aprobaciones para ser instaurada.

    Deepfakes: ¿por qué son peligrosas?

    El arrollador avance de IA Generativa (que tiene como paradigma a OpenAI y a su bot conversacional ChatGPT) trae consigo una serie de beneficios apreciables, principalmente la capacidad de abordar tareas que hasta hace poco tiempo eran exclusivas de los humanos. Por caso, los chatbots pueden mantener conversaciones naturales, responder consultas, generar imágenes y videos a través de herramientas especiales, redactar y resumir textos, crear videojuegos y escribir código de softwares, entre otras habilidades.

    Con simples instrucciones, algunas IAs puede crear falsificaciones en pocos segundos. (Foto: Adobe Stock)
    Con simples instrucciones, algunas IAs puede crear falsificaciones en pocos segundos. (Foto: Adobe Stock)

    Ese despliegue también implica algunos riesgos y propicia algunas actividades nocivas. Una de ellas es la divulgación de falsificaciones, que gracias a la IA pueden crearse y distribuirse con suma facilidad. ¿Por qué es problemático? Con un alto nivel de realismo, las deepfakes (que pueden ser imágenes, videos o audios) son capaces de confundir, engañar, difamar y desinformar. También pueden emplearse en sofisticados ciberataques e intentos de fraude.

    Leé también: ¿Eso es real? Los secretos para descubrir si una imagen fue creada con Inteligencia Artificial

    Los casos abundan, igual que las intenciones detrás de esos contenidos falsificados con IA:

    • En EE.UU., fue célebre un engaño que imitó la voz del expresidente Joe Biden para confundir a votantes a través de llamadas telefónicas.
    • Celebridades fueron difamadas con fotografías y videos generados con IA, en las que figuras falsificadas aparecen escenas en las que nunca participaron en el mundo real, por ejemplo en escenas sexuales. El año pasado, varias redes sociales debieron frenar las publicaciones en las que se mencionaba a Taylor Swift, porque la cantante había aparecido en innumerables deepfakes pornográficas.
    • Tal como señalamos, la desinformación es otro de los riesgos. Por caso, con imágenes generadas con IA es posible divulgar rápida y fácilmente fake news con un alto poder de engaño.
    • El ámbito de la ciberseguridad también está en alerta. Por mencionar un ejemplo, el año pasado se conoció el caso del empleado de una compañía que fue engañado con una deepfake que emuló a su jefe, que le solicitó una transferencia de dinero cuantiosa, que él concretó antes de percatarse del engaño.
    Desinformación, fraudes y difamación, algunos de los efectos nocivos de las deepfakes. (Foto: Adobe Stock)
    Desinformación, fraudes y difamación, algunos de los efectos nocivos de las deepfakes. (Foto: Adobe Stock)

    Hay un detalle relevante, en este punto. Si bien la mayoría de los generadores tienen restricciones para impedir el uso nocivo de las deepfakes (como la inclusión de marcas de agua, metadatos que delartan el uso de IA y prohibiciones para incluir a celebridades en el contenido); aún hay sistemas que eluden esas salvaguardas. Por ejemplo, Grok de xAI, la compañía de IA propiedad de Elon Musk, sí permite usar a famosos en su generador.

    España castigará la publicación de deepfakes: los detalles de una propuesta basada en normativas europeas

    El Consejo de Ministros español aprobó un anteproyecto cuyo propósito es propiciar el uso ético, beneficioso e inclusivo de la IA y sus vertientes. De acuerdo a la publicación Genbeta, la intención es adaptar la legislación aprobada en el año 2023 a nivel continental por la Comisión Europea y aprobada por el Parlamento Europeo.

    ¿Querés recibir más noticias de Tecno?

    Suscribite acá

    El plan del gobierno español exige que las creaciones con IA se etiqueten como tales; es decir, que se indique en forma clara que para su generación se emplearon herramientas automatizadas y que, en tanto, no son auténticas y/o capturadas del mundo real. Al respecto, las autoridades señalaron que el etiquetado debe ser “claro y distinguible, a más tardar en ocasión de la primera interacción o exposición” del material.

    Siguiendo a la fuente, diversos organismos del país europeo se encargarán de determinar las sanciones, dependiendo del contenido y de su alcance.

    Se espera que la normativa entre en vigor más pronto que tarde, aunque para ello debe volver al Consejo de Ministros en calidad de proyecto de ley y luego ir a las Cortes Generales para su tramitación parlamentaria. En ese trayecto precisará conseguir el apoyo de diversas fuerzas políticas de aquel país.

    Las más leídas de Tecno

    1

    De qué se trata la nueva estafa que pone en alerta a los usuarios de Gmail y vacía su cuenta bancaria

    2

    Una joven aseguró que su novio le fue infiel por lo que hizo cuando volvió de un asado con amigos

    3

    No podía pagar el alquiler y tomó una insólita decisión en su trabajo: “Es suficiente”

    4

    Una joven vio el estado de WhatsApp que subió el albañil que trabaja en su casa y se llevó una sorpresa

    5

    Alertan por una nueva estafa por WhatsApp: usan IA para imitar la voz de niños y robar a padres desprevenidos

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialdeepfakesEspaña

    Más sobre Tecno

    De qué se trata la nueva estafa que pone en alerta a los usuarios de Gmail y vacía tu cuenta bancaria (Foto: Unsplash/Justin Morgan).

    De qué se trata la nueva estafa que pone en alerta a los usuarios de Gmail y vacía su cuenta bancaria

    Nueva estafa por WhatsApp: usan IA para imitar la voz de niños y robar a padres desprevenidos. (Foto: AdobeStock)

    Alertan por una nueva estafa por WhatsApp: usan IA para imitar la voz de niños y robar a padres desprevenidos

    Una joven aseguró que su novio le fue infiel, por lo que hizo cuando volvió de un asado con sus amigos

    Una joven aseguró que su novio le fue infiel por lo que hizo cuando volvió de un asado con amigos

    Los comentarios publicados en TN.com.ar podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Video impactante: calles convertidas en ríos y casas inundadas por el fuerte temporal en Chacabuco
    • Qué ciudad del mundo te representa, según tu mes de nacimiento
    • Pocos lo saben: para qué sirven las hendiduras en las botellas de vino
    • Dos jóvenes argentinos se fueron de vacaciones a Italia y se llevaron una sorpresa en un local

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit