Junto a sus beneficios, el auge de la inteligencia artificial (IA) generativa ha simplificado una serie de usos potencialmente riesgosos. En Los miedos y las esperanzas que asoman a la espera de regulaciones, entre los peligros asociados a la nueva IA mencionamos a las deepfakes o falsificaciones profundas, capaces de engañar a las grandes audiencias y perjudicar a los “clonados”.
Leé también: “Tengo miedo y estoy muy presionado”: la asustadiza estrategia para mejorar las respuestas de los chatbots
YouTube ha tomado cartas en el asunto. Google, dueño del portal de videos, anunció que en los próximos meses implementarán medidas para combatir los usos indebidos de la IA y la información errónea generada con esas tecnologías. Señalaron que será posible “solicitar la eliminación de contenido creado con IA, y otros materiales sintéticos o alterados que simulen a un individuo identificable, incluyendo su rostro o voz”.
YouTube promete más dureza en el tratamiento de las deepfakes
La referencia a la eliminación de contenido que “simule a un individuo reconocido” es un guiño de YouTube a las celebridades, que con el despliegue de la IA generativa han sido víctimas de numerosas falsificaciones. Recientemente, Tom Hanks alertó a sus seguidores que una publicidad en la que aparece un clon suyo es precisamente eso, un émulo, que además se usó sin su autorización. Otro caso del que nos enteramos es el de Scarlett Johansson, que demandó a una empresa que creó una deepfake para promocionar una aplicación.
También hay casos complejos, como el creciente uso de falsificaciones de famosas y famosos en contenido pornográfico.
Según informaron desde YouTube, los usuarios afectados podrán enviar solicitudes de eliminación a través del panel de privacidad de la plataforma. En ese marco, han señalado que evaluarán cada caso individualmente para no barrer con ciertos contenidos que sí son admitidos, como las sátiras que no procuran confundir ni engañar.
En una misma línea, el portal de videos de Google permitirá que músicos y sus representantes también tramiten la eliminación de contenido que clone voces con IA, abordando otra polé,mica candente.
Leé también: Un invento del MIT protege tus fotos de la inteligencia artificial y sus falsificaciones
Siguiendo a The Verge, además de agilizar la eliminación, YouTube también quiere asegurarse de que cualquier contenido modificado o sintético sea etiquetado como tal. En ese sentido, los creadores verán nuevas opciones para incluir esta información en los clips publicados; si no lo hacen, podrían enfrentar la eliminación de la publicación, una suspensión del Programa de socios y otras sanciones. Del lado de los espectadores, aparecerá un banner en la descripción indicando que el contenido está fue alterado o es sintético, con una opción de obtener más información.
