Google acaba de lanzar una función en YouTube que aborda una de las problemáticas que aumentaron su alcance en la era de la Inteligencia Artificial Generativa: las deepfakes o falsificaciones profundas. Se trata del contenido alterado con métodos automatizados, tanto imágenes, como audios o videos.
Ese material se multiplicó exponencialmente en la escena digital con el despliegue de sistemas como Sora de OpenAI —los creadores de ChatGPT— y Veo de la propia Google, que sirven para generar videos con instrucciones simples.
Leé también: ¿Eso es real? Los secretos para descubrir si una imagen fue creada con Inteligencia Artificial
En algunos casos, la laxitud de las herramientas permite incluir imágenes de celebridades o de personajes reconocidos, erosionando las fronteras entre la realidad y la invención.
Deepfakes en YouTube: ¿cómo funciona la herramienta que detecta falsificaciones?
Tal como señala Engadget, Google presentó el año pasado la herramienta de detección de semejanzas para combatir a las deepfakes y eliminarlas de Google. Ahora, la opción es lanzada, aunque con algunas limitaciones.
¿Qué hace este detector de falsificaciones? En primera instancia, abarca los casos en los que el rostro de una persona fue evidentemente modificado con IA. De acuerdo a la fuente, la alteración de voces podría no ser identificada por esta función.
Para esto, los usuarios deben enviar un documento oficial y una selfie en video a YouTube. Con ese contenido, Google escaneará los clips cargados en la plataforma para buscar posibles coincidencias y marcarlas, en caso de detectarlas.
Leé también: Nuevo YouTube: cómo es la interfaz que cambia la experiencia visual en el portal de videos
Cabe señalar que el identificador de IA en YouTube se implementa, en el primer despliegue, en exclusivo para los miembros del Programa de Socios en el portal de videos.
¿Cuáles son los riesgos de las deepfakes?
- Pueden favorecer la desinformación, porque manipulan la realidad de modos cada vez más convincentes y difíciles de identificar.
- Son usadas para difamar, algo que hemos visto, particularmente, afectando a celebridades en videos e imágenes editadas con IA, por ejemplo en falsificaciones pornográficas.
- También colaboran al ciberdelito, porque la clonación (especialmente de voces) puede confundir a víctimas de una campaña maliciosa, en una elaborada versión de la suplantación de identidad.
- Además, pueden confundir y engañar en contextos sensibles, como un proceso electoral. El caso de una deepfake de audio que emuló la voz de Joe Biden, es uno de los ejemplos más recordados.
Es fundamental tener en cuenta que la manipulación con IA puede tener consecuencias reales. El hecho de que un contenido sea digital no implica que no tenga influencia en aquello que llamamos “realidad”.
Leé también: Los famosos más “deepfakeados”: Donald Trump, Elon Musk y Taylor Swift encabezan la lista
Por lo demás, también es atinado señalar que no todas las falsificaciones son perniciosas. Por mencionar uno de los usos provechosos de las deepfakes, traemos al recuerdo el caso de una familia que clonó digitalmente a su hijo asesinado en un tiroteo para que su imagen encabece una campaña en favor del desarme.
También se espera que los gemelos digitales —una variante de las deepfakes— alivien la carga laboral: se usarán para reemplazarnos en las reuniones por videollamada, un avance al que ya se sumaron algunos ejecutivos de empresas.
