Google acaba de actualizar su política de contenido inapropiado, aggiornándose a los tiempos que corren en la escena digital, en este caso para prohibir la promoción de sitios web y plataformas para generar deepfakes pornográficas y/o con desnudos.
Leé también: ¿Estas seguro que podés reconocer una deepfake? Un estudio dice que la gente está demasiado confiada
¿Llega tarde este giro en la normativa? Si bien las deepakes no son nuevas, en la actualidad tienen un amplísimo alcance con el auge de la inteligencia artificial generativa.
Google contra las deepfakes porno: ¿qué cambia?
La medida de la compañía estadounidense procura restringir la visualización de sitios web y servicios para generar falsificaciones. En el nuevo texto indican que frenarán la promoción de “contenido generado o alterado sintéticamente, para ser sexualmente explícito o contener desnudez”. A partir del 30 de mayo, esa actividad implicará una violación a las normas de la empresa.
En ese marco, desde Google indicaron que será suspendido sin previo aviso cualquier anunciante que promocione sitios o aplicaciones que generen pornografía deepfake, que muestren cómo crear esos contenidos y/o que respalden servicios de esa categoría.
La problemática de las falsificaciones pornográficas
En sus múltiples variantes, las deepfakes anidan diversas problemáticas. Básicamente, se trata de manipulación de contenido —pueden ser fotografías, videos o audios— a través de softwares especializados. Tal como señalamos anteriormente, la práctica no es nueva: el “photoshopeo” es conocido hace mucho. Sin embargo, el boom de la IA generativa no solo masificó el alcance de las herramientas para crear y editar material; además, ha incrementado la confusión, ya que los resultados que se consiguen son sumamente realistas.
Leé también: Una madre creó deepfakes para perjudicar a porristas que compiten con su hija
Un caso que sirve de muestra es la reciente difusión de falsificaciones pornográficas con el rostro de Taylor Swift. En la ocasión, la proliferación de deepfakes que tuvieron a la cantante como epicentro obligó a algunas redes sociales a frenar las búsquedas relacionadas con su nombre, a fin de frenar el evidente impacto nocivo de aquellos contenidos.
La divulgación de deepfakes trae consecuencias indeseables: desinformación, engaños, posibles estafas virtuales, confusiones y difamación. En muchos casos se emplea para crear contenido pornográfico, aunque aquel no es su único foco.
Recientemente, la Comisión Europea reveló sus avances en un plan para penalizar diferentes expresiones de la ciberviolencia, como el intercambio no consensuado de contenido íntimo. Además, anticiparon que la publicación de deepfakes pornográficas será considerada un delito.
Leé también: Deepfake: cuál es el secreto para poder reconocerla
“Esta es una cuestión urgente que hay que abordar, dada la propagación exponencial y el dramático impacto de la violencia en línea”, señalaron desde la Comisión. “Una forma nueva y repugnante de humillar a las mujeres es compartir con imágenes íntimas generadas con inteligencia artificial, en un par de minutos”, dijo Věra Jourová, vicepresidenta de la Comisión Europea, en declaraciones al sitio Politico. “Estas imágenes pueden causar un daño enorme, no solo a las estrellas del pop, sino a cualquier mujer que tenga que demostrar en el trabajo o en casa que se trata de una deepfake”, añadió.
