La proliferación de las falsificaciones es una de las problemáticas más acuciantes en la era de la Inteligencia Artificial Generativa. Es el photoshopeo evolucionado: las nuevas tecnologías simplifican la manipulación de contenido —imágenes, videos, voces—, que se usan para desinformar, canalizar ataques informáticos y también para difamar a terceros, en ese último caso con deepfakes pornográficas de gran realismo.
Leé también: Crece el uso de inteligencia artificial para la creación de contenido de abuso sexual a menores: ¿es delito?
En un contexto en el que aumentan los casos de acoso a través de falsificaciones profundas, Corea del Sur endureció sus leyes contra las deepfakes. Según informa BBC, el Parlamento de ese país aprobó un paquete normativo que no solo castiga la creación de esos contenidos, sino también el consumo.
Ley contra el Abuso Sexual con Deepfakes: Corea del Sur endurece sus normas para frenar las falsificaciones con IA
La Asamblea Nacional de Corea del Sur aprobó un paquete de normativas agrupadas en la Ley contra el Abuso Sexual con Deepfakes, con amplio apoyo: 241 votos a favor sobre 249. El propósito de esta movida es poner freno al acoso a través de contenido manipulado, una problemática que se ha multiplicado exponencialmente con el auge y disponibilidad de las herramientas de IA Generativa, afectando no solo a celebridades.
De acuerdo a la fuente, solamente en 2024 la policía surcoreana recibió 812 denuncias de delitos sexuales relacionados con deepfakes y apresó a 387 sospechosos. Un dato elocuente: el 83,7% de esos detenidos son adolescentes y menores de edad.
Tal como señalamos, el llamado a endurecer las normas contra las falsificaciones no solo pretende castigar a los que crean esos contenidos, sino también a quienes lo consumen y viralizan. La Ley recientemente aprobada en el país asiático apunta a esa dirección, estableciendo que cualquier persona que posea, adquiera, visualice y/o almacene contenido sexual falsificado sin consentimiento puede afrontar penas de hasta tres años en prisión y sanciones económicas.
Además, el paquete legal aprobado en Corea del Sur elimina el denominado “propósito de difusión”. Con esto, no solo se establecen castigos a los usuarios que crean deepfakes con la intención de divulgar el material, sino que también se sancionará la mera creación de esos contenidos. Por otra parte, han endurecido las penas en los casos que involucran a menores.
Leé también: El lado oscuro de la inteligencia artificial: así usan deepfakes y clones de voz para engañar a usuarios
La iniciativa surcoreana también habilita a las fuerzas del orden para que actúen sin autorizaciones en casos de emergencia, y la expansión de los centros de ayuda a víctimas de delitos digitales, que llegarán a más ciudades de aquel país.
