En el arranque de agosto, la red social X lanzó nuevas capacidades en su chatbot Grok, que al igual que sus competidores —ChatGPT y Gemini, entre otros— ya puede generar imágenes y videos a partir de instrucciones por escrito. En línea con el estilo de Elon Musk, dueño de la plataforma, la novedad incluyó funciones irreverentes. En concreto, el modelo de IA tiene un “modo picante” que permite crear contenido subidito de tono, incluso con referencias a celebridades.
Leé también: Qué es Grok Imagine, el generador de video con Inteligencia Artificial que se suma a la red social X
La propuesta pronto generó polémica, y ahora se intensifica. Según informó The Verge, un grupo de organizaciones de protección al consumidor en Estados Unidos exige una investigación urgente a Grok, tras el despliegue de su controvertido “modo spicy”.
¿Qué es el “modo picante” de Grok?
Los primeros videos que circularon creados por Imagine, el flamante generador de xAI de Musk, dejaron en evidencia su versatilidad e irreverencia. Tal como vemos a continuación, el modelo puede generar clips animados e inocentones, y también escenas que no son precisamente aptas para menores.
Siguiendo a la fuente antes mencionada, la herramienta anima a los usuarios a crear contenido NSFW (no apto para el trabajo) en su “modo spicy”. The Verge lo probó y pudo generar deepfakes en topless de Taylor Swift, incluso sin que se le pidiera ese contenido.
Leé también:
En TN Tecno notamos que la irreverencia del modelo no es precisamente sorprendente: Grok ya ha tenido algunas respuestas ayunas de diplomacia y reñidas con las buenas costumbres, un carácter que se alinea con la filosofía que Musk imprimió a toda la red social: laxitud en la moderación y el foco puesto en la libre expresión.
Organismos en EE.UU. piden una “investigación urgente” a Grok
La Consumer Federation of America (CFA) y otras 14 organizaciones de protección al consumidor enviaron una carta a la Comisión Federal de Comercio (FTC) y a otras autoridades en la que exigen una investigación a Grok, específicamente a sus herramientas de generación de imágenes y videos.
El modelo “genera videos de desnudos a partir de imágenes, que pueden utilizarse para crear fotos que parecen de personas reales”, señalan. “Esto puede tener consecuencias perjudiciales para las personas representadas y para los usuarios menores de edad”, agregaron.
Los firmantes también manifestaron su preocupación por el hecho de que lo único que impide que los menores usen el “modo picante” para generar imágenes sexuales es una ventana emergente que pide indicar la edad y, en tanto, es fácil de engañar.
Leé también: Por qué la IA debería hacer que los padres se replanteen publicar fotos de sus hijos en internet
En concreto, las organizaciones solicitaron que investigaran las posibles violaciones de xAI —división de X abocada a la Inteligencia Artificial— de las leyes sobre imágenes íntimas no consensuadas.
Cabe señalar que si bien Grok ha generado deepfakes con desnudos de celebridades, no permite el uso de imágenes de usuarios. Sin embargo, los reclamantes manifestaron su preocupación ante la tendencia de Musk a eliminar las prácticas de moderación en pos de lo que describe como “libertad de expresión”.
