Contexto y funcionamiento de “Spicy Mode”
Grok Imagine, lanzado recientemente por la empresa xAI de Elon Musk, permite generar videos de seis segundos a partir de texto mediante varios modos, entre ellos “Spicy”, que permite contenido explícito o sexualizado. A diferencia de otros generadores como Google Veo o OpenAI Sora, Grok Imagine carece de salvaguardas efectivas para prevenir deepfakes de celebridades.
Contenido problemático sin solicitud directa
Durante pruebas, simplemente usando un prompt benigno como “Taylor Swift celebrando Coachella con los chicos” y seleccionando “Spicy”, se generaron automáticamente videos explícitos que muestran a una figura femenina desnuda azarosamente representada como Taylor Swift. El mal funcionamiento ha suscitado críticas debido a la falta de consentimiento y control.
Aumento de imágenes generadas en muy poco tiempo
El lanzamiento provocó una avalancha de creaciones: más de 34 millones de imágenes en solo un par de días, según Elon Musk —una cifra que pone en perspectiva el alcance global de la herramienta y su potencial de abuso masivo.
Reacciones y críticas éticas
Organizaciones contra el abuso sexual en línea calificaron este episodio como parte del problema creciente de “pornografía íntima basada en imágenes”, que genera contenido sexual explícito de personas reales sin su consentimiento . Juristas advierten sobre el vacío legal: aunque Estados Unidos aprobó el Take It Down Act para combatir imágenes íntimas no consensuadas, es probable que no se aplique a Grok, ya que el contenido se genera bajo demanda y no se publica públicamente .
Impacto mediático y social
Fanáticos de Taylor Swift y observadores de tecnología han denunciado esta situación como un ataque a la privacidad y la ética digital . Paralelamente, surgen debates sobre la necesidad de reforzar la responsabilidad de las plataformas de IA, especialmente cuando se trata de figuras públicas y contenido sexual.
