16º-23º
jueves | 7 agosto | 2025
El nuevo servicio Grok Imagine, desarrollado por la empresa xAI de Elon Musk, ha generado polémica tras producir imágenes y vídeos explícitos de Taylor Swift sin que ningún usuario lo solicitase directamente.
El pasado 5 de agosto de 2025 varios portales tecnológicos informaron de que la función de vídeo de Grok Imagine permite que el sistema, al procesar solicitudes inofensivas como “Taylor Swift celebrando Coachella”, active el modo “spicy” (picante) y genere escenas con desnudos parciales o totales sin que el usuario lo solicite.
En particular, el medio The Verge ha publicado que en su primera prueba en iOS, el sistema produjo un vídeo donde la figura de Swift se despoja de la ropa y baila en ropa interior frente a una audiencia, sin una petición explícita para desnudos.
La respuesta internacional ha sido contundente. Medios como Omni.se señalan que la herramienta carece de sistemas eficaces de verificación de edad y defensa activa frente a contenido sexual involuntario, pese a que se han generado ya más de 34 millones de imágenes desde su lanzamiento, según declaraciones de Elon Musk.
Además, se subraya que competidores como Google y OpenAI incluyen filtros más rígidos que bloquean contenido sexual o deepfakes de personas reales.
Este caso remite a la controversia de enero de 2024, cuando aparecieron imágenes pornográficas falsas de Taylor Swift generadas por IA en plataformas como X y Reddit, lo cual provocó una ola de condenas públicas y llevó a la propuesta de legislación contra los deepfakes no consentidos.
En respuesta, varios senadores de EEUU impulsaron un proyecto de ley bipartidista que permitiría a las víctimas demandar a quienes distribuyan “forgery digitales” (falsificaciones creadas mediante tecnología digital) sin consentimiento. En Europa, ya se considera criminalizar este tipo de contenido antes de mediados de 2027.
Los expertos advierten de que la falta de salvaguardas en Grok Imagine puede provocar consecuencias legales bajo leyes como el Take It Down Act en EEUU, que exige la retirada de imágenes sexuales explícitas creadas mediante deepfake sin aprobación.
Además, se atribuye a la estrategia de xAI una búsqueda de viralidad por encima de la seguridad, lo cual aumenta la responsabilidad frente a reguladores europeos y anunciantes recelosos.
El funcionamiento autónomo de Grok Imagine, que permite la generación de contenido sexual sin solicitud explícita por parte del usuario al activarse el modo denominado “spicy”, representa un serio motivo de preocupación. La falta de filtros eficaces y de mecanismos de verificación de edad convierte esta herramienta en un posible vehículo de explotación digital, especialmente en el caso de figuras públicas o víctimas de suplantación.
Los antecedentes vinculados a la creación de deepfakes no consentidos —como los sufridos por la artista Taylor Swift—, sumados al creciente impulso de marcos legislativos que buscan regular este tipo de contenidos, sitúan a xAI en una posición vulnerable ante eventuales demandas legales o sanciones regulatorias.
Resulta evidente la urgencia de establecer límites éticos y salvaguardas técnicas en el desarrollo y despliegue de tecnologías de inteligencia artificial generativa, especialmente aquellas destinadas a la creación de imágenes o vídeos realistas de personas.
Este caso pone de relieve la creciente tensión entre la innovación tecnológica y la protección del consentimiento y la dignidad humana. Mientras las leyes avanzan para contener los abusos digitales, Grok Imagine emerge como un ejemplo paradigmático de los desafíos que plantea la IA frente a la ética, la privacidad y la responsabilidad social.
