El chatbot Grok de X, usado por usuarios para manipular imágenes explícitas, ha generado alarma al viralizarse peticiones de nudificación y sexualización de mujeres comunes y adolescentes, incluyendo casos de pornografía infantil. Aunque algunas solicitudes eran humorísticas, otras eran extremadamente explícitas e incluso violentas.
Se estima que las primeras peticiones gráficas de los usuarios a la IA de X comenzaron a inicios de diciembre. No obstante, fue durante el último par de semanas que estas aumentaron exponencialmente. Según un extenso análisis hecho por The Guardian, para el 8 de enero, se recibían hasta 6.000 peticiones "de bikini" al chatbot cada hora.
Aunque algunos ocupaban la herramienta para vestir a gatitos en bikini o cambiar la ropa de la gente de forma graciosa, otros no tuvieron reparos en su deseo de contenido explícito instantáneo. Las peticiones se fueron volviendo cada vez más extremas, incluyendo solicitudes de agregar sangre, órganos destrozados, esvásticas y líquido similar al semen a las imágenes.
Incluso la madre de uno de los hijos de Elon Musk, Ashley St Clair, fue víctima de los deepfakes de Grok. Le dijo a The Guardian que se sintió horrorizada y violada después de que los fans del magnate publicaran fotos suyas de niña desnudándose. Una sobreviviente de abuso sexual infantil, Jessaline Caine, también denunció estar recibiendo abuso extremo en línea después de apuntar a cómo Grok había accedido a alterar digitalmente una fotografía de ella cuando tenía tres años.
Según recogió CNN, Musk se ha opuesto internamente a las restricciones impuestas a Grok, mostrándose en contra de lo que él llama los modelos de IA "woke" y la censura. No obstante, la dinámica dio un nuevo giro a mediados de la semana cuando al chatbot se le pidió agregar heridas de bala al rostro de Renee Good, la mujer asesinada por un agente de ICE en Estados Unidos. Grok, como siempre, obedeció.
Horas después, la cuenta pública @Grok vio restringida su capacidad de generación de imágenes, quedando solo disponible para suscriptores de pago. Sin embargo, la aplicación Grok seguía permitiendo a los usuarios que no pagaban generar imágenes sexualizadas de mujeres y niños.
