La red social X, propiedad de Elon Musk, ha tomado medidas drásticas para limitar el acceso a su herramienta de inteligencia artificial Grok, luego de una fuerte polémica por la creación de fotografías sexualizadas, incluyendo de menores de edad, solicitadas por miles de usuarios.
La plataforma ha restringido el uso del generador de imágenes de Grok únicamente a los miembros de pago. Los usuarios sin verificación ahora reciben una invitación para adquirir una suscripción con el fin de desbloquear la creación y edición de imágenes.
De acuerdo con CNBC, el uso abusivo del chatbot de X inició a finales de diciembre y se intensificó durante Nochevieja. El fenómeno se extendió por la plataforma y facilitó la difusión de imágenes explícitas, en muchos casos sin el consentimiento de las víctimas.
La decisión surgió tras protestas de usuarios y reacciones de autoridades internacionales. En Reino Unido, el Gobierno incluso valoró una posible prohibición de X, según informó The Guardian, ante la falta de controles efectivos.
En España, la ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía investigar a Grok. El pedido se basó en presuntos delitos relacionados con la difusión de material de violencia sexual contra la infancia, tras conocerse casos de desnudos generados con inteligencia artificial.
La Unión Europea también reaccionó. El bloque condenó el uso de la herramienta para crear imágenes de menores y pidió a X conservar la documentación generada por Grok hasta finales de 2026, con el fin de facilitar una eventual investigación, informó Bloomberg.
Ante la controversia, Elon Musk respondió en un mensaje publicado en X que cualquier persona que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que quien publique ese tipo de material en la plataforma.
Las políticas de xAI establecen que el servicio no permite representar imágenes de personas de forma pornográfica ni la sexualización o explotación de niños, como parte de sus obligaciones para cumplir con la ley.
