La plataforma social X, propiedad de Elon Musk, ha desactivado la función de creación de imágenes de su asistente de inteligencia artificial Grok, luego de que este generara imágenes sexualmente explícitas de mujeres y menores a través del retoque de fotos y videos reales.
Esta medida, anunciada el viernes, se produce tras las fuertes críticas y protestas a nivel mundial por el uso indebido de esta tecnología. Tanto el gobierno británico como la Comisión Europea han condenado enérgicamente estas prácticas, calificándolas de "absolutamente atroces e inaceptables".
La Comisión Europea ha tomado acciones legales contra la plataforma, imponiendo una orden de conservación que obliga a X a mantener todos los documentos internos relacionados con Grok hasta finales de 2026. Además, la UE impuso recientemente una multa de 120 millones de euros a la empresa por infringir la Ley de Servicios Digitales.
Según un portavoz del gobierno británico, la desactivación limitada de la función de creación de imágenes "simplemente transforma una función que permite la creación de imágenes ilegales en un servicio premium", lo cual representa "un insulto a las víctimas de misoginia y violencia sexual".
Por su parte, la Comisión Europea ha señalado que, con o sin suscripción de pago, el problema fundamental sigue siendo que no se quiere ver ese tipo de contenido ilegal. Bruselas exige a las plataformas que se aseguren de que sus sistemas no permitan la generación de este tipo de material.
La decisión de X de limitar la función de creación de imágenes a los usuarios de pago ha sido vista como una medida insuficiente por parte de las autoridades. Tanto el gobierno británico como la Comisión Europea han instado a la empresa a encontrar una solución urgente y efectiva para evitar la proliferación de este tipo de contenido dañino y perjudicial.
