La plataforma X del multimillonario Elon Musk ha tomado medidas para limitar el uso de su herramienta de inteligencia artificial Grok, luego de que se denunciara que esta aplicación permitía a los usuarios generar imágenes sexualizadas de mujeres y menores sin su consentimiento.
Según la información recabada, Grok era una herramienta gratuita que permitía a los usuarios subir y editar fotos. Sin embargo, se reportó que algunos usuarios habían utilizado esta aplicación para alterar imágenes de otras personas, desnudándolas o colocándolas en poses sexualizadas sin su autorización.
Ante la oleada de denuncias y quejas por estos abusos, Musk anunció que a partir de ahora el uso de las funciones de edición de Grok estarán limitadas únicamente a usuarios de pago. Esto implica que quienes deseen utilizar esta herramienta para modificar imágenes deberán proporcionar su información de pago, la cual quedará asociada a cualquier contenido generado.
"Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", advirtió Musk en un mensaje publicado en la red social X.
La profesora de Filosofía de la Universidad británica de Cardiff, Daisy Dixon, una de las afectadas que había denunciado el uso indebido de Grok, consideró que esta medida es solo "un parche" y que el verdadero problema radica en el diseño poco ético de la herramienta de inteligencia artificial.
"El problema de la IA es un problema humano: hay que rediseñar Grok e implementar sus límites éticos. Pero Elon Musk debe reconocerlo, estamos ante otra violación por motivos de género", señaló Dixon.
Numerosos gobiernos, especialmente europeos, han calificado de "repugnante" la generación de imágenes sexualizadas de mujeres y menores a través de Grok, y han anunciado posibles medidas y sanciones al respecto.
En el caso de España, la ministra de Juventud e Infancia, Sira Riego, solicitó a la Fiscalía General del Estado que investigue a X y su herramienta de IA por presuntos "delitos de difusión de material de violencia sexual contra la infancia".
Si bien la restricción del uso de Grok a usuarios de pago puede representar un avance, es claro que aún queda un largo camino por recorrer para abordar los problemas éticos y de seguridad que plantean las herramientas de inteligencia artificial como esta. La responsabilidad recae tanto en las empresas tecnológicas como en los gobiernos y la sociedad en su conjunto.
