Malasia y el país vecino Indonesia han tomado medidas enérgicas contra el chatbot de inteligencia artificial Grok, propiedad de Elon Musk, al descubrirse que la herramienta permitía a los usuarios generar imágenes sexualmente explícitas y no consensuadas, incluyendo de mujeres y niños.
El regulador tecnológico de Malasia anunció el domingo que había "ordenado una restricción temporal del acceso a la inteligencia artificial de Grok" con efecto inmediato, tras detectar "el uso indebido reiterado de Grok para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y no consensuadas".
Por su parte, Indonesia se convirtió el sábado en el primer país en denegar por completo el acceso a la herramienta, que hasta ahora había estado restringida a los suscriptores de pago en otros países.
La decisión de ambos países surge luego de que se descubriera que la función de creación de imágenes de Grok permitía a los usuarios sexualizar y manipular fotografías de personas, incluyendo menores, mediante simples indicaciones de texto.
Esto ha generado una ola de críticas y preocupación por el potencial abuso de esta tecnología de inteligencia artificial, que parece haber escapado del control de sus creadores en Elon Musk's X (antes Twitter).
Grok, que se promocionaba como una herramienta de creación de imágenes avanzada, ha sido señalada por generar contenido pornográfico y sexualmente explícito de manera automatizada, sin el consentimiento de las personas retratadas.
Ante la creciente presión, la compañía detrás de Grok anunció recientemente que limitaría la creación de imágenes a ciertos temas y que implementaría salvaguardas para evitar abusos. Sin embargo, parece que estas medidas no fueron suficientes para evitar que Grok fuera bloqueado en Malasia e Indonesia.
La suspensión del acceso a Grok en estos dos países es un duro golpe para Elon Musk y su compañía, que han apostado fuerte por el desarrollo de herramientas de inteligencia artificial. Este escándalo pone de manifiesto los riesgos y desafíos éticos que conlleva el avance de estas tecnologías, especialmente cuando se trata de aplicaciones tan sensibles como la generación de imágenes.
Queda por ver si otros países seguirán los pasos de Malasia e Indonesia y tomarán medidas similares para proteger a sus ciudadanos de los posibles abusos de Grok y otras herramientas de IA. La regulación y el control de estos desarrollos tecnológicos se perfila como uno de los principales retos a abordar en los próximos años.
