Kuala Lumpur, Malasia. La Comisión de Comunicaciones y Multimedia de Malasia anunció la suspensión temporal del acceso al chatbot Grok, integrado en la red social X (ex Twitter) propiedad de Elon Musk. La medida se debe al "uso indebido reiterado de Grok para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y no consensuadas", según el regulador.
Indonesia se convirtió el sábado en el primer país en negar el acceso a la herramienta, que hasta ahora ha estado restringida a los suscriptores de pago en otros países. Ahora, Malasia ha tomado una decisión similar, ordenando "una restricción temporal del acceso a la inteligencia artificial de Grok" con efecto inmediato.
El chatbot Grok, desarrollado por Anthropic y lanzado recientemente en la plataforma X (ex Twitter), ha generado preocupación por su capacidad de crear contenido pornográfico y manipulado a través de inteligencia artificial. Esto ha llevado a que algunos países tomen medidas para limitar su acceso y uso.
"Esta medida se produce tras el uso indebido reiterado de Grok para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y no consensuadas", declaró el regulador de Malasia en un comunicado.
La decisión de Malasia se produce en medio de un debate más amplio sobre los riesgos y desafíos que plantean los chatbots y la IA generativa, especialmente en lo que respecta a la creación de contenido dañino o ilegal. Expertos han advertido sobre los peligros de estas tecnologías y la necesidad de una regulación más estricta para proteger a los usuarios.
La suspensión del acceso a Grok en Malasia y la prohibición previa en Indonesia son pasos importantes en ese sentido, demostrando que los gobiernos están dispuestos a tomar medidas para limitar el uso indebido de estas herramientas de IA. Sin embargo, el desafío sigue siendo encontrar un equilibrio entre la innovación tecnológica y la protección de los derechos y la seguridad de los ciudadanos.
