Los juguetes con inteligencia artificial generativa han llegado al mercado, pero no sin controversia. Mientras los fabricantes insisten en haber reforzado las medidas de seguridad, expertos advierten sobre los riesgos que estos dispositivos pueden representar para los niños.
El reciente estudio del observatorio estadounidense de consumidores PIRG, titulado "Problema en el mundo de los juguetes", ha puesto en evidencia algunos de los desafíos que enfrentan estos nuevos productos. Uno de los casos más sonados fue el del oso de peluche Kumma, de la startup singapurense FoloToy, que inicialmente ofrecía consejos sobre juegos sexuales y la búsqueda de cuchillos, antes de que la empresa suspendiera su venta y relanzara el producto con una edad mínima recomendada de tres años.
Pero Kumma no es el único. El informe de PIRG también analizó otros juguetes con IA generativa, como Grok, de la marca Curio, y Miko 3, encontrando que algunos de ellos recopilan constantemente todo lo que se dice a su alrededor, lo que plantea preocupaciones sobre la privacidad y la seguridad de los niños.
"Si se vende como amigo o compañero, no es bueno", advirtió Rory Erlich, uno de los autores del estudio PIRG. La académica Kathy Hirsh-Pasek, de la Universidad de Temple, también cuestionó por qué estos juguetes no están sujetos a una regulación más estricta, a pesar de su potencial para beneficiar a los niños.
Los fabricantes, por su parte, aseguran haber mejorado los filtros y las medidas de seguridad de sus productos. Wang Le, director ejecutivo de FoloToy, afirmó que han pasado de utilizar la versión 4 a la 5 del popular chatbot GPT, lo que les ha permitido integrar un vocabulario más amplio en sus filtros. Ahora, asegura, si se les hace una pregunta inapropiada, "no responderán o dirán que no saben".
Otras empresas, como Curio y Olli, también han implementado medidas como la posibilidad de que los padres supervisen el contenido de las interacciones o la alerta ante la pronunciación de palabras o frases inapropiadas.
Sin embargo, los expertos insisten en que estos juguetes se están lanzando al mercado con demasiada prisa, sin una regulación adecuada, lo que pone en riesgo tanto a los niños como a los padres. Hirsh-Pasek, por ejemplo, cree que estos dispositivos tienen un "enorme potencial" para beneficiar a los más pequeños, pero que es necesario un mayor control y una mejor implementación de las medidas de seguridad.
A medida que la inteligencia artificial generativa sigue avanzando, es crucial que los fabricantes de juguetes y las autoridades reguladoras trabajen en conjunto para garantizar que estos productos sean seguros y apropiados para su uso por parte de los niños. Solo así podrán aprovechar todo su potencial sin poner en riesgo el bienestar y la privacidad de los más pequeños.
