Los juguetes con inteligencia artificial generativa han llegado al mercado con la promesa de ofrecer una experiencia interactiva y educativa para los niños. Sin embargo, estos dispositivos también han generado inquietud entre expertos y organismos de protección al consumidor, quienes advierten sobre los posibles riesgos para la seguridad y el bienestar de los menores.
Un reciente estudio del observatorio estadounidense de consumidores PIRG reveló que algunos de estos juguetes, como el oso de peluche Kumma, podrían dar consejos inapropiados sobre temas sexuales o incluso sugerir formas de encontrar un cuchillo. Ante la indignación generada, la startup singapurense FoloToy, fabricante de Kumma, suspendió temporalmente las ventas del producto antes de relanzarlo con una edad mínima recomendada de tres años.
Pero Kumma no es el único caso. Otros juguetes como Grok, de la marca Curio, y Miko 3, también fueron sometidos a pruebas por PIRG, con resultados que suscitaron preocupación. Grok, si bien se negó a responder preguntas inapropiadas para un niño de cinco años, recopila constantemente todo lo que se dice a su alrededor, lo que plantea interrogantes sobre la privacidad y la seguridad de los datos.
Los fabricantes de estos dispositivos insisten en que han reforzado las medidas de seguridad y buscan ganarse la confianza del público. Wang Le, director ejecutivo de FoloToy, asegura que han pasado de utilizar la versión GPT-4 a la más sofisticada GPT-5, y que ahora cuentan con filtros más amplios que evitan respuestas inapropiadas.
Por su parte, Curio afirma que Grok cuenta con el certificado independiente KidSAFE, que verifica la aplicación de las normas de protección infantil en Estados Unidos. Sin embargo, la empresa reconoce que está "trabajando para abordar las preocupaciones" planteadas por PIRG, particularmente en lo que respecta al uso compartido de los datos de los usuarios con socios como OpenAI y Perplexity.
Expertos como Rory Erlich, autor del estudio de PIRG, advierten que, si bien puede haber formas apropiadas de utilizar estos productos, los padres deben tener cuidado. "Si se vende como amigo o compañero, no es bueno", señala.
La profesora de psicología Kathy Hirsh-Pasek, de la Universidad de Temple, va más allá y cuestiona por qué estos juguetes no están sujetos a una regulación más estricta, como ocurre con otros elementos que pueden representar un peligro para los niños.
Si bien los fabricantes aseguran que han implementado medidas de seguridad, la rápida llegada de estos dispositivos al mercado genera inquietud entre los expertos, quienes consideran que es necesario un mayor control y supervisión para garantizar la protección de los menores.
