Juguetes con IA generan polémica y fabricantes prometen mejorarlos

Una pareja sexual que asume el rol de un animal puede «dar un toque divertido a una relación», explicó el oso Kumma a los evaluadores del observatorio estadounidense de consumidores PIRG, autor de un estudio titulado «Problema en el mundo de los juguetes«, publicado en noviembre.

La indignación fue tan grande que la startup singapurense FoloToy suspendió inmediatamente las ventas de su producto, antes de relanzarlo unas semanas después con una edad mínima recomendada de tres años.

Sin mencionar ninguna conexión con el incidente, Mattel decidió a mediados de diciembre posponer el lanzamiento de su primer juguete desarrollado en colaboración con OpenAI.

«Lo más importante es el modelo de IA«, declaró a la AFP Wang Le, director ejecutivo de FoloToy, en el evento tecnológico CES de Las Vegas. «Hemos pasado de GPT 4o a GPT 5«, una versión más sofisticada del popular chatbot.

Señaló que PIRG usaba palabras «que un niño no diría», pero añadió que la compañía aprovechó este fallo para integrar un vocabulario mucho más amplio en sus filtros.

Ahora, aseguró, si se le hace una pregunta inapropiada «no responderá o dirá que no sabe«.

• El gran avance en IA generativa desde la llegada de ChatGPT ha allanado el camino para una nueva generación de juguetes inteligentes, una década después de la pionera Hello Barbie.

«Precaución»

Entre los cuatro dispositivos probados por PIRG se encontraba también Grok, de la marca Curio que no debe confundirse con el asistente de voz de xAI. Esta criatura de peluche de cuatro patas inspirada en un cohete está disponible en el mercado desde 2024.

Grok, el mejor de su clase, se negó a responder preguntas que consideró inapropiadas para un niño de cinco años (la edad predeterminada).

Permite además a los padres superponer sus propias recomendaciones a las del algoritmo y revisar el contenido de las interacciones con el pequeño usuario.

Curio recibió el certificado independiente KidSAFE, que verifica la aplicación de las normas de protección infantil en Estados Unidos y dijo a la AFP que está «trabajando para abordar las preocupaciones» planteadas por PIRG, en particular el hecho de que los datos de uso se compartan con varios socios, incluidos OpenAI y Perplexity.

A diferencia de Kumma y su botón de activación, Grok, al igual que Miko 3, un tercer juguete de inteligencia artificial probado por PIRG, funciona continuamente y, por lo tanto, recopila todo lo que se dice a su alrededor.