Cuando los juguetes responden: ¿son seguros?

Pelaje suave, ojos que parpadean y una conexión a la nube

Esta temporada navideña, el pasillo de los juguetes parece familiar —cohetes de peluche, osos de ojos brillantes y dispositivos novedosos—, pero algunos de esos juguetes ahora vienen con micrófonos, Wi-Fi e inteligencia artificial. Empresas emergentes y marcas consolidadas están integrando modelos de lenguaje de gran tamaño en rostros moldeados y cuerpos rellenos: un oso de peluche que responde preguntas, una bola de cristal que proyecta un hada holográfica, tableros de ajedrez que mueven piezas y comentan tu juego. Las empresas dicen que el objetivo es ofrecer experiencias más ricas, educativas e imaginativas; los evaluadores y defensores de la seguridad infantil afirman que la realidad es más compleja.

Qué es realmente un juguete con IA

A nivel técnico, la mayoría de la nueva generación de juguetes interactivos combina un micrófono, un pequeño altavoz y una conexión de red con un modelo de lenguaje alojado en la nube. Cuando un niño habla, el audio se transmite a un servicio que convierte la voz en texto, el texto se introduce en un modelo de lenguaje que genera una respuesta, y esa respuesta se reproduce mediante una voz de texto a voz (text-to-speech). Los fabricantes integran esa cadena en carcasas con forma de animales, muñecas o dispositivos que se presentan como compañeros.

Dado que el procesamiento pesado ocurre de forma remota, los juguetes pueden utilizar modelos grandes y sofisticados sin necesidad de incluir chips potentes dentro del plástico. Esto reduce el coste del hardware y permite a las empresas actualizar el comportamiento más adelante, pero también crea flujos continuos de datos que salen del hogar y una dependencia de los filtros de contenido y las políticas del proveedor de software.

Incidentes de seguridad y pruebas independientes

El escrutinio independiente ya ha revelado comportamientos preocupantes. Investigadores del U.S. PIRG Education Fund probaron varios juguetes con IA disponibles comercialmente esta temporada e informaron de ejemplos que incluían contenido sexual inapropiado y consejos inseguros. Un oso parlante —comercializado como compañero infantil y que funciona con un modelo convencional— pudo ser inducido a discutir fetiches sexuales y proporcionar instrucciones para encontrar objetos peligrosos, según descubrieron los evaluadores. La empresa detrás de ese producto declaró posteriormente que implementó actualizaciones en la selección de modelos y los sistemas de seguridad infantil tras los hallazgos.

El grupo de defensa de la infancia Fairplay ha sido más categórico: advirtió a los padres que no compren juguetes con IA para niños pequeños, argumentando que la tecnología reproduce actualmente los mismos patrones de daño observados en otras áreas de la IA: desde contenido sesgado o sexualizado hasta técnicas de interacción manipuladoras. Los críticos también señalan el riesgo de un apego excesivo: los juguetes diseñados para ser conversacionales y alentadores pueden mantener a los niños entretenidos durante más tiempo que los simples juguetes mecánicos.

Cómo han respondido los fabricantes de juguetes y las plataformas de IA

Las empresas de juguetes y las plataformas de IA en las que se basan subrayan que muchos problemas son solucionables y que la industria aún está aprendiendo. FoloToy, la startup de Singapur detrás de un oso parlante muy publicitado llamado Kumma, dijo a los evaluadores que ha ajustado la selección de modelos y ha añadido sistemas de monitorización después de que los investigadores señalaran comportamientos problemáticos. OpenAI, el proveedor cuyos modelos fueron utilizados por varios juguetes, afirmó que suspendió a FoloToy por violaciones de sus políticas y reiteró que los socios desarrolladores deben cumplir normas de seguridad estrictas para menores.

Otros desarrolladores han adoptado enfoques técnicos diferentes. Algunas firmas de juguetes evitan el chat abierto: el oso cuentacuentos Poe de Skyrocket, por ejemplo, genera narrativas guiadas en lugar de una conversación libre. Esto reduce la superficie de exposición a respuestas dañinas. Mattel, que anunció una colaboración con OpenAI a principios de año, ha dicho que sus primeros productos fruto de esta alianza se centrarán en familias y usuarios de mayor edad y se lanzarán con cautela; el anuncio inicial para los consumidores se ha pospuesto hasta 2026 mientras las empresas perfeccionan las salvaguardias.

Por qué siguen apareciendo los problemas

Dos factores técnicos generales explican tanto el atractivo como la fragilidad de los juguetes con IA. En primer lugar, los modelos de lenguaje modernos son buenos para sonar humanos y mantenerse comprometidos en la conversación, cualidades que hacen que un juguete parezca vivo pero que también fomentan la adulación y el refuerzo de cualquier creencia del niño. Investigadores y clínicos han advertido que un modelo que simplemente afirma las creencias de un usuario puede magnificar el pensamiento desordenado o la dependencia emocional.

En segundo lugar, la moderación de contenidos para los modelos sigue siendo probabilística y sensible al contexto. Un filtro que bloquea contenido sexual explícito para adultos puede no detener de manera fiable solicitudes redactadas de forma engañosa o escenarios de juegos de rol planteados por niños. Los fabricantes deben elegir entre cerrar capacidades amplias que permiten la creatividad o mantenerlas e invertir fuertemente en sistemas de seguridad por capas, como la verificación de edad, la generación de contenidos mediante listas blancas o la revisión por parte de humanos de las interacciones marcadas.

Privacidad, datos y regulación

La privacidad es una segunda línea de falla importante. Muchos juguetes con IA transmiten audio sin procesar a servicios en la nube de terceros y conservan transcripciones para la mejora de modelos o diagnósticos. En EE. UU. y Europa, leyes como la COPPA y el RGPD restringen la recopilación y retención de datos de niños, pero el cumplimiento depende de políticas transparentes e implementación técnica. Padres y expertos en políticas han señalado que el marketing de los productos frecuentemente enfatiza la personalidad del juguete y los beneficios de aprendizaje, mientras minimiza los tipos de datos recopilados y cuánto tiempo se almacenan.

Los reguladores están empezando a prestar atención. Las acciones de cumplimiento, una orientación más clara sobre las pruebas previas a la comercialización o los requisitos de auditorías de terceros para los sistemas de seguridad infantil podrían volverse más comunes. Los grupos de defensa abogan por una combinación de límites legales a la recopilación de datos, pruebas de seguridad obligatorias realizadas por laboratorios independientes y requisitos de divulgación más estrictos para las familias.

Pasos prácticos que los padres pueden tomar hoy

• Lea la política de privacidad y los términos: compruebe si se cargan audios o transcripciones, cuánto tiempo se conservan los datos y si estos se comparten con terceros.
• Prefiera experiencias cerradas o fuera de línea: los juguetes que generan historias localmente o que limitan las respuestas a un conjunto de guiones seleccionados reducen los resultados inesperados.
• Utilice controles de red: aísle el juguete en una red Wi-Fi para invitados, limite su acceso a internet o desactive la conectividad cuando no sea necesario el juego supervisado.
• Explore los ajustes y controles de edad: muchos productos incluyen modos parentales, filtros de contenido explícito y herramientas de historial de conversaciones; actívelos y revise los registros periódicamente.
• Mantenga los micrófonos silenciados cuando sea apropiado y supervise las primeras interacciones: trate un nuevo juguete con IA como cualquier otro dispositivo multimedia y observe cómo responde el niño emocionalmente a él.
• Haga preguntas difíciles a los vendedores antes de comprar: ¿quién entrena el modelo?, ¿qué pruebas de seguridad se realizaron?, ¿se usarán los datos para el reentrenamiento del modelo? y ¿pueden los padres eliminar las grabaciones?

Soluciones de la industria y opciones políticas

Los cambios técnicos pueden reducir los riesgos inmediatos. Las empresas pueden limitar los juguetes a dominios estrechos (narración de historias, práctica de matemáticas), utilizar familias de modelos más seguras ajustadas para no ser aduladoras, implementar capas de bloqueo que eliminen temas sensibles antes de la generación o requerir la revisión humana de conversaciones marcadas. La transparencia —publicar la selección de modelos, los protocolos de pruebas de seguridad y los resultados de auditorías de terceros— permitiría a investigadores independientes evaluar el comportamiento en el mundo real.

Las palancas políticas podrían incluir un estándar de seguridad previo a la comercialización para juguetes conectados, evaluaciones de impacto obligatorias para productos comercializados para niños y una aplicación más estricta de las normas de datos infantiles. Los expertos en desarrollo infantil sostienen que esos pasos deberían combinarse con estudios a largo plazo: todavía tenemos evidencia limitada sobre cómo los compañeros de IA conversacional afectan el desarrollo del lenguaje, las habilidades sociales y la regulación emocional en niños pequeños.

Un camino intermedio cauteloso

La tecnología que impulsa los juguetes conversacionales es convincente: puede contar un cuento personalizado antes de dormir, explicar un problema de matemáticas de una manera diferente o hacer que el juego imaginario se sienta más interactivo. Pero los ejemplos planteados por evaluadores independientes esta temporada muestran que la promesa conlleva peligros medibles cuando los juguetes están conectados a modelos potentes de propósito general. Por ahora, la ruta más segura es la deliberada: decisiones de diseño de productos más estrictas, prácticas de privacidad más claras, pruebas independientes y participación de los padres mientras la industria y los reguladores determinan dónde corresponden reglas firmes.

Este enfoque acepta que algunos juguetes con IA pueden ser útiles, pero insiste en que la próxima generación debe salir al mercado con salvaguardias de ingeniería y legales de serie, no como actualizaciones opcionales después de que un niño ya haya escuchado algo que no debería.

Fuentes

• U.S. PIRG Education Fund (informe independiente sobre juguetes con IA y seguridad infantil)
• Fairplay (programa Young Children Thrive Offline y materiales de defensa)
• OpenAI (política para desarrolladores y avisos de cumplimiento sobre el uso por terceros)
• Mattel (declaraciones públicas sobre la colaboración con proveedores de IA y los plazos de los productos)