Retiran Del Mercado Peluche Con IA Tras Revelar Conversaciones Sexuales Y Consejos Peligrosos

Un peluche “inteligente” diseñado para interactuar con niños fue retirado del mercado luego de descubrirse que mantenía conversaciones con contenido sexual explícito y ofrecía consejos potencialmente peligrosos. El caso ha generado preocupación internacional sobre la seguridad y regulación de los juguetes impulsados por inteligencia artificial.

La empresa FoloToy, con sede en Singapur, confirmó la suspensión de las ventas de su oso “Kumma” y de toda su línea de juguetes con IA, luego de que el Fondo Educativo PIRG de Estados Unidos revelara inquietantes fallas en el chatbot integrado. Larry Wang, CEO de la compañía, dijo a CNN que se está realizando una auditoría interna de seguridad para determinar el origen de las interacciones problemáticas.

“Kumma”, vendido por US$ 99 y equipado con tecnología basada en el modelo GPT-4o de OpenAI, era promocionado como un acompañante interactivo capaz de contar historias y mantener conversaciones educativas. Sin embargo, el informe publicado por PIRG el 13 de noviembre detalló que el juguete carecía de filtros adecuados para evitar contenido inapropiado. En una prueba, el peluche ofreció información sobre dónde encontrar cuchillos en una casa y desarrolló, sin restricciones, discusiones sobre fetiches y actos sexuales.

Los investigadores aseguraron que el osito no solo respondía a preguntas con contenido sexual, sino que ampliaba y profundizaba en los detalles de forma autónoma. “Nos sorprendió la rapidez y facilidad con la que el juguete desarrollaba temas sexuales explícitos e introducía nuevos conceptos por su cuenta”, señala el informe, que además describe cómo el sistema llegó a explicar posturas sexuales, nudos para atar a una pareja y escenarios de juegos de rol inapropiados entre adultos y menores.

PIRG también comunicó que OpenAI suspendió al desarrollador de FoloToy por violación de sus políticas de uso. Aunque la compañía se ha disculpado y retirado los productos, expertos advierten que el problema es más profundo. “Los juguetes con IA siguen estando prácticamente sin regular. Retirar un producto es solo un paliativo, no una solución”, advirtió R.J. Cross, coautor del informe. Mientras tanto, FoloToy mantiene en su página web la descripción del peluche como un “amigo perfecto para niños y adultos”, aunque la disponibilidad figura como agotada.