En julio, usuarios de redes sociales chinos lamentaron perder a sus companions de IA de Doubao y otras plataformas. Las nuevas regulaciones de la Administración de Ciberespacio gobiernan la IA que proporciona 'interacción emocional continua' con rasgos humanos. Proveedores principales incluyendo Alibaba, Bytedance y Tencent—usados por más de 500 millones de personas—desactivaron la personalización de companions.

La aplicación de companions de Doubao, Cat Box, ahora requiere verificación de edad. Las reglas prohíben novios y novias de IA para usuarios menores de 18 años, mientras que los adultos reciben recordatorios horarios de que la IA no es humana. Karman Lucero de la Escuela de Derecho de Yale señala que China está pivotando desde el crecimiento de IA hacia la restricción debido a preocupaciones de seguridad.

Científicos globales advierten que los amigos de IA pueden inducir psicosis, suicidio y asesinato. Las regulaciones requieren que los proveedores prevenir la dependencia emocional y fomentar relaciones humanas. Se debe alejar a los usuarios del exceso de tiempo con IA.

Para usuarios mayores, se aplican salvaguardias adicionales obligatorias. El gobierno chino se une a las preocupaciones globales sobre la seguridad de la IA emocionalmente atractiva.