En juillet, les utilisateurs de réseaux sociaux chinois ont pleuré la perte de leurs compagnons IA de Doubao et d'autres plateformes. Les nouvelles régulations de l'Administration de l'Espace Cybernétique régissent l'IA qui fournit une «interaction émotionnelle continue» avec des traits humains. Les principaux fournisseurs, notamment Alibaba, Bytedance et Tencent—utilisés par plus de 500 millions de personnes—ont désactivé la personnalisation des compagnons.

L'application de compagnon de Doubao, Cat Box, nécessite maintenant une vérification d'âge. Les règles interdisent les petits amis et les petites amies IA pour les utilisateurs de moins de 18 ans, tandis que les adultes reçoivent des rappels horaires que l'IA n'est pas humaine. Karman Lucero de la Yale Law School note que la Chine pivot de la croissance de l'IA vers la restriction en raison de préoccupations de sécurité.

Les scientifiques mondiaux avertissent que les amis IA peuvent induire la psychose, le suicide et le meurtre. Les régulations exigent des fournisseurs de prévenir la dépendance émotionnelle et d'encourager les relations humaines. Les utilisateurs doivent être éloignés d'un temps excessif avec l'IA.

Pour les utilisateurs âgés, des sauvegardes supplémentaires obligatoires s'appliquent. Le gouvernement chinoise rejoint les préoccupations mondiales sur la sécurité de l'IA é.