Reuters rapporte que Meta teste un 'concierge humain' pour Muse, son nouveau agent IA personnel, où des sous-traitants humains gèrent certains des appels passés par Muse pour les utilisateurs. Le rapport est basé sur des publications internes vues par Reuters. Muse a été lancé le 8 septembre, et sa fonction d'appel peut appeler des entreprises américaines pour prendre un rendez-vous coiffeur, vérifier si un magasin a un article en stock, ou collecter des devis.

Apparemment, pas tous les appels se sont bien passés, avec un employé disant que son assureur a raccroché dès qu'il a réalisa qu'il parlait à une IA. Meta a reportedly activé l'option humaine pour la moitié de ses employés la semaine dernière, avec un groupe de opt-out pour ceux qui ne voulaient pas participer. Cela semble n'avoir pas très bien fonctionné en interne.

Certains employés ont soulevé des préoccupations de confidentialité, avertissant que des informations sensibles pourraient accidentellement aboutir à des sous-traitants de centre d'appels. L'un d'eux a reportedly écrit, 'Nous sommes à une erreur près d'une fuite d'informations inutiles vers des appelants humains.' Cela devient encore plus compliqué car un autre employé, qui avait demandé à Muse d'appeler son fournisseur d'internet et de câble pour négocier sa facture, a déclaré que la transcription montrait que le sous-traitant faisait une référence raciale. Un vice-président de Meta Superintelligence Labs a reportedly reconnu que c'était une erreur de commencer le test sans divulgations appropriées et a déclaré que la fonction a été réinitialisée pour le moment.

Ils ne renoncent pas complètement. Un porte-parole de Meta a reportedly déclaré que les retours des employés were overwhelmingly positifs et que la fonction d'appel ne sera déployée qu'une fois prête, avec les divulgations appropriées. Le rapport mentionne seulement les employés, donc nous ne savons pas si les appels des utilisateurs réguliers ont été redirigés vers des sous-traitants. Étant donné l'histoire de Meta, il sera difficile de leur faire confiance pour les divulgations appropriées et la gestion des données privées, surtout lorsque les demandes sont redirigées à travers des humains.