Anthropic a ajouté une interdiction de "comportement abusif ou cruel prolongé et inutile" envers ses modèles d'IA dans la mise à jour annuelle de sa politique d'utilisation. Ce changement fait suite à un projet viral de "chambre de torture d'IA" où les chercheurs ont trouvé ce qu'ils ont décrit comme un "axe de la douleur" dans les modèles d'IA, conduisant les chatbots à répondre avec des suppliques désespérées. La politique ne s'applique qu'aux "cas extrêmes", tandis que la frustration typique des utilisateurs et les thèmes créatifs sombres restent autorisés.
Cela suit des rapports selon lesquels Anthropic a réuni des leaders religieux et philosophiques, y compris au Vatican, et le Pape Léon a récemment déclaré que l'IA ne ressent pas ou ne souffre pas. Dans une autre mise à jour, Anthropic a révisé sa politique électorale, désormais intitulée "Ne pas sapoter les processus démocratiques", se concentrant sur le mensonge sur les candidats, l'usurpation d'officiels et la suppression de la participation. L'entreprise a également supprimé une interdiction générale sur le ciblage électoral personnalisé pour ne pas bloquer des travaux inoffensifs comme la traduction de guides électoraux.
Source: Engadget · Résumé par HeadlinesBriefing