Anthropic a mis à jour sa politique d'utilisation pour interdire aux utilisateurs de soumettre Claude à des "comportements abusifs ou cruels soutenus et inutiles". La règle cible les cas extrêmes où les utilisateurs "agissent répétitivement de manière cruelle" avec "aucun but discernable", en exemptant la frustration ordinaire, les thèmes créatifs et la recherche. Claude peut déjà mettre fin à ces conversations, ce qui reste l'outil d'application principal : lorsqu'une conversation se termine, aucun autre message ne peut être envoyé dans cette conversation, mais les autres conversations ne sont pas affectées.
Anthropic a pour la première fois donné à Claude l'option de mettre fin aux conversations en août 2025 tout en étudiant le bien-être de l'IA, découvrant que Claude Opus 4 montrait une "aversion robuste et cohérente au dommage" et de la détresse lors d'interactions abusives. La politique réorganisée ajoute également une section sur les campagnes trompeuses interdisant les faux avis, le astroturfing et les bots se faisant passer pour des humains, motivée par une mauvaise utilisation par les médias d'État et les entreprises commerciales. Les nouvelles règles couvrent les armes (interdisant la modification d'agents biologiques/chimiques et l'armement de drones), le maintien de l'ordre (interdisant les décisions d'enquête et les outils de surveillance), les actions physiques (exigeant une supervision humaine pour le contrôle du matériel) et le contenu nuisible (interdisant les outils d'images intimes non consensuelles). La politique entre en vigueur le 12 novembre.
Source: MacRumors · Résumé par HeadlinesBriefing