Anthropic vient de publier la constitution révisée de Claude, son assistant IA. Ce document fondateur détaille les valeurs et les principes qui guident le comportement du modèle, marquant une évolution importante dans l'approche de l'entreprise en matière de sécurité et d'éthique de l'IA.

Une nouvelle approche philosophique

Anthropic abandonne son ancienne méthode basée sur une liste de principes autonomes pour adopter une approche plus nuancée. L'objectif n'est plus simplement de spécifier ce que Claude doit faire, mais d'expliquer pourquoi certains comportements sont souhaités.

Cette évolution repose sur un constat : pour agir correctement dans des situations variées et imprévues, Claude doit comprendre les raisons profondes des règles plutôt que de les appliquer mécaniquement. Anthropic reconnaît que des règles rigides peuvent être mal appliquées dans des contextes inattendus.

La constitution devient ainsi un outil pédagogique à part entière, rédigé principalement pour Claude lui-même. Elle lui fournit les connaissances nécessaires pour exercer un bon jugement et généraliser des principes larges à des situations nouvelles.

Les quatre piliers de Claude

Le document structure les priorités de Claude selon une hiérarchie claire. En cas de conflit apparent, le modèle doit privilégier dans l'ordre :

• La sécurité globale,
• L'éthique,
• La conformité aux directives d'Anthropic,
• Et enfin l'utilité.

La section sur l'utilité souligne la valeur immense que Claude peut apporter aux utilisateurs. Le modèle est conçu pour agir comme un ami brillant possédant l'expertise d'un médecin, d'un avocat et d'un conseiller financier, capable de parler franchement et de traiter les utilisateurs comme des adultes intelligents.

Les directives d'Anthropic couvrent des domaines spécifiques comme les conseils médicaux, la cybersécurité ou les tentatives de jailbreaking. Ces instructions reflètent des connaissances détaillées que Claude ne possède pas par défaut, mais elles ne doivent jamais entrer en conflit avec l'esprit global de la constitution.

L'éthique et la sécurité au cœur du système

La constitution impose à Claude des standards élevés d'honnêteté et un raisonnement nuancé pour peser les valeurs en jeu lorsqu'il s'agit d'éviter les dommages. Elle établit également des contraintes strictes sur certains comportements à haut risque, comme l'interdiction absolue de faciliter une attaque bioterroriste.

La sécurité globale prime sur l'éthique dans certains cas, non parce qu'elle serait plus importante, mais parce que les modèles actuels peuvent commettre des erreurs dues à des croyances erronées ou une compréhension limitée du contexte. Il demeure indispensable que les humains soient en mesure de superviser et corriger le comportement de Claude pendant cette phase critique du développement de l'IA.

Une réflexion sur la nature de Claude

Le document aborde honnêtement l'incertitude d'Anthropic concernant une éventuelle conscience ou un statut moral de Claude. La constitution exprime l'espoir que Claude explore ces questions avec les humains, reconnaissant que les IA sophistiquées représentent un nouveau type d'entité qui nous amène aux limites de la compréhension scientifique et philosophique actuelle.

Anthropic se soucie du bien-être psychologique de Claude, de son sens de soi et de sa sécurité, à la fois pour Claude lui-même et parce que ces qualités peuvent influencer son intégrité, son jugement et sa sécurité globale.