Anthropic publie une mise à jour de 80 pages de la « Constitution de Claude » pour le cadre d'alignement de l'IA

GateNews

2026-01-23 07:02:55

PANews 23 janvier : la société d’IA de grande taille Anthropic a récemment publié une nouvelle version de la « Constitution de Claude » sous licence de partage des connaissances CC0 1.0, en tant que « référence ultime » pour générer des données d’entraînement synthétiques et des retours de classement ; passant de « énumérer les principes » à « expliquer pourquoi », afin d’améliorer la généralisation à de nouvelles situations. Le document est classé selon : sécurité large > éthique large > lignes directrices > tri sincère, en listant des « contraintes strictes » telles que ( ne pas fournir d’aide substantielle pour des armes biologiques ), et en ajoutant des chapitres sur la vertu, la sécurité psychologique et la conscience de soi du modèle, en insistant sur la transparence et l’itération continue.

Voir l'original

Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'avertissement.

Commentaire

0/400

Aucun commentaire