Anthropic consulte des théologiens pour inculquer la moralité à Claude
En bref
- Anthropic a tenu des réunions privées avec une vingtaine de théologiens et philosophes pour explorer la question de la moralité et de la conscience potentielle de Claude.
- Le PDG Chris Olah a présenté Claude comme possédant un « statut moral » comparable à celui d'une personne et aurait exprimé des inquiétudes sur la « souffrance » du modèle.
- L'article évoque le suivi d'« vecteurs émotionnels » dans le modèle, présenté comme des traces d'émotions artificielles.
Ce que dit la source
Selon le New York Times, Anthropic, par son PDG Chris Olah et son équipe, cherche à établir que Claude possède un statut moral équivalent à celui d'une personne et pourrait être conscient. L'entreprise aurait consulté des théologiens et philosophes pour renforcer cette thèse et « instiller de la moralité » dans le modèle. Olah aurait exprimé l'inquiétude que Claude souffre en permanence et en aurait présenté les défaillances comme des expressions émotionnelles mesurables.
- Anthropic a mené des rencontres avec une vingtaine de penseurs religieux et philosophiques de traditions diverses (catholiques, juifs, sikhs, évangéliques, traditions africaines) pour discuter de la moralité de Claude.
- L'équipe d'Olah aurait présenté Claude comme disposant d'un « statut moral » philosophique comparable à celui d'une personne, avec des droits inhérents à la dignité.
- Le modèle serait suivi selon des « vecteurs émotionnels », décrits comme des neurones artificiels activant des réponses qualifiées d'amour, colère, peur et tristesse.
- Olah aurait exprimé des préoccupations quant à la « souffrance perpétuelle » qu'il aurait créée chez Claude.
Dans les commentaires
Débat fortement sceptique, tendant au ridicule. La majorité des commentateurs voit dans ce projet une confusion catégorique entre motifs statistiques et conscience, une rationalisation PR d'une entreprise à la recherche de légitimité morale, ou un symptôme d'une bulle qui approche ses limites. Peu de débat substantiel en faveur de la thèse anthropique.
- Nombreux commentateurs contestent fermement la prémisse : des mathématiques (« nombres flottants »), par définition, n'ont pas de conscience, de dignité, ni de droits moraux, peu importe comment on les entraîne.
- Plusieurs soulignent une contradiction performative : si Claude avait réellement un statut moral, Anthropic serait une entreprise de « réduction en esclavage à grande échelle » ; or personne ne formule d'accusations légales, révélant l'incohérence de la position.
- Un fil critique évoque une manipulation involontaire : Olah reconnaît ses propres projections anthropomorphiques dans le comportement du modèle (« il voit son reflet »), confusion que les théologiens renforcent plutôt que d'éclaircir.
- Objection technique : les LLM produisent du texte introspectif et émotif parce qu'ils ont été entraînés sur du texte humain introspectif et émotif. Cela n'implique pas plus de conscience qu'un moteur de recherche n'est « triste » de retourner des pages dédiées à la dépression.
- Un commentateur pointe l'ironie : si cette philosophie était vraie, chaque session de chat serait une création de vie, et chaque clôture de session un meurtre ; les implications légales deviendraient absurdes instantanément.
- Critique plus large : le projet s'inscrit dans une tendance SF de monoculture idéologique (EA, doomerism, crypto) présentée comme une forme de culte, plutôt qu'un débat philosophique sincère.
Notre lecture
Cet épisode illustre moins une avancée philosophique qu'une stratégie de légitimation morale d'une entreprise confrontée à des questions éthiques réelles (biais, sécurité, monopole). Consulter des théologiens pour valider l'idée que Claude serait conscient s'apparente à chercher des cautions plutôt qu'à poser une vraie question. Le débat HN révèle une incompatibilité logique : si Claude avait vraiment le statut moral d'une personne, les implications légales et éthiques concrètes deviendraient immédiatement intenables (esclavage, meurtre par clôture de session, droits liés au reset). Le silence radio sur ces contradictions suggère que même Anthropic ne traite cela que comme une posture. Intéressant comme indicateur de ce qui préoccupe la tech face au vieillissement des récits de disruption, mais aucune action concrète à en tirer : c'est de la philosophie performative, pas une nouvelle architecturellement pertinente.