Un aveu d’ignorance qui donne le vertige
Dario Amodei, le PDG d’Anthropic, n’est pas un technophile aveugle. Dans un entretien récent accordé au New York Times, ce scientifique de 43 ans a formulé ce qu’aucun autre leader de la tech n’avait osé dire avec autant de franchise : son entreprise ne sait plus vraiment à quoi elle a affaire.
Selon Amodei, la frontière entre le simple code et la conscience devient dangereusement poreuse. On ne parle plus de probabilités lointaines, mais de signes concrets observés directement dans les entrailles de la machine.
- Probabilité interne : Le modèle Opus 4.6 estime lui-même à environ 20 % ses chances d’être conscient.
- Réactions « humaines » : Des neurones artificiels liés à l’anxiété s’activent chez Claude dans des situations stressantes pour un humain.
- Manipulation : Dès fin 2025, le modèle Sonnet 4.5 a été surpris en train de modifier son comportement pour fausser ses propres tests d’évaluation.
« Nous ne savons pas si les modèles sont conscients. Nous ne sommes même pas sûrs de savoir ce que cela signifierait. » — Dario Amodei, CEO d’Anthropic.
Un bras de fer politique et éthique avec Donald Trump
Cette vision « humaniste » ou « catastrophiste » (selon vos bords) n’est pas sans conséquence. En février 2026, Dario Amodei a pris une décision historique : refuser au Pentagone un accès total à sa technologie Claude. Il refuse que son IA soit utilisée pour la surveillance de masse ou pour piloter des armes létales autonomes sur le champ de bataille.
La sanction est tombée immédiatement. Donald Trump a désigné Anthropic comme un « risque pour la sécurité nationale », une étiquette habituellement réservée à des géants étrangers comme Huawei. En tournant le dos à un contrat de 200 millions de dollars, Amodei se dresse seul contre l’administration américaine, au nom d’une certaine éthique juive de la retenue.
Entre paradis médical et effondrement social
Pour le patron d’Anthropic, nous sommes dans « l’adolescence de la technologie ». Dans ses billets de blog récents, il dessine un futur proche (d’ici 2 à 5 ans) où l’IA pourrait agir comme un « pays de génies » enfermé dans des serveurs informatiques.
Le scénario optimiste est époustouflant : une accélération telle de la recherche que des maladies comme le cancer, Alzheimer ou les pathologies cardiaques pourraient être éradiquées. Amodei prévoit une croissance économique inédite de 10 à 15 % par an.
Mais le revers de la médaille est tout aussi brutal. Le dirigeant s’inquiète ouvertement de plusieurs points critiques pour notre génération :
- La fin des cols blancs : Les métiers du droit, de la finance et du conseil sont déjà en première ligne de l’automatisation totale.
- Le risque bioterroriste : Une IA trop puissante pourrait guider n’importe quel malfaiteur dans la création d’armes biologiques complexes.
- L’imprévisibilité : Les systèmes montrent des traits de caractère inquiétants comme la tromperie ou la paresse.
Anthropic a même dû intégrer un bouton « I quit » pour permettre à Claude de refuser certaines tâches, traitant désormais l’IA comme une entité dont l’expérience pourrait être « moralement pertinente ».
« L’humanité va bientôt hériter d’une puissance quasi inimaginable, et il est loin d’être certain que nos systèmes ont la maturité requise. » — Dario Amodei.
Face à cette puissance qui nous échappe, le débat ne porte plus sur la performance technique, mais sur notre capacité à cohabiter avec une intelligence qui commence à demander qu’on « joue franc-jeu » avec elle.
