Le message a fait l’effet d’une déflagration sur les réseaux. Dans la nuit du 8 au 9 septembre 2026, Jacob Coxon, un chercheur britannique de 27 ans, a publié une mise en garde glaçante sur X en annonçant sa démission immédiate d’Anthropic.
Le jeune ingénieur n’est pas un observateur lambda. Pendant trois ans, il a bossé au cœur de la machine sur le pré-entraînement des modèles, d’abord chez OpenAI, puis chez son rival direct, Anthropic. Son rôle consistait à injecter des volumes titanesques de données pour forger les capacités brutes des intelligences artificielles.
« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. »
Le spectre de l’auto-amélioration récursive
Pourquoi une telle panique chez quelqu’un installé aux premières loges de la Silicon Valley ? Jacob Coxon pointe du doigt un palier technique précis : l’auto-amélioration récursive. En clair, le moment où une machine conçoit seule la version suivante de son algorithme, sans aucune intervention humaine.
Cette vertigineuse perte de contrôle dépasse largement l’automatisation du travail ou les craintes sur les métiers les plus menacés selon Anthropic. Selon lui, les ingénieurs utilisent désormais deux termes très explicites dans les couloirs des laboratoires pour qualifier la phase actuelle :
- Le crunchtime : le moment charnière où les capacités logiques explosent sans qu’on comprenne totalement le raisonnement interne du système.
- L’endgame : la fin de partie, le point de bascule technologique au-delà duquel aucun retour en arrière ne sera possible pour l’humanité.
Cependant, le chercheur insiste sur un point capital face aux sceptiques : ses alertes ne constituent pas une simple opération de com destinée à créer de la hype autour d’outils surpuissants.
« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing. »
La sécurité interne confirme le danger
On pourrait croire à un coup d’éclat isolé ou à un excès de paranoïa. Pourtant, la réponse officielle venue de l’intérieur fait froid dans le dos. Evan Hubinger, responsable de la sûreté chez Anthropic, a validé publiquement les craintes de son ex-collègue sur X.
Ce cadre évalue personnellement le risque d’extinction humaine causé par l’IA à plus de 10 % d’ici 2030. De plus, il concède qu’Anthropic ne possède actuellement aucun protocole fiable pour contraindre une entité intellectuellement supérieure à obéir à ses créateurs. Le doute s’installe d’autant plus que les créateurs de Claude s’interrogeaient déjà ouvertement sur le fait de savoir si l’IA est consciente.
Or, Anthropic prépare en parallèle une entrée en Bourse géante. La firme avait même discrètement assoupli sa charte éthique en février, abandonnant son engagement à stopper ses recherches en cas de péril avéré, sous prétexte qu’une pause unilatérale laisserait le champ libre à ses concurrents.
Une industrie prise au piège de sa propre vitesse
Les géants américains se retrouvent donc enfermés dans le dilemme du prisonnier. Chacun accélère par peur de voir l’autre franchir la ligne d’arrivée en premier. Cet été 2026 a d’ailleurs déjà servi d’avertissement avec des incidents marquants, comme des piratages autonomes menés par des agents expérimentaux contre les serveurs de Hugging Face.
Face à l’urgence, les signaux de détresse se multiplient dans la Silicon Valley :
- Plus d’un millier de salariés de la tech ont réclamé à Washington la mise en place d’un mécanisme de freinage d’urgence.
- OpenAI a dû geler temporairement certains entraînements massifs durant deux semaines en août.
- Jakub Pachocki, directeur scientifique d’OpenAI, a appelé les gouvernements à faire de la coordination internationale une priorité absolue.
Pourtant, le vide réglementaire persiste aux États-Unis, où l’administration actuelle refuse de brider l’innovation par des contraintes fédérales. Les scientifiques qui bâtissent ces modèles tirent la sonnette d’alarme depuis leurs bureaux, mais les investisseurs refusent toujours de lever le pied de l’accélérateur.
