12/09/2026
🚨 Le chercheur Jacob Coxon, qui a travaillé pour OpenAl puis Anthropic, les accuse de "jouer avec nos vies".
Jacob Coxon est un chercheur britannique de 27 ans. Il a travaillé pendant 3 ans sur l’entraînement des modèles d’IA, d’abord chez OpenAI puis chez Anthropic.
Il avait rejoint Anthropic parce qu’il pensait l’entreprise plus prudente sur les questions de sécurité, mais estime aujourd’hui qu’aucune des deux sociétés n’agit de manière suffisamment responsable.
Sa principale inquiétude concerne la course vers une « superintelligence auto-améliorante » : une IA suffisamment avancée pour participer elle-même à la création de modèles encore plus puissants.
Selon Jacob Coxon, de tels systèmes pourraient devenir extrêmement difficiles à contrôler, notamment grâce à leurs capacités en programmation, en piratage informatique ou en recherche.
Il affirme surtout que certains chercheurs qui développent ces IA prennent très au sérieux le risque qu’elles puissent provoquer une catastrophe allant jusqu’à l’extinction humaine.
Un responsable de la sûreté chez Anthropic, Evan Hubinger, a d’ailleurs publiquement estimé à titre personnel ce risque à plus de 10 % au cours de la décennie.
Pour Jacob Coxon, le problème est aussi celui de la course entre les entreprises : même lorsqu’Anthropic reconnaît les dangers, elle aurait intérêt à continuer d’accélérer par peur qu’un concurrent arrive le premier à une IA très puissante et soit encore moins prudent.
Il considère donc qu’on ne peut pas laisser quelques entreprises privées décider seules du niveau de risque acceptable pour toute la société. Il appelle à une intervention des États et à une coordination entre les laboratoires, pouvant aller jusqu’à une pause temporaire dans le développement des capacités les plus avancées.
À noter qu’il s’agit d’une opinion individuelle et non d’une probabilité établie.
Le Haut-Commissaire de l’ONU aux droits de l’homme a de son côté appelé ce lundi à mettre rapidement en place des règles pour encadrer l’intelligence artificielle.