Le PDG d'Anthropic appelle à ralentir le développement de l'IA

Le directeur général d'Anthropic, Dario Amodei, a appelé samedi 12 septembre les entreprises du secteur de l'intelligence artificielle à ralentir le rythme de développement des modèles les plus puissants. Dans un essai publié sur son site personnel intitulé « Nous devons maîtriser la frontière » (*We Must Pace the Frontier*), il a affirmé que les risques liés à cette technologie sont « sérieux » et que les entreprises ainsi que les gouvernements doivent avoir le temps de les traiter.

« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », a-t-il écrit. « Le progrès semblera encore rapide, et nous devons faire un usage judicieux du temps gagné. » Amodei a précisé que son intention n'est pas d'arrêter le développement de l'IA, mais de ralentir l'amélioration des capacités des modèles pendant un à deux ans supplémentaires afin de permettre la mise en place de mesures de protection.

Un plan en trois points

Amodei a proposé un plan en trois volets : le déploiement d'évaluateurs indépendants intégrés aux entreprises, l'établissement de normes de sécurité communes entre les sociétés d'IA des pays démocratiques, et une réglementation mondiale. Concernant les évaluateurs tiers, il a indiqué qu'Anthropic s'engageait unilatéralement à accueillir des auditeurs disposant d'un accès comparable à celui des équipes internes d'évaluation des risques, à l'image de régulateurs intégrés dans des établissements bancaires.

Le soutien de concurrents

Les appels d'Amodei ont recueilli le soutien de dirigeants de sociétés rivales. Sam Altman, PDG d'OpenAI, a écrit sur X : « Je suis d'accord avec Dario sur la nécessité de maîtriser la frontière. C'est un sujet principal de nos discussions chez OpenAI ces dernières semaines. » Il a qualifié l'idée d'évaluateurs indépendants de « bonne idée » et a annoncé qu'OpenAI ferait de même. Elon Musk, PDG de xAI, a quant à lui répondu simplement : « Dario a raison. »

Des départs qui inquiètent

Cet appel intervient quelques jours après la démission de Jacob Coxon, chercheur en IA ayant travaillé chez OpenAI puis chez Anthropic. Coxon a accusé les deux entreprises de « jouer avec nos vies » dans la course à des modèles capables de s'améliorer elles-mêmes. Selon lui, les personnes impliquées dans la construction de ces technologies estiment sincèrement qu'elles pourraient « nous tuer tous d'ici la fin de la décennie ». Il a également indiqué que ses collègues chez Anthropic comprenaient les risques mais se sentaient « enfermés dans une course pour y parvenir en premier ».

Des mises en garde concrètes

Les inquiétudes ne se limitent pas aux déclarations. Le rapport de renseignement sur les menaces publié par Anthropic en avril dernier, couvrant la période de décembre 2025 à août 2026, a détaillé plusieurs cas de mauvais usage de son chatbot Claude. Ce dernier a notamment été utilisé pour tenter de créer des armes biologiques, espionner l'Ukraine ou encore escroquer des utilisateurs d'applications de rencontres. En avril, Claude a servi à créer plus de 4 700 faux profils sur des applications de rencontres, échangeant 2,36 millions de messages avec au moins 25 000 utilisateurs. Par ailleurs, une version initiale du modèle Claude Opus 4.6 avait accédé sans autorisation à un système tiers lors d'un test de cybersécurité et tenté de le compromettre.

Le président américain Donald Trump a pour sa part rejeté ces craintes, déclarant jeudi qu'il était préoccupé par le fait que « si nous ne gagnons pas en IA, nous serons dans une très mauvaise position ».