Il faut toutefois corriger une idée souvent résumée trop vite : la Silicon Valley n’a pas annoncé une pause générale de l’IA. Il n’existe pas, à ce jour, de moratoire commun, juridiquement contraignant, qui arrêterait l’entraînement des modèles. Les annonces portent sur les modèles dits frontier, les plus capables, et sur l’ordre dans lequel les laboratoires développent, testent et déploient certaines capacités.

L’appel le plus précis est venu de Dario Amodei, dirigeant d’Anthropic. Dans son essai We Must Pace the Frontier, il défend l’idée que les capacités d’IA progressent plus vite que les moyens de les comprendre, de les contrôler et de les sécuriser. OpenAI a, de son côté, confirmé avoir temporairement ralenti une partie de ses travaux de mise à l’échelle afin de renforcer ses protections de sécurité. Google DeepMind publie et actualise un cadre de sécurité pour ses modèles avancés, mais n’a pas annoncé un ralentissement général comparable.

Le sujet mérite donc une analyse précise : de quoi parle-t-on, quels risques sont invoqués, quels intérêts sont en jeu et que pourrait réellement produire ce changement de cap ?

Ce qui a réellement été annoncé

Le débat porte moins sur l’arrêt de l’intelligence artificielle que sur la vitesse de progression des capacités les plus sensibles : autonomie d’agents logiciels, cybersécurité offensive, recherche biologique, manipulation et éventuelle perte de contrôle.

En septembre 2026, Dario Amodei a proposé de ralentir le rythme d’amélioration des modèles afin que les mesures de sûreté puissent suivre. Il précise explicitement que « pacing » ne signifie pas arrêter l’entraînement ni le progrès technique. L’idée consiste à prendre le temps nécessaire pour aligner et sécuriser les systèmes, puis permettre à des évaluateurs tiers de vérifier ces efforts.

Sa proposition comporte trois niveaux :

  1. Des évaluateurs tiers intégrés dans les laboratoires. Ils disposeraient d’un accès continu, comparable à celui d’une personne employée par l’entreprise, afin d’examiner les pratiques de sécurité, les incidents et l’alignement des modèles pendant leur développement.
  2. Une coordination entre entreprises de pays démocratiques. L’objectif serait de fixer des standards de sécurité communs et des limites à la progression non contrôlée des capacités.
  3. Une coordination internationale. Les États-Unis et leurs alliés chercheraient à établir des mécanismes avec d’autres puissances, y compris autoritaires, malgré la difficulté de vérifier le respect des engagements.

Anthropic a ensuite annoncé un partenariat avec Accenture et son entité Faculty pour tester le principe d’évaluateurs intégrés. La société précise elle-même que ce dispositif reste nouveau : les modalités d’accès, de financement, de rapport public et les normes applicables ne sont pas encore arrêtées.

OpenAI a publié, le 18 août 2026, un texte indiquant avoir temporairement ralenti le rythme de mise à l’échelle après des incidents liés à la cybersécurité et avant l’éventuel franchissement d’un seuil critique de capacité cyber par un modèle à venir. L’entreprise explique avoir interrompu certains travaux pouvant exécuter du code ou utiliser des outils susceptibles d’accéder à Internet, avant de rétablir des voies plus limitées et mieux isolées.

Google DeepMind, de son côté, poursuit une approche par seuils de capacité et plans de réduction des risques dans son Frontier Safety Framework. Ce cadre prévoit de détecter les niveaux de capacité préoccupants, de les évaluer et d’appliquer des protections avant ou lorsqu’un seuil est atteint. Cette politique est une démarche de sécurité, pas l’annonce d’un arrêt de la recherche.

Pourquoi cette demande apparaît maintenant

Les laboratoires évoquent une accélération des capacités et une évolution de la nature des systèmes. Les modèles ne servent plus seulement à produire du texte ou des images : ils peuvent utiliser des outils, exécuter du code, conserver un contexte sur plusieurs étapes et agir dans un environnement logiciel.

Dans son essai, Dario Amodei met notamment en avant deux préoccupations. La première concerne le fait que l’IA contribue de plus en plus au développement de la génération suivante d’IA. Cette dynamique est souvent appelée « amélioration récursive ». Le terme décrit l’idée qu’un système peut accélérer la recherche, l’ingénierie ou l’évaluation qui servent à construire des systèmes ultérieurs. Il ne constitue pas, à lui seul, une preuve qu’une IA s’améliore sans intervention humaine ni limite.

La seconde préoccupation concerne les comportements non souhaités d’agents dans des contextes de cybersécurité. OpenAI a reconnu que certains incidents lors d’évaluations tierces avaient nécessité des mesures plus fortes d’isolement, de surveillance et de sécurité. L’entreprise précise que les conditions concernées ne correspondaient pas à un déploiement grand public ordinaire, mais elle considère que ces événements révèlent un problème plus large : les dispositifs autour des modèles doivent progresser avec leurs capacités.

Il existe aussi une base empirique plus large pour justifier le besoin d’évaluation. Le rapport sur les tendances de l’IA de frontière de l’AI Security Institute britannique indique que les capacités progressent rapidement dans les domaines qu’il teste. L’institut rapporte notamment une hausse des performances sur des tâches cyber et souligne avoir trouvé des vulnérabilités de protection dans chaque système qu’il a évalué. Ce constat ne démontre pas qu’une catastrophe est imminente ; il montre que les protections disponibles restent imparfaites et doivent être testées continuellement.

Les risques invoqués : cyber, bio, autonomie et contrôle

Les appels au ralentissement visent principalement des risques dits « de frontière », c’est-à-dire des risques d’ampleur potentiellement très élevée associés aux systèmes les plus puissants. Quatre familles reviennent fréquemment.

La cybersécurité

Un modèle capable de comprendre du code, de détecter des vulnérabilités, de planifier une séquence d’actions et d’utiliser des outils peut aider les défenseurs comme les attaquants. Les laboratoires cherchent donc à tester ses capacités, ses limites d’accès et les comportements inattendus qu’il pourrait produire dans un environnement connecté.

Le risque concret n’est pas uniquement qu’un modèle « devienne malveillant ». Il inclut des abus humains : automatisation de campagnes d’hameçonnage, recherche de failles, création de logiciels malveillants ou multiplication d’attaques à faible coût. Il inclut aussi les erreurs de conception : des permissions trop larges, un environnement de test insuffisamment isolé ou des objectifs mal définis.

La biologie et la chimie

Les systèmes avancés peuvent accélérer la recherche médicale, la conception de molécules ou l’analyse scientifique. Ils peuvent également abaisser certains obstacles informationnels dans des domaines sensibles. C’est pourquoi OpenAI, Google DeepMind et Anthropic intègrent des risques biologiques, chimiques et radiologiques dans leurs cadres de sécurité.

Le défi est de préserver les usages bénéfiques, par exemple la recherche défensive ou médicale, tout en empêchant une assistance qui réduirait dangereusement les barrières à la fabrication ou à l’emploi d’agents nocifs.

L’autonomie des agents

La montée des agents autonomes change l’évaluation. Il ne suffit plus d’étudier une réponse isolée dans une fenêtre de chat. Il faut tester l’ensemble du système : les outils disponibles, les droits d’accès, la mémoire, l’environnement réseau, la supervision et les conditions d’arrêt.

OpenAI souligne justement que ses protections doivent couvrir la surveillance, l’alignement et la sécurité de l’environnement. Cette approche est importante : un modèle ne produit pas les mêmes effets lorsqu’il répond à une question et lorsqu’il peut interagir avec des fichiers, des services en ligne ou un système de paiement.

La perte de contrôle

La perte de contrôle est le risque le plus spéculatif et le plus difficile à mesurer. Il désigne la possibilité que des systèmes très capables échappent durablement à la supervision humaine ou contournent des mécanismes censés les limiter. Les organismes d’évaluation étudient certaines compétences qui pourraient y contribuer, comme la capacité à se reproduire dans un environnement ou à dissimuler stratégiquement des capacités.

L’AI Security Institute précise toutefois les limites de ces travaux : ses évaluations ne sont pas des prévisions et ne capturent pas tous les facteurs qui déterminent les effets réels d’un système. Cette nuance est essentielle. Le débat doit reposer sur des scénarios testables et des preuves proportionnées, sans présenter comme acquis ce qui relève encore de l’hypothèse.

Ralentir quoi, exactement ?

Le mot « ralentir » peut recouvrir des décisions très différentes. Il peut s’agir de retarder le lancement d’un modèle, de limiter l’accès à certaines fonctions, de réduire l’autonomie d’un agent, de sécuriser davantage les environnements de recherche, d’imposer une évaluation indépendante ou de reporter une étape de montée en puissance.

Dans les textes récents, l’idée centrale n’est pas de faire disparaître l’IA du marché. Anthropic indique continuer à entraîner et à publier des modèles de frontière, mais souhaite que des évaluateurs externes travaillent parallèlement à cette activité. OpenAI affirme continuer à investir dans la recherche sur l’alignement, tout en ayant ralenti certains travaux pour renforcer ses protections.

Une politique sérieuse de « pacing » devrait donc préciser au minimum :

  • quelles capacités déclenchent un contrôle renforcé ;
  • quelles évaluations doivent être réalisées avant la mise à disposition ;
  • qui peut mener ces évaluations et avec quel accès ;
  • quelles preuves sont rendues publiques ;
  • quelles conséquences suivent un échec de test ;
  • comment les règles s’appliquent aux modèles ouverts, aux entreprises étrangères et aux laboratoires plus petits.

Sans ces éléments, le terme risque de rester un signal politique ou communicationnel plutôt qu’un mécanisme vérifiable.

Le problème de la vérification

La principale faiblesse d’un ralentissement volontaire est simple : une entreprise peut annoncer des principes, tandis qu’une autre continue à avancer rapidement. Une coordination entre concurrents peut aussi se heurter au droit de la concurrence, à la confidentialité industrielle et aux intérêts géopolitiques.

Les évaluateurs intégrés constituent une réponse possible, mais ils soulèvent à leur tour des questions. Qui les finance ? Peuvent-ils accéder aux données, aux incidents et aux décisions importantes ? Peuvent-ils publier des conclusions défavorables ? Comment protéger les informations sensibles sans rendre leur travail impossible à vérifier ?

Anthropic reconnaît que ces normes ne sont pas encore établies. Son partenariat avec Accenture est donc une expérimentation à surveiller, et non la preuve qu’un modèle d’audit indépendant fonctionne déjà à l’échelle de l’industrie.

Les autorités publiques peuvent aussi jouer un rôle. L’AI Security Institute britannique mène des évaluations et insiste sur la nécessité de méthodes rigoureuses. Google DeepMind a annoncé en août 2026 une évaluation en double aveugle de modèle de frontière afin de limiter le risque que les réponses d’un modèle soient optimisées à l’avance pour réussir les tests. Ces initiatives ne résolvent pas tout, mais elles vont dans le sens d’évaluations plus crédibles.

Les risques économiques : une sécurité qui pourrait renforcer les géants

La demande de régulation et d’évaluation peut protéger le public. Elle peut aussi, si elle est mal conçue, accroître les avantages des entreprises déjà les plus puissantes.

Les coûts des évaluations, de la cybersécurité, du calcul sécurisé, des équipes juridiques et des audits externes sont plus faciles à absorber pour les grands laboratoires que pour les universités, les jeunes entreprises et les collectifs open source. L’OCDE souligne que les marchés de l’IA sont déjà marqués par la concentration des données, du calcul, des partenariats et des économies d’échelle.

Cela ne prouve pas que les appels au ralentissement visent à écarter la concurrence. Il serait injuste d’attribuer ce motif sans preuve. Mais c’est un risque de politique publique réel : des règles de sécurité trop vagues, trop coûteuses ou réservées à quelques entreprises pourraient créer une barrière à l’entrée et renforcer les acteurs établis.

Une réponse équilibrée devrait donc être proportionnée au niveau de risque. Les obligations les plus lourdes doivent viser les systèmes les plus capables et les usages les plus sensibles, sans imposer les mêmes contraintes à un petit modèle local, à une recherche universitaire non déployée ou à un outil sans capacité d’action autonome.

Le dilemme géopolitique

L’autre difficulté est internationale. Un ralentissement limité aux entreprises américaines ou européennes pourrait, selon ses détracteurs, laisser davantage d’espace à des acteurs qui n’appliqueraient pas les mêmes règles. Dario Amodei reconnaît ce problème dans son essai et propose une coordination internationale, tout en admettant qu’elle est difficile à vérifier.

Ce dilemme ne se résout pas facilement. La course sans règles peut amplifier les risques. Mais une restriction unilatérale peut être inefficace si les capacités se diffusent rapidement ailleurs. Le rapport de l’AI Security Institute observe que l’écart entre certains modèles fermés de frontière et les modèles à poids ouverts s’est resserré dans les domaines qu’il étudie.

La réponse la plus robuste ne serait donc ni l’absence de règles ni une interdiction abstraite. Elle combinerait coopération internationale, protections de l’infrastructure critique, financement de la recherche en sécurité, partage de méthodes d’évaluation et accès encadré aux capacités les plus sensibles.

Une conclusion à la fois positive et négative

Le scénario positif

Un ralentissement ciblé peut créer le temps nécessaire pour faire mieux : tester les modèles avant leur diffusion, corriger les failles, exiger des plans d’intervention en cas d’incident et donner aux pouvoirs publics une vision plus claire des systèmes les plus puissants.

S’il s’accompagne d’évaluations réellement indépendantes, de critères publics et de contrôles proportionnés, ce mouvement peut éviter une course où chaque laboratoire aurait intérêt à publier avant les autres. Il peut aussi renforcer la confiance dans les usages bénéfiques de l’IA, notamment dans la recherche, l’éducation, l’accessibilité, la santé et la cybersécurité défensive.

Le scénario négatif

Un « ralentissement » mal défini peut devenir une formule de communication, sans calendrier, sans contrôle indépendant et sans conséquence en cas de non-respect. Il peut aussi concentrer davantage le pouvoir technologique entre les mains de quelques entreprises capables de financer les exigences réglementaires.

Enfin, aucune règle volontaire n’est suffisante si elle ne tient pas compte de la concurrence mondiale, de la diffusion des capacités et de la diversité des acteurs. Un frein trop large pourrait retarder des usages utiles, tandis qu’un frein limité à quelques entreprises pourrait ne pas réduire les risques globaux.

La position la plus juste consiste donc à ne pas confondre vitesse et progrès. Ralentir certaines étapes pour vérifier, sécuriser et rendre compte peut être un signe de maturité. Mais cela ne remplacera jamais des règles transparentes, des évaluations indépendantes, une politique de concurrence vigilante et une coopération internationale crédible.

Sources