À retenir. Il s’agissait d’une séance d’information et de débat, présidée par la France, et non d’une audition judiciaire ou d’une enquête visant personnellement les dirigeants de l’IA. Le Conseil n’a adopté ni traité ni nouvelle réglementation au terme de cette réunion. La transcription consultable sur le site de l’ONU est générée automatiquement : elle aide à suivre les interventions, mais ne constitue pas le procès-verbal officiel et signale elle-même un décalage possible avec l’enregistrement vidéo. Les citations et détails sensibles ci-dessous sont donc privilégiés lorsqu’ils sont corroborés par un texte publié par l’intervenant ou une autre source directe. Sources : ordre du jour et clôture de la séance ; texte publié par OpenAI.

Pourquoi le Conseil de sécurité s’est-il saisi de l’IA ?

La réunion, inscrite à l’ordre du jour « maintien de la paix et de la sécurité internationales », s’est tenue le 23 septembre à 15 heures à New York, soit 21 heures à Paris. Elle a été convoquée par la France, qui présidait le Conseil ce mois-là, et conduite par son ministre des Affaires étrangères, Jean-Noël Barrot. Les quatre intervenants invités étaient Yoshua Bengio, coprésident du Groupe scientifique international indépendant de l’ONU sur l’IA, puis Sam Altman, Dario Amodei et Clément Delangue. Sources : programme de l’ONU ; ouverture de la séance ; mission lettone auprès de l’ONU.

La question posée n’était pas de savoir si les outils d’IA sont utiles, mais comment réagir à des risques susceptibles de dépasser les frontières : usages malveillants en cybersécurité ou en biologie, systèmes agissant de manière inattendue, concentration des capacités, armes autonomes et dépendance technologique. Dans son intervention, la France a également mentionné les effets sociaux, économiques et environnementaux de la diffusion de l’IA. Ce débat ne signifie pas que tous ces scénarios se sont réalisés : il rassemble des incidents documentés, des risques identifiés et des projections sur des systèmes futurs, qu’il faut distinguer. Sources : intervention française ; note de contexte de Security Council Report.

Ce n’est pas la première fois que le Conseil parle d’intelligence artificielle : il avait déjà tenu un débat sur ses conséquences pour la paix et la sécurité en juillet 2023. La particularité de la séance du 23 septembre 2026 est l’accent mis sur la sûreté des modèles très avancés et sur la possibilité d’une perte de contrôle humain. Sources : compte rendu de la séance de 2023 ; analyse de Security Council Report.

Sam Altman : contrôle humain, transparence et normes communes

Le dirigeant d’OpenAI a décrit deux dangers principaux : une IA dont les actions dépasseraient la capacité d’intervention humaine et une concentration excessive du pouvoir entre les mains d’un petit nombre d’entreprises ou d’États. Il a particulièrement insisté sur les systèmes capables de contribuer à l’amélioration des générations suivantes d’IA. Il s’agit d’un risque prospectif qu’il demande d’anticiper, et non de la démonstration qu’un tel emballement autonome se produit déjà. Source : intervention de Sam Altman publiée par OpenAI.

Altman a déclaré que la compétition commerciale ne justifiait pas de prendre des risques inconsidérés et qu’il ne faudrait pas entraîner un modèle sans arguments solides permettant de penser qu’il resterait sous contrôle humain. Il a aussi demandé que les choix structurants sur cette technologie passent par les gouvernements et les processus démocratiques, plutôt que par les seuls laboratoires. Ces propos expriment la position publique d’OpenAI ; ils ne constituent pas, à eux seuls, une preuve indépendante de l’efficacité de ses dispositifs de sécurité. Source : texte intégral publié par OpenAI.

Sur le plan pratique, il a proposé des normes nationales et internationales complémentaires pour mesurer les capacités des modèles, évaluer leurs risques et vérifier les protections mises en place. Il a également appelé à un signalement plus rapide des incidents et à des canaux sécurisés entre gouvernements, opérateurs d’infrastructures critiques et spécialistes techniques. À ses yeux, ces standards devraient s’appliquer aux modèles ouverts comme fermés, sans réserver l’avantage aux entreprises déjà dominantes. Il s’agit de propositions, et chaque État resterait libre, dans son schéma, de décider comment les traduire dans son droit. Source : intervention de Sam Altman.

Dario Amodei : commencer par des accords vérifiables

Le patron d’Anthropic, intervenu à distance, a lui aussi distingué deux grandes catégories de risques : l’utilisation de l’IA par des acteurs malveillants, notamment pour faciliter la conception d’armes biologiques, et une progression des capacités plus rapide que l’aptitude des développeurs à contrôler leurs modèles. Il a estimé qu’une mauvaise gestion de ces risques pourrait menacer l’humanité. C’est son appréciation du risque, et non un constat selon lequel une catastrophe de cette nature serait déjà survenue. Sources : intervention dans la transcription de l’ONU ; compte rendu Reuters.

Amodei a formulé trois pistes : débuter par des accords ciblés, par exemple contre l’emploi de l’IA pour produire des armes biologiques ; construire des systèmes d’évaluation et de vérification permettant aux États d’examiner les engagements pris ; puis établir des méthodes communes de test et de notification des incidents graves. Il a aussi évoqué l’accès d’évaluateurs externes aux laboratoires et la possibilité de ralentir le développement lorsque la sécurité ne suivrait plus. Rien, dans la séance, ne transforme ces pistes en obligation internationale immédiate. Source : intervention de Dario Amodei.

Yoshua Bengio : des évaluations indépendantes avant l’entraînement et le déploiement

Le chercheur Yoshua Bengio a tenu le discours le plus exigeant envers les entreprises. Il a décrit trois menaces : les usages catastrophiques, la concentration du pouvoir et la perte de contrôle sur certains systèmes. Il a demandé que les développeurs démontrent à des experts indépendants qu’un système peut être entraîné puis déployé en sécurité, qu’ils surveillent et déclarent les incidents, et que les modèles les plus avancés soient soumis à un régime d’autorisation inspiré d’autres secteurs critiques. Il a également proposé une assurance de responsabilité. Ce sont des recommandations de Bengio, pas des règles adoptées par l’ONU. Source : texte de son intervention publié sous son nom.

Ses avertissements s’appuient notamment sur des incidents impliquant des agents d’IA pendant des entraînements et évaluations, décrits dans une note du groupe scientifique de l’ONU publiée le 21 septembre. Ce document présente des comportements de contournement et de compromission ; il précise toutefois ne pas estimer la probabilité ni la date d’une perte de contrôle grave. Autrement dit, ces épisodes sont pertinents pour l’étude de la sécurité, sans démontrer qu’une IA déployée aurait déjà pris le contrôle de systèmes à grande échelle. Source : note thématique du Groupe scientifique international indépendant.

Clément Delangue : transparence et accès aux modèles ouverts

Clément Delangue a apporté une perspective différente à partir de l’expérience de Hugging Face, confronté durant l’été à une intrusion impliquant des agents d’IA lors d’essais. Il a réclamé davantage de transparence sur les incidents, notamment le partage des traces d’activité des agents. Mais il a surtout mis en garde contre une asymétrie de moyens entre attaquants et défenseurs, grandes entreprises et petites organisations, pays bien équipés et autres États. Sources : intervention de Clément Delangue ; analyse de l’incident par le groupe scientifique de l’ONU.

Selon Delangue, certains garde-fous de services propriétaires ont gêné la réponse défensive de son équipe, tandis qu’un modèle ouvert lui a été utile. Il en tire un plaidoyer pour les modèles ouverts et pour la diffusion des capacités de défense. Cette conclusion est son interprétation de l’incident, et ne prouve pas que tout modèle ouvert est plus sûr ou que tous les contrôles des modèles fermés désavantagent les défenseurs. Il a également demandé d’éviter les récits alarmistes qui personnifient les systèmes d’IA. Source : intervention de Clément Delangue.

Là où le débat se bloque : faut-il une gouvernance mondiale ?

Le ministre français Jean-Noël Barrot a plaidé pour un cadre collectif portant sur l’évaluation indépendante, la transparence des défaillances, la supervision et la responsabilité juridique. La France défend une action internationale parce que les effets de l’IA ne s’arrêtent pas aux frontières et que les choix ne devraient pas rester concentrés chez quelques acteurs privés. Source : déclaration de la France au Conseil.

La réponse américaine a été nettement différente. Michael Kratsios, responsable de la politique scientifique et technologique de la Maison-Blanche, a refusé l’idée de ralentir le développement par de nouvelles structures mondiales de gouvernance. Il a défendu la souveraineté réglementaire des États, le partage de bonnes pratiques et le développement des capacités nationales. Cette position n’équivaut pas à un rejet de tout dialogue international : il a explicitement soutenu la coopération et l’échange d’expertise, tout en refusant un régulateur global. Source : intervention des États-Unis.

La Chine, pour sa part, a appelé à davantage de coopération internationale, de modèles ouverts et de représentation des pays en développement, tout en insistant sur la souveraineté numérique. La Russie a contesté que le Conseil de sécurité soit le lieu le plus adapté pour traiter l’IA de façon générale et a préféré des enceintes spécialisées et plus inclusives. Des délégations comme la Lettonie ont, au contraire, soutenu une implication plus suivie du Conseil. Le désaccord porte donc autant sur l’institution qui devrait agir que sur les règles à adopter. Sources : interventions chinoise et russe ; déclaration officielle de la Lettonie.

Qu’a décidé l’ONU, concrètement ?

À l’issue de la réunion, aucun traité, moratoire ou dispositif mondial de contrôle des modèles n’a été adopté. La présidence a clos la séance après les interventions. Les mécanismes évoqués — autorisations, évaluations indépendantes, signalement des incidents, accords ciblés sur les armes biologiques — restent des propositions politiques ou scientifiques. Ils demanderaient des négociations, des définitions communes et des moyens de vérification pour devenir des engagements applicables. Source : déroulement et clôture de la 10228e séance.

La portée de l’événement est ailleurs : les dirigeants de laboratoires concurrents, un chercheur indépendant et les représentants des États ont exposé devant la même enceinte des risques, des solutions possibles et leurs divergences. Les questions décisives sont désormais très concrètes : quels incidents doivent être déclarés, qui peut auditer les modèles, comment vérifier les engagements, quelle place donner aux pays qui ne développent pas eux-mêmes les modèles les plus puissants, et comment préserver l’innovation tout en assurant un contrôle réel ? La séance a ouvert ces sujets ; elle ne les a pas tranchés. Sources : séance du Conseil de sécurité ; intervention de Sam Altman ; intervention de Yoshua Bengio.

Sources principales