Une audition publique, pas une loi déjà adoptée
La fiche officielle de la séance indique une réunion du Committee of the Whole le lundi 5 octobre à 11 h à New York, soit 17 h à Paris ce jour-là. Le conseil y a réuni ses 51 membres autour d’une audition de contrôle et de dix textes. Une vidéo est référencée sur la même page. En revanche, les minutes y restent indiquées comme provisoires et les résultats d’éventuelles actions sur les propositions ne sont pas disponibles. Cette nuance empêche de transformer les mesures débattues en obligations entrées en vigueur.
Le titre de la séance, « Examiner les risques posés par l’intelligence artificielle », annonce une démarche large. Il s’agit de comprendre à la fois ce que font les grands laboratoires, comment leurs systèmes peuvent affecter les New-Yorkais et quels leviers juridiques une municipalité peut réellement manier. Le conseil a convoqué les entreprises dans un contexte de préoccupations sur la sécurité des agents, la qualité de l’information, la protection des données et l’usage des outils par l’administration.
L’audition n’est pas une enquête technique qui démontrerait à elle seule qu’un modèle donné est dangereux ou sûr. Elle établit un dossier public, recueille des positions et met des questions sur la table. La suite dépendra de la rédaction finale des textes, des étapes législatives et, le cas échéant, de leur mise en œuvre.
Pourquoi ces quatre entreprises ont accepté de comparaître
Dans son communiqué du 28 septembre, le conseil expliquait avoir sollicité les dirigeants de plusieurs grands acteurs. Meta a confirmé la participation d’un responsable. OpenAI, Google et Anthropic ont confirmé après que le conseil a évoqué la possibilité de leur adresser des convocations formelles. Le même communiqué indiquait qu’une assignation avait été délivrée à SpaceXAI, faute de réponse à la date de publication. Il serait imprudent de déduire de ce texte ce qui s’est finalement passé pour cette société pendant la séance du 5 octobre.
Une précision compte pour les images et les récits de l’audition : une entreprise représentée n’est pas forcément représentée par son PDG. Le conseil avait écrit à des dirigeants très connus, notamment Sam Altman, Dario Amodei, Sundar Pichai et Mark Zuckerberg. Cela ne prouve pas qu’ils ont personnellement témoigné ce jour-là. Le visuel FLUXAI représentant Mark Zuckerberg illustre donc le sujet ; il ne doit pas être interprété comme une photographie prise à cette audition ni comme une preuve de sa présence à la tribune.
Le conseil précise que les témoignages étaient attendus sous serment. Cette procédure peut rendre les réponses plus formelles et plus engageantes qu’une rencontre privée avec des élus. Elle ne remplace toutefois ni les documents techniques des sociétés ni les évaluations indépendantes que certaines propositions cherchent précisément à imposer.
Validation indépendante et « bouton d’arrêt » : le projet le plus ambitieux
La proposition portée par Julie Menin est l’une des plus structurantes du dossier. Selon l’ordre du jour, elle rendrait illégal de commercialiser, proposer à la vente, vendre ou déployer dans la ville un modèle d’IA non validé par un tiers ou dépourvu d’une capacité technique d’arrêt par un opérateur humain. La validation envisagée couvrirait notamment la performance, les effets inégaux selon les groupes, la confidentialité et la sécurité. Le validateur devrait déclarer ses intérêts éventuels dans le modèle examiné.
Le texte mentionne des sanctions civiles pouvant atteindre 25 000 dollars par infraction. Ce chiffre est celui d’un projet : personne ne peut encore le présenter comme une amende déjà appliquée aux quatre entreprises. Le conseil devra aussi préciser ce qu’est un modèle « déployé » à New York, comment qualifier les validateurs et comment tester la fonction d’arrêt dans des systèmes qui ne sont pas tous autonomes de la même manière.
Le terme de kill switch attire l’attention, mais il peut recouvrir des réalités très différentes. Arrêter un agent qui agit sur des outils, interrompre l’accès à une API et suspendre un modèle utilisé dans un service municipal ne sont pas le même acte. Une exigence crédible devrait définir qui peut ordonner l’arrêt, dans quelles circonstances, sur quel périmètre et comment vérifier que l’interruption fonctionne sans provoquer un autre dommage. Le projet renvoie justement des éléments d’application à Cyber Command ; sa portée pratique reste donc à construire.
Incidents, responsabilité et recours : trois voies distinctes
Un autre projet demanderait aux contractants de la ville et aux agences municipales de notifier certains incidents de sécurité liés à l’IA à Cyber Command dans les 24 heures. Le service devrait ensuite rendre publics les incidents signalés dans un délai prévu par le texte. Le mécanisme porte sur des incidents définis par des normes à établir ; il ne signifie pas que chaque réponse erronée d’un chatbot déclencherait immédiatement une notification publique. Les seuils, la preuve de l’incident et la protection d’informations sensibles seront décisifs.
Une proposition séparée ouvrirait une action privée à des personnes lésées par l’usage malveillant ou abusif d’un modèle par un tiers, lorsque le dommage était prévisible et que le fournisseur n’avait pas mis en place des protections raisonnables. Ce n’est pas une responsabilité automatique pour toute mauvaise utilisation. Pour qu’un recours aboutisse, il faudrait établir les conditions prévues, dont le lien entre les protections manquantes et le dommage. Cette distinction importe autant pour les victimes que pour les entreprises.
Le conseil envisage également un système d’incitation aux signalements de violations des règles d’IA. Selon la fiche de la proposition, une personne dont la plainte conduit à des sommes recouvrées pourrait recevoir une part de celles-ci, sous les conditions du dispositif. Il faut distinguer ce mécanisme de la protection des lanceurs d’alerte employés par la ville ou par certains de ses prestataires : un autre texte vise ces derniers lorsqu’ils signalent un risque grave pour la santé ou la sécurité publiques.
Chatbots : informer l’utilisateur et protéger ses données
Une proposition consacrée aux chatbots traiterait de la confidentialité, de la sécurité des données, du droit d’accès de l’utilisateur à ses informations et de la transparence sur la nature non humaine de l’interlocuteur. Elle interdirait aussi de laisser entendre qu’un chatbot fournit des conseils équivalents à ceux d’un professionnel agréé. L’ordre du jour présente ces objectifs comme des obligations envisagées, pas comme des règles déjà exécutoires.
L’intérêt pour les habitants est immédiat. Une interface fluide peut donner une impression d’autorité que le service n’a pas. Lorsque la réponse touche à un droit, à une démarche administrative, à la santé ou aux finances, savoir qu’on parle à un système automatisé et pouvoir retrouver la source de l’information est essentiel. Les élus cherchent ainsi à déplacer la discussion de la seule « puissance » des modèles vers leur usage concret par des personnes qui peuvent se tromper sur leur statut.
Un autre texte viserait la publicité pour les modèles d’IA : il demanderait de préciser si une validation indépendante a eu lieu et de ne pas faire d’affirmations matériellement trompeuses sur leur sécurité. Là encore, la formulation finale et le champ des annonces concernées seront déterminants. L’objectif annoncé est de rendre les promesses commerciales vérifiables, pas de transformer une déclaration publicitaire en certification scientifique.
Faux contenus, emploi public et préparation aux crises
L’ordre du jour comprend également un texte sur les représentations synthétiques non autorisées de responsables politiques et candidats. Il prévoit un mécanisme de notification préalable aux fournisseurs avant certaines obligations de prévention. Les questions de satire, de liberté d’expression et de contrôle technique des sorties devront être examinées avec attention si ce texte progresse.
Le conseil veut aussi mieux mesurer l’effet des outils algorithmiques sur les employés municipaux : suppressions de postes financés, déplacements, modifications de rémunération ou nouvelles formations. Ce volet est moins spectaculaire qu’un débat sur les modèles de pointe, mais il touche directement l’organisation des services publics. Une ville ne peut juger l’impact de ses outils si elle ne sait pas quels métiers ils transforment ni qui supporte les coûts d’adaptation.
Enfin, une proposition demanderait à Cyber Command et aux services de gestion des urgences de préparer un plan de réponse aux menaces liées à l’IA qui pourraient perturber les systèmes de la ville, ses infrastructures ou la sécurité publique. Un plan n’est utile que s’il identifie les responsabilités, les seuils d’alerte et les exercices de vérification. Ici encore, l’audition ouvre une discussion ; elle ne démontre pas que la ville disposerait déjà d’un dispositif opérationnel complet.
La société civile demande aussi de regarder les services publics
Le témoignage publié par BetaNYC, organisation civique locale, élargit la perspective. Elle plaide pour des données publiques fiables et exploitables, des compétences internes à la ville et une moindre dépendance envers un seul prestataire. Son texte se présente comme préliminaire ; il représente une position de la société civile, non la conclusion de la commission.
Ce point éclaire une faiblesse possible des débats centrés sur les seuls développeurs de modèles. Même si un fournisseur valide son système, une administration peut le déployer sur des données mal tenues, sans procédure de correction, ou dans une interface où le public ne sait plus distinguer une règle officielle d’une réponse générée. La sécurité d’un service dépend alors de l’ensemble du parcours : sources, contrat, formation, supervision, recours et capacité à interrompre l’usage quand il se trompe.
Les auditions peuvent rendre visibles ces dépendances. Elles ne les résolvent pas par elles-mêmes. La qualité du travail législatif se jugera notamment à la place accordée aux habitants, aux agents publics, aux experts indépendants et aux groupes susceptibles d’être affectés par des erreurs ou des décisions automatisées.
Ce que la ville peut changer — et ce qui reste incertain
New York cherche à agir dans son champ local : marchés publics, protection des consommateurs, publicité, signalement d’incidents et fonctionnement de ses services. Mais la portée exacte de certaines obligations envisagées, notamment pour un modèle proposé en ligne bien au-delà de la ville, devra être précisée. Les textes pourront évoluer avant tout vote, puis faire l’objet de règles d’application ou de contestations. Un titre annonçant déjà « la nouvelle loi de New York » serait donc prématuré.
Au 6 octobre, le fait établi est plus circonscrit : les grands laboratoires avaient confirmé leur venue, l’audition du 5 octobre figure au calendrier officiel et dix propositions ont été examinées dans un dossier dont les minutes ne sont pas finalisées. Pour les lecteurs de FLUXAI, le prochain indicateur sera la publication de témoignages, d’éventuels amendements et des actions formelles du conseil. C’est seulement alors qu’on pourra mesurer si cette audition a modifié la régulation locale de l’IA ou si elle a surtout ouvert le débat.