Sécurité de l’IA : leçons pour Washington
Non, Pékin ne fonce pas « sans freins » sur l’IA : la Chine a fait de la sécurité une priorité politique, standardise à marche forcée et nettoie son marché des modèles non conformes. Les États-Unis ne gagneront rien à opposer régulation et vitesse ; ils gagneront en résilience en rouvrant un canal U.S.–Chine sur les risques partagés (CBRN, biosécurité, perte de contrôle). Cap sur des standards communs, des évaluations croisées et des protocoles d’urgence avant que les incidents ne nous y obligent.
Points clés
- En avril 2025, Xi Jinping a présidé une rare séance d’étude du Politburo sur l’IA, alertant sur des risques « sans précédent ».
- Le Plan national chinois de réponse d’urgence classe désormais la sécurité de l’IA au même rang que les pandémies et les cyberattaques.
- Les régulateurs imposent des évaluations de sécurité avant déploiement des IA génératives et ont retiré plus de 3 500 produits non conformes du marché.
- Au premier semestre 2025, la Chine a publié plus de normes nationales d’IA que durant les trois années précédentes réunies, tandis que les publications techniques sur la sécurité des IA de pointe ont plus que doublé.
- Le dernier échange U.S.–Chine sur les risques de l’IA remonte à mai 2024 ; aucune seconde réunion n’a eu lieu sous l’administration Biden, incertitude accrue sous l’administration Trump.
- La Chine a ouvert en mai 2025 un dialogue bilatéral sur l’IA avec le Royaume-Uni et a contribué à l’International AI Safety Report (33 pays) et au Singapore Consensus.
- Un acquis symbolique du canal U.S.–Chine: les deux parties ont confirmé que les décisions nucléaires doivent rester sous contrôle humain.
- OpenAI classe son dernier ChatGPT Agent au seuil « High Capability » en biologie dans son Preparedness Framework, un signal d’alerte partagé par Washington et Pékin face aux risques de mésusage par des acteurs non étatiques.
- L’AI Action Plan du Président Trump pointe des risques nationaux inédits (cybersécurité et CBRN), en écho aux priorités du TC260 chinois (cybersécurité, CBRN, perte de contrôle).
- Des convergences techniques et industrielles émergent : coopération entre TC260 et NIST, engagements de l’AIIA, Frontier Model Forum, publication au WAIC d’un cadre de gestion des risques (cyber/bio-mésusage, persuasion de masse, perte de contrôle) et appel à des « plateformes d’évaluation de sécurité mutuellement reconnues » ; un cofondateur d’Anthropic souligne des constats similaires côté chinois (risques CBRN, signaux d’auto‑réplication et de déception).
À retenir
Traduction pour non‑initiés : on arrête la course sans freins, on parle à ses rivaux, et on teste ses modèles avant qu’ils ne testent nos nerfs. Trois gestes pragmatiques suffisent : rouvrir le canal U.S.–Chine, aligner standards et évaluations (NIST/TC260, AIIA/Frontier Model Forum), et brancher une « hotline » d’urgence. Ou alors on attend la prochaine alerte bio‑IA pour improviser au téléphone… Spoiler : ce n’est pas le moment d’improviser.
Sources
