Risques et réglementation de l’IA
Ce document présente un profil de normes de gestion des risques pour l’IA, visant à identifier, analyser et atténuer les risques liés aux modèles GPAI/fondation. Il s’adresse principalement aux développeurs de pointe et aux régulateurs, en s’appuyant sur les directives du NIST et de la norme ISO/IEC 23894. L’approche proposée vise à assurer transparence, sécurité et conformité face aux défis sociétaux posés par l’IA.
Points clés
- Profil de normes de gestion des risques pour l’IA à usage général (GPAI) et modèles de fondation.
- Rédigé par Anthony M. Barrett, Jessica Newman, Brandie Nonnecke, Nada Madkour, Dan Hendrycks, Evan R. Murphy, Krystal Jackson et Deepika Raman.
- Version 1.1 datée de janvier 2025.
- Affilé au Center for Long-Term Cybersecurity de l’UC Berkeley.
- S’appuie sur le NIST AI Risk Management Framework et la norme ISO/IEC 23894.
- Fournit des pratiques pour identifier, analyser et atténuer les risques des modèles GPAI/fondation.
- Traite des risques liés à la désinformation, à la manipulation et aux impacts sociétaux majeurs.
- Inclut des mises à jour sur la gouvernance, la transparence, la documentation et la protection du modèle.
- Intègre une référence historique avec une photographie de Philip Henry Delamotte (1851) pour comparer l’impact de l’IA à celui de la machine à vapeur.
- Destiné aux développeurs IA de pointe, aux évaluateurs de modèles et aux régulateurs.
À retenir
Pour les non-experts, suivre ces recommandations revient à décrypter le mode d’emploi d’un gadget futuriste, où chaque détail compte plus qu’une mise à jour de smartphone. En gardant un œil critique (et un sourire en coin), n’oubliez pas qu’il vaut mieux comprendre l’IA avant de lui confier les clés de la révolution digitale.
Sources
Quiz sur le document: 10 questions
