IA : conformité et risques pour le secteur public australien
L’Agence de transformation numérique australienne a publié un guide complet pour aider les entités du secteur public à gérer la conformité et les risques associés à l’acquisition et à l’utilisation des systèmes d’intelligence artificielle. Ce document propose des clauses modèles pour les contrats d’acquisition, couvrant des aspects cruciaux tels que la confidentialité, la sécurité, la transparence, la gestion des données et la propriété intellectuelle. Il souligne l’importance de la supervision humaine, des tests rigoureux et de la conformité aux lois et politiques en vigueur, y compris les principes éthiques de l’IA en Australie.
Points clés
- L’Agence de transformation numérique (DTA) a publié des clauses modèles pour l’acquisition de Systèmes d’IA par le secteur public australien.
- Les clauses modèles couvrent trois cas d’utilisation principaux : l’acquisition de services utilisant l’IA, le développement d’outils d’IA sur mesure et l’acquisition de logiciels avec des capacités d’IA intégrées.
- L’utilisation de l’IA par un Vendeur doit être approuvée par l’Acheteur et conforme aux termes du Contrat, y compris la PI, la confidentialité, la sécurité et l’utilisation des données.
- Le Vendeur doit confirmer l’exactitude des sorties du Système d’IA et conserver des registres détaillés de son utilisation.
- L’utilisation de Systèmes d’IA Interdits, comme spécifié par le Département de l’Intérieur (Directive 001-2025 DeepSeek Products), est proscrite.
- Le Vendeur doit développer le Système d’IA pour atteindre l’Utilisation Prévue et assurer la transparence du modèle d’IA sous-jacent.
- La notification immédiate des Incidents d’IA ou des Dangers d’IA est obligatoire.
- Le Système d’IA doit inclure un disjoncteur permettant une intervention ou un désengagement immédiat.
- Le Vendeur doit s’assurer que le Système d’IA ne discrimine pas et est développé sur une base éthiquement solide.
- La conformité à toutes les lois et politiques applicables, y compris la Loi sur la Confidentialité de 1988 (Cth) et les Principes éthiques de l’IA en Australie, est requise.
- Des clauses détaillées sont fournies concernant la confidentialité, la gestion des violations de données éligibles et la gestion de la chaîne d’approvisionnement.
- La supervision humaine, la compétence du personnel, la transparence et l’explicabilité du Système d’IA sont des exigences clés.
- La formation, les tests, la surveillance et la validation du Système d’IA, y compris la gestion des Données d’entraînement et les Tests d’acceptation, sont abordés en détail.
- La gestion des itérations, des mises à jour et la fourniture du code source sont envisagées.
- Des dispositions relatives à la sécurité numérique, à la tenue de registres, aux rapports et à l’audit sont incluses.
- La propriété intellectuelle des Matériels Contractuels et de la PI Incorporée, ainsi que l’utilisation des données de l’Acheteur, sont régies par des clauses spécifiques.
- Le transfert et la destruction des Ensembles de données d’IA et des Données de l’Acheteur sont définis.
- La gestion des risques d’IA, y compris la conformité à la norme ISO/IEC 42001:2023, est une composante essentielle.
- Le document fournit un glossaire détaillé des termes capitalisés utilisés dans les clauses modèles.
À retenir
Alors voilà, si vous êtes une entité gouvernementale australienne et que vous vous lancez dans l’aventure de l’IA, ne paniquez pas ! La DTA a pensé à tout (ou presque). Ce guide vous offre un kit de survie juridique pour éviter les écueils, des clauses pour vous protéger des systèmes d’IA “interdits” (on se demande bien ce qu’ils ont fait de si terrible…), et même des instructions pour vous assurer que votre IA ne discrimine pas (parce qu’on veut des robots gentils et justes, n’est-ce pas ?). N’oubliez pas de lire les petites notes, elles sont pleines de sagesse (et de renvois à d’autres documents, bien sûr). Et si tout ça vous semble un peu compliqué, rappelez-vous que même les experts en IA ont parfois besoin d’un manuel d’utilisation. Alors, respirez, et plongez dans les clauses modèles. L’avenir de l’IA dans le secteur public australien est entre vos mains (et celles de vos avocats, probablement).
Sources
Quiz sur le document: 10 questions
