L’intelligence artificielle est un logiciel comme les autres.
Face à l’émergence des agents autonomes, les entreprises s’interrogent avec perplexité sur la chaîne de responsabilité liée à l’intelligence artificielle. Pourtant, l’IA demeure un logiciel standard soumis aux mêmes exigences de gouvernance, de sécurité et d’approbation que n’importe quelle autre solution technologique. Assurer une gestion efficace et stratégique de l’innovation ne nécessite donc pas de réinventer les politiques internes, mais de les appliquer rigoureusement à des collaborateurs clairement identifiés.
Points clés
- L’expert Chris Hood souligne que la question la plus récurrente en matière de gouvernance de l’IA concerne l’identification du responsable en cas de dysfonctionnement.
- La responsabilité d’une action menée par une IA incombera toujours à un humain, tout comme une fuite de documents confidentiels sur les réseaux sociaux relève de l’employé et non de la plateforme.
- Le transfert de données propriétaires dans un outil tel que Claude doit être régi par les mêmes règles de politique interne que celles encadrant l’usage de la messagerie électronique.
- Les équipes informatiques ont la capacité technique de bloquer des plateformes comme OpenAI de leur réseau interne de manière quasi instantanée, bien qu’elles s’en abstiennent souvent par manque de familiarité avec cette nouvelle catégorie d’outils.
- Lors de l’acquisition de logiciels classiques, comme Workday ou lors de déploiements examinés chez Google, le processus d’achat inclut systématiquement la désignation d’un superviseur responsable.
- Les ingénieurs et chefs de produit contournent souvent ces processus d’approbation pour l’IA, introduisant ces technologies dans les entreprises de façon officieuse via de simples cartes de crédit.
- L’autonomie supposée des agents algorithmiques n’est qu’une délégation de tâche : un humain a initialement défini l’objectif, autorisé l’accès et lancé la commande.
- Pour structurer cette démarche, des solutions telles que le “Nomotic Agent Identity” intègrent obligatoirement un responsable humain à chaque agent virtuel déployé, préfigurant l’émergence de rôles dédiés comme celui de Vice-président de la gestion des agents.
À retenir
En résumé, arrêtez de paniquer comme si l’intelligence artificielle était une entité magique tombée du ciel et dotée d’une volonté propre. Si l’un de vos collaborateurs diffuse des données confidentielles à toute l’entreprise, vous blâmez le collaborateur, pas son clavier ; faites exactement la même chose avec les assistants virtuels. Contentez-vous d’appliquer vos règles informatiques habituelles conçues dans les années 90, exigez que chaque nouvel outil ait un employé qui endosse la responsabilité en cas de désastre, et votre gouvernance sera parfaite. Après tout, le logiciel ne ruinera pas votre entreprise tout seul : il a besoin de votre autorisation expresse pour appuyer sur le bouton d’autodestruction.
Sources
