Les DSI face à l’augmentation des coûts de l’IA
Les DSI sont confrontés à des factures inattendues suite aux expérimentations d’IA générative, dépassant souvent les prévisions budgétaires. Ce phénomène rappelle les débuts du cloud, où le manque de contrôle des coûts était courant. Les entreprises cherchent désormais des solutions pour maîtriser ces dépenses croissantes tout en continuant à innover.
Points clés
- Les factures des expérimentations de l’IA générative dépassent les anticipations budgétaires.
- James Greenfield d’AWS Commerce Platform compare la situation actuelle à celle des débuts du cloud.
- Nvidia est identifié comme le principal fournisseur d’infrastructure pour l’IA générative.
- Les DSI explorent des solutions comme le GPU-as-a-service pour réduire les coûts.
- Brian Shield des Red Sox propose de négocier les coûts des fournisseurs en fonction des résultats.
- Les modèles open source sont recommandés pour contenir les coûts de l’IA.
- La consommation d’énergie des applications d’IA générative est un enjeu majeur pour les DSI.
- IDC souligne la complexité des modèles de tarification de l’IA générative.
- Les DSI doivent évaluer la valeur des outils d’IA qu’ils utilisent.
- Des entreprises comme RunPod offrent des solutions rentables pour l’accès aux GPU à la demande.
À retenir
Alors, chers DSI, si vous pensiez que l’IA générative serait un moyen de faire des économies, détrompez-vous ! Il semblerait que les factures de fin de mois ne soient pas prêtes de diminuer. Mais ne vous inquiétez pas, vous pouvez toujours essayer de négocier avec vos fournisseurs, parce qu’après tout, qui n’aime pas un bon rabais sur une technologie qui coûte un bras ?
Sources





