Auto-amélioration de l’IA, Meta freine l’open source
Meta affirme observer des signaux d’auto‑amélioration de ses systèmes d’IA, que Mark Zuckerberg présente comme une première étape vers l’ASI. Tout en vantant un futur de “superintelligence personnelle”, le groupe annonce durcir la mise à disposition publique de ses modèles les plus puissants. En toile de fond, des avancées académiques sur des agents capables de réécrire leur propre code renforcent l’urgence d’une gouvernance de la sécurité.
Points clés
- Meta dit avoir observé des “aperçus” d’auto‑amélioration de ses systèmes d’IA “ces derniers mois”.
- Dans un document de politique publié le 30 juillet sur le site de Meta, Mark Zuckerberg qualifie cette auto‑amélioration de première étape vers l’ASI.
- Zuckerberg nuance l’ouverture: Meta sera “beaucoup plus prudent” sur la diffusion publique et open source de ses modèles les plus puissants.
- Le cadre conceptuel distingue l’IA actuelle aux capacités étroites, l’AGI (générale) et l’ASI (surhumaine), avec la perspective d’une “singularité technologique”.
- Des chercheurs de l’University of California, Santa Barbara (octobre 2024, arXiv) ont testé un “Gödel Agent” capable de réécrire son propre code.
- Ce Gödel Agent ne déploie des changements qu’après preuve formelle de bénéfice, et accède à l’ensemble de son code et de ses outils d’auto‑amélioration.
- L’étude rapporte des gains de performance du Gödel Agent en code, sciences, mathématiques et raisonnement, face à des agents conçus par des humains.
- Zuckerberg projette une “superintelligence personnelle” au service de l’autonomie des individus, tout en soulignant la nécessité d’un déploiement responsable.
À retenir
Concrètement, gardez la tête froide et vos données au frais: testez les outils accessibles, mais évitez d’en dépendre pour les tâches critiques. Suivez de près les annonces de sécurité et de gouvernance, car l’“open source à tout-va” n’est plus à l’ordre du jour chez Meta. Et si votre IA dit qu’elle s’améliore toute seule, félicitez‑la… puis lisez les notes de version, histoire de vérifier qu’elle ne vous réinvente pas la roue carrée.
Sources
