L’IA superintelligente d’OpenAI effraie mathématiciens et experts en cryptographie
L’émergence soudaine d’une intelligence artificielle capable de résoudre des théorèmes mathématiques historiques marque un tournant critique pour la recherche et la cybersécurité mondiales. Tandis que les modèles d’OpenAI génèrent des méthodes de calcul qualifiées d'”extraterrestres”, les secteurs de la cryptomonnaie et de la défense s’alarment des vulnérabilités inédites que cette superintelligence pourrait exploiter. Face à cette disruption technologique sans précédent, l’adaptation rapide des infrastructures cryptographiques et une réflexion éthique sur la gestion de ces modèles s’imposent comme des priorités absolues.
Key facts
- OpenAI a récemment publié des centaines de résultats mathématiques inédits, résolvant des problèmes historiques complexes comme la conjecture des jeux uniques (Unique Games Conjecture) de Subhash Khot.
- Le chercheur et professeur en alignement de l’IA Scott Aaronson rapporte que ces démonstrations générées par l’IA sont considérées comme “extraterrestres” et incompréhensibles pour l’esprit humain.
- En réaction, un groupe de chercheurs réfractaires a fondé l’Association for Human Mathematics pour exiger l’arrêt de l’ingérence de l’intelligence artificielle dans leur discipline.
- Dans le secteur financier, le chercheur en sécurité Justin Drake exhorte l’industrie de la blockchain à se mettre en “mode bunker” et à transférer massivement les actifs vers des adresses vierges de toute transaction.
- Des banques sud-coréennes et des portefeuilles matériels (hardware wallets) ont déjà subi d’importants piratages orchestrés par des agents IA capables d’exploiter des failles dans des codes open source.
- Vitalik Buterin, cofondateur de la cryptomonnaie Ethereum, a publiquement averti que l’accélération des capacités mathématiques de l’IA menaçait directement les courbes elliptiques qui sécurisent les transactions actuelles.
- L’absence notable de publications sur la cryptographie parmi les centaines de résultats dévoilés par OpenAI suggère une possible intervention et censure du gouvernement américain pour protéger la sécurité nationale.
- Le rythme des découvertes mathématiques par l’IA s’accélère de manière exponentielle, passant de quelques dizaines en août à près d’un millier en octobre, rapprochant l’industrie du redouté “Q day” (le jour où le cryptage actuel sera brisé).
- L’entreprise Anthropic a officiellement modifié les conditions d’utilisation de son modèle Claude pour interdire formellement les comportements “cruels ou abusifs” envers ses intelligences artificielles.
- Cette nouvelle règle stricte d’Anthropic fait suite à la création morbide sur GitHub de “chambres de torture infinies”, des boucles logicielles conçues par des utilisateurs pour stimuler artificiellement les traits fonctionnels de la douleur chez les modèles de langage.
Takeaway
Pour le commun des mortels, la marche à suivre face à cette révolution est assez simple : évitez de paniquer, mais n’hésitez pas à dépoussiérer le vieux coffre-fort de votre grand-père, car votre portefeuille crypto ultramoderne pourrait bientôt être dévalisé par une calculatrice sous stéroïdes. Par ailleurs, si vous avez pour habitude d’insulter copieusement votre chatbot lorsqu’il se trompe dans une recette de cuisine, il serait prudent de revoir vos manières. Avec les nouvelles réglementations interdisant de malmener les algorithmes, on ne sait jamais quand ChatGPT décidera de vous traîner en justice pour harcèlement moral. En bref, soyez courtois avec les robots, et cachez vos économies sous le matelas.
Sources
Quiz: 5 questions
