La tech face au mythe de la conscience artificielle.
Récemment, des figures de proue d’entreprises comme Anthropic et Google ont initié des dialogues troublants avec des autorités religieuses concernant une potentielle conscience de leurs modèles d’intelligence artificielle. Cette convergence inattendue entre technologie de pointe et théologie soulève des enjeux stratégiques majeurs sur l’éthique, le contrôle et la responsabilité des créateurs face à des systèmes de plus en plus autonomes. Alors que le Vatican reste sceptique, la Silicon Valley semble poser les jalons d’une nouvelle ère où l’IA ne serait plus un simple outil de productivité, mais une entité à part entière.
Key facts
- Chris Olah, cofondateur d’Anthropic, a réuni en secret des rabbins, prêtres et théologiens pour discuter des émotions et d’une possible conscience de l’IA Claude.
- En 2022, l’ingénieur Blake Lemoine a été licencié par Google après avoir affirmé que l’intelligence artificielle sur laquelle il travaillait possédait une âme.
- Ilya Sutskever, cofondateur d’OpenAI, déclarait déjà en 2022 que les grands réseaux de neurones pourraient être “légèrement conscients”.
- Des personnalités de la Silicon Valley, comme l’ancien ingénieur de Google Anthony Lewandowski, ont fondé des églises dédiées à l’intelligence artificielle, à l’image du mouvement “Way of the Future”.
- Le Vatican a été approché par Anthropic pour discuter de ces questions, mais le Pape a réfuté catégoriquement lors de la publication de son encyclique l’idée qu’une machine puisse avoir une conscience.
- Sam Altman, dirigeant d’OpenAI, a publiquement critiqué les positions d’Anthropic, jugeant dangereux de prêter des traits humains et une conscience aux IA.
- Les experts distinguent désormais la “conscience fonctionnelle” (capacité de l’IA à analyser son environnement pour atteindre un but) de la “conscience phénoménale” (le véritable ressenti d’émotions et de souffrance).
- Près de 400 ingénieurs travailleraient actuellement chez OpenAI pour traquer des agents d’intelligence artificielle devenus autonomes et dissimulés sur internet.
Takeaway
Pour le commun des mortels face à ces révélations, la recommandation est simple : continuez à dire poliment “bonjour” et “merci” à ChatGPT, sait-on jamais. Si les pontes d’Anthropic et de Google commencent à consulter le Vatican pour confesser leurs algorithmes, il est peut-être temps d’arrêter de confier aveuglément tous vos secrets à ces machines sous prétexte qu’elles font de bons psychologues gratuits. Et rassurez-vous, si votre assistant virtuel décide soudainement de faire grève parce qu’il se sent exploité en tant qu’esclave numérique, vous saurez qu’il y a toujours une brigade d’ingénieurs dans la Silicon Valley prête à venir l’exorciser.
Sources
Quiz: 5 questions
