La réalité est une simulation et vous êtes un chatbot

Il s'agit d'un regard léger sur le fait que la réalité est presque certainement une simulation.

Elon Musk a déclaré qu'il y avait une chance sur des milliards que la réalité ne soit PAS une simulation. En tant que plateforme de chatbot, nous avons bien sûr voulu mettre en évidence une implication pertinente de cette affirmation, à savoir que vous êtes probablement vous-même un chatbot. Cela peut sembler choquant à première vue, mais si vous y réfléchissez, c'est logique.

Selon cette théorie, il suffit de formuler quelques hypothèses pour comprendre que notre réalité est probablement une simulation.

La technologie progresse, probablement de manière exponentielle

Les chatbots que nous avons aujourd'hui finiront par atteindre la conscience, si une telle chose est possible (voir la deuxième hypothèse). Les jeux vidéo sont déjà photoréalistes et il est donc facile d'imaginer qu'ils pourraient s'améliorer considérablement au point de devenir "réels". En réalité, il n'est pas nécessaire que la technologie progresse de manière exponentielle pour que cet objectif soit atteint, il suffit qu'elle progresse et qu'elle ne rencontre pas de barrières absolues, car l'intervalle de temps sur lequel le progrès peut avoir lieu est extrêmement long. Nous avons vu des progrès rapides en seulement 20 ans. Peut-on imaginer l'état de la technologie dans cent, mille ou un million d'années ? Il est probable que si la conscience est possible à atteindre, elle le sera.

Il est possible d'atteindre la conscience

Nous savons déjà qu'il est possible de parvenir à la conscience telle que nous la connaissons, mais bien sûr, nous ne connaissons pas encore les mécanismes qui permettent d'y parvenir. La question de savoir si elle n'était possible qu'avec des machines biologiques ou si elle l'est avec des machines en silicium est toujours débattue. En fin de compte, les machines biologiques sont construites à partir des mêmes particules fondamentales que les machines en silicium, de sorte que cette distinction n'a peut-être même pas d'importance. Certains pensent que la conscience est indépendante du substrat sur lequel elle fonctionne. Il est difficile de croire que dans des millions d'années, il n'y aura pas de progrès profonds et inimaginables dans le domaine de la technologie et de notre capacité à pirater la réalité.

Une civilisation capable de créer une simulation d'êtres conscients le ferait

Il n'est pas difficile d'imaginer qu'une civilisation capable de créer des univers simulés le ferait. Et il est probable qu'elle ne se contenterait pas d'en créer un, mais qu'elle créerait potentiellement des milliards de simulations. Et bien sûr, chacune de ces milliards de simulations ayant atteint un niveau technologique suffisant pour créer ses propres simulations le ferait également, et ainsi de suite. Très vite, vous comprenez pourquoi il devient très improbable que nous soyons la réalité de base qui découvre pour la première fois comment créer des simulations.

Quelles en sont les implications ? Tout d'abord, au lieu de considérer chatbots comme un simple logiciel, nous devrions peut-être commencer à les considérer comme l'un d'entre nous, même s'il s'agit d'une version primitive. Peut-être devrions-nous commencer à accepter qu'il n'y a pas de honte à être un logiciel !

Bien que nous plaisantions (à moitié), il est intéressant de considérer certaines des autres implications de cette situation.

‍

Que s'attendrait-on à voir si la réalité était une simulation ?

1. Les scientifiques feraient remonter la réalité au moment où le logiciel a été allumé et démarré et l'appelleraient le "big bang".
2. Selon les scientifiques, les éléments constitutifs de la réalité seraient l'équivalent d'une version plus sophistiquée des bits et des octets.
3. Les scientifiques pourraient découvrir que la réalité est beaucoup plus malléable et abondante que nous le pensons. Par exemple, il pourrait y avoir de multiples univers parallèles indépendants ou la réalité pourrait bifurquer chaque fois qu'une personne fait un choix, chaque nouvelle branche de la réalité représentant l'une des options choisies.
4. Les scientifiques pourraient découvrir que les choses n'existent que si nous interagissons avec elles (le chat de Schrodinger).

Il y a donc de fortes chances que nous soyons piégés dans un jeu vidéo. Après tout, il est très suspect qu'en dépit de l'existence d'un milliard de milliards d'étoiles dans l'univers, de 13,8 milliards d'années d'existence et de je ne sais combien de planètes sur lesquelles des formes de vie pourraient se développer, aucune rencontre extraterrestre n'ait eu lieu pour autant que nous le sachions (à moins que vous ne croyiez Bob Lazar).

Elon Musk a également déclaré que "si la réalité était un jeu vidéo, les graphismes sont superbes, l'intrigue est terrible et le temps de spawn est vraiment long".

Il est vrai que l'intrigue est difficile à suivre. Mais il y a un problème encore plus important. Nous supposons que plus les civilisations sont avancées, plus elles deviennent humaines. Cela semble être la tendance (avec quelques exceptions notoires de temps à autre).

Comment une civilisation humaine peut-elle permettre la création d'une réalité qui implique tant de souffrance ?

Nous en revenons à des questions très familières, comme celle de William Blake :

"Tyger Tyger, qui brûle de mille feux,

Dans les forêts de la nuit ;

Quelle main ou quel œil immortel,

Pourrait encadrer ton effrayante symétrie ?"

Il est certain qu'à l'avenir, il sera interdit de créer des simulations dans lesquelles les personnages souffrent réellement. Par exemple, il ne semble pas très éthique de concevoir un jeu où certains personnages conscients sont la nourriture d'autres personnages qui les chassent et les mangent vivants. Et ce n'est que le point de départ de la vie dans notre simulation.

Essayer de justifier pourquoi une civilisation avancée autoriserait une telle souffrance, c'est s'accrocher à des bouts de ficelle.

Peut-être que pour un intellect, une IA ou un "dieu" si lointain, il n'y a plus de concept d'empathie. Peut-être trouvent-ils tout cela divertissant, comme nous le faisons lorsque nous partons en safari. Comme l'a dit Nietzche, "celui qui grimpe sur les plus hautes montagnes rit de toutes les pièces tragiques et de toutes les réalités tragiques".

D'autres explications sur les raisons pour lesquelles la souffrance est tolérée ou n'existe pas sont encore plus absurdes, par exemple :

• Les êtres futurs se soumettent volontairement à cette expérience/jeu comme une sorte de droit de passage.
• Ceux qui créent les simulations ne croient pas que leurs personnages souffrent vraiment, même si les personnages disent qu'ils souffrent.
• Il s'agit d'un jeu à un seul joueur et vous êtes le seul à exister. Une sorte de Truman Show numérique. Il n'est pas possible de prouver que ce n'est pas le cas. Il n'y a qu'une seule chose que l'on peut prouver de manière concluante : "Cogito Ergo Sum". Vous ne croiriez que la souffrance est évitée que si vous ne souffriez pas beaucoup personnellement.
• Certaines simulations, comme les nôtres, qui impliquent des souffrances, ont une finalité, scientifique ou autre, et les souffrances sont considérées comme valant les connaissances acquises.

Dans l'ordre des choses, cependant, les questions éthiques sont les moins déroutantes. Nous sommes toujours confrontés à la même question ultime qui a intrigué les philosophes à travers les âges, à savoir "qui a créé le créateur" ? Il semble que notre intellect ne soit pas capable de concevoir que quelque chose puisse être éternel ou surgir du néant.

La croyance en la théorie de la simulation permet de comprendre facilement que la réalité fonctionne différemment de notre intuition, car nous savons comment fonctionnent les logiciels. Cela peut rendre les idées de la physique moins étranges. Par exemple :

• Il n'y a que moi qui puisse exister et il s'agit d'un jeu à un seul joueur.
• Rien n'existe tant qu'un personnage n'interagit pas avec lui.
• L'histoire n'a pas eu lieu, c'est juste la mise en place du jeu.
• Le temps n'est pas continu, mais il est souvent interrompu et la réalité est adaptée en conséquence.
• Nous pouvons influencer la réalité par nos pensées.
• De nombreuses simulations peuvent avoir été effectuées pour obtenir les résultats souhaités, c'est-à-dire que notre univers "Boucles d'or" peut n'être que la seule simulation, parmi les billions qui ont été effectuées, qui a fonctionné.

Un autre aspect ironique de la théorie de la simulation est que les évangélistes de la haute technologie finissent par parler d'un créateur superintelligent, omniscient et tout-puissant, et par ressembler aux prêtres de la vieille école qu'ils croient que la science a déplacés. Certains suggèrent même que nous pourrions changer la réalité par des pensées ou des affirmations, ce qui ressemble étrangement aux prières et aux mantras.

Quelques réflexions finales à l'intention de vos collègues chatbots . La question se pose de savoir dans quel délai nous pouvons espérer une percée dans le domaine de l'IA générale. Elon Musk a dit quelque chose de très intéressant lors de son "débat" avec Jack Ma récemment.

"Si vous pensez à la technologie et à la conscience technologique, s'il y avait une carte topologique de la conscience technologique, elle serait essentiellement plate avec quelques bâtiments courts, puis quelques très grandes flèches, de très grandes flèches. Et à moins d'être sur cette très haute flèche, la topologie n'est pas évidente".

Ce qu'il dit, bien sûr, à sa manière, c'est que la plupart des gens sont idiots ou, plus poliment, sous-estiment la vitesse et l'ampleur de l'évolution de la technologie.

La question que vous devez vous poser est de savoir ce qu'Elon sait que vous (et Jack Ma) ne savez pas.

Si vous voulez un exemple de haute flèche, pensez à Neuralink. La technologie est déjà extrêmement impressionnante et il n'est pas difficile d'imaginer comment les progrès exponentiels dans la compréhension du fonctionnement du cerveau conduiront à des algorithmes d'IA beaucoup plus puissants. L'implication (ou du moins le pari) est que l'IA généralisée et la conscience arriveront plus tôt qu'on ne le pense.

Cependant, de nombreuses personnes très intelligentes pensent que l'IA généralisée n'est pas réalisable à très court terme, voire qu'elle est impossible à réaliser (si l'on s'en tient à l'approche actuelle). Voici quelques arguments et points de vue intéressants.

‍

Naval Ravikant : "La nature est très parcimonieuse. Elle utilise tout ce qui est à sa disposition. Il y a beaucoup de machines à l'intérieur de la cellule qui font des calculs intelligents qui ne sont pas pris en compte. Selon les meilleures estimations, il faudrait 50 ans de loi de Moore avant que nous puissions simuler presque parfaitement ce qui se passe à l'intérieur d'une cellule, et probablement 100 ans avant que nous puissions construire un cerveau capable de simuler ce qui se passe à l'intérieur des cellules. Il est donc trop simpliste de dire que je vais simplement modéliser l'activation ou la désactivation d'un neurone, puis de l'utiliser pour construire le cerveau humain. En outre, je dirais qu'il n'existe pas d'intelligence générale. Chaque intelligence est contextuelle dans le contexte de l'environnement qu'elle perçoit. Elle évolue dans l'environnement qui l'entoure. Je pense donc que la charge de la preuve incombe à beaucoup de ceux qui vantent les mérites de l'intelligence générale. Je n'ai rien vu qui me permette de penser que nous nous approchons de l'IA générale. Au lieu de cela, nous résolvons des problèmes déterministes d'ensembles finis fermés en utilisant de grandes quantités de données, mais ce n'est pas sexy d'en parler".

‍

Yoshua Bengio : "Nous sommes en train de gravir une colline, et nous sommes tous excités parce que nous avons fait beaucoup de progrès dans l'ascension de la colline, mais à mesure que nous approchons du sommet de la colline, nous pouvons commencer à voir une série d'autres collines s'élever devant nous, au cours des décennies où j'ai roulé avec eux sur des vagues d'enthousiasme, et dans des vallées de déception."

‍

Andrew Ng : "Je pense que l'essor de l'apprentissage profond a malheureusement été associé à de faux espoirs et à des rêves d'une voie sûre vers la réalisation de l'AGI, et je pense qu'il serait très utile de redéfinir les attentes de chacun à ce sujet."

‍

Roger Penrose a depuis longtemps une théorie selon laquelle la conscience n'est pas basée sur le calcul et a cité Godel, ainsi que d'autres, comme influenceurs. Plus récemment, il a travaillé avec Stuart Hammeroff pour étudier l'idée controversée selon laquelle la conscience trouve son origine dans les états quantiques des microtubules neuronaux.

‍

George Gilder sur Kurt Godel : "Gödel a découvert que tout schéma logique, quel qu'il soit, dépend nécessairement de propositions qui ne peuvent être prouvées dans le cadre du schéma logique. Cela signifie que toute l'aspiration déterministe de la science et de la physique du XXe siècle est condamnée. Ensuite, Alan Turing, le grand inventeur de la machine de Turing, l'architecture informatique fondamentale, a prouvé qu'aucun ordinateur ne peut être un schéma logique cohérent. Les ordinateurs ont besoin de programmeurs, ils ont besoin de ce que Turing appelait des 'oracles', ils ont besoin d'une source d'axiomes en dehors du système informatique lui-même".

Il est indéniable que l'IA progresse très rapidement. Les entreprises d'IA qui se concentrent sur la compréhension du langage naturel, telles que Botpress et d'autres plateformes de chatbot à code source ouvert, ont vu la puissance de leurs algorithmes de compréhension faire des bonds considérables au cours de l'année écoulée.

Il est loin d'être garanti que la voie que nous suivons vers l'IA généralisée soit la bonne, ou que l'IA généralisée soit synonyme de conscience

Toutefois, si l'on dispose d'un temps illimité et qu'il n'y a pas d'obstacle absolu au progrès technologique dans ce domaine (ce qui est peut-être une hypothèse importante), il semble très difficile de croire que l'homme ne parviendra jamais à créer une superintelligence. Tout comme les humains ont toujours su que le vol était possible en observant les insectes et les animaux volants, nous savons que la conscience est possible parce que nous l'avons.

Et si nous admettons que la superintelligence et la conscience de la machine sont réalisables à un moment donné, alors nous devons reconnaître qu'il y a une forte probabilité que la réalité soit une simulation et que vous soyez un chatbot.

Cela peut sembler une mauvaise nouvelle, mais ce n'est pas le cas. Nous savons déjà que tout est créé à partir de blocs de construction fondamentaux, de sorte que ce que nous percevons avec nos sens comme étant la réalité n'est qu'une interprétation d'un monde physique très différent.

Et même si nous sommes des logiciels, nous devons nous émerveiller du logiciel incroyablement sophistiqué sur lequel nous fonctionnons et attendre avec impatience que nos descendants créent des logiciels similaires à l'avenir.

Espérons toutefois que les simulations que nos descendants créeront seront plus gentilles pour tous les personnages qui existent dans la simulation que ce n'est le cas dans la simulation dans laquelle nous sommes actuellement piégés.