L’argument de la Simulation et le problème de la classe de référence

L’argument de la Simulation et le problème de la classe de référence : le point de vue du contextualisme dialectique

Paul Franceschi

Université de Corse

Paul Franceschi

Fontaine du salario

Lieu-dit Morone

20000 Ajaccio

France

post-publication d’un article paru dans la revue Philosophiques, Volume 43Numéro 2, Automne, 2016, p. 371–389

ABSTRACT. I present in this paper an analysis of the Simulation argument from a dialectical contextualist standpoint. This analysis is grounded on the reference class problem. I begin with describing Bostrom’s Simulation Argument step-by-step. I identify then the reference class within the Simulation argument. I also point out a reference class problem, by applying the argument successively to several references classes: aware-simulations, rough simulations and cyborg-type simulations. Finally, I point out that there are three levels of conclusion within the Simulation Argument, depending on the chosen reference class, that yield each final conclusions of a fundamentally different nature.

RESUMÉ. Je présente dans cet article une analyse de l’argument de la Simulation selon le point de vue du contextualisme dialectique, fondée sur le problème de la classe de référence. Je décris tout d’abord étape par étape l’argument de la Simulation. J’identifie ensuite la classe de référence et j’applique successivement l’argument à plusieurs classes de référence distinctes : les simulations conscientes de leur propre nature de simulation, les simulations grossières et les simulations de type cyborg. Finalement, je montre qu’il existe trois niveaux de conclusion dans l’argument de la Simulation, selon la classe de référence choisie, qui engendrent des conclusions finales d’une nature très différente.

1. L’argument de la Simulation

Je proposerai dans ce qui suit une solution pour résoudre le problème posé par l’argument de la Simulation, récemment décrit par Nick Bostrom (2003). Je m’attacherai tout d’abord à décrire en détail l’argument de la Simulation, en exposant notamment le problème qui lui est inhérent. Je montrerai ensuite comment une solution peut être apportée à un tel problème, fondée sur l’analyse de la classe de référence qui sous-tend SA, et sans qu’il soit nécessaire de renoncer à ses intuitions préthéoriques.

L’idée générale qui sous-tend l’argument de la Simulation (SA) peut être ainsi énoncée. Il est très probable que des civilisations post-humaines posséderont une puissance de calcul informatique tout à fait hors de proportion avec celle qui est la nôtre actuellement. Une telle puissance de calcul extraordinaire devrait leur conférer la capacité de réaliser des simulations humaines tout à fait réalistes, telles notamment que les habitants de ces simulations auraient une conscience de leur propre existence, en tous points similaire à la nôtre. Dans un tel contexte, on peut penser qu’il est probable que des civilisations post-humaines consacreront effectivement une partie de leurs ressources informatiques à réaliser des simulations des civilisations humaines qui les ont précédés. Dans ce cas, le nombre des humains simulés devrait très largement excéder celui des humains authentiques. Dans de telles conditions, le fait de prendre en compte le simple fait que nous existions conduit à la conclusion qu’il est plus probable que nous fassions partie des humains simulés, plutôt que des humains authentiques.

Bostrom s’attache également à décrire l’argument de la Simulation avec précision. Il souligne que l’argument de la Simulation est basé sur les trois hypothèses suivantes :

(1)

l’humanité connaîtra une extinction prochaine

(2)

les civilisations post-humaines ne réaliseront pas de simulations d’humains

(3)

nous vivons actuellement dans une simulation réalisée par une civilisation post-humaine

La première étape du raisonnement consiste à considérer, par dichotomie, que soit (a) l’humanité connaîtra une extinction prochaine, soit (b) elle poursuivra son existence dans un lointain avenir. La première de ces deux hypothèses constitue la disjonction (1) de l’argument. On considère ensuite l’hypothèse selon laquelle l’humanité ne connaîtra pas une extinction prochaine et poursuivra ainsi son existence durant de nombreux millénaires. Dans un tel cas, on peut également considérer qu’il est probable que les civilisations post-humaines posséderont à la fois la technologie et les aptitudes nécessaires pour réaliser des simulations d’humains. Une nouvelle dichotomie se présente alors : soit (a) ces civilisations post-humaines ne réaliseront pas de telles simulations—il s’agit de la disjonction (2) de l’argument ; soit (b) ces civilisations post-humaines réaliseront effectivement de telles simulations. Dans ce dernier cas, il s’ensuivra que le nombre d’humains simulés excédera largement celui des humains. La probabilité de vivre dans une simulation sera donc beaucoup plus grande que celle de vivre dans la peau d’un humain ordinaire. Il s’ensuit alors la conclusion que nous autres, habitants de la Terre, vivons probablement dans une simulation réalisée par une civilisation post-humaine. Cette dernière conclusion constitue la disjonction (3) de l’argument. Une étape supplémentaire conduit alors à considérer qu’en l’absence d’élément probant en faveur de l’une ou l’autre d’entre elles, on peut considérer les hypothèses (1), (2) et (3) comme équiprobables.

L’argument de la Simulation peut être décrit étape par étape de la manière suivante :

(4)

soit l’humanité connaîtra une extinction prochaine, soit l’humanité ne connaîtra pas une extinction prochaine

dichotomie 1

(1)

l’humanité connaîtra une extinction prochaine

hypothèse 1.1

(5)

l’humanité ne connaîtra pas une extinction prochaine

hypothèse 1.2

(6)

les civilisations post-humaines seront capables de réaliser des simulations d’humains

de (5)

(7)

soit les civilisations post-humaines ne réaliseront pas de simulations d’humains, soit elles en réaliseront

dichotomie 2

(2)

les civilisations post-humaines ne réaliseront pas de simulations d’humains

hypothèse 2.1

(8)

les civilisations post-humaines réaliseront des simulations d’humains

hypothèse 2.2

(9)

la proportion des humains simulés excédera très largement celle des humains

de (8)

(3)

nous vivons actuellement dans une simulation réalisée par une civilisation post-humaine

de (9)

(10)

en l’absence d’élément probant en faveur de l’une d’entre elles, les hypothèses (1), (2) et (3) sont équiprobables

de (1), (2), (3)

Il convient également de mentionner un élément qui résulte de l’interprétation-même de l’argument. Car ainsi que le précise Bostrom (2005), l’argument de la Simulation ne doit pas être mal interprété. Il ne s’agit pas en effet d’un argument qui conduit à la conclusion que (3) est vraie, à savoir que nous vivons actuellement dans une simulation réalisée par une civilisation post-humaine. Le noyau de l’argument de la Simulation réside ainsi dans le fait que les propositions (1), (2) ou (3) sont équiprobables.

Cette nuance d’interprétation étant mentionnée, l’argument de la Simulation ne manque pas cependant de poser un problème. Car l’argument conduit à la conclusion que l’une des propositions (1), (2) ou (3) au moins est vraie, et que dans la situation d’ignorance où nous nous trouvons, on peut les considérer comme équiprobables. Ainsi que Bostrom le note : “In the dark forest of our current ignorance, it seems sensible to apportion one’s credence roughly evenly between (1), (2) and (3).” (Bostrom 2003). Cependant, selon notre intuition pré-théorique, la probabilité de (3) est nulle ou au mieux extrêmement proche de 0. Ainsi, la conclusion de l’argument a pour conséquence de faire passer la probabilité que (3) soit vraie, de zéro à une probabilité d’environ 1/3. Ainsi, le problème posé par l’argument de la Simulation est précisément qu’il fait passer—via sa conclusion disjonctive—une probabilité nulle ou quasi-nulle concernant (3) à une probabilité beaucoup plus considérable d’environ 1/3. Car une probabilité de 1/3 pour les propositions (1) et (2) ne possède rien de choquant a priori, mais se révèle en revanche tout à fait contraire à l’intuition pour ce qui concerne la proposition (3). C’est en ce sens que l’on peut parler du problème posé par l’argument de la Simulation et de la nécessité de rechercher une solution à ce dernier.

De manière préliminaire, il convient de s’interroger sur ce qui constitue l’aspect paradoxal de SA. Qu’est-ce en effet qui confère une nature paradoxale à SA ? Car SA se distingue de la classe des paradoxes qui conduisent à une contradiction. Dans les paradoxes comme le Menteur ou bien le paradoxe sorite, le raisonnement correspondant conduit à une contradiction : le Menteur est à la fois vrai et faux. Dans le paradoxe sorite, un objet comportant un certain nombre de grains de sable est à la fois un tas et un non-tas. Rien de tel ne se manifeste au niveau de SA qui appartient, de ce point de vue, à une classe différente de paradoxes dont fait également partie l’argument de l’Apocalypse. Il s’agit en effet d’une classe de paradoxes dont la conclusion présente une nature contraire à l’intuition, et qui se place en conflit avec l’ensemble de nos croyances. Dans l’argument de l’Apocalypse, la conclusion selon laquelle la prise en considération de notre rang au sein de la classe des humains ayant jamais existé a pour effet qu’une apocalypse est beaucoup plus probable qu’on aurait pu l’envisager initialement, vient heurter l’ensemble de nos croyances. De manière similaire, ce qui apparaît finalement ici comme paradoxal, en première analyse, c’est que SA conduit à une probabilité de l’hypothèse selon laquelle nous vivons actuellement dans une simulation crée par des post-humains, qui est supérieure à celle qui résulte de notre intuition pré-théorique.

2. La classe de référence dans l’argument de la Simulation

La conclusion du raisonnement qui sous-tend SA, fondée sur le calcul du ratio futur entre les humains réels et les humains simulés, si elle se révèle contraire à l’intuition, résulte néanmoins d’un raisonnement qui apparaît a priori valide. Cependant, un tel raisonnement suscite une interrogation, qui se trouve liée à la classe de référence qui est inhérente à l’argument lui-même1. En effet, il s’avère que SA comporte, de manière indirecte, une classe de référence particulière, qui est celle des simulations d’humains. Mais qu’est-ce donc qui constitue une simulation ? L’argument original se réfère, de manière implicite, à une classe de référence qui est celle des simulations virtuelles d’humains, d’une très haute qualité et par nature indiscernables des humains authentiques. Toutefois, une certaine ambiguïté s’attache à la notion-même de simulation et la question se pose de l’applicabilité de SA à d’autres types de simulations d’humains2. On peut en effet concevoir des types de simulations quelque peu différents qui, de manière intuitive, entrent également dans le champ de l’argument.

Il est possible d’imaginer tout d’abord un type de simulations en tous points identiques à celles décrites dans l’argument original, c’est-à-dire quasiment indiscernables des humains authentiques, mais à la seule différence qu’elles seraient conscientes de leur propre nature de simulation. L’unique différence avec le type de simulation mis en scène dans l’argument original serait donc que ces dernières simulations auraient clairement conscience de ne pas être des humains authentiques. A priori, rien n’exclut que des post-humains choisissent de mettre en oeuvre de telles simulations et de manière intuitive, SA est susceptible de s’appliquer également à ce type particulier de simulations.

De même, de manière implicite, SA se réfère à des simulations sophistiquées, de très haute qualité, qui sont par nature indiscernables des humains authentiques. Cependant, on peut concevoir différents degrés dans la qualité des simulations humaines. Aussi la question se pose-t-elle notamment de savoir si l’on peut inclure dans la classe de référence de SA des simulations virtuelles qui seraient d’une qualité très légèrement inférieure ? Avec de telles simulations, la nature de simulation qui constitue leur identité profonde serait susceptible d’être un jour découverte par le sujet lui-même. Si l’argument doit s’appliquer à cette classe de simulations, la question est alors posée de son applicabilité à d’autres types de simulations de cette nature, car on peut concevoir de nombreux degrés intermédiaires entre d’une part, les simulations indiscernables et d’autre part, les simulations que nous sommes actuellement capables de réaliser, au moyen notamment des images de synthèse. Aussi, la question se pose-t-elle de savoir si la classe de référence de SA peut aller jusqu’à inclure les simulations de moindre qualité que celles évoquées dans l’argument original ?

Enfin, il apparaît que SA fonctionne’ également si on l’applique à des humains, dont le cerveau est interfacé avec des uploads, des simulations de l’esprit humain incluant les événements mémorisés, les connaissances, les traits de personnalité, les modes de raisonnement, etc. propres à un individu. On peut imaginer en effet que dans un futur pas très lointain, l’émulation du cerveau humain pourrait être achevée (Moravec 1998, Sandberg & Bostrom 2008, De Garis et al. 2010), de sorte que la réalisation d’uploads pourrait devenir courante et être utilisée de manière intensive. Un très grand nombre d’uploads pourraient ainsi être réalisés et utilisés à des fins diverses : scientifiques, culturelles, sociales, utilitaires, etc. Si on assimile ainsi les uploads aux simulations de SA, l’argument fonctionne également. En un sens, les humains dotés d’uploads peuvent être considérés comme des simulations de nature partielle, qui ne concernent que le cerveau ou une partie du cerveau, alors même que le reste du corps humain demeure authentique et non simulé. Dans un tel cas, les humains dont le cerveau seul est simulé à l’aide d’un upload, peuvent être assimilés à un type particulier de cyborgs. On peut ainsi se poser la question générale de savoir dans quelle mesure la classe des simulations de SA peut être étendue aux simulations partielles et aux types de cyborgs qui viennent d’être décrits. On peut concevoir en effet des cyborgs de différents types, selon les parties du corps et les organes de remplacement ou de substitution qui sont les leurs. Aussi la question se pose-t-elle de savoir jusqu’à quel point SA s’applique également à ce type de cyborgs ?

On le voit, la question-même de la définition de la classe de référence pour SA conduit à s’interroger sur l’inclusion ou non dans le champ de SA de plusieurs types de simulations. Sans prétendre à l’exhaustivité, on peut mentionner à ce stade, parmi ces dernières : les simulations conscientes, les simulations plus ou moins grossières et les simulations partielles de type cyborg. La question de la définition de la classe de référence pour SA apparaît ainsi étroitement liée à la nature de la future taxinomie des êtres et des créatures qui peupleront la Terre dans un futur proche ou éloigné.

À ce stade, il s’avère en première approche que les types de simulations d’humains présentent une nature assez variée, et que l’on peut définir la classe de référence des simulations de différentes manières. On pourrait ainsi choisir la classe de référence de manière plus ou moins restrictive ou plus ou moins extensive. Dans ce contexte, il s’avère nécessaire d’analyser de manière plus approfondie les conséquences de l’un ou l’autre choix.

3. Le problème de la classe de référence : le cas des simulations conscientes

À ce stade, on ne peut encore véritablement parler de problème de la classe de référence au sein de SA. Pour cela en effet, il convient de montrer que le choix de l’une ou l’autre classe de référence a des conséquences tout à fait différentes au niveau de l’argument, et en particulier que la nature de sa conclusion s’en trouve modifiée de manière fondamentale. Dans ce qui suit, nous nous attacherons désormais à montrer que selon que l’on choisit l’une ou l’autre classe de référence, des conclusions radicalement différentes s’ensuivent au niveau de l’argument lui-même et que par conséquent, il existe bien un problème de classe de référence au sein de SA. Nous considérerons pour cela successivement plusieurs classes de référence, en nous attachons à montrer comment des conclusions de nature fondamentalement différente en résultent au niveau de l’argument lui-même.

La version originale de SA met en scène, de manière implicite, des simulations d’humains d’un certain type. Il s’agit de simulations de type virtuel, quasiment indiscernables pour nous-mêmes et qui présentent ainsi un degré de sophistication très élevé. Plus encore, il s’agit d’un type de simulations qui n’ont pas conscience qu’elles sont elles-mêmes simulées et qui sont donc persuadées d’être des humains authentiques. Ceci résulte implicitement des termes de l’argument lui-même et en particulier, de l’inférence de (9) à (3) qui conduit à conclure que ‘nous’ vivons actuellement dans une simulation indiscernable réalisée par des post-humains. De fait, il s’agit de simulations qui sont en quelque sorte abusées et trompées par les post-humains en ce qui concerne leur identité véritable. Pour les besoins de la présente discussion, nous dénommerons quasi-humains les humains simulés qui n’ont pas conscience qu’ils le sont.

À ce stade, il s’avère que l’on peut également concevoir des simulations indiscernables qui présentent un degré tout à fait identique de sophistication mais qui, à l’inverse, auraient conscience qu’elles sont simulées. Nous appellerons ainsi quasi-humains+ des humains simulés ayant conscience qu’ils sont eux-mêmes des simulations. De telles simulations sont en tous points identiques aux quasi-humains auxquels SA se réfère de manière implicite, à la seule différence qu’elles sont cette fois clairement conscientes de leur nature intrinsèque de simulation. De manière intuitive, SA s’applique également à ce type de simulation. A priori, on ne possède pas de justification pour écarter un tel type de simulation. Plus encore, plusieurs raisons conduisent à penser que les quasi-humains+ pourraient être plus nombreux que les quasi-humains. Pour des raisons éthiques (a) tout d’abord, on peut penser que les post-humains pourraient être enclins à préférer les quasi-humains+ aux quasi-humains. Car le fait de conférer une existence aux quasi-humains constitue une tromperie sur leur identité véritable, alors qu’un tel inconvénient est absent lorsqu’il s’agit des quasi-humains+. Une telle tromperie pourrait raisonnablement être considérée comme non-éthique et conduire à une forme ou une autre d’interdiction des quasi-humains. Une autre raison (b) milite pour le fait de ne pas écarter, a priori, les simulations d’humains ayant conscience de leur propre nature de simulation. En effet, on peut penser que le niveau d’intelligence acquis par certains quasi-humains dans un futur proche pourrait être extrêmement élevé et faire que dans ce cas, les simulations deviendraient très rapidement conscientes qu’elles sont elles-mêmes des simulations. On peut penser qu’à partir d’un certain degré d’intelligence, et en particulier celui susceptible d’être obtenu par l’humanité dans un futur pas très éloigné (Kurtzweil 2000, 2005, Bostrom 2006), les quasi-humains devraient être à même—au moins beaucoup plus facilement qu’actuellement—de recueillir les preuves qu’ils sont l’objet d’une simulation. Plus encore, le concept-même de ‘simulation non-consciente qu’elle est une simulation’ pourrait être entaché de contradiction, car il faudrait alors limiter son intelligence et dès lors, il ne s’agirait plus une simulation indiscernable et suffisamment réaliste. Ces deux raisons inclinent à penser que les quasi-humains+ pourraient bien exister en plus grand nombre que les quasi-humains.

À ce stade, il s’avère nécessaire d’envisager les conséquences de la prise en compte des quasi-humains+ au sein de la classe de référence des simulations inhérente à SA. Pour cela, considérons tout d’abord la variation de SA (dénommons-la SA*) qui s’applique, de manière exclusive, à la classe des quasi-humains+. Un tel choix, tout d’abord, n’a pas de conséquence sur la disjonction (1) de SA, qui se réfère à une possible disparition prochaine de notre humanité. Cela n’a pas d’effet non plus sur la disjonction (2), selon laquelle les post-humains ne réaliseront pas de quasi-humains+, c’est-à-dire de simulations conscientes d’êtres humains. En revanche, le choix d’une telle classe de référence a une conséquence directe sur la disjonction (3) de SA. Certes, il s’ensuit, de la même manière que pour l’argument original, la conclusion de premier niveau selon laquelle le nombre des quasi-humains+ excédera largement le nombre des humains authentiques (la disproportion). Cependant, il ne s’ensuit plus désormais la conclusion de second niveau selon laquelle ‘nous’ sommes actuellement des quasi-humains+. En effet, une telle conclusion (appelons-la l’auto-applicabilité) ne s’applique plus à nous désormais, puisque que nous n’avons pas conscience d’être simulés et sommes tout à fait convaincus d’être des humains authentiques. En effet, ce qui constitue la conclusion inquiétante de SA ne résulte plus désormais de l’étape (9), puisque nous ne pouvons nous identifier aux quasi-humains+, ces derniers ayant clairement conscience qu’ils évoluent dans une simulation. Ainsi, à la différence de la version originale de SA basée sur la classe de référence qui associe les humains aux quasi-humains, cette nouvelle version associant les humains et les quasi-humains+, n’est pas associée à une telle conclusion inquiétante. La conclusion qui s’ensuit désormais, on le voit, s’avère tout à fait rassurante, et en tout état de cause très différente de celle, profondément inquiétante, qui résulte de l’argument original.

À ce stade, il apparaît qu’une question se pose : doit-on identifier, dans le contexte de SA, la classe de référence aux quasi-humains ou bien aux quasi-humains+ ? Il s’avère qu’aucun élément objectif, dans l’énoncé de SA, ne vient conforter le choix a priori des quasi-humains ou des quasi-humains+. Ainsi, toute version de l’argument qui comporte le choix préférentiel des quasi-humains ou bien des quasi-humains+ apparaît comme comportant un biais. Tel est ainsi le cas pour la version originale de SA, qui comporte ainsi un biais en faveur des quasi-humains, qui résulte du choix par Bostrom d’une classe des simulations qui s’assimile exclusivement à des quasi-humains, c’est-à-dire à des simulations non-conscientes de leur nature de simulation et qui sont par conséquent abusées et trompées par les post-humains sur la nature-même de leur identité. Et tel est également le cas pour SA* la version alternative de SA qui vient d’être décrite, qui comporte un biais particulier en faveur des quasi-humains+, des simulations conscientes de leur propre nature de simulation. Cependant, le choix de la classe de référence se révèle ici fondamental, car il comporte une conséquence essentielle : si l’on choisit une classe de référence qui associe les humains aux quasi-humains, il en résulte la conclusion inquiétante que nous vivons actuellement très probablement dans une simulation. En revanche, si l’on choisit une classe de référence qui associe les humains aux quasi-humains+, il s’ensuit un scénario qui de manière rassurante, ne comporte pas une telle conclusion. À ce stade, il apparaît bien que le choix des quasi-humains, c’est-à-dire à des simulations non-conscientes, dans la version originale de SA, au détriment des simulations conscientes, constitue un choix arbitraire. En effet, qu’est-ce qui permet de préférer le choix des quasi-humains, par rapport aux quasi-humains? Une telle justification fait défaut dans le contexte de l’argument. À ce stade, il s’avère que l’argument original de SA comporte un biais qui conduit au choix préférentiel des quasi-humains, et à la conclusion alarmante qui lui est associée. Cette remarque étant faite, il convient désormais d’envisager le problème sous une perspective plus large encore, en prenant en considération d’autres types possibles de simulations.

4. Le problème de la classe de référence : le cas des simulations grossières

Le problème de la classe de référence dans SA porte, ainsi que cela a été mentionné plus haut, sur la nature-même et le type des simulations mises en oeuvre dans l’argument. Ce problème se limite-t-il au choix préférentiel, au niveau de l’argument original, des simulations non-conscientes, au détriment du choix alternatif des simulations conscientes, qui correspondent à des simulations très sophistiquées d’humains, capables de créer l’illusion, mais dotées de la conscience qu’elles sont elles-mêmes des simulations ? Il apparaît que non. En effet, comme cela a été évoqué plus haut, on peut également concevoir d’autres types de simulations pour lesquelles l’argument fonctionne également, mais qui se révèlent d’une nature quelque peu différente. En particulier, on peut concevoir que les post-humains conçoivent et implémentent des simulations identiques à celles de l’argument original, mais qui ne présentent toutefois pas un caractère aussi parfait. Une telle situation présente un caractère tout à fait vraisemblable et ne présente pas les inconvénients d’ordre éthique qui pourraient accompagner les simulations indiscernables mises en scène dans l’argument original. Le choix de réaliser ce type de simulations pourrait résulter du niveau technologique nécessaire, ou bien de choix délibérés et pragmatiques, destinés à faire économiser du temps et des ressources. On peut ainsi concevoir différents degrés dans la réalisation d’un tel type de simulations. Il pourrait s’agir par exemple de simulations de très bonne qualité dont nos scientifiques actuels ne pourraient déterminer la nature artificielle qu’après, par exemple, dix années de recherche. Mais de manière alternative, de telles simulations pourraient être de qualité moyenne, voire plutôt grossières, par rapport aux simulations quasiment indiscernables évoquées plus haut. Pour les besoins de la présente discussion, nous appellerons toutefois simulations grossières l’ensemble de cette catégorie de simulations.

Quelles sont donc les conséquences sur SA de la prise en compte d’une classe de référence qui s’assimile à des simulations grossières ? Dans de telles circonstances, un grand nombre de telles simulations seraient détectables par nous humains. Dans ce cas, la conséquence de premier niveau fondée sur la disproportion humains/simulations s’applique toujours, de la même manière que pour l’argument original. En revanche, la conclusion de second niveau fondée sur l’auto-applicabilité ne s’applique plus désormais. Nous ne pouvons plus conclure désormais que ‘nous’ sommes des simulations, puisqu’en présence de telles simulations, nous nous apercevrions rapidement qu’il s’agit d’humains simulés et non d’humains réels. Aussi, dans un tel cas, il s’avère que la conclusion alarmante inhérente à la version originale de SA et fondée sur l’auto-applicabilité ne s’applique plus désormais. Une conclusion rassurante s’y substitue en effet, fondée sur le fait que nous humains n’appartenons pas à ce type de simulations.

À ce stade, il apparaît que SA, dans sa version originale, opte pour le choix préférentiel de simulations très sophistiquées, indétectables par nous autres humains et non-conscientes de leur nature de simulation. Mais ainsi que cela vient d’être évoqué, on peut concevoir d’autres types de simulations, de nature plus grossière, pour lesquelles l’argument s’applique également. Jusqu’à quel niveau de simulation détectable peut-on aller ? Doit-on aller jusqu’à inclure dans la classe de référence, à un niveau d’extension plus élevé, des simulations assez grossières, telles que par exemple des versions améliorées des simulations que nous sommes d’ores et déjà capables de réaliser à l’aide d’images de synthèse ? Dans ce cas, cela conduit à une formulation quelque peu différente de l’argument orignal, car nous pouvons alors assimiler la classe des post-humains aux humains qui vivront sur Terre dans dix ans, voire dans un an, ou même—à un niveau d’extension plus grand encore—dans un mois. Dans cas, la disjonction (1) selon laquelle les humains ne parviendront pas jusqu’à cette époque ne vaut plus, puisqu’un tel niveau technologique a d’ores et déjà été atteint. De même, la disjonction (2) n’a plus non plus de raison d’être, puisque nous réalisons déjà de telles simulations grossières. Ainsi, il ne subsiste dans ce cas que la disjonction (3), qui constitue alors la proposition unique qui sous-tend l’argument et constitue la conclusion de premier niveau de SA, selon laquelle le nombre des humains simulés excédera largement celui des humains authentiques. Dans ce cas, il s’ensuit bien, de manière identique à l’argument original, la conclusion de premier niveau selon laquelle le nombre des quasi-humains+ excédera largement le nombre des humains authentiques (la disproportion). Mais là aussi, il ne s’ensuit plus désormais la conclusion de second niveau selon laquelle ‘nous’ sommes actuellement des quasi-humains+ (l’auto-applicabilité). Cette dernière ne s’applique plus à nous désormais et une conclusion de nature rassurante s’y substitue, puisque que nous avons clairement conscience de ne pas être de telles simulations grossières.

5. Le problème de la classe de référence : le cas des cyborgs

Ainsi que cela a été évoqué plus haut, une autre question qui se pose est celle de savoir si la classe de référence peut être étendue aux cyborgs et en particulier à cette catégorie de cyborgs qui sont indiscernables des humains. On peut en effet concevoir différents types de cyborgs, allant de ceux pour lesquels quelques parties du corps ont été remplacées par des organes de synthèse de substitution ou plus performants, à ceux pour lesquels la quasi-totalité des organes—y compris le cerveau—a été remplacée. A priori, une telle classe entre également dans le champ de l’argument. Ici, l’argument s’applique naturellement aux cyborgs élaborés, indiscernables des humains, pour lesquels une grande partie des organes d’origine ont été remplacés ou transformés. En particulier, les cyborgs pour lesquels une partie du cerveau a été remplacée par un uploadpartiel ou non—entre naturellement dans le champ de l’argument. Les uploads partiels sont ceux pour lesquels une partie seulement des données du cerveau a été remplacée par un upload. De même, on peut imaginer de nombreux types d’uploads de ce genre : ainsi des uploads qui reconstituent la mémoire en restaurant les événements oubliés peuvent être envisagés. Ils peuvent se révéler utiles non seulement pour les personnes en bonne santé, mais également pour celles qui souffrent de maladies dans lesquelles les fonctions de la mémoire sont altérées. On peut concevoir que de tels types d’uploads partiels pourront être mis en œuvre dans un futur plus ou moins proche (Moravec 1998, Kurzweil 2005, De Garis et al. 2010). Et de la même manière que pour l’argument original, on peut concevoir que des quantités très grandes de ces uploads puissent être réalisées par les moyens informatiques. De manière générale, il s’avère que la discussion sur l’inclusion des cyborgs au sein de la classe de référence de SA possède son importance, car si l’on considère la classe des cyborgs dans un sens étendu, nous sommes déjà pratiquement tous des cyborgs. Si l’on considère en effet que des organes ou des parties du corps humains ont été remplacés ou améliorés afin qu’ils fonctionnent correctement font de nous des cyborgs, tel est aujourd’hui déjà le cas, compte tenu de la généralisation des dents synthétiques, pacemakers, prothèses, etc. Ainsi la question se trouve-t-elle posée de savoir jusqu’à quel degré on peut inclure certains types de cyborgs dans le champ de l’argument.

Quel serait donc l’effet sur SA de la prise en compte de la classe des cyborgs partiels, si l’on se place à un tel degré d’extension ? De même que pour les simulations grossières, il s’avère que la disjonction (1) selon laquelle les humains ne parviendront pas jusqu’à cette époque ne vaut plus alors, puisqu’un tel palier technologique est d’ores et déjà atteint. De manière identique, la disjonction (2) ne se justifie plus non plus, puisque dans un tel contexte, nous sommes déjà quasiment tous de tels cyborgs partiels. Ainsi, il ne subsiste dans ce cas que la disjonction (3) en tant que proposition unique, mais qui se présente toutefois sous une forme différente de celle de l’argument original. En effet, la conséquence de premier niveau fondée sur la disproportion humains/simulations s’applique ici également, de la même manière que pour l’argument original. En outre, et c’est là une différence importante, la conclusion de second niveau fondée sur l’auto-applicabilité s’applique également, puisque nous pouvons en conclure que ‘nous’ sommes également, dans ce sens étendu, des simulations. En revanche, il ne s’ensuit plus la conclusion alarmante, qui est celle de l’argument original et qui se manifeste à un troisième niveau, que nous sommes des simulations non-conscientes, puisque le fait que nous soyons en ce sens des simulations n’implique pas ici que nous soyons trompés sur notre identité première. Ainsi s’ensuit-il finalement, à la différence de l’argument orignal, une conclusion rassurante : nous sommes des simulations, qui sont elles-mêmes tout à fait conscientes de leur propre nature de cyborgs partiels.

Ce qui précède montre également qu’en examinant SA avec attention, on constate que l’argument recèle une seconde classe de référence. Cette seconde classe de référence est celle des posthumains. Qu’est-ce donc qu’un post-humain ? Doit-on assimiler cette classe aux civilisations très largement supérieures à la nôtre, à celles qui évolueront au XXVème siècle ou bien au XLIIIème siècle ? Les descendants de notre actuelle race humaine qui vivront au XXIIème siècle doivent-ils être comptés parmi les post-humains ? Le fait que des évolutions importantes liées à l’accroissement de l’intelligence humaine (Moravec 1998, Kurzweil 2005) puissent survenir dans un futur plus ou moins proche, constitue notamment un argument qui milite dans ce sens. Mais doit-on aller jusqu’à inclure les descendants des humains actuels qui vivront sur Terre dans 5 ans ? De telles questions sont posées et nécessitent une réponse. La question de savoir comment on doit définir les post-humains, constitue ainsi également un élément du problème de la classe de référence de SA. En tout état de cause, la définition de la classe des post-humains apparaît étroitement liée à celle des simulations. Car si l’on s’intéresse, dans un sens étendu, à des cyborgs à peine plus évolués que nous le sommes dans un certain sens, alors les post-humains peuvent être assimilés à la prochaine génération d’humains. Il en va de même si l’on considère des simulations grossières améliorées par rapport à celles que nous sommes actuellement capables de produire. En revanche, si l’on considère, dans un sens plus restrictif, des simulations d’humains complètement indiscernables pour notre humanité actuelle, il convient alors de s’intéresser à des post-humains d’une époque nettement plus lointaine. En tout état de cause, il apparaît ici que la classe de référence des post-humains, ainsi que la classe des simulations à laquelle elle est associée, peut être choisie à différentes niveaux de restriction ou d’extension.

6. Les différents niveaux de conclusion selon la classe de référence choisie

Finalement, la discussion qui précède met l’accent sur le fait que si on considère SA à la lumière du problème de la classe de référence qui lui est inhérente, il existe en réalité plusieurs niveaux dans la conclusion de SA : (C1) la disproportion ; (C2) l’auto-applicabilité ; (C3) la non-conscience (le fait inquiétant que nous soyons trompés, dupés sur notre identité première). En fait, la discussion précédente montre que (C1) est vrai quelle que soit la classe de référence choisie (par restriction ou par extension) : les quasi-humains, les quasi-humains+, les simulations grossières et les simulations de type cyborg. En outre, (C2) est également vrai pour la classe de référence originale des quasi-humains et pour celle des simulations de type cyborg, mais se révèle toutefois faux pour la classe des quasi-humains+ et aussi pour celle des simulations grossières. Enfin, (C3) est vrai pour la classe de référence originale des quasi-humains, mais se révèle faux pour les quasi-humains+, les simulations grossières et les simulations de type cyborg. Ces trois niveaux de conclusion sont représentés sur le tableau ci-dessous :

niveau

conclusion

cas

quasi-humains

quasi-humains+

simulations grossières

simulations de type cyborg

C1

la proportion des humains simulés excédera largement celle des humains (disproportion)

C1A

vrai

vrai

vrai

vrai

la proportion des humains simulés n’excédera pas largement celle des humains

C1Ā

faux

faux

faux

faux

C2

nous sommes très probablement des simulations (auto-applicabilité)

C2A

vrai

faux

faux

vrai

nous ne sommes très probablement pas des simulations

C2Ā

faux

vrai

vrai

faux

C3

nous sommes des simulations inconscientes de leur nature de simulation (non-conscience)

C3A

vrai

faux

faux

faux

nous ne sommes pas des simulations inconscientes de leur nature de simulation

C3Ā

faux

vrai

vrai

vrai

Figure 1. Les différents niveaux de conclusion dans SA

ainsi que sur l’arborescence suivante :

Figure 2. Arbre des différents niveaux de conclusion de SA

Alors-même que la conclusion originale de SA laisse penser qu’il n’existe qu’un seul niveau de conclusion, il s’avère cependant, ainsi que cela vient d’être mis en lumière, qu’il existe en réalité plusieurs niveaux de conclusion dans SA, dès lors qu’on examine l’argument selon une perspective plus large, à la lumière du problème de la classe de référence. La conclusion de l’argument original est elle-même inquiétante et alarmante, en ce sens qu’elle conclut à une probabilité beaucoup plus forte que nous ne l’avions imaginé a priori, que nous soyons des humains simulés à leur insu. Une telle conclusion résulte du chemin C1-C1A-C2-C2A-C3-C3A de l’arbre ci-dessus. Cependant, l’analyse qui précède montre que selon la classe de référence choisie, des conclusions de nature très différente peuvent être inférées par l’argument de la simulation. Ainsi, une conclusion de nature tout à fait différente est associée au choix de la classe de référence des quasi-humains+, mais aussi à celle des simulations grossières. La conclusion qui en résulte est que nous ne sommes pas de telles simulations (C2Ā). Cette dernière conclusion est associée au chemin C1-C1A-C2-C2Ā dans l’arbre ci-dessus. Enfin, une autre conclusion possible, elle-même associée au choix de la classe des simulations de type cyborg, est que nous faisons partie d’une telle classe de simulation, mais que nous en avons conscience et que cela ne présente donc rien d’inquiétant (C3Ā). Cette dernière conclusion est représentée par le chemin C1-C1A-C2-C2A-C3-C3Ā.

L’analyse qui précède met finalement en lumière ce qui pêche dans la version originale de SA. L’argument original focalise en effet sur la classe des simulations non-conscientes de leur propre nature de simulation. Il s’ensuit la succession de conclusions selon lesquelles il existera une plus grande proportion d’humains simulés que d’humains authentiques (C1A), que nous faisons partie des humains simulés (C2A) et finalement que nous sommes, plus probablement que nous ne l’aurions imaginé a priori, des humains simulés non-conscients de l’être (C3A). Cependant, ainsi que cela a été évoqué plus haut, la notion-même de simulation d’humains—elle-même associée à la classe des post-humains—se révèle ambiguë, et une telle classe peut en réalité être définie de différentes manières, compte tenu qu’il n’existe pas, dans SA, un critère objectif permettant de choisir une telle classe d’une manière qui ne soit pas arbitraire. En effet, on peut choisir la classe de référence par restriction, en identifiant les simulations à des quasi-humains, ou à des quasi-humains; dans ce cas, les post-humains sont ceux auxquels se réfère l’argument orignal, d’une époque beaucoup plus avancée que la nôtre. En revanche, si on se place à un certain niveau d’extension, les simulations s’assimilent à des simulations moins parfaites que celles de l’argument original, ainsi que celles de type cyborg comportant des uploads évolués ; dans un tel cas, les post-humains associés sont ceux d’une époque moins éloignée. Enfin, si on effectue le choix de la classe de référence à un niveau plus grand d’extension, les simulations sont des simulations grossières, à peine meilleures que nous sommes actuellement capables de réaliser, ou bien des simulations de type cyborgs avec un degré d’intégration de parties simulées légèrement supérieur à celui que nous connaissons actuellement ; dans un tel cas, la classe des post-humains associée est celle des humains qui nous succéderont d’ici quelques années. On le voit, on peut effectuer le choix de la classe de référence qui sous-tend SA à différents niveaux de restriction ou d’extension. Mais selon que la classe sera choisie à tel ou tel niveau de restriction ou d’extension, une conclusion tout à fait différente s’ensuivra. Ainsi, le choix par restriction de simulations parfaites et non-conscientes de leur nature de simulation, comme le fait l’argument original, conduit à une conclusion inquiétante. En revanche, le choix à un niveau d’extension un peu plus grand, de simulations parfaites mais conscientes de leur nature de simulation, conduit à une conclusion rassurante. Et de même, le choix, à un niveau d’extension plus grand encore, des simulations grossières ou des simulations de type cyborg, entraîne également une conclusion rassurante. Ainsi, l’analyse qui précède montre que dans la version originale de SA, le choix se porte de manière préférentielle, par restriction, sur la classe de référence des quasi-humains, à laquelle est associée une conclusion inquiétante, alors-même qu’un choix par extension, prenant en compte les quasi-humains+, les simulations grossières, les simulations de type cyborg, etc., conduit à une conclusion rassurante. Finalement, le choix préférentiel dans l’argument original de la classe des quasi-humains, apparaît ainsi comme un choix arbitraire que rien ne vient justifier, alors-même que d’autres choix possèdent une égale légitimité. Car l’énoncé de SA ne comporte aucun élément objectif permettant d’effectuer le choix de la classe de référence d’une manière non-arbitraire. Dans ce contexte, la conclusion inquiétante associée à l’argument original apparaît également comme une conclusion arbitraire, alors-même qu’il existe plusieurs autres classes de référence qui possèdent un degré égal de pertinence vis-à-vis de l’argument lui-même, et desquelles découlent une conclusion tout à fait rassurante3.


Références

Bostrom, N. (2003) Are You a Living in a Computer Simulation?, Philosophical Quarterly, 53, 243-55

Bostrom, N. (2005) Reply to Weatherson, Philosophical Quarterly, 55, 90-97

Bostrom, N. (2006) ‘How long before superintelligence?’, Linguistic and Philosophical Investigations, 5-1, 11—30

De Garis, H.D., Shuo, C., Goertzel, B., Ruiting, L. (2010) A world survey of artificial brain projects, part i: Large-scale brain simulations, Neurocomputing, 74(1-3), 3-29

Eckhardt, W. (1993) ‘Probability Theory and the Doomsday Argument’, Mind, 102, 483-88

Eckhardt, W. (1997) ‘A Shooting-Room View of Doomsday’, Journal of Philosophy, 94, 244-259

Eckhardt, W. (2013) Paradoxes in probability Theory, Dordrecht, New York : Springer

Franceschi, P. (2009) A Third Route to the Doomsday Argument, Journal of Philosophical Research, 34, 263-278, traduction en français

Franceschi, P. (2014) Eléments d’un contextualisme dialectique, dans Liber Amicorum Pascal Engel, édité par J. Dutant, D. Fassio & A. Meylan, 581-608, English translation under the title Elements of Dialectical Contextualism, cogprints.org/9225

Kurzweil, R. (2000) The Age of Spiritual Machines: When Computers Exceed Human Intelligence, New York & London: Penguin Books

Kurzweil, R. (2005) The Singularity is Near, New York : Viking Press

Moravec, H. (1998) When will computer hardware match the human brain?, Journal of Evolution and Technology, vol. 1

Sandberg, A & Bostrom, N. (2008) Whole Brain Emulation: a Roadmap, Technical Report #2008-3, Future of Humanity Institute, Oxford University

1 William Eckhardt (2013, p. 15) considère que—de manière identique à l’argument de l’Apocalypse (Eckhardt 1993, 1997, Franceschi 2009)— le problème inhérent à SA provient de l’usage de la rétro-causalité et du problème lié à la définition de la classe de référence : ‘if simulated, are you random among human sims? hominid sims? conscious sims?‚’.

2 Nous laisserons de côté ici la question de savoir si l’on doit prendre en compte un nombre infini d’humains simulés. Tel pourrait être le cas si le niveau ultime de réalité était abstrait. Dans ce cas, la classe de référence pourrait inclure des humains simulés qui s’identifient, par exemple, à des matrices de très grands nombres entiers. Mais Bostrom répond à une telle objection dans sa FAQ (www.simulation-argument.com/faq.html) et indique que dans ce cas, les calculs ne valent plus (le dénominateur est infini) et le ratio n’est pas défini. Nous laisserons donc de côté cette hypothèse, en concentrant notre argumentation sur ce qui constitue le cœur de SA, c’est-à-dire le cas où le nombre de simulations d’humains est fini.

3 La présente analyse constitue une application directe à l’argument de la Simulation de la forme de contextualisme dialectique décrit dans Franceschi (2014).

Ce contenu a été publié dans Philosophie analytique, avec comme mot(s)-clé(s) , , , , , , . Vous pouvez le mettre en favoris avec ce permalien.