Digressions sur l’hypothèse de la sphère blanche

« Imagine que la seule perspective que tu aies eue durant ta vie ait été celle de l’intérieur d’une sphère blanche. Dans cette sphère blanche, tu n’as pas de corps physique, et il n’y a rien d’autre que toi. Tu n’existes dans la sphère qu’en tant que cerveau, avec des yeux parfaitement fonctionnels. La gravité à l’intérieur crée un équilibre parfait qui t’oblige à flotter en un seul point. Tu peux te tourner vers n’importe quelle direction. Tu ne peux évidemment pas voir ton propre cerveau, ni ce qui l’alimente. Ton cerveau dort 8 heures par jour et est capable de rêver. À quoi penses-tu à l’intérieur de la sphère, et à quoi rêves-tu? »

L’auteur de ce texte, James S. Eerie, pense que la personne coincée dans la sphère blanche ne pourrait pas « penser » au sens où nous l’entendons. Elle ne pourrait pas se demander « où suis-je », car elle n’aura ni le langage ni les représentations mentales nécessaires pour le faire.

L’auteur en conclut donc qu’elle aurait les capacités d’un fœtus. Là où, à mon sens, il a tort, c’est que même un fœtus reçoit un grand nombre de stimulis, et ce dès le deuxième mois de grossesse. Le liquide amniotique est un milieu extrêmement. À mesure que le placenta gagne en perméabilité, le fœtus commence à y expérimenter le goût et l’odorat.1Source (Campus de Maïeutique Francophone)

Parallèlement, le cerveau d’un fœtus se construit au rythme de 5000 neurones par secondes. Je me demande comment il se développerait dans la sphère blanche, en absence totale de stimulation. Pour un computationnaliste, un de ceux qui pensent que le cerveau fonctionne comme un ordinateur, rien ne se formerait dans le cerveau de la personne coincée dans la sphère; or ce rien nous semble hors de portée tant il est opaque et abstrait.

Il semblerait que, en absence de stimulis, nous en inventions. Pour reprendre l’image de l’Institut Weizmann de Neurosciences, en l’absence de stimulations, notre cerveau est comme un ordinateur qui lance un économiseur d’écran pour remplacer l’affichage inactif d’un moniteur LCD inactif.2Résumé de l’article de Yuval Nir et al. publié dans Nature sur le site de l’institut Weizmann. Quoi qu’il en soit, laissons de côté les conclusions que tire James et revenons sur l’hypothèse de la sphère blanche elle-même. Au sein de celle-ci, la question ne se pose pas: le cerveau est déjà formé, et il comme posé là, au milieu de la sphère.

Il est impossible de ne faire le lien entre la sphère blanche et le brain in a vat de Putnam:

Supposons qu’un être humain (vous pouvez supposer qu’il s’agit de vous-même) a été soumis à une opération par un savant fou. Le cerveau de la personne en question (votre cerveau) a été séparé de son corps et placé dans une cuve contenant une solution nutritive qui le maintient en vie. Les terminaisons nerveuses ont été reliées à un super-ordinateur scientifique qui procure à la personne-cerveau l’illusion que tout est normal. Il semble y avoir des gens, des objets, un ciel, etc. Mais en fait tout ce que la personne (vous-même) perçoit est le résultat d’impulsions électroniques que l’ordinateur envoie aux terminaisons nerveuses.

L’ordinateur est si intelligent que si la personne essaye de lever la main, l’ordinateur lui fait « voir » et « sentir » qu’elle lève la main. En plus, en modifiant le programme, le savant fou peut faire « percevoir » (halluciner) par la victime toutes les situations qu’il désire. Il peut aussi effacer le souvenir de l’opération, de sorte que la victime aura l’impression de se trouver dans sa situation normale. La victime pourrait justement avoir l’impression d’être assise en train de lire ce paragraphe qui raconte l’histoire amusante mais plutôt absurde d’un savant fou qui sépare les cerveaux des corps et qui les place dans une cuve contenant des éléments nutritifs qui les gardent en vie.

Raison, Vérité et Histoire, Hilary Putnam

Demande-toi: préfèrerais-tu vivre une vie normale dans la réalité, ou vivre la vie de tes rêves en étant un cerveau dans une cuve? Ce n’est pas une question rhétorique. Même si j’ai la mienne et que je l’expose dès le paragraphe suivant, il y a autant de réponses possibles que de points de vues valables – c’est-à-dire beaucoup.

Dans Matrix, Néo a fait son choix en avalant la pilule rouge – peut-être parce que s’il prenait la bleu il n’y aurait pas de film. Car à quoi bon? Quelle est la différence entre le réel et le non-réel si on ne peut pas faire la différence entre les deux?

Ceux qui répondent préférer le réel car il est mieux que le non réel adjugent une valeur morale à ce qu’est la réalité. Or, si tu es un cerveau dans une cuve, ta réalité est celle que ton cerveau hallucine grâce à l’ordinateur du savant fou, de la même façon que ta réalité à toi en ce moment est celle que tu expérimentes en lisant ces lignes. Il n’y a pas d’échelle de valeurs entre les réalités. Quitte à être condamné à vivre la réalité dans laquelle nous sommes piégés, autant bronzer sur une place aux Bahamas – même s’ils sont virtuels.

Il y a quelques jours, une équipe menée par Xing Chen du département Vision & Cognition de l’institut Néerlandais de Neurosciences a publié les résultats d’une expérience qu’ils ont conduit sur deux macaques. Grâce à 1024 électrodes intra-corticaux3C’est à dire: « branché » directement au cortex, ici visuel.3 connectées au cerveaux des singes, les chercheurs ont réussis à généré dans leur champ de vision des stimulis visuels, dont des formes géométriques et des chiffres.

Ce n’est pas le premier travail de ce type, même chez les humains.4Voir liste mentionné dans l’article de Chen et al.:

W. H. Dobelle, M. G. Mladejovsky, J. P. Girvin, Artificial vision for the blind: Electrical stimulation of visual cortex offers hope for a functional prosthesis. Science 183, 440–444 (1974). doi:10.1126/science.183.4123.440pmid:4808973

J. Button, T. Putnam, Visual responses to cortical stimulation in the blind. J. Iowa Med. Soc. 52, 17 (1962).

G. S. Brindley, W. S. Lewin, The sensations produced by electrical stimulation of the visual cortex. J. Physiol. 196, 479–493 (1968). doi:10.1113/jphysiol.1968.sp008519pmid:4871047

M. Bak, J. P. Girvin, F. T. Hambrecht, C. V. Kufta, G. E. Loeb, E. M. Schmidt, Visual sensations produced by intracortical microstimulation of the human occipital cortex. Med. Biol. Eng. Comput. 28, 257–259 (1990). doi:10.1007/BF02442682pmid:2377008

W. H. Dobelle, M. G. Mladejovsky, J. R. Evans, T. S. Roberts, J. P. Girvin, “Braille” reading by a blind volunteer by visual cortex stimulation. Nature 259, 111–112 (1976). doi:10.1038/259111a0pmid:1246346

J. R. Evans, J. Gordon, I. Abramov, M. G. Mladejovsky, W. H. Dobelle, Brightness of phosphenes elicited by electrical stimulation of human visual cortex. Sens. Processes 3, 82–94 (1979). pmid:515743

D. N. Rushton, G. S. Brindley, in Physiological Aspects of Clinical Neurology, F. C. Rose, Ed. (Blackwell Scientific Publications, ed. 1, 1977), pp. 123–153.

E. M. Schmidt, M. J. Bak, F. T. Hambrecht, C. V. Kufta, D. K. O’Rourke, P. Vallabhanath, Feasibility of a visual prosthesis for the blind based on intracortical microstimulation of the visual cortex. Brain 119, 507–522 (1996). doi:10.1093/brain/119.2.507pmid:8800945

J. Winawer, J. Parvizi, Linking electrical stimulation of human primary visual cortex, size of affected cortical area, neuronal responses, and subjective experience. Neuron 92, 1213–1219 (2016). doi:10.1016/j.neuron.2016.11.008pmid:27939584

W. H. Bosking, P. Sun, M. Ozker, X. Pei, B. L. Foster, M. S. Beauchamp, D. Yoshor, Saturation in phosphene size with increasing current levels delivered to human visual cortex. J. Neurosci. 37, 7188–7197 (2017). doi:10.1523/JNEUROSCI.2896-16.2017pmid:28652411.
De tels progrès représentent une immense source d’espoir pour les 36 millions de personnes5Source: France Info atteintes de cécité à travers le monde. Cela fait aussi furieusement penser à l’expérience du cerveau dans la cuve.

Ce n’est rien par rapport aux braindances de Cyberpunk 2077. Dans l’univers dystopique du jeu dont tout le monde parle en ce moment, les braindances sont la forme de divertissement la plus populaire. Sorte de réalité virtuelle poussée à leur paroxysme, ils permettent de revivre l’expérience vécue par quelqu’un d’autre. Ils permettent de vivre quelque chose comme si on y était; on peut passer une journée dans la peau d’une célébrité ou d’un aventurier. Ils sont principalement utilisés pour le divertissement, mais aussi pour mener des entrainements militaires ou canaliser les prisonniers. De par leur caractère stimulant, les braindances ont remplacé les médias traditionnels comme la télévision et la radio.

Des studios se sont spécialisés dans la production de braindances, où ils enregistrent les états mentaux de leurs acteurs pour les revendre. Dans le lore de Cyberpunk 2077, où ils permettent aux consommateurs de s’échapper d’une réalité souvent peu reluisante, les braindances ont causé une vague d’addiction dans la ville fictive de Night City. Le parallèle avec le cerveau dans la cuve est saisissant, en plus d’être probablement intentionnel. Avec les Oculus Rift de Facebook et autres Vive de HTC, nous sommes encore loin des braindances. Mais, dans une société comme celle-là, quel serait notre rapport à la réalité? Et combien de temps faudrait-il avant de pouvoir vivre en réalité virtuelle?

Sur l’hyperstimulation

C’est la grande tentation de n’importe quelle espèce technologique: modeler sa réalité subjective pour se fournir l’illusion de la survie et de la reproduction sans la substance. Les aliens les plus intelligents s’éteindront sûrement progressivement en allouant plus de temps et de ressources à leurs plaisirs qu’à leurs enfants.

Miller, 2006
Vénus de Willendorf, -24 000

Les Vénus préhistoriques sont des statues de femmes, en général sans visages ni pieds, mais aux formes exacerbées. Bien qu’elles fassent partie des plus vieilles œuvres d’art connues1Les plus vieilles datent de -35 000, les plus récentes de -11 000, on en a trouvé partout de l’Europe à la Sibérie. Héritage d’une culture commune? Manifestation d’un culte de la fertilité? Pour l’instant, on n’en sait pas plus.


Stimuli et hyperstimuli

Dans les environnements préindustriels que nous avons connus pendant les 99% de notre existence en tant qu’espèce, le sucre est une ressource nutritionnelle très importante. Les légumes et la viande représentent une partie importante de l’alimentation d’Homo Sapiens dans la nature, mais ont une concentration calorique et nutritionnelle bien moindre que les fruits, quant à eux plus rares. Pour maximiser notre habilité à survivre, nous avons développé un attrait pour le sucre – ou plutôt pour le goût du sucre. L’évolution a fait correspondre un élément de notre environnement « intéressant »2en termes relatifs de fitness pour nous avec un retour sensoriel plaisante, de la même façon que nous avons évolué une sensibilité aux goûts amers pour ne pas s’empoisonner à la première plante venue.

Fast-forward des milliers d’années plus tard: n’importe quelle barre chocolatée qu’on peut trouver en supermarché contient plus de sucre que ce qu’un Homo Sapiens pouvait ingérer en plusieurs jours dans un environnement naturel ou préindustriel. Imaginons l’évolution de nos papilles comme un algorithme d’apprentissage supervisé qui s’efforce à faire corréler qualité nutritive et feedback sensoriel; comme le dit Eliezer Yudkowski, « le goût […] a été reverse-engineered [par l’industrie agroalimentaire]. La corrélation correcte qui existait entre valeurs nutritives et sensations a volé en éclat à cause de points dans l’espace du goût qui n’étaient pas dans les données d’entrainement, des données aberrantes dans un graphe ancestral. »; le Prix Nobel Niko Tinbergen appelle ces phénomènes hyperstimulis, des copies exagérées et déformées de stimulis pour lesquels il existe une réponse préexistante, qui peut causer des comportements contre-productifs en termes de survie3L’article scientifique sobrement intitulé « La confusion des sensations : expliquer le hardcore » explique que « la pornographie doit son succès à ce qu’elle « appuie sur les bons boutons » (comme on le dit des démagogues doués) : elle a sélectionné les stimuli visuels qui activent les modules liés au comportement sexuel, et elle les présente sous une forme épurée et exagérée. Dans le vocabulaire des éthologues, c’est un « hyperstimulus » : un signal plus vrai que nature, qui imite à la perfection ce qui, dans un environnement normal, déclencherait l’activité du module. ». Les Vénus paléolithiques sont sûrement les premiers hyperstimulis de l’histoire.

On apprécie les cheesecakes à la framboise, mais pas parce qu’on a développé un goût pour eux. On a évolué des mécanismes qui nous procurent du plaisir à partir du goût sucré des fruits, de la sensation crémeuse du gras, de l’huile des noix, de la fraîcheur de l’eau. Le cheesecake est un choc sensuel différent de tout ce qui existe dans le monde naturel; c’est une mégadose de stimulis agréables que nous avons concoctée pour le seul but de pousser à fond la manette du plaisir.

Steven Pinker

Une fois qu’on met un nom sur cette notion simple, on se rend alors compte que notre vie quotidienne est envahie d’hyperstimulis en tout genre. Les drogues actuelles sont plus puissantes et concentrées que celles qu’ont connues nos ancêtres; la musique est plus intense, les jeux vidéos plus immersifs, l’actualité plus sensationnelle. Instagram permet à n’importe qui de voir en 10 minutes plus de bouts de peau que ne le verra un chasseur-cueilleur en une vie entière. Le blog Joyousandswift offre les exemples suivants:

Compare la qualité et la variété de la télévision d’aujourd’hui avec ceux de la génération précédente

Compare la variété et l’intensité de nos bières avec celle de la génération précédente

Compare la qualité et l’intensité de nos jeux vidéos avec ceux de la génération précédente

Compare la quantité, la disponibilité et l’intensité de la pornographie (tu peux trouver tes propres liens) avec la génération précédente

Les hyperstimulis sont aussi présents autour de nous de façons plus subtiles, ciblées et pernicieuses; dans le même article, Yudkowski parle des réseaux sociaux et des affiches publicitaires qui nous bombardent de représentations de personnes parfaites, surréelles. Si cela n’affecte pas la majorité des gens4juste cette hypothèse est déjà discutable; cela peut affecter la confiance en soi, etc., ce phénomène pousse des mannequins à mettre en danger leur santé pour ressembler à des personnes qui n’existent même pas.

Nous sommes loin d’être les seules espèces susceptibles aux hyper stimulis. Si on leur présente des œufs artificiels plus gros, certaines espèces d’oiseaux vont préférer les faux œufs à leurs propres progénitures!

Individuellement, ces hyperstimulis reposent sur des mécaniques différentes – mais tous ont pour point commun d’être des détournements de traits évolutionnels, comme les aliments sucrés et gras qui sont des détournements du sens du goût5Le principe des drogues est l’altération des états de conscience qui permettent de modifier ses émotions; qui sont elles-mêmes des dispositions évolutionellement sélectionnées.; bien sûr, l’avènement des écrans a un peu tout empiré.

Les réseaux sociaux et internet utilisent notre besoin social et d’appartenance combinés à notre soif d’information. Ce mode de fonctionnement est hérité d’une époque où toute information supplémentaire sur notre environnement pouvait accroître nos chances de survie. Les différentes complications liées aux réseaux sociaux sont passionnantes et abordées en partie dans le documentaire Netflix Derrière Nos Écrans de Fumée.

Les jeux vidéos sont quant à eux encore plus vicieux en ce qu’ils concentrent beaucoup d’astuces et de mécanismes utilisés par les autres formes d’hyperstimulis; il y a eu de très nombreux travaux sur ses phénomènes, et il serait intéressant d’en faire un article entier,6Un sujet à creuser est l’interopérabilité de certains mécanismes entre les différentes hyperstimulations. Certains modes de fonctionnement qu’on pouvait retrouver dans par exemple les jeux vidéos sont transposés aux réseaux sociaux et vice-versamais on peut citer:

  • Des feedbacks bien rodés: dans le monde physique, que l’on cuisine, jardine ou écrive, on reçoit des feedbacks de façon différés. Dans un jeu (ou au casino, ou quand on poste une photo sur un réseau, etc.), on sait tout de suite où on en est. Les feedbacks nous font visualiser notre progression qui est souvent artificiellement rendue linéaire; en découle un sentiment d’immédiateté inégalable dans la réalité.
  • La multiplication et l’intensification des stimulations, avec un bombardement constant d’information et de contenu (ce deuxième point est partagé avec tous les contenus multimédias comme les films et les vidéos).
  • Une dimension aléatoire très maitrisée…

Les hyperstimulis contribuent à créer une réalité où nous sommes détournés des stimulis naturels à partir desquels ils se sont construits. Car quand tous les hyperstimulis artificiels sont plus intenses et plus faciles d’accès que les stimulis dont ils s’inspirent, pourquoi se contenter de ces derniers? La question qui se pose alors est..


Mais comment en est-on arrivé ?

Si un biscuit a meilleur goût, car il a 5% de sucre en plus, alors commercialiser ce biscuit rapportera plus d’argent. Le marché s’adaptera à ce nouvel équilibre et les biscuits auront de plus en plus de sucre jusqu’au moment où rajouter du sucre arrêtera d’améliorer le goût.7peut-être qu’il existe un seuil pour lequel nos papilles sont submergées de sucres et saturent, les rendant insensibles aux concentrations de sucre plus élevées Pareil pour les réseaux sociaux, internet, la pornographie8l’exemple de la pornographie est intéressant: elle devient de plus en plus violente, intense pour accenteur la stimulation, ce qui à force désensibilise les spectateurs., la télévision, l’actualité, tous les hyperstimulis autour de nous…9On entend souvent dire que les enfants deviennent désensibilisés à la violence tellement ils en voient dans tous les médias. Du moment qu’il y a un effet réel sur le consommateur, il y a une course à la stimulation.

La quantité de sucre augmente dans tout ce qu’on mange, de Facebook à Tiktok les réseaux sociaux deviennent plus addictifs, les vidéos YouTube deviennent plus spectaculaires et les jeux vidéos deviennent plus stimulants à en mourir: c’est la logique du « toujours plus ».

De lui-même, le marché libre pousse donc à l’intensification de nos stimulis. Tristan Harris, ex-ingénieur à Google, explique que « nous pointons les ordinateurs les plus puissants du monde vers vos cerveaux pour en sucer le plus d’attention possible. Et si le cours de l’action monte, on redirige cet ordinateur vers vos enfants ».

En allant plus loin, le marché libre crée comme une sorte de sélection naturelle sur le simple critère de la stimulation. Ce qui stimule le plus notre cerveau marche commercialement mieux, et ce qui échoue à cette tâche est retiré du marché. À terme, la compétition pour notre attention donne lieu à un processus d’optimisation des hyperstimulis. Daniel B. Markam commentait en 2010 sur Hackernews:

[le problème] ce n’est pas juste que ces produits nous stimulent comme des drogues. La partie importante est qu’un processus de survie du plus fort se met en place où ces drogues s’adaptent pour optimiser leur emprise sur notre cerveau

De façon intéressante on peut aussi remarquer qu’il y a une pression sélective contre les hyperstimulis trop puissants, comme l’héroïne10comme pour les hyperstimulis, dans les exemples de cet article aussi c’est toujours plus. Au final, c’est la société qui décide de ce qui est une addiction, qui décide de comment elle est perçue. La société n’aime pas ce qui est trop dangereux. À l’échelle de la société justement, autour de cette course à la stimulation se constitue une culture de la stimulation. L’hyperstimulation déborde du marché économique dans le monde physique. C’est les panneaux publicitaires pour un parfum ou les vitrines d’un glacier qui appellent discrètement à la poursuite de stimulis toujours plus intenses.

L’hyperstimulation ne serait pas un problème si la course à la stimulation n’avait pas d’externalités11« En économie, on parle d’externalité ou d’effet externe lorsque la production ou la consommation d’un agent économique – une entreprise ou un individu – génère un impact positif ou négatif sur le bien-être d’autres agents économiques sans qu’il y ait une transaction ou une contrepartie financière. », source greenwashingeconomy.com/ négatives sur notre société. Pour les produits sucrés et gras, c’est par exemple le surpoids et l’obésité, qui touchent 2 milliards d’adultes. C’est aussi toutes les addictions qui découlent de l’hyperstimulation.

Il existe une théorie comme quoi la société répondrait à l’arrivée d’hyperstimuli comme le système immunitaire répond à l’arrivée d’agents pathogènes. Le crack est arrivé aux États-Unis au début des années 80. Très vite, le crack se répand comme une vague infectieuse dans tout le pays entrainant parallèlement une « panique morale » qui secoue les médias. La combinaison de la prévention, la réponse judiciaire12la réponse judiciaire des USA à l’épidémie est très discutable et discutée, mais là n’est pas le propos du texte et la mauvaise réputation du crack dans la société américaine ont finalement réussi à enrayer l’épidémie. Tout cela a pris 10-15 ans13On ne compare pas les autres hyperstimuli avec le crack, mais juste leur fonctionnement. Il s’est passé le même processus avec la cigarette, l’alcool… Tous les hyperstimulants de l’ancien monde. Mais maintenant, l’accélération de l’hyperstimulation est si rapide que la société n’a pas le temps d’intérioriser, de prendre du recul et encore moins de réagir à ses progrès.

Pour les auteurs de l’article « Amusing ourselves to death » la société occidentale produit des individus qui préfèreraient maximiser leur plaisir plutôt que leur fitness. Eliezer Yudkowski a une conclusion encore plus dramatique; selon lui, la chute du taux de natalité dans le monde occidental est due à l’hyperstimulation. Il compare ce phénomène à la nouvelle After Life de Simon Funk, où l’humanité s’est éteinte après qu’elle s’est mise à créer des créatures artificielles plus mignonnes et amusantes à faire grandir que des bébés en chair et en os.

C’est à cause de ce genre de déclaration (où on explique avec une seule cause qu’on a sous la main des phénomènes extrêmement complexes) que la psychologie évolutionnelle est décriée. Je ne me mouille pas trop en disant qu’il y a des facteurs beaucoup plus structurels dont on sait qu’ils contribuent en partie à la chute des naissances à travers le monde, comme l’éducation des femmes, la chute mortalité infantile; c’est même un domaine d’étude à part entière.

En faisant ce genre de conclusions, ces gens portent un jugement moral sur l’hyperstimulation, un jugement du genre « l’homme meilleur doit faire fi de tout ce qui l’hyperstimule, car l’hyperstimulation est intrinsèquement mauvaise ». Outre l’énorme biais de l’appel à la nature présent dans leur argument, il faut ajouter que, comme sur l’évolution, on ne peut porter un jugement moral sur un phénomène biologique.

Dire « l’hyperstimulation c’est mal », c’est comme dire « la chair de poule c’est mal »; non, ce ne sont que des phénomènes naturels, qui n’ont aucune moralité intrinsèque. En revanche, on peut et on doit porter un jugement critique individuel et sociétal sur les causes et les conséquences de l’hyperstimulation. C’est une question très personnelle: nous ne vivons pas l’hyperstimulation de la même manière, ne serait-ce que par les inégalités entre individus vis-à-vis des comportements addictifs. Plus que de s’inquiéter et de se culpabiliser, le dessinateur Stuart McMillen nous dit:

Dans les deux cas, la principale chose à faire est la prise de conscience. La prise de conscience que si nous sommes attirés par les desserts, c’est parce qu’ils sont plus sucrés que n’importe quel fruit dans la nature.

La prise de conscience que regarder la télévision active une réaction primitive, en gardant nos yeux attirés par les images animées comme s’il s’agissait d’un prédateur ou d’une proie.

La conscience que le fait d’aimer les personnages « mignons » provient d’un besoin biologique de protéger et de nourrir nos jeunes.

Je n’ai pas supprimé les hyperstimuli de ma vie, et je n’ai pas l’intention de le faire complètement. La clé est de repérer les stimuli dès qu’ils apparaissent et d’inciter l’esprit à réguler ou à surmonter la tentation qu’ils provoquent.

Je me fais l’écho de la conclusion de Deirdre Barrett selon laquelle il est parfois plus gratifiant de dire non que de céder à une impulsion. Seule la prise de conscience peut empêcher tout ce qui est hypertrophié de devenir ce qui est normal dans nos vies.

Stuart McMillen

Enfin, tant qu’on sera capable de dire non à nos impulsions. dans l’univers de Star Trek, l’Holo Deck est une technologie de réalité virtuelle qui permet de recréer n’importe quel environnement comme si on y était, un peu comme l’expérience du cerveau dans la cuve.

Pour l’auteur Scott Adams, « L’holodeck sera la dernière invention de l’homme » – car on pourrait passer toutes nos journées à se la couler douce avec des top-modèles au lieu de galérer dans une réalité aussi pénible que la nôtre.

Modestie, marché efficients et équilibres non adéquats

Paysages, Modest Urgell (1839-1919)

Comment expliquer que certains aspects de notre société ne fonctionnent manifestement pas, mais que tout le monde s’en accommode?

Eliezer Yudkowsky veut répondre à deux questions dans Inadequate Inequilibria: comment la société se retrouve dans des situations où des systèmes entiers vont de travers, et quand faut-il penser « mieux savoir » que la société pour remédier à ces impasses.

i.

Deux économistes marchent le long d’une rue. Soudain, l’un d’eux s’exclame: « Oh, regarde, là par terre, un billet de 20 euros ». L’autre regarde par terre et lui répond : « C’est pas possible, ça doit être un mirage. S’il y avait un billet de 20, quelqu’un l’aurait déjà ramassé ».

Imaginez une ruelle peu fréquentée, où quelqu’un a fait tomber un billet de 20€ entre une bouche d’égout et un mur dégoulinant de vomi. Le billet peut rester là une matinée entière avant que quelqu’un ne le ramasse.

Prenez ce même billet et laissez-le sur les Champs Élysées. En quelques secondes, quelqu’un l’a déjà`pris et rentre chez lui content de sa trouvaille.

Les marchés économiques efficients, c’est-à-dire les marchés où il y a assez d’acteurs cherchant à gagner de l’argent, sont comme les Champs Élysées. Il y a des milliers de génies, doctorants et gérants de hedge funds qui à Wall Street ou la Citi passent toutes leurs journées à trouver des opportunités en bourses, à chercher des billets de 20 par terre.

Si Roger, du fin fond de sa cabane, après avoir lu 3 articles sur Apple, pense avoir trouvé une géniale opportunité en bourse, il se trompe sûrement, car des milliers de mecs plus intelligents, plus informés, avec plus de moyens techniques auraient déjà sauté sur l’occasion. En fait, il croit avoir trouvé un billet traîner par terre dans une avenue ou des hommes en cherchent H24 avec des loupes. Dans un marché efficient, il n’y a pas de billet de 20 balles posées en pleine rue, de profits faciles. Le marché reflète toutes les informations disponibles à son sujet. Le cours de l’action d’Apple, dont il s’échange 45 millions d’actions à 500 dollars par jours, reflète toutes les informations disponibles sur l’entreprise.

Ça ne veut pas dire que Roger ne fera pas d’argent en achetant les actions Apple; le cours de l’action évolue en fonction des aléas du marché et des informations disponibles au sujet de l’entreprise. L’hypothèse des marchés efficients dit juste que si l’action AAPL était sous-évaluée de façon si flagrante que le novice Roger l’ait vu, alors des dizaines de traders auraient vu la faille avant lui et auraient acheté en masse l’action AAPL, faisant donc remonter le prix et supprimant l’opportunité vue par Roger.

On peut généraliser l’hypothèse des marchés efficients à beaucoup de choses de la vie quotidienne. Imaginons un étudiant en biologie qui vous raconte qu’en révisant pour ses partiels il a découvert une théorie incroyable sur la nature de l’ADN. Vous auriez du mal à y croire. Si sa théorie est si révolutionnaire, pourquoi les centaines de chercheurs en biologie moléculaire n’auraient-ils pas fait cette découverte plus tôt? Ici, on peut remplacer « le billet de 20 » par « un prix Nobel »; les biologistes du monde entier cherchent chaque jour des opportunités de remporter des Prix Nobel (des Prix Nobel qui traînent par terre dans la rue); s’il y en avait une si simple qu’un étudiant l’aurait trouvé par lui-même, alors ces chercheurs auraient dû l’avoir découvert depuis belle lurette. On a de nos jours moins d’étudiants qui font des découvertes sensationnelles qu’à une époque où les sciences étaient moins spécialisées, et donc où la concurrence entre chercheurs était moindre.

ii.

Pendant des années, la banque centrale du Japon a maintenu une ligne directrice peu inflationniste. Yudkowsky était à l’époque critique de cette politique; il jugeait qu’elle bridait leur économie. L’économie n’est absolument pas son domaine d’expertise, lui qui est chercheur en intelligence artificielle hors il n’a pas produit ce jugement tout seul. Il adhérait seulement à un point de vue adopté par des économistes influents, en le comparant au point de vue opposé. Après des années, la banque centrale japonaise a ajusté sa politique comme Yudkowsky le préconisait, ce qui s’est soldé par une amélioration de la situation économique du pays.

C’est étrange; comment des experts internationaux en finance, les meilleurs du Japon, ont pu se tromper à ce point sur un sujet et fait perdre des milliards au Japon là où même quelqu’un sans aucune expertise en la matière a pu voir juste?

Premièrement, il n’y avait pas de carotte pour inciter les experts de la banque centrale du Japon à trouver une ligne directrice plus favorable à l’économie du pays. À l’époque, avant que la FED ne normalise le fait de faire chauffer la planche à billets, une politique peu inflationniste était vue comme sûre et raisonnable.

Même si beaucoup de traders pensaient la même chose qu’Eliezer Yudkowsky de cette politique, ils avaient ajusté le prix des actifs japonais en adéquation avec cette opinion. Enfin, ceux qui pensaient, comme Yudkowsky, que la banque centrale avait tort ne pouvaient pas exploiter cette connaissance en la monétisant. Scott Alexander a donc établi cette matrice de risques/bénéfices pour les experts de la Banque du Japon:

FAIBLE INFLATION, BOOM ÉCONOMIQUE : Vous avez établi une politique raisonnable et cela a payé, vous serez célébrés pour toujours (+10).

FAIBLE INFLATION, L’ÉCONOMIE S’EFFONDRE : Vous avez fait le choix considéré le plus sage et noble, pourtant ça n’a pas marché, au moins vous avez essayé (+0).

FORTE INFLATION, BOOM ÉCONOMIQUE : Vous avez fait un pari audacieux et cela à payé, beau travail. (+10)

FORTE INFLATION, L’ÉCONOMIE S’EFFONDRE : Vous avez fait une chose stupide que tout le monde dit toujours de ne pas faire, vous avez échoué comme prévu et détruit notre économie, allez vous faire foutre (-10)

Slate Star Codex, Scott Alexander

On voit donc que la meilleure solution, de leur point de vue, est de ne pas changer les taux d’intérêt, même si ça coûte des milliards à l’économie japonaise.

Voilà là un exemple type de comment la société se retrouve coincée dans une situation où il existe un point d’équilibre meilleur pour tous les citoyens, que tout le monde le sait, mais que rien ne bouge. Il appelle cela des systèmes inadéquats, qui peuvent être différents des marchés efficients puisqu’ils ont, au choix (déroulez les notes pour avoir des exemples):

  • Des décisions prises par des acteurs qui ne tirent pas profit d’une amélioration du système, comme dans l’exemple du Japon.
  • Une asymétrie au niveau de l’information disponible, ou certains acteurs du système ne peuvent pas faire confiance à d’autres acteurs pour prendre une décision même si ceux-ci ont des informations intéressantes.
  • Un équilibre de Nash: trop d’acteurs aux intérêts divergents sont en jeu, et il est impossible de changer le système sans que ces acteurs se coordonnent1Yudkowsky donne l’exemple de deux applis. Imaginons une application très populaire de ventes de particulier à particulier qui s’appelle Le Mauvais Coin. Un beau jour, une petite start-up lance L’Excellent Coin, une application qui fait la même chose que Le Mauvais Coin, mais en mieux. Clairement, tous les utilisateurs de Le Mauvais Coin auraient intérêt à basculer sur l’appli l’Excellent Coin. Cependant, il n’y a aucun utilisateur dessus, car elle vient d’être lancée; il y a donc peu de vendeurs et peu d’acheteurs. Du coup, les utilisateurs restent sur Le Mauvais Coin, même si l’autre appli est objectivement mieux, vu que ce qui leur importe c’est vendre et acheter des produits. Cet équilibre de Nash est difficile à briser à moins qu’une part importante des utilisateurs ne décident de basculer sur l’appli l’Excellent Coin.

Les systèmes inadéquats, contrairement à ceux efficients, sont souvent inexploitables: il n’est pas possible de tirer profit de leur inadéquation. Même si on savait que la banque centrale du Japon avait faux sur toute la ligne, il était impossible de gagner de l’argent grâce à cette opinion.

iii.

La deuxième partie du livre relève plus du développement personnel que de la théorie économique. Pour Yudkowsky, il est facile d’assimiler tous les systèmes à des systèmes efficients et de tomber dans ce qu’il appelle « l’épistémologie modeste »: se dire que s’il y a vraiment quelque chose à améliorer, quelqu’un l’aurait déjà fait, et que croire que si on peut améliorer quelque chose c’est penser qu’on est meilleur que les autres.

L’épistémologie modeste est causée par deux phénomènes:

  • La peur de prendre une position, ou de prendre une décision et d’échouer.
  • La question du statut: on pense toujours ne pas avoir un statut assez bon pour prendre une décision sur un sujet. Les experts de la Banque Centrales du Japon sont indéniablement des experts. Comme ils font autorité dans leur domaine, les gens peuvent être hésitants à critiquer leurs prises de décisions dans leur domaine d’expertise. Or, des individus assez rationnels pour adopter un point de vue cynique et aller au-delà de ces questions de statut ont pris position contre ces experts. Et ils avaient raison.

Pour ne pas être un épistémologue modeste, il ne faut pas pêcher par excès de confiance en soi, bien au contraire. Il faut adopter la boite à outils conceptuelle présentée plus haut pour repérer les systèmes qui sont efficients, repérer ceux qui sont inadéquats, et repérer si leurs inadéquations sont exploitables.

Passer une vie à s’adapter à une civilisation inadéquate ressemble à ça:

0 à 2 fois par vie: répondre « Oui » à « Puis-je améliorer considérablement les connaissances actuelles de ma civilisation si je me mets à y travailler pendant des années? Quelques personnes, mais pas beaucoup, répondront « oui » à cette question suffisamment de fois pour le compter sur les doigts des deux mains. Passer aux orteils indique que vous êtes un cinglé.

Une fois par an environ, répondre « Oui » à la question « Puis-je générer une synthèse d’information qui battra la prochaine meilleure alternative de ma civilisation actuelle, pour moi seul (c’est-à-dire sans essayer de résoudre les problèmes liés à l’adoption généralisée de ma solution), après quelques semaines de recherche et un tas de tests et en demandant de l’aide de temps en temps ?

De nombreuses tentatives de choisir un parti déjà existant dans un conflit en cours entre experts, si vous pensez que vous pouvez suivre raisonnablement bien les arguments donnés de part et d’autre […]

L’accumulation de nombreux jugements de ce dernier type vous permet de prendre de nombreuses petites décisions quotidiennes (par exemple, sur ce que vous devez manger2ou pour qui voter) et vos capacités à faire des choses plus importantes (comme résoudre un problème de santé après un passage par le système médical qui s’est avéré infructueux, ou bien démarrer une start-up).

Inadequate Equilibria, Eliezer Yudkowsky

Au lieu de se poser la question de « est-ce que je suis plus rationnel/haut statut/meilleur que les autres », il faut expérimenter, parier et se demander qu’est-ce qu’il y a faire, qu’est ce qu’on peut faire, et comment le faire.

Si la première partie de l’ouvrage sur la théorie des systèmes inadéquat est intéressante, les conseils pour l’adapter à sa vie personnelle sont moins bien argumentés. On ne comprend pas bien les mécanismes de l’épistémologie modeste, encore moins en quoi elle est nocive, et surtout en quoi son opposé ne l’est pas. Selon Yudkowski, il ne faut pas adopter l’épistémologie modeste, car on en deviendrait paralysé par le constat que tout ait déjà été fait par des hommes plus compétents que nous; or, si on rejette cette épistémologie, comment ne pas tomber dans l’excès inverse comme, pour reprendre l’exemple du livre, les malades du cancer qui décident de se soigner avec des graines au lieu d’aller en chimiothérapie, car ils « savent mieux que les scientifiques » ?