Avec la nouvelle année, l’occasion est donnée à chacun de faire de bonnes résolutions, mais également d’y aller de ses prévisions. European Scientist se doit de tenter une prévision sur l’évolution du rapport entre science, technologies et société. En ces temps mouvementés, l’exercice est d’autant plus périlleux que les idéologies se mêlent aux visions, ce qui donne lieu à des débats animés autour des tables de réveillons. La quantité d’informations dont nous disposons n’a pas rendu l’exercice plus simple, bien au contraire…. Heureusement, certains grands esprits nous ont mâché le travail, et nous disposons de deux best-sellers qui font autorité dans le secteur de la « futurologie » : Homo-Deus de Yuval Noah Harari et Enlightenment now de Steven Pinker.
Ces deux sommes ont valu à leurs auteurs respectifs une célébrité y compris auprès du grand public, étant donné les exploits qu’elles représentent en termes de compilation de données et de synthèses. Or la question centrale qui anime les deux auteurs, est sans doute l’une des plus importantes jamais soulevée. Chacun de nous se la pose plus ou moins consciemment tous les jours en scrutant l’actualité. C’est celle de savoir si la science et le progrès technologique qui ont conduit à notre civilisation actuelle, peuvent encore tenir leurs promesses et soutenir les valeurs humanistes qui nous sont chères.
Le libre arbitre menacé par la science et la technologie ?
Dans Enlightment Now, Pinker soutient que le modèle des Lumières avec l’idéologie rationaliste qui le sous-tend a répondu à toutes les expectatives et contribué à faire le bien-être de l’humanité car aujourd’hui nous vivons plus longtemps, en meilleure santé, mieux nourris et plus riches. [1].Harari, s’il n’affirme pas le contraire, est beaucoup plus réservé et critique à l’égard des prouesses de la philosophie des Lumières qu’il place au même niveau que toutes les autres « religions » qui l’ont précédée. Aussi, dans Homo Deus, il critique vertement Pinker qu’il met dans le même sac que le rationaliste Richard Dawkins. Selon lui, « ces champions de la nouvelle vision scientifique du Monde refusent d’abandonner le libéralisme. Après avoir dédié des centaines de pages érudites pour déconstruire le « moi » et le libre arbitre, ils réalisent un salto à couper le souffle qui les fait miraculeusement atterrir au dix huitième siècle, comme si les découvertes extraordinaires de la biologie de l’évolution et les neurosciences n’avaient absolument aucun impact sur les idées politiques et éthiques de Locke, Rousseau et Jefferson.» Selon l’historien israélien, en effet, les transpositions des découvertes scientifiques récentes dans la vie quotidienne rendront difficile ce « double jeu » et il faudra alors se doter de nouvelles « croyances religieuses » (il parlera de « dataisme ») ainsi que de nouvelles « institutions politiques » car, il insiste : ce n’est pas par des concepts philosophiques que les idéaux du libéralisme politique sont menacés, mais bien par des applications technologiques bien concrètes qui vont limiter nos libertés individuelles. D’après lui, « nous sommes sur le point de faire face à un déluge d’outils extrêmement utiles, outils et structure qui n’autorisent pas l’expression de la libre volonté des individus. » La question qu’il se pose alors est : « la démocratie et le marché résisteront-ils à cette invasion ? » L’auteur est persuadé, en effet, que les algorithmes vont devenir tellement prégnants et sophistiqués qu’ils prendront l’ascendant sur l’humanité et contrôleront l’ensemble de nos faits et gestes. Thèse qui va à l’encontre des idéaux de la philosophie des Lumières, bien évidemment.
The Wizard and the Prophet
The Wizard and the Prophet est le titre de l’ouvrage de Charles C. Mann paru en 2018. Selon cet auteur le 21e siècle a donné naissance à une nouvelle guerre entre deux types de visionnaires[2]. Les Wizards (magiciens), d’une part, qui défendent la vision salvatrice de la science et de la technologie, et les prophets qui voient surtout apparaître les désastres. « Les prophètes regardent le Monde comme fini et les gens comme contraints par leur environnement. Les magiciens, eux, voient le Monde comme offrant un nombre inépuisable de possibilités et les humains comme des gérants volontaires de la Planète. Les uns voient la croissance et le développement comme la finalité de notre espèce et une forme de bénédiction pour celle-ci ; les autres regardent la stabilité et la préservation comme notre futur et notre objectif. Les magiciens regardent la Terre comme une boîte à outils, ces contenus étant librement utilisables ; les prophètes pensent que le Monde naturel représente un ordre global qui ne devrait pas être perturbé. » On aura reconnu ici facilement nos deux auteurs : Steven Pinker est notre magicien, et Yuval Noah Harari est notre prophète.
Alors quelle prévision ?
Si nous revenons à notre ambition initiale d’émettre une prévision sur l’avenir du rapport entre science et société, force est de constater que nous devons nous positionner par rapport à ces deux auteurs. Insistons bien sur le fait qu’Harari n’est pas fondamentalement anti-science, mais qu’il est très sceptique à l’égard de celle-ci, alors qu’a contrario, un Pinker est clairement mû par une foi quasi religieuse dans les capacités démiurgiques de la science. Là où Harari verra un risque d’asservissement des individus (par exemple, les algorithmes qui vont nous dicter la conduite à adopter et nous priver de notre libre-arbitre ) Pinker verra une opportunité pour davantage de maîtrise technologique et la possibilité d’atteindre les idéaux des Lumières : une société qui mange à sa faim et dans laquelle les hommes vivent en meilleure santé a davantage d’espoir d’incarner les idéaux d’une démocratie libérale Justice, Paix et Prospérité ). Quelle voix suivre ? Il est vrai que si l’on regarde certains développements technologiques liés notamment aux progrès de l’IA, tels que, par exemple Project Maven ou encore les drones de surveillance, on a quelques bonnes raisons avec Harari de s’interroger sur l’aspect colonisateur des algorithmes et les risques qu’ils représentent. Récemment les Chinois ont dépassé la fiction de Netflix de Black Mirror en lançant un système de surveillance et de reconnaissance faciale pour attribuer un crédit social à ses ressortissants. La capacité de l’humanité à protéger sa liberté contre le déterminisme technologique est donc un véritable enjeu. Si on veut formuler une prévision, ce serait donc dans le cadre de cette problématique Harario-Pinkerienne d’une science qui tout en continuant de produire des miracles n’empiète pas sur nos libertés. Mais cette prédiction est un peu vague et mérite d’être creusée davantage.
Maîtrise et durabilité : le modèle de la smart-agriculture
Une fois de plus, nous revenons à la problématique de la perte de la maîtrise, déjà abordée dans notre éditorial sur la l’IA militaire et l’IA prof de Philo. Les risques évoqués par Harari d’un dépassement de « nos algorithmes biologiques » par les « algorithmes scientifiques » présentent un danger réel. Mais pour autant, il y a toujours une part de fiction dans la croyance de l’avènement d’un système qui serait totalement autonome. À cela s’ajoute le fait que nous devons prendre conscience que ce « nouveau déterminisme technologique » se substitue à celui de la nature et qui fait que, par exemple, les éléments s’imposent à nous.
Ainsi, pour prendre l’exemple concret de l’agriculture intelligente, la capacité pour un agriculteur de faire face aux aléas climatiques, par exemple, avec une solution comme celle que propose The Climate Corporation, qui par le biais de la maîtrise d’une quantité de données considérables, aide l’agriculteur à faire des prévisions, on constate que la technologie libère l’agriculteur. En effet, celui-ci est moins soumis aux contraintes météorologiques qui rendaient l’efficacité de ses pratiques plus qu’aléatoires. Dans le cadre d’une prévision « Pinkerienne », on utilisera cet exemple pour prédire que l’humanité a trouvé une solution qui lui permettra de nourrir 9 milliards d’individus d’ici 2050. Dans le cadre d’une prévision « Hararienne », on remettra en question la durabilité du modèle en insistant sur le fait que les algorithmes peuvent prendre l’ascendant sur l’agriculteur et sa capacité de décision et donc finiront par l’asservir, voire, se passer totalement de lui.
Pour savoir lequel des deux a raison[3], il faut se poser la double question de la maîtrise et de durabilité du modèle. Ces deux valeurs se trouvent-elles accrues ? Dans le cadre de notre ferme intelligente on a toute les bonnes raisons de penser que oui, puisque la technologie, l’homme et les aléas naturels inter-agissent en visant une maitrise parfaite pour la durabilité de l’ensemble. Et de ce fait, nous pouvons faire une prévision optimiste. Dans un esprit positif de synthèse, nous conclurons en affirmant que les conditions de durabilité du modèle décrit par le Wizard-Pinker, ne seront réalisées que si l’humanité prend en compte certains des avertissements – du moins tant qu’on ne les considère comme des précautions d’usage et pas des prophéties de malheur – du Prophète-Harari. Ainsi nous pensons avoir une prédiction qui tient la route pour 2019. Meilleurs vœux à tous.
[1] Voir à ce propos nos deux éditoriaux : Six bonnes raisons de donner raison à la raison https://www.europeanscientist.com/fr/editors-corner-fr/six-bonnes-raisons-de-donner-raison-a-la-raison-dans-enlightenment-now-de-steven-pinker-premiere-partie/ et Résister à la collapsologie avec Enlightenment now de Steven Pinker.
[2] Nous nous appuyons ici sur l’analyse de John Faithful Hamer sur le site quillette.com : https://quillette.com/2018/03/18/wizard-prophet-steven-pinker-yuval-noah-harari/.
[3] Notons au passage que ni Harari, ni Pinker n’ont la prétention que leur travail conduit à une prévision irréfutable sur l’avenir de notre société.