Intelligence artificielle et transhumanisme : Nick Bostrom face au "Futur de L’Humanité"

Ce contenu a été initialement publié sur le site internet de Forbes France.

Expert en intelligence artificielle et philosophe de son état, le natif d’Helsingborgs aux confins du sud de la Suède, revient pour Forbes France sur son parcours et sur ses travaux qui ont révolutionné la manière d’appréhender « l’IA » qui, malgré un intérêt croissant des multinationales, Google en tête, reste une discipline recelant énormément de mystères et d’interrogations. Nick Bostrom sera d’ailleurs présent à Paris les 19 et 20 juin prochains où il interviendra, sur ces questions, lors de la conférence USI (Unexpected Sources of Inspiration), une des conférences les plus inspirantes en Europe.

Vous vous définissez, et le grand public vous désigne, comme philosophe. Fort de ce postulat et aux antipodes de la définition du philosophe communément admise, comment l’idée de mélanger cette discipline et les différentes technologies (nanotechnologie, physique, intelligence artificielle, etc.) a-t-elle germé dans votre esprit ?

En préambule, je tiens à dire que je n’ai jamais véritablement fait le distinguo entre philosophie et science. De mon point de vue, il s’agit simplement de deux éléments de la même idée qui se recoupent. Tout au long de mon parcours et de mon cheminement intellectuel, je me suis intéressé à un ensemble de questions qui ont soulevé moult problématiques et ces questions ont engendré un certain nombre de réponses cohérentes à la lisière de ces deux disciplines. Certaines relèvent plus de la philosophie, d’autres de la physique, d’autres encore davantage du domaine de la neuroscience. Mon « parcours intellectuel » était, dès les prémices, similaire à celui de n’importe quel étudiant, à savoir s’interroger et tenter de comprendre le monde qui nous entoure. J’ai travaillé sur tous les domaines que vous mentionnez dans votre question et qui me paraissaient particulièrement intéressants et pertinents pour me donner les clés permettant de répondre à ces différents questionnements. Ce « modus operandi » s’est, en quelque sorte, poursuivi avec le travail que nous menons désormais à l’Institut pour le futur de l’humanité (Université d’Oxford), où nous avons, pêle-mêle, des mathématiciens, des scientifiques, des philosophes, des économistes qui tentent de progresser sur ces questions. Mais cela n’est pas vraiment une démarche volontaire, de notre part, de faire la part belle à l’interdisciplinarité : c’est une impérieuse nécessité qui permet d’évaluer les besoins des uns et des autres pour initier le progrès.

En fondant Humanity +, vous avez soulevé la question de la capacité de l’humain à sublimer sa condition grâce à l’apport de la technologie. Pourriez-vous nous présenter, dans les grandes lignes, cette organisation ?

Lorsque j’ai, plus précisément**,** cofondé avec David Pearce en 1997 ce qui n’était encore que la « World Transhumanist Association », devenue par la suite Humanity+, cette organisation semblait répondre à un réel besoin, dans la mesure où il n’existait pas, dans le cénacle universitaire, de véritable attention accordée à la façon dont la technologie pouvait améliorer la condition humaine et sublimer les capacités de l’être humain. En réalité, il existait, à cette époque, deux grilles de lecture : soit la question n’était purement et simplement pas abordée ou alors cette thématique du transhumanisme suscitait la défiance avec des assertions du type : Cela va achever de détruire la dignité humaine, ou encore si les gens vivent plus longtemps, c’est la porte ouverte à une surpopulation massive et à un monde où la vie perdrait de son sens. Personne n’a véritablement eu l’envie de mettre en exergue les aspects plus positifs de cette discipline. Il m’a donc semblé opportun que notre organisation s’oriente vers un travail de pédagogie sur ces questions afin de balayer les clichés et autres idées reçues. Humanity+ a poursuivi, dans cette voie, durant de nombreuses années, avant que le milieu universitaire, en particulier la bioéthique, ne prennent le relais. A ce moment-là j’ai eu le sentiment du devoir accompli. Je me suis donc retiré de cette communauté, assez rapidement finalement, dès le début des années 2000. Je ne suis pas la personne la mieux placée, désormais, pour évoquer son évolution.

Vous avez, par la suite (2005-2006), créé l’institut pour le futur de l’humanité à l’Université d’Oxford. Pourriez-vous nous dresser une revue de détail des recherches et autres travaux menés au sein cette structure ?

D’un point de vue strictement organisationnel, nous sommes rattachés au département de philosophie de l’université d’Oxford. Mais comme je vous l’évoquais en prélude, nous sommes bien plus que cela. Nous sommes également des mathématiciens, des informaticiens, des économistes. Nous tentons de plancher sur les grandes questions qui vont justement jalonner le futur de l’humanité. Ainsi, l’une de nos grandes préoccupations de ces dernières années concerne l’intelligence des machines, et comment nous pourrions ne pas être suffisamment préparés à la transition vers l’ère de l’intelligence artificielle où les machines finissent par devenir particulièrement « smart ». Nous avons pour ambition d’étudier les dynamiques de l’intelligence artificielle en symbiose avec « l’intelligence humaine ».

Vous vous êtes rapidement passionné – et positionné- sur ce sujet.

J’ai, en effet, écrit un livre à ce sujet, paru en 2014, et intitulé “Superintelligence”. Jusqu’à présent, bien qu’un certain nombre de personnes aient planché sur les thématiques relatives à l’IA, très peu de travaux existent concernant la capacité de l’IA à atteindre son but originel : en l’occurrence de ne pas se limiter à des tâches spécifiques accomplies par les humains, mais être en mesure de réaliser toutes les choses qui nécessitent la capacité d’apprentissage. Mon livre met en exergue ce point précis et envisage aussi les risques existentiels inhérents à la notion de la super-intelligence. Depuis, je pense que ce livre a permis de faire évoluer les mentalités sur ce sujet. Il existe également des instituts de recherche qui aident à la mise en place de projets de recherches techniques pour peaufiner davantage ces questions. Lorsque l’on se demande comment rendre l’IA « vraiment intelligente », il est également impératif de penser à comment elle sera officialisée tout en « balisant le terrain » quant à son utilisation, afin que cette magnifique évolution ne tombe pas entre toutes les mains. Nous dirigeons justement des séminaires de recherches avec Deep Mind, le groupe de recherche Google IA, pour tenter d’avancer sur cette problématique.

Comme vous l’évoquiez, dans la question précédente, le mot d’ordre de votre livre est « l’explosion de l’intelligence » ? Quelle est, plus précisément, votre position à ce sujet ?

Si « l’explosion de l’intelligence » est l’une des thématiques centrales de mon livre, ce n’est pas non plus l’ensemble de l’ouvrage qui est consacré à cela. Le livre prend également le parti de dire que les effets de la super-intelligence prendront plus de temps à se faire sentir qu’escompté. L’explosion de l’intelligence n’est, en réalité, que l’hypothèse selon laquelle, l’intelligence artificielle, lorsqu’elle aura atteint un niveau similaire à celui de l’être humain, sera surpassée par une super-intelligence radicale que nous saurons manipuler à bon escient.

Ne trouvez-vous pas cela extrêmement risqué ?

Si nous travaillons sérieusement, d’ici à ce que nous arrivions au déclenchement de cette explosion de l’intelligence, nous pourrions être en mesure d’en contrôler la détonation. Nous pourrions alors obtenir de fabuleux résultats plutôt que quelque chose de destructeur et de nocif. C’est d’ailleurs le message d’espoir délivré par mon livre, en l’occurrence mettre tout en œuvre pour parvenir à un dénouement positif en encourageant les gens à travailler d’arrache-pied pour obtenir ce résultat. Beaucoup des personnes qui ont lu le livre, en particulier dans sa première édition, ont pu en sortir avec le sentiment que je suis plus négatif sur les avancées de l’IA que je ne le suis dans les faits. Il est vrai le livre aborde davantage les risques potentiels que les aspects positifs mais c’est une prise de position choisie. Ce n’est pas parce que je pense que les probabilités penchent plus du côté négatif, mais plutôt pour inviter à la réflexion. En connaissant le pire, il est ainsi plus facile de l’éviter. Si j’avais été dithyrambique ou béat, nous aurions perdu de vue les potentiels dangers inhérents à cette explosion de l’intelligence. Je suis plus optimiste que les gens ne le pensent.

La période qui s’ouvre devrait être particulièrement riche en ce qui concerne l’actualité de l’intelligence artificielle.

C’est, en effet, une période très excitante pour la recherche en matière d’intelligence artificielle. Les grandes avancées qui sont faites, en particulier dans le domaine du « machine learning », sont particulièrement intéressantes à observer. Nous le percevons déjà à travers des outils comme la reconnaissance vocale, la reconnaissance visuelle en passant les progrès réalisés par la voiture autonome, et beaucoup d’autres outils. L’intelligence artificielle peut avoir un large impact et une utilité dans divers secteurs de la société. Nous sommes à l’aune d’une ère particulièrement faste en la matière.