Nick Bostrom - La révolution de l’intelligence artificielle en marche

le 05/07/2017 par blog-usi
Tags: Innovation & Technologie

La conception que les gens avaient hier des ordinateurs semble toujours influencer celle que nous avons aujourd’hui de l’intelligence artificielle. C’est l’héritage des années 60 et 70, où des experts informaticiens créaient des systèmes capables de résoudre un problème identifié mais avec des applications limitées et non-évolutives. Aujourd’hui pourtant, l’horizon de la super intelligence n’a jamais été aussi proche. Nick Bostrom en décrit ici les ressorts, les risques et les enjeux.

Une troisième révolution en marche

En débutant sa conférence à l’USI, Nick Bostrom fait un constat assez simple ; aucun évènement, même de l’ordre de la Seconde Guerre Mondiale, n’a pu entraver la croissance démographique linéaire de ces deux derniers siècles.  "Il n’y a eu dans toute l’histoire de l’Humanité que deux évènements ethnologiques fondamentaux : l’avènement de l'agriculture et la révolution industrielle”, assure Nick Bostrom.

Avec la révolution agricole, les hommes commencent à s’installer et à domestiquer leur environnement en Mésopotamie. La fin du nomadisme est alors à l’origine de changements phénoménaux comme l’avènement de la propriété privée, l’émergence de strates sociales, la création de structures étatiques, de conflits, et d’une véritable économie de marché. La révolution industrielle, cette “gigantesque anomalie historique” selon Nick Bostrom, constitue quant à elle un changement de paradigme dans notre rapport à la richesse : alors que l’économie ne pouvait précédemment couvrir les besoins engendrés par la croissance de la population, la croissance des richesses dépasse pour la première fois celle de la population, engendrant par la même une élévation du niveau de vie et un véritable bond démographique.

La conviction de Nick Bostrom au regard de l’Histoire passée est que l’intelligence artificielle pourrait être “le troisième évènement fondamental pour l’Humanité” avec une élévation de l’homo sapiens à un niveau d'intelligence inimaginable selon le cours de l’évolution : “alors que la différence de taille entre le cerveau d’homo sapiens et des espèces type bonobo est de l’ordre de 3, la différence entre un cerveau humain et une machine mature et civilisée pourrait être beaucoup plus large” avec un potentiel d’informations processées quasi infini.

https://www.youtube.com/watch?v=8xwESiI6uKA

Un horizon encore inconnu

Ce qui change aujourd’hui, c’est que la machine semble désormais exercer des compétences jusqu’ici propres à l’homme : reconnaître un mouvement, lire et analyser un texte, créer des liens entre différentes situations. Des systèmes sont aujourd’hui capables d’apprendre par eux-même, par expérience, ou de créer un morceau de musique, certes sans vrai sens dans son ensemble, mais cohérent et harmonieux à l’écoute. Ce qui nous manque aujourd’hui pour nous approcher d’une super intelligence est la manière de connecter les différentes briques d’intelligence les unes aux autres pour développer une vraie capacité d’apprentissage multi-dimensionnelle, autonome et efficace. Ce saut technologique n’a cependant pas pour le moment d’horizon connu car comme le rappelle Nick Bostrom, “ nous avons déjà connu plusieurs phases d’excitation dans le passé concernant l’intelligence artificielle entrecoupées de périodes où le souffle est retombé ”.

Les choses ont débuté en 1956, quand les premières recherches sur l’intelligence artificielle ont été évoquées lors d’une conférence mais rapidement suivi d’une période de glaciation. La seconde vague d’excitation a eu lieu dans les années 1980 et 1990, mais là encore, les recherches n’ont pas abouti. Alors que nous sommes dans la 3e vague, on s’interroge sur l’aboutissement potentiel des progrès constatés. Cette fois-ci, elle pourrait être la bonne pour Nick Bostrom car “nous sommes désormais à un stade où les technologies ont déjà concrètement prouvé qu’elles étaient efficaces et utiles, ce qui encourage les investissements dans ce domaine”. Pourtant, de gros challenges quant à la capacité de compréhension, d’apprentissage et de raisonnement des machines rendent l’horizon encore incertain.  Selon un sondage réalisé auprès d’experts de l’IA, il y aurait 50 % de probabilité que la super intelligence émerge dans 50 ans et 100 % dans 100 ans. Mais les résultats étant tellement différents d’un expert à l’autre, on en conclut qu’il n’y a pas de consensus établi y compris dans la communauté scientifique.

Citation de Nick Bostrom sur l'intelligence artificielle à l'USI 2017

Les questions fondamentales que posent l’intelligence artificielle

Quoiqu’il en soit, le développement de l’intelligence artificielle pose d’ores et déjà des questions d’actualité : celle  des voitures autonomes et du risque d’accident non-maîtrisé, celle des fake news et du risque de désinformation par l’enfermement dans des bulles algorithmiques, celle de la protection de la vie privée et des enjeux de propriété de la data ou celle encore de la raréfaction du travail humain si l’intelligence artificielle était amenée à se substituer à la plupart des compétences humaines. Mais pour Nick Bostrom, ces enjeux sont très court terme et finalement assez proches des choix de société abordés par ailleurs. Ce sont, selon lui, d’autres problématiques aux implications plus larges et complexes qui devraient retenir notre attention.

Quels sont les différents scénarii envisageables avec l’émergence d’une super intelligence ?  Quels en sont les dangers éventuels et comment contrôler une force potentiellement hostile et plus puissante que soi ? Quelle gouvernance mondiale de l’intelligence artificielle instaurer à cet égard pour prévenir toute utilisation malfaisante de la technologie ? Nick Bostrom évoque alors le mythe du Roi Midas qui, ayant réclamé à Dionysos le pouvoir de changer ce qu’il touchait en or, en vient à regretter son souhait si ardent lorsqu’il enlace sa fille et la transforme en statue d’or. Car à vouloir par tous les moyens atteindre le graal de la super intelligence, l’homme pourrait très bien voir sa création in fine se retourner contre lui.

Lire aussi