Interview Kevin Kelly : "L'intelligence artificielle nous permettra de comprendre qui nous sommes"

le 06/04/2017 par blog-usi

Le titre peut paraître fataliste, pourtant le dernier best-seller de Kevin Kelly, The Inevitable est tout l'inverse. Futuriste, environnementaliste, philosophe, Kevin Kelly est de ceux qui éclairent notre avenir – dans tous les sens du terme – et proposent des solutions. Vie privée, intelligence artificielle, médias, tendances technologiques... L'analyse perçante de Kelly ébranle toutes nos certitudes.

Première rencontre avec un de nos speakers #USI2017.

(Lire la version originale EN)

Kevin Kelly, auteur de The Inevitable sur la technologie de demain

Vous êtes assez actif sur Twitter et vous avez récemment épinglé cette phrase : “Over the long term, the future is decided by optimists.” (“À long terme, le futur est déterminé par les optimistes”). Cette phrase n’est-elle pas elle-même un peu optimiste ? Certaines forces ne sont pas entre nos mains...

C’est une question légitime. Surtout quand on met cette phrase dans le contexte de mon livre The Inevitable. La raison principale de cet optimisme est historique. Si nous observons les données scientifiques relatives à la condition humaine (et pas l’actualité !) nous voyons clairement que cette dernière s’est améliorée au fil du temps, dans n’importe quel pays. Cette progression est extrêmement mince chaque année : de l’ordre d’une fraction d’1 % ou d’1 % maximum. Elle n’est pas visible à petite échelle, mais clairement présente à long terme – ce qui est pour moi une perspective optimiste.

Pouvons-nous réellement décider ? Nous savons que l’avancée de la technologie est inévitable. N’importe quel pays qui découvre l’électricité est voué à avoir le téléphone et, un jour ou l’autre, Internet. C’est inévitable. Mais quel type d’Internet ? Quel type de téléphone ? C’est là que les choix s’offrent à nous. Voulons-nous créer un système ouvert ou restreint, national ou international, commercial ou non lucratif ? Ces questions sont ouvertes et elles font toutes la différence. Oui, nous avons le choix, de façon presque endémique, de concevoir un Internet extrêmement cher et non démocratique, ou un Internet ouvert. Tout ceci est entre nos mains. En prenant des décisions optimistes, nous bâtissons forcément un futur meilleur… Et l’Homme se révèle de plus en plus doué, au fil du temps, pour prendre les bonnes décisions. C’est pour ça que, selon moi, ce sont les optimistes qui déterminent notre avenir.

Notre vision de l’avenir manque pourtant d’optimisme, quand on voit les dystopies qui alimentent la plupart des récits de science-fiction. Que pouvons-nous (ou devrions-nous) faire pour créer une vision plus positive du futur ?

Nous sommes confrontés à un réalité très simple : les dystopies font de bien meilleurs films et romans ! Elles limitent notre vision du monde : bien ou mal, gagnants ou perdants. Cette vision simplifiée est très attrayante. D’autant que les personnes qui réalisent ces fictions le font très bien ! Le problème, c’est que cette image figée du monde annihile notre imagination, et nous détourne du champ des possibles.

On peut espérer qu’il ne s’agisse que d’une phase, et que les auteurs de ces dystopies finiront par nous présenter un monde inspirant et bienveillant. Mais ce n’est pas si simple en réalité. Avec le temps, l’âge et l’habitude des technologies, nous prenons conscience que ces dernières ont un prix. Elles proposent autant de solutions qu’elles présentent de problèmes. C’est un fait, une évidence pour tous ceux qui étudient de près ces sujets. Je ne prône ni une vision dystopique ni utopique. Je défends l’idée d’une “protopia”, un monde où nous aurions 1 % de progrès par an. Ce n’est pas très vendeur d’un point de vue cinématographique ! Mais c’est un vrai challenge.

Je consacre mon énergie à décrire un monde dans lequel nous aimerions vivre, à présenter des scénarios possibles, notamment dans The Inevitable. Peut-être que si plus de gens faisaient la même chose, nous aurions l’impulsion nécessaire pour les réaliser.

Quelles sont les grandes tendances qui, selon vous, vont façonner notre avenir à long terme ?

Une chose est sûre : les trois quarts des choses qui vont se passer ne seront pas nouvelles. De la même manière, une grande partie des technologies que nous utilisons aujourd’hui sont elles-mêmes très anciennes : le béton, l’exploitation du bois, la plomberie... pour ne citer qu’elles. Toutes ces inventions datent d’avant notre naissance. Le même schéma se reproduira pour les générations à venir : les techno de leur quotidien auront probablement été inventées avant leur naissance. Les choses absolument nouvelles ne représentent qu’un très faible pourcentage, mais elles dominent en permanence le débat – ce qui est une façon très stupide de mener la réflexion selon moi. Tout ça pour dire que la plupart des tendances qui façonneront notre avenir sont en réalité des forces anciennes.

The inévitable by Kevin Kelly Je suis prêt à parier qu’on ne peut pas trouver une invention qui ait complètement disparue de la surface du globe. Tout évolue et s’enrichit. On compte probablement plus de personnes qui construisent des outils à la main aujourd’hui qu’il y a 100 000 ans – cela est dû à l’augmentation de la population, certes, mais aussi au fait que ces pratiques perdurent. L’ouvrage de forge, le soufflage de verre... tout ceci est encore réalisé “à l’ancienne”. Dans 100 ans, les gens auront toujours des ordinateurs et des smartphones. On ne s’en servira sans doute pas de la même manière, et leur capacité explosera sans doute. Mais ils existeront. On peut parler de tendances à venir, mais en réalité, elles sont déjà là.

En ce qui concerne l’environnement numérique, nous continuerons à augmenter notre désir de partage (collaboration, coordination, coopération). Nous continuerons le changement de paradigme de la possession d’un objet à l’accès à un service – et à la souscription. Nous continuerons notre mouvement vers la cognition : vouloir rendre tout ce qui nous entoure plus intelligent, et parfois même très intelligent. Nous continuerons à faire évoluer l’ancien pour faire émerger la nouveauté. J’évoque douze tendances générales dans The Inevitable : toutes sont déjà en action et continueront leur avancée dans les 10 à 30 prochaines années.

"On peut parler de tendances à venir, mais en réalité, elles sont déjà là." @kevin2kelly

Selon vous, “Nous ne pouvons pas échapper à la surveillance. Elle est inévitable.” Pensez-vous que l’ère digital entraînera forcément la mort de la vie privée ? Si ce n’est pas déjà le cas…

Je crois que notre définition de la “vie privée” n’est pas la bonne. Nous utilisons ce terme de façons très différentes. Nous pensons savoir ce que que c’est, mais est-ce vraiment le cas ? Dans un sens, une grande partie de ce que nous faisons, comme marcher dans la rue, est publique. Nous supposons d’instinct que tout le monde s’en fiche, que personne ne surveille nos mouvements. Ça pourrait pourtant être le cas ! Mais quand je sors dans la rue, parle-t-on d’un acte privé ou d’un acte public ? Quand on commence à s’intéresser à ce que veut dire la “vie privée” on se rend compte que la notion est particulièrement complexe, et ses contours assez flous.

The Transparent Society par David Brin Je crois que la “vie privée” telle que nous l’imaginons n’a même jamais existé – et qu’elle est définitivement incompatible avec les années à venir. J’aimerais en revenir à l’histoire. Pendant des centaines de milliers d’années, les humains ont évolué en paix dans un environnement où tout ce qu’ils faisaient était connu de tous. C’était l’état naturel des choses, et nous n’avions pas de problème avec ça. J’en retire deux choses. Premièrement : l’idée que personne ne doit savoir ce que l’on fait est assez récente. C’est un peu une utopie, parce que ça n’a jamais existé pour personne. À part pour quelques cas isolés, comme Ted Kaczynski, qui vivait en ermite dans une cabane au milieu des montagnes, sans contact avec le monde extérieur. Deuxième : ce n’est ni entièrement faisable, ni véritablement recommandé.

Ce qui amusant, c’est que nous avons nous-mêmes créé un paradoxe dans notre comportement. Nous voulons être reconnus en tant qu’individu, qu’on s'intéresse à nous, qu’on nous aime et nous respecte… Et tout ceci supplante finalement notre désir de protéger notre vie privée. Ce que nous devons faire – et nous n’y sommes pas encore parvenus – c’est inventer une façon sereine et symétrique d’obtenir cette attention et de partager nos vies. La situation n’est pas symétrique aujourd’hui. Les gouvernements et les grandes entreprises en savent beaucoup plus sur nous que nous n’en savons sur eux. Je pense que c’est ce déséquilibre qui provoque notre malaise actuel. Je plaide pour la restauration de cette symétrie – ce que David Brin appelle The Transparent Society – en utilisant potentiellement la technologie. La surveillance et l’observation mutuelles, l’échange de points de vue : tout ceci pourrait nous apporter énormément de bénéfices, à condition de partager dans les deux sens.

"La “vie privée” telle que nous l’imaginons n’a jamais existé." @kevin2kelly

Dans votre ouvrage, vous dites que “every fact has its anti-fact.” ( “chaque fait a son contrepoint”). Comment pouvons-nous avancer dans un monde où les “faits alternatifs” entrent en compétition avec la vérité, et où la vérité même semble pouvoir être malléable ? Quelles sont nos options ?

C’est un peu la question du moment ! C’est un vrai problème, et un challenge que nous devons adresser. Certains principes que nous prenions pour acquis en termes d’échange d’informations et d’actualité, ne fonctionnent plus. Je recommande d’intégrer une sorte d’indicateur de vérité à l’intérieur même d’Internet. On pourrait presque imaginer un système de référencement en fonction de la véracité du contenu. Le référencement, c’est ce qui permet à Google de gagner des milliards. Quand vous faites une recherche, le moteur fait remonter les pages qui ont la meilleure réputation et jugées fiables pour répondre à votre question. C’est une affaire de cyber-réputation. Le référencement ne vient pas d’une autorité juridique ou d’un comité, mais du web seul. On pourrait étendre ce référencement à la notion de vérité. Pour moi, les faits sont des réseaux – ils ne s’érigent pas seuls en vérité, ils sont liés. Plus on peut lier des morceaux d’informations à d’autres morceaux qui viendront les corroborer, plus ils seront fiables. C’est comme ça que la science fonctionne. Il faudrait instaurer le même principe sur Internet. Par exemple, la plupart des gens sont d’accord sur le fait que Londres est la capital de l’Angleterre. Les personnes et les sites le confirmant gagneraient en fiabilité et augmenteraient le taux de véracité de leur référencement. On saurait alors que “ce fait à un taux de véracité estimé à 90 %”. Je ne crois pas qu’on pourrait éliminer toutes les “fake news”, mais ça aiderait certainement.

"Il faut étendre le système référencement d'Internet à la notion de vérité" @kevin2kelly

La plupart des spécialistes estiment que l’AGI (Artificial General Intelligence, une intelligence artificielle aussi intelligente que l’homme) pourrait voir le jour entre 2027 et 2050. Qu’en pensez-vous ?

Je ne crois pas à l’existence d’une intelligence générale. Pour moi, c’est un mythe. Chaque type d’intelligence est spécifique, y compris l’intelligence humaine. On érige cette dernière en but ultime. Mais plus nous inventerons de formes multiples d’intelligences artificielles, plus nous découvrirons que leur champ de possibilités est vaste. Un peu comme notre changement de perception après l’époque de Copernic, quand nous avons compris que la Terre n’était pas le centre de l’univers, que le soleil était seulement dans un coin de notre galaxie, elle-même située au milieu de beaucoup d’autres ! Nous allons comprendre que l’intelligence générale n’est pas au centre, mais bien dans un coin elle aussi. Toutes les intelligences artificielles que nous développerons seront très spécialisées, liées à des actions spécifiques. Il existe un principe d’ingénierie selon lequel on ne peut pas tout optimiser d’un coup. Nous pensons l’intelligence comme une dimension unique, mais c’est une erreur. Notre intelligence est le résultat de différents types de pensée, de logique, de connaissance, de structure. On ne peut pas synthétiser tout ça. D’autant que tous ces types sont différents pour chaque entité. Le mélange humain a été optimisé pour notre survie : il ne représente pas le but “général” de l’intelligence.

Alors quand aurons-nous une AGI ? La réponse est : jamais. Nous aurons des IA avec lesquelles nous pourrons avoir de longues conversations vers 2040. Mais ce n’est pas la finalité de l’intelligence artificielle, simplement ce pour quoi elle aura été créée.

L’IA est inévitable. La question est : qu’allons-nous en faire ? Comme vous l’avez souligné, elle aura des formes multiples et sera très spécialisée. Quelles devraient être nos préoccupations majeures en ce qui la concerne ? Sur quoi devrions-nous être particulièrement vigilants ?

Nous devons faire particulièrement attention à ne pas en faire une arme, comme c’est déjà le cas. Les forces militaires sont très impatientes de pouvoir connecter une intelligence artificielle à leurs armes. Ceci doit être fait avec une extrême prudence. Parce que ce sera fait ! C’est inévitable. Mais cela rejoint ce que je disais précédemment, nous avons le choix sur la façon de le contrôler : que ce soit par une surveillance civile ou par l’intermédiaire d’un comité d’éthique. Il est assez simple d’implémenter des notions d’éthique et de morale dans une intelligence artificielle ou un robot. Le problème vient de nous : les humains n’ont pas un très bon système moral et éthique ! Nous sommes instables, très superficiels et assez peu conscients des choses de manière générale. C’est d’autant plus difficile alors, de déterminer un code éthique et de pouvoir le programmer. Une fois que nous aurons établi un consensus sur le sujet, il sera assez simple de le transmettre. Le challenge est de parvenir à ce consensus, à une certaine constance – quand nous en manquons nous-mêmes cruellement. En ce sens, fabriquer des intelligences artificielles et les robots fera de nous de meilleurs humains. Cela nous poussera à méditer sur nos valeurs éthiques et morales, et à les aiguiser. De la même manière que des parents se perfectionnent en élevant leur enfants. Ça va être passionnant, challengeant... et particulièrement difficile, parce que nous en savons pas encore ce que nous voulons transmettre.

"Fabriquer des intelligences artificielles et les robots fera de nous de meilleurs humains." @kevin2kelly

Vous venez de nous décrire comment l’IA peut nous aider à nous améliorer. Voyez-vous d’autres exemples qui nous permettrait d’aller dans ce sens ? L’homme augmenté par exemple ?

Je pense que l’intelligence artificielle est un merveilleux outil pour mieux comprendre notre cerveau. C’est probablement l’un de ses principaux atouts pour moi. La neurobiologie et la psychologie nous ont déjà apporté beaucoup de réponses sur la façon dont notre cerveau et notre esprit fonctionnent. Mais ces disciplines sont peut-être allées aussi loin qu’elles le pouvaient. C’est en essayant de créer des cerveaux et des êtres artificiels que nous réaliserons une vraie percée. Nous pourrons découvrir comment notre cerveau fonctionne réellement et y avoir accès de manière inédite. Certaines personnes essaient déjà de l’améliorer, de l’augmenter, en utilisant cette technologie. Est-ce que cela va fonctionner ? Je ne sais pas. Est-ce que c’est une bonne chose ? Je ne sais pas non plus. Quoi qu’il en soit, cela va nous permettre de mieux nous comprendre, et ce progrès nous aidera forcément à nous améliorer. Je vois l’intelligence artificielle comme un microscope, ou même un télescope, qui nous permettra, pour la première fois, de décrypter notre esprit et comprendre qui nous sommes véritablement.

Quelles technologies actuelles – ou à venir – vous enthousiasment le plus en ce moment ? Quels sont vos projets à venir ?

Je suis assez fasciné par les bots et les interfaces conversationnelles. J’ai Alexa chez moi, Siri est déjà disponible sur les téléphones, il y a Google Home… Je pense que c’est une technologie très puissante et que nous ne sommes qu’à l’aube de ses capacités. Ce qui est particulièrement exaltant ! Nous ne savons pas encore comment l’utiliser et l’optimiser. C’est comme si nous avions des PC avant que l’interface graphique ait été inventée. Il y a autant de potentiel que de zones inconnues. J’ai conscience de ce potentiel incroyable, tout comme j’ai conscience que nous ne savons pas encore comment l’utiliser ! Mais nous y parviendrons vite. Très vite...