Le soulèvement des machines

Ce billet fait suite à la défaite hier du champion du monde du jeu de Go, Lee Sedol, face à l'intelligence artificielle (IA) développée par DeepMind une filiale de Google. Pour ceux qui n'ont pas suivi cette actualité, Lee Sedol (l'humain) a été battu par AlphaGo (le programme d'IA) par un score de 1 à 4. Il y a donc eu 5 manches qui se sont déroulées du 9 au 15 mars 2016.

Habituellement je suis contre le déballage de chiffres mais sur ce sujet je vais en fournir quelques-uns et notamment comparer le jeu de Go à un autre jeu de stratégie combinatoire abstrait bien connu :

• Commençons par le jeu d'échecs. Il consiste à s'introduire dans le camp adverse pour renverser le roi. Il a été introduit en Europe il y a plus de 1 000 ans. Pour y jouer il suffit d'être 2 et de disposer sur le plateau : 16 pièces blanches et 16 pièces noires. Après le premier coup, il y a 400 coups possibles.
• Ensuite le jeu de Go. Il consiste à conquérir le maximum d'espace sur un plateau. Le jeu de Go a été inventé il y a un environ 2 500 ans en Chine. Pour y jouer il suffit d'être 2, d'avoir plus de 180 pierres blanches, autant de pierres noires et 1 plateau quadrillé. Contrairement aux échecs, au départ du jeu, les pions se situent dans des bols. Après le premier coup, il y a 129 960 coups possibles.
• Finissons la comparaison par de gros chiffres. Pour ceux qui aiment compter : la combinatoire totale des échecs est estimée à 10¹²⁰ (1 avec 120 zéros), celle du jeu de Go est évaluée à 10¹⁷⁰. Pour ceux qui préfèrent le concret, notez simplement qu'on estime à 10⁸⁰ le nombre d'atomes dans tout l'Univers observable.

Bien que les machines aient battu tour à tour le meilleur joueur d'échecs (i.e. DeeperBlue qui a battu Garry Kasparov en 1997) puis le meilleur joueur de Go (i.e. AlphaGo qui a battu Lee Sedol en 2016), ces performances ne sont pas anodines. En effet, ces 2 jeux de stratégie imposent des arbres de réflexion tellement profonds que se contenter de les parcourir intégralement pour déterminer le meilleur coup est interdit. Ceci pour un humain comme pour une machine. Au contraire, la bonne stratégie consiste à faire preuve d'intuition pour choisir le coup le plus pertinent. Or pour savoir comment différencier une bonne intuition d'une mauvaise, il est nécessaire d'apprendre avec meilleur que soi puis de s'entraîner encore et encore. Ce qu'il y a d'incroyable dans le travail qu'a réalisé DeepMind avec AlphaGo, c'est qu'ils sont parvenus à apprendre à un programme comment avoir des intuitions puis comment les améliorer au fur et mesure des parties qu'il jouait. AlphaGo est une savante alchimie entre du « deep learning » et du « big data ».

Est-ce la fin de l'humanité ?

Tenez, je vais commencer par une citation :

Les humains devraient être préoccupés par la menace posée par l'Intelligence artificielle (...) Je suis du camp de ceux qui sont inquiets vis-à-vis de la super-intelligence. Pour commencer, les machines réaliseront beaucoup de tâches pour nous et ne seront pas super intelligentes. Après quelques décennies, cette intelligence pourrait devenir assez puissante pour être une source d'inquiétude (...) Et je ne comprends pas pourquoi certaines personnes ne s'en inquiètent pas.

C'est une charge anti-IA parmi d'autres dans le cadre du débat qui agite le monde au sujet des armes dotées d'IA. Dans ce débat, tout y passe : le développement des armes dotées d'IA, l'autonomie des IA, la puissance des IA etc.

Malgré tout le respect que je dois aux qualités de visionnaire de Bill Gates, je trouve qu'il s'emballe un peu sur le sujet. Plus généralement, il est amusant de voir que quand on parle d'IA on l'aborde souvent sous l'angle : domination des hommes par des machines autonomes. Il faut dire que nous avons été aidés en cela par les films sur les IA humanoïdes armées vues dans Terminator mais plus récemment dans I, Robot et encore plus récemment dans Ex Machina. Ce qu'il faut bien comprendre c'est que les IA présentées dans ces films sont beaucoup mais alors beaucoup plus évoluées qu'AlphaGo et DeeperBlue :

• Contrairement à AlphaGo et DeeperBlue, ces IA sont multivoques. Par exemple, AlphaGo est très puissante mais aussi très spécialisée. Elle est 9^e dan au jeu de Go mais c'est à peu près son seul talent. Songez qu'elle était incapable de pousser elle-même ses pions ;
• Contrairement à AlphaGo et DeeperBlue ces IA sont incroyablement miniaturisées malgré leurs puissances respectives. Songez que DeeperBlue était une armoire de 1,80 m qui pesait 1,4 tonne quand AlphaGo se base sur le Cloud de Google et se compose de près de 2 000 CPU en parallèle.

Tout cela me mène à l'intuition que le soulèvement des machines façon Terminator n'est pas pour demain, ni même après-demain.

Ce qu'il est important de mesurer ici c'est que comme la majorité des inventions humaines, les machines sont agnostiques en matière de moralité. Elles ne sont ni intrinsèquement bonnes, ni intrinsèquement mauvaises. C'est comme une fourchette. Une fourchette peut servir à déjeuner mais aussi à dissuader un agresseur ou encore être une arme efficace pour torturer. Les IA c'est pareil. C'est donc bien le contrôle des IA par les hommes qui pose problème et non l'autonomie des IA qui pour le moment est hypothétique (mais pas impossible).

D'ailleurs pour être totalement transparent sur le sujet, de mon point de vue, ce ne sont pas les IA mobiles et armées qui m'effraient le plus. Je vais en citer 2 autres intensivement utilisées mais pratiquement invisibles (ou inconnues) aux yeux de la majorité d'entre nous :

• Premièrement le statut d'armes des IA mobiles et armées fait qu'elles sont et seront très contrôlées. Certes ces vérifications ne seront pas infaillibles, loin de là. Mais je suis optimise, je pense qu'un contrôle même à moitié est toujours préférable à une absence de contrôle. A votre avis qui contrôle les IA de trading haute fréquence en action sur les marchés boursiers ? Personne, à ma connaissance ;
• Ensuite les IA sont une réalité que nous plébiscitons au quotidien. Sur quoi pensez-vous que reposent les fortunes de Facebook, Twitter et Google ? Je rappelle qu'en août 2015, Facebook avait annoncé avoir dépassé le milliard de personnes connectées en 1 seule journée. Donc oui, les IA sont intimement liées à nos activités quotidiennes pour nos plus grands plaisirs et nos plus grandes désillusions.

En conclusion, non la montée en puissance des IA n'est pas le signe avant-coureur de la fin de l'humanité. L'homme est et restera son meilleur prédateur. Permettez-moi d'être encore plus clair : avec les armes dotées d'IA, le problème ce ne sont pas les IA mais bien les hommes qui les pilotent.

Jusqu'où ira l'IA ?

Jusqu'où ira l'IA ? C'est une excellente question à laquelle je n'ai pas de réponse. En tant que technophile je suivrai tout cela avec intérêt. Toutefois je resterai vigilant car conscient que l'IA en tant qu'invention humaine et si elle était mal exploitée, pourrait se révéler très nocive pour l'homme lui-même.

A ce stade je me borne à observer que l'essentiel des investissements ainsi que la recherche, dans ce domaine sont portés par des entreprises privées aux USA. Dans le fond ça ne me pose aucun problème. Néanmoins je trouverais légitime de s'interroger sur le côté universaliste et bien-être collectif de ce qui nous arrivera dans quelques années. Si je prends encore plus de hauteur, je trouve ce débat autour de l'IA complètement obsolète. Le vrai débat devrait porter sur EA : l'empathie artificielle. Ceux qui ont vu le film Ex machina savent de quoi je parle. Dans ce film on voit un jeune homme tomber amoureux d'une IA humanoïde qu'il sait être une IA. En effet, cette IA fait preuve d'empathie et va jusqu'à simuler des émotions et des sentiments. C'est bluffant de vérité. De mon point de vue, c'est le jour où cela sera possible que nous pourrions réellement craindre pour la survie de l'humanité.