Tout d’abord, plantons le décor. Cédric Villani a été missionné il y a quelques mois par le gouvernement Français pour construire une stratégie nationale dans le domaine de l’IA. Cette mission de 4 mois se terminait fin novembre. Lauréat Fields (équivalent du prix Nobel, mais pour les maths), Cédric est avant tout un mathématicien et un politique, pas un spécialiste de l’IA. En même temps, mieux vaut lui que Ségolène Royale probablement… ThinkerView se définit comme un groupe indépendant issu d’internet, très diffèrent de la plupart des think-tanks qui sont inféodés à des partis politiques ou des intérêts privés. Il y a aussi cette notion de “communauté hacker” qui entoure ce think tank. Rencontre explosive ?
Non, pas vraiment. Le discours de Villani reste assez rassurant sur le fond concernant l’utilisation de l’IA dans nos sociétés déjà fortement tournées vers le Big Data. Il l’est un peu moins sur la question de l’emploi. Sont toutefois abordés les dangers liés aux Gafas, à la montée en puissance du “Dragon Agressif” qu’est la Chine.
Pour Villani, “un monde sans IA” est impossible. Toute société qui souhaiterait prendre le temps de la réflexion se verrait condamner dans le monde actuel. Cette réflexion doit être faite à l’échelle mondiale, mais nous savons tous que dans le climat actuel de concurrence international, de capitalisme ultra-agressif, il ne sera pas possible de faire quoi que ce soit de ce coté. Pourtant, l’IA est comme “l’arme atomique” selon les propres mots de Villani. Il faut se préparer à se défendre. Et la France dispose d’atouts selon lui, même si l’interview ne lui permet pas d’en parler réellement. Il avance le fait que nous avons un potentiel en terme de chercheurs, ainsi que de flexibilité. Reste qu’aujourd’hui, l’IA, c’est de l’intelligence, mais c’est aussi beaucoup de moyens (centres de calculs). Il est dommage qu’on ait pas pointé du doigt le fait que cette impression de “ne pas avoir le choix” est liée à notre choix d’une société qui fait reposer sa stabilité économique (et donc sociale et politique) sur ses échanges avec le reste du monde. Mais c’est un autre débat…
“L’IA sera ce que nous en ferons” revient souvent dans la bouche de Cédric. Pour lui, c’est au peuple, “à la cité”, de définir la façon dont on va utiliser l’IA. Toutefois, nous ne savons pas comment aujourd’hui intervenir auprès d’un Facebook, de sa capacité à tordre l’information, à manipuler les données et surtout à les archiver de l’autre coté des frontières… autant demander à un mouton d’avoir de l’influence sur les méthodes d’abattage employées par son éleveur. Thinkerview parle lui de “lames de rasoirs qu’on donne à un singe”, cela induit le fait que même si nous avions de l’influence sur la façon de l’utiliser, nous ne saurions pas forcément le faire pour notre bien à nous, à la fois personnel ou collectif.
L’IA et l’armée, sujet abordé plusieurs fois, mais sans vraiment pointer du doigts les réels dangers. On parle de ce fameux documentaire réalisé par Stuart Russell et que l’on peut visionner ici. Effrayant en effet, et pourtant si proche de ce que nous sommes aujourd’hui capable de faire. Les lois d’Isaac Asimov… belle théorie, mais impossible à mettre en œuvre dans l’état d’après Villani.
Concernant le marché de l’emploi, 80% des emplois actuels impactés… Quand Villani nous parle de changer de métier et de se tourner vers les autres, et de “salaire universel”, on comprend de suite qu’il ne s’agit plus d’un impact, mais d’une réelle transformation, acceptée ou subie. Même si le métier du chauffeur de bus est abordé, Cédric rapproche cela d’avantage de ce qu’a déjà subi le monde de la finance. Les traders ont été progressivement remplacés par des algorithmes et des experts dans d’autres domaines. Pour paraphraser Laurent Alexandre, il faudra “aller vers là où l’IA n’est pas compétente”, c’est à dire le social, l’art, etc.
On y aborde le thème des Black Swans (Cygnes noirs) selon l’œuvre de Nassim Nicholas Taleb, c’est à dire l’impact extrême de certains types d’événements rares et imprévisibles. L’IA pourra t‑elle prévenir ce genre de choses ? Plus en tous cas que nos modèles probabilistes qui ne se permettent pas des phases exploratoires comme le permet l’IA.
Bon, si vous avez 1H15 à tuer (moi je met en vitesse 2, ça passe plus vite), je vous laisse avec la vidéo:
Ce que j’ai pensé de cette interview ? Trop rapide (non, pas à cause de la vitesse de lecture!), pas assez en profondeur… de la vulgarisation et encore… souvent les choses ne sont pas expliquées et discutées telles quelles en surface…
Villani ne me convainc pas sur sa capacité à appréhender réellement les changements à venir. Il a un discours au final très “polissé”, fidèle à son mouvement politique. Il se veut rassurant comme n’importe quel politique qui a décidé que c’était viable économiquement, peu importe l’impact sociétal au final. Pourtant, je suis quelqu’un de relativement ouvert sur le sujet, assez positif dans l’ensemble. Je pense que l’humanité fonce dans un mur avec un vélo à la vitesse du son et que si l’IA ne nous aide pas à passer à travers le mur sans dégât, elle nous permettra d’y arriver plus vite. Mais c’est un autre débat. L’IA est ce que nous en ferons… je reste vraiment sceptique de ce coté là. Bien entendu, on ne parle d’IA que comme un outil à l’usage des hommes, pas d’IA façon Matrix qui prendrait conscience d’elle-même. Cela reste un autre danger. Mais je ne pense pas que le peuple a un quelconque pouvoir sur le développement de ces technologies. Espérons que l’intérêt économique et l’intérêt humain finiront par se croiser — c’est uniquement à cette condition, et pas en se préoccupant de brider les algos, qu’on fera en sorte que l’IA sera utilisée pour le bien commun. Sinon, cela permettra à ceux qui détiennent pouvoir et argent, d’assoir encore plus leur pouvoir, avec le risque qu’ils finissent par se dire que le reste de l’humanité est une bouche en trop à nourrir et que ses bras ne sont plus utiles.
Mais alors, qu’en est-il de ce rapport #MissionVillani, des conclusions que devait remettre Villani fin novembre ? Une plate-forme collaborative a dû déjà être mise en ligne. Les conclusions sont attendues pour la fin du mois de janvier… Au final, c’est pas 3 mois, mais 5 donc ? La première mouture du rapport présentée le 29 novembre met en avant un certain nombre de problématiques comme vous pourrez le lire ici. Même si le rapport semble “bateau”, c’est quand même 3 mois d’auditions, 250 personnes entendues (issues de 13 pays), près de 600 experts… Bon, au moins, on peut se dire que le gouvernement français a conscience de l’impact que l’IA va avoir sur nos sociétés… quant à sa capacité à avoir du pouvoir sur ces changements, je reste dubitatif.
Merci pour cet article !
Pour avoir travaillé sur un projet IA en Prolog / Lisp , les résultats étaient déjà bluffants … comme la création par le programme de ses propres règles avec des comportements imprévus .. et c’était avant 2000, sans les Big Data.
IA et IoT vont très vite maintenant … exponentiel.
Voir par exemple le récent forum à l EPFL sur la cybercriminalité. IA et IoT au centre.