Le 29 mars dernier, Cédric Villani dévoilait son rapport, présenté comme un « plan d’action » pour le développement de l’intelligence artificielle en France. Les commentaires ont été nombreux, parfois élogieux, parfois déçus, sur la vision portée par le brillant mathématicien devenu député. Un aspect pourtant a été peu noté : c’est la faiblesse des propositions éthiques du rapport. Les questions que posent le développement de l’intelligence artificielle sont pourtant considérables sur ce point. L’actualité de la semaine qui a suivi la parution du rapport suffit à le prouver.

Robots tueurs en Corée

Le 4 avril, plus de cinquante chercheurs spécialistes de l’intelligence artificielle annonçaient le boycott de l’université de Kaist en Corée du Sud, qui aurait ouvert un laboratoire de recherche visant à fabriquer des « robots tueurs ». Le même jour, le New York Times révélait que plus 3 000 employés de Google avaient signé une lettre à leur direction pour dénoncer un récent contrat avec le Pentagone, refusant que leur entreprise ne soit impliquée dans « le business de la guerre ». Deux jours plus tard, Jacques Testart, père scientifique du premier bébé-éprouvette, s’inquiétait dans Le Figaro des risques liés au développement d’une vision de l’homme par trop réductrice : « Le transhumanisme est le nouveau nom de l’eugénisme », tranchait-il.

Ces trois exemples prouvent, à tout le moins, que l’intelligence artificielle pose des questions graves et majeures pour l’homme et la société. Ce que reconnait d’ailleurs volontiers Cédric Villani qui insiste dans plusieurs de ses interviews sur le fait que l’intelligence artificielle nous oblige à nous demander « dans quelle société nous voulons vivre ». On s’étonne dès lors que son rapport ne traite cet aspect que de façon accessoire et superficielle.

Déréglementation de l’I.A.

En effet, le rapport Villani se présente comme une sorte de « summa technologiae », compilation d’avis de techniciens et de spécialistes sur l’état d’avancement de l’intelligence artificielle, de la robotique, de la domotique et de l’humain augmenté. L’essentiel du rapport est consacré à l’économie, la recherche, l’environnement et à des approches sectorielles (éducation, santé, défense, etc.), sujets importants bien sûr, mais qui laissent la portion congrue aux enjeux éthiques et à leur prolongements politiques, les questions de régulation.

L’idée générale de Cédric Villani semble en effet s’articuler autour d’une large déréglementation et d’un auto-contrôle par les acteurs du secteur. Le rôle de la puissance publique y est largement accessoire, voire ringardisé, avec la création d’un « comité consultatif national d’éthique pour les technologies numériques et l’intelligence artificielle » qui aurait pour but… « d’organiser le débat public, de façon lisible, construite et encadrée par la loi ». C’est un peu faible. Est-ce là la seule mission de l’Etat ? Les enjeux, les risques et les dérives potentielles de l’intelligence artificielle ne méritent-ils pas un peu plus d’attention ?

Elon Musk inquiet

Car, s’il n’est évidemment pas question de « s’opposer au progrès », il est légitime de s’interroger sur les règles et limites éthiques que nous souhaitons collectivement poser devant ce qui s’annonce comme la quatrième révolution industrielle – dont les effets seront, selon toute vraisemblance, considérables, rapides, globaux, voire brutaux, sur nos sociétés. Faut-il rappeler qu’Elon Musk lui-même fondateur de Space X et patron de Tesla considère que « l’intelligence artificielle est un risque existentiel fondamental pour la civilisation humaine » et qu’elle appelle des décisions publiques ? Que Bill Gates réclame également que les pouvoirs publics se saisissent sans attendre de ces questions ? Que le Parlement européen a adopté en février 2017 une résolution concernant les « règles de droit civil sur la robotique » afin de demander à la Commission européenne, aux États membres mais également la communauté internationale au travers de l’ONU, de se doter d’outils juridiques adaptés (car de simples lois ou directives ne permettront pas de réguler un changement global de nos sociétés) ?

Entre une vision techno-béate (libertaire) et un néo-luddisme (rétrograde) hors de saison, il y a une place pour une ligne politique responsable qui fixe le cadre dans lequel ces recherches peuvent être conduites et ces innovations proposées au public. Un exemple : le rapport Villani s’en prend au règlement européen du 27 avril 2016 (n°2016/679) relatif à la protection des données à caractère personnel et plaide en faveur d’un assouplissement du cadre légal. Cela est inquiétant car « notre liberté se bâtit sur ce qu’autrui ignore de nos existences », selon le mot profond de Soljenitsyne. Il est par conséquent nécessaire que nos données personnelles, et à travers elles nos libertés individuelles, soient sérieusement protégées et leur accès scrupuleusement encadré.

De quelle société voulons-nous?

C’est le devoir du politique, et son honneur, que de protéger chaque personne face à la puissance invasive des Gafa, puissance technologique, puissance financière, puissance de séduction aussi.

Cédric Villani n’apporte finalement pas de réponse à la question qu’il pose pourtant lui-même : dans quelle société voulons-nous vivre, à l’heure de l’intelligence artificielle ? Les mois qui viennent doivent nous permettre d’y répondre clairement et fermement : une société de progrès autant qu’une société de liberté. Seul le politique, si imparfait et fragile soit-il, pourra établir l’équilibre légitime entre ces deux aspirations.