Cédric Villani : le vrai danger avec l’IA, ce sont les humains derrière

Le mathématicien Cédric
Villani a rencontré des dizaines de spécialistes de l’intelligence artificielle
(IA). Objectif, rendre un rapport parlementaire sur le sujet. Dans une
interview accordée le 4 janvier dernier au magazine Le Point, Cédric Villani met le public en garde contre les
mauvaises utilisations possibles de cette technologie.

Le gouvernement l’a chargé
d’une mission sur l’intelligence artificielle (IA). Le mathématicien Cédric Villani a donné un entretien au Point le 4 janvier dernier. Pour les besoins de son rapport, le député
(LREM) de l’Essonne a rencontré des dizaines de spécialistes de l’IA. « Ne craignez pas l’intelligence artificielle,
mais les humains qui seront derrière » avertit-il.

“Ne craignez pas l’intelligence artificielle, mais les humains qui seront derrière”@VillaniCedric s’apprête à remettre au gouvernement un rapport sur l’intelligence artificielle. Interview >> https://t.co/OJCseP299n #DirectAN #IA pic.twitter.com/rsrvC4PK4f

— Le Point Innovation (@LePointInnov) 5 janvier 2018

https://platform.twitter.com/widgets.js

Eviter un scénario cauchemardesque 

La technologie reste un
outil, à l’image de ses concepteurs. « Le
grand changement promis par l’intelligence artificielle est celui de
l’efficacité » relève Cédric Villani. Rien ne nous prémunit d’avance contre
une version cauchemardesque de l’IA. Entité malfaisante, dictateur ou
terroriste… Rien ne les empêcherait d’utiliser l’IA pour surveiller, contrôler
et nuire.

Ce scénario ne serait pas
inédit. « L’humanité a produit un tas
d’inventions qui avaient un revers cauchemardesque. Les développements en
biologie nous ont fourni les progrès en thérapie génique… et les armes
chimiques. C’est la même chose avec l’intelligence artificielle ! »
explique le mathématicien. Il faut rendre le débat public, afin de « légiférer ».

 Une combinaison gagnante homme + IA

L’IA possède d’autres
qualités. Son potentiel reste extraordinaire en médecine, par exemple.  « Des
analyses automatiques de radios, des suivis de tests qui pourraient aider la
médecine préventive » énumère Cédric Villani. Pour tirer le meilleur de
cette technologie, il ne faudra pas séparer IA et humain. Un équilibre « pas toujours facile à trouver »
admet le scientifique.

« La combinaison homme + intelligence artificielle est plus performante
que l’homme ou l’intelligence artificielle tout seuls (…) c’est
l’interface qui fait la différence » explique Cédric Villani. Dans les
combats d’échecs mixtes (homme +IA), les équipes gagnantes sont celles qui
possèdent les meilleurs protocoles de communication entre l’humain et la
machine.