Alyssa BiotLes deepfakes, ces images ou vidéos détournées grâce à l’intelligence artificielle, s’affichent comme une nouvelle menace sur Internet. A l’œil nu, il est souvent impossible de distinguer un bon deepfake d’une image non trafiquée.
Des chercheurs de l’université de Californie ont ainsi présenté cette semaine un nouvel algorithme qui serait capable de les détecter, rapporte Developpez.com. Ce nouvel outil, qui divise l’image en de petites zones pour les examiner pixel par pixel, a pour l’instant affiché une efficacité comprise entre 71 et 95 %.
Les deepfakes laissent des traces
Pour mettre au point leur algorithme, les chercheurs se sont basés sur une IA construite sous forme de réseau neuronal artificiel capable d’examiner des milliers d’images. Toutes sont découpées en de petites zones et l’examen se déroule pixel par pixel. En amont, l’IA avait été nourrie avec une multitude d’images non truquées.
L’algorithme cherche alors notamment à repérer les parties de pixels uniques qui ont été modifiées. Car bien souvent, les auteurs du deepfake laissent des traces près des zones qu’ils ont manipulées.
« Les images altérées étaient souvent plus lisses »
« Nous avons découvert que les images altérées étaient souvent plus lisses que les images naturelles. Parce que la personne qui l’a manipulé s’est pliée en quatre pour que tout se passe bien », explique Amit Roy-Chowdhury, professeur de génie électrique et d’informatique qui a participé à la conception de l’outil. Cette faille issue de la technologie utilisée pour concevoir des deepfakes permet au programme de détecter le faux d’un vrai.
Les résultats obtenus par l’équipe de chercheurs sont plutôt encourageants. Mais l’algorithme ne s’est attaqué qu’aux images et pas encore aux vidéos truquées. D’autre part, les techniques de deepfake évoluent constamment ce qui rend leur traque encore plus délicate.
