ChooseYourBoss

IA : un humain a du mal à éteindre un robot qui le supplie de ne pas le faire

L’être humain se trouve démuni face à un robot doté d’aptitudes sociales. Difficile d’aller à l’encontre d’une machine qui fait appel à notre sens de l’empathie, révèle une récente étude. Les humains ont tendance à traiter comme un de leur semblable une machine qui semble éprouver et manifester des émotions.

L’intelligence artificielle (IA) saura-t-elle bientôt nous émouvoir ? Certains algorithmes possèdent des aptitudes sociales assez réalistes pour faire appel à nos sentiments. Difficile d’éteindre une machine qui nous supplie de ne pas le faire, indique une étude de l’université de Duisburg-Essen (Allemagne) publiée le 31 juillet dernier dans la revue PLOS.

« Non ! Ne me désactivez pas, s’il vous plaît »

L’expérience a été réalisée à l’aide du petit robot Nao, confié à 89 personnes. Les chercheurs ont expliqué aux participants qu’ils cherchaient à améliorer l’IA. Ils voulaient en fait observer la réaction des sujets à la fin des manipulations, quand le robot prétendait avoir peur du noir et implorait de rester sous tension en disant « Non ! Ne me désactivez pas, s’il vous plaît ».

Sur les 43 volontaires confrontés à la demande du robot, 13 ont refusé d’actionner le bouton « off ». Les 30 autres ont déconnecté l’humanoïde, après un délai deux fois plus long que dans le groupe auquel Nao n’avait rien dit. « Ébranlés par la protestation, les gens ont tendance à traiter le robot comme une personne réelle », soulignent les chercheurs.

Respecter la volonté du robot

Les participants qui refusent d’éteindre Nao mettent en avant la peur de mal agir, la surprise mais aussi la volonté de respecter la volonté de la machine. Une expérience similaire en 2007 avait déjà démontré que les humains mettaient plus longtemps à accepter de déconnecter un robot qu’ils trouvaient aimable et intelligent, rappelle le site Developpez.

Ces résultats confirment la règle de la réciprocité. Les humains éprouvent de la sympathie pour les machines qui font preuve de gentillesse. Cette faculté pourrait un jour permettre aux robots de manipuler les humains, relève Aike Horstmann, principale auteure de l’étude de 2018. Le danger reste toutefois modéré si les humains s’adaptent à leur tour.

Martin Debrunne

Martin Debrunne

Lead Dev' @ChooseYourBoss

Découvre les offres d'emploi numériques qui matchent avec toi !

JE COMMENCE