• A la une
  • IA
  • Reconnaissance faciale : performante, mais facile à tromper ?

Reconnaissance faciale : performante, mais facile à tromper ?

4 semaines ago
86

La reconnaissance faciale est suffisamment au point pour être déjà utilisée dans de multiples applications.
Certaines entreprises américaines ont même déjà constitué des bases de données de visages, en analysant des milliards de photos disponibles sur Internet.
Il y a quelques mois, nous faisions état d’un rapport de scientifiques s’alarmant de différentes dérives dans le développement de ces solutions de reconnaissance faciale.

C’est l’Université Ben Gourion qui jette aujourd’hui un pavé dans la mare.

Ses chercheurs sont en effet parvenus à tromper certaines solutions de reconnaissance, sans l’aide de dispositifs trop aisément repérables.
En effet, on savait déjà qu’il était possible d’arriver à ce résultat avec de la peinture, du marquage voyant, de l’adhésif, toutes choses qui vous font repérer par un système de sécurité bien avant que la reconnaissance faciale ne soit entrée en action.

« Dans cet article, nous proposons une attaque accusatoire en esquive qui est une boîte noire, non ciblée et basée sur une perturbation mise en œuvre à l’aide d’un maquillage naturel », ont écrit les chercheurs. « Comme le maquillage naturel est physiquement discret, son utilisation n’éveillera pas les soupçons. Notre méthode élabore un maquillage d’apparence naturelle qui, lorsqu’il est ajouté au visage d’un agresseur, cache son identité à un système de reconnaissance faciale. »

Un maquillage adéquat dupe la reconnaissance faciale

Dans leur expérience – à ce stade un projet de laboratoire – il existe un système d’IA qui scanne les visages pour une personne interdite et déclenche une alarme si elle est repérée. L’objectif est de maquiller cette personne interdite de manière à ce qu’elle évite d’être identifiée par le modèle de reconnaissance faciale.

Tout d’abord, ils introduisent des photographies de la personne interdite dans le modèle de substitution pour générer une carte thermique. La carte met en évidence les zones du visage qui sont les plus importantes dans l’identification du visage d’une personne en particulier. Ensuite, le maquillage est appliqué à ces régions pour modifier leur apparence afin de tromper le modèle de substitution.

Le nez peut être affiné avec de la poudre ou les pommettes plus prononcées avec du contouring, par exemple. Ce processus est répété jusqu’à ce que la reconnaissance faciale soit dupe.

Dans la petite expérience réalisée sur dix hommes et dix femmes âgés de 20 à 28 ans, les caméras de reconnaissance faciale – alimentées par le modèle LResNet100E-IR,ArcFace@ms1m-refine-v2 – n’étaient apparemment capables d’identifier correctement les personnes avec maquillage que 1,22% du temps. Le substitut utilisé était le modèle Facenet .

L’expérience ne dit pas si cette interférence due au maquillage peut aussi modifier la reconnaissance de votre visage intégrée à certains smartphone ou certains ordinateurs.

 

Pour en savoir plus :
l’article (en anglais) de the Register

1 thought on “Reconnaissance faciale : performante, mais facile à tromper ?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Contribuer ou publier sur Tech Ethic