Utilisé par les autorités américaines, l’outil de reconnaissance faciale d’Amazon fait polémique

Publié le

Selon un rapport publié par l’ACLU (American Civil Liberties Union), une association à but non lucratif, Amazon aurait contacté des états américains pour leur vendre son logiciel de reconnaissance faciale : Rekognition. Il s’agit d’un système utilisant le deep learning en mesure de fonctionner sur des images fixes ainsi que des vidéos.

Qu’est-ce que Rekognition ?

Amazon présente son logiciel comme étant un outil d’analyse faciale et de suivi de l’individu. La technologie est également capable de détecter des objets, du textes au sein des images vidéos ou fixe ainsi que scènes (lieux communs tels que des parkings, un paysage urbain, la plage etc). L’outil est proposé en tant qu’API Sur le site d’Amazon.

Amazon rekognition

Rekognition est par ailleurs utilisé par d’autres entreprises telles que Here (le fameux outil de cartographie), ou encore Pinterest.

Rekognition transformé en outil de surveillance ?

Selon le Washington Post, l’ACLU représentant plus de 30 organisations pour la défense des libertés a obtenu des documents édifiants via une demande légale. Ces documents prouvent que le leader du e-commerce a mis son logiciel de reconnaissance faciale à disposition de la police de l’Oregon et de celle d’Orlando. D’ailleurs Amazon en fait même la promotion sur son site.

Orlando amzon rekognition

Le hic c’est que pour l’ACLU, cette technologie confère un dangereux pouvoir de surveillance aux autorités : l’outil pourrait violer les libertés civiles.

Ce n’est pas la premières fois qu’un logiciel de reconnaissance faciale fait polémique. Nous écrivions il y a quelques mois sur les limites de ces technologies. Des études telles que celle de Joy Buolamwini montrent que les bases de données nécessaire à la reconnaissance faciale sont biaisées et que ces technologies sont sujettes à des erreurs techniques notamment en ce qui concerne l’identification des personnes de couleur. Amazon n’a pas encore répondu à la polémique.

 

 

Envoi
User Review
0 (0 votes)

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Autres articles sur le même sujet