Gérer les risques
Aujourd'hui et demain

Sûreté et sécurité

Reconnaissance faciale : Amazon impose un moratoire d’un an sur Rekognition

Cette technologie controversée de reconnaissance faciale ne pourra plus être utilisée par les services de police américains. Dans une lettre, Amazon donne un an au Congrès pour encadrer l’usage de cette technologie pour éviter les dérives.

rekognition-reconnaissance-faciale

Certaines organisations comme Thorn et le Centre international pour les enfants disparus et exploités, pourront continuer à se servir de Rekognition.
© Gerd Altmann pour Pixabay

À l’instar d’IBM, c’est au tour d’Amazon de prendre de la distance avec les technologies de reconnaissance faciale. Dans une lettre datée du 10 juin, la division cloud AWS a annoncé bloquer durant un an l’usage de sa technologie, Rekognition, par la police. Au travers de ce moratoire, elle donne un an au Congrès pour réglementer cette technologie controversée. Ces décisions apparaissent sur fond de manifestations dans le monde entier, dans le cadre du mouvement « Black Lives Matter ». Et ce, à la suite de l’assassinat du citoyen afro-américain Georges Floyd par un policier de Minneapolis (Minnesota).

Une durée d’un an

« Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes afin de régir l’utilisation éthique de la technologie de reconnaissance faciale. […] Nous espérons que ce moratoire d’un an donnera au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande », indique la marketplace AWS dans son communiqué.

Dans les pas d’IBM

Du côté d’IBM, premier à s’être positionné contre la reconnaissance faciale, la décision s’avère encore plus catégorique. Il y a quelques jours, le géant technologique a déclaré au Congrès américain cesser de développer ce genre de technologie. « IBM s’oppose fermement et ne tolérera pas l’utilisation de toute technologie, dont la reconnaissance faciale offerte par d’autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits de l’homme et des libertés fondamentales, ou pour tout autre objectif qui ne serait pas conforme à nos valeurs et principes de confiance et transparence », y revendique Arvind Krishna, PDG d’IBM.

Une exception pour les organisations de protection de l’enfance

En ce qui concerne le nombre de services de police exploitant Rekognition, les données restent floues. Selon Silicon Angle, ils seraient au moins deux en Floride et en Oregon à se servir de la plateforme. Toutefois, Amazon a précisé qu’il ferait une exception en continuant à autoriser certaines organisations à se servir de l’API Rekognition. Comme par exemple Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics. Le but étant d’aider « à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles ».

Une technologie pointée du doigt depuis 2018

Reste que ce fameux logiciel n’en est pas à ses premières critiques. En 2019 déjà, la solution, qui se base sur le Machine Learning pour analyser les images, avait subi des critiques sur ses biais ethniques. En effet, selon une étude du MIT, Rekognition identifiait moins bien les femmes de peau foncée que celles à la peau plus claire. À la différence des solutions d’IBM et de Microsoft. De même, un an auparavant, la technologie avait fait scandale en confondant 28 politiciens, pour la plupart Afro-Américains, avec des criminels.

Ségolène Kahn

Commentez

Participez à la discussion