Gérer les risques
Aujourd'hui et demain

Sûreté et sécurité

Les caméras dopées à l’IA dans la ligne de mire de la CNIL

La Commission nationale de l’Informatique et des Libertés constate une augmentation significative des dispositifs de vidéo dite « intelligente » ou « augmentée » dans les lieux ouverts au public. Avec la volonté d’accompagner leur déploiement dans le respect des droits des personnes, elle soumet un projet de position à consultation publique jusqu’au 11 mars 2022.

Embarquant des algorithmes d’extraction automatique d’information à partir des flux de vidéoprotection, les dispositifs de vidéo dite « intelligente » ou « augmentée » sont susceptibles d’être utilisés par tous types d’acteurs, publics comme privés. En particulier dans la rue ou dans des lieux ouverts au public pour satisfaire des objectifs comme l’amélioration de la sécurité des personnes ou des biens, l’analyse de la fréquentation d’un lieu ou encore des opérations de publicité. Après avoir reçu de nombreuses demandes de conseil et mené différents travaux sur le sujet, la Commission nationale de l’Informatique et des Libertés (CNIL) a publié ce 14 janvier un projet de position concernant le déploiement de ces dispositifs dans les espaces publics. Qui plus est, elle soumet ce document à consultation publique jusqu’au 11 mars 2022 inclus.

la-consultation-de-la-cnil-durera-huit-semaines-et-prendra-fin-le-11-mars-2022-inclus.

La consultation de la CNIL durera huit semaines et prendra fin le 11 mars 2022 inclus. © D.R.

Des questions éthiques nouvelles

Selon la Commission, qui en juin 2020 avait alerté sur la multiplication de certains dispositifs de vidéo « augmentée » dans le cadre de la gestion de la crise sanitaire du COVID-19, « de tels dispositifs ne sont en aucun cas un simple « prolongement » technique des caméras existantes ». Ils modifient leur nature même en raison de leur capacité de détection et d’analyse automatisées. Par conséquent, ils posent des questions éthiques et juridiques nouvelles. En effet, la protection des droits et libertés des personnes filmées et analysées et, en particulier la protection de leurs données personnelles, doit rester une priorité. Pour la CNIL, cet enjeu constitue l’un des fondements d’une société démocratique. Ainsi, face à la création et au déploiement de ces outils, parfois en dehors de tout cadre juridique spécifique, et face aux risques d’une surveillance et d’une analyse algorithmiques permanentes des espaces publics, la CNIL souhaite exposer sa compréhension, ses réflexions et ses analyses sur le sujet d’un point de vue à la fois éthique, technique et juridique.

Un champ de consultation précis

Enrichie grâce aux contributions de l’ensemble des parties prenantes, la position de la CNIL compte répondre précisément aux futures demandes de conseil des pouvoirs publics et des professionnels ainsi qu’aux interrogations – voire des plaintes – des personnes concernées. Le terme « vidéo augmentée » recouvre ainsi une grande variété de solutions. Une précision : le projet de position de la CNIL, soumis à consultation publique, ne concerne que les dispositifs, fixes ou mobiles, déployés dans les espaces publics (voies publiques, lieux et établissements ouverts au public). Sont alors exclus de ce document et de la consultation publique les dispositifs de reconnaissance biométrique, les usages des dispositifs de vidéo « augmentée » dans des lieux strictement privés ou encore à des fins de recherche scientifique au sens du RGPD.

Analyse d’images et vision par ordinateur

La position de la CNIL poursuit trois objectifs. Tout d’abord, présenter de manière pratique et concrète ce que sont les outils de vidéo « intelligente » ou « augmentée » renvoyant notamment à des technologies d’intelligence artificielle dans le domaine de l’analyse d’images ou de « vision par ordinateur » pouvant couvrir des usages très variés. Il est donc nécessaire de définir précisément ces notions et les usages potentiels, afin d’en appréhender les risques. La CNIL dresse donc un panorama de ces technologies d’analyse automatisée d’images à partir de caméras vidéo dans plusieurs cas d’usage ainsi qu’un état des lieux du marché de la vidéo « augmentée ».

Risque de surveillance généralisée

Second objectif : mettre en avant les enjeux éthiques et sociétaux de ces technologies et les risques gradués pour les droits et libertés des personnes. Par leur fonctionnement même, reposant sur la détection et l’analyse en continu des attributs ou des comportements des individus, les dispositifs de vidéo « augmentée » présentent, par nature, des risques particuliers pour les personnes concernées. Ces nouveaux outils vidéo peuvent ainsi conduire à un traitement massif de données personnelles, parfois même de données sensibles, et entraîner un risque de surveillance généralisée. « L’importance et l’effectivité de ces risques doivent être précisément évaluées afin d’établir les garanties nécessaires et de poser des limites à certains usages de ces dispositifs », estime la CNIL.

Last but not least, la CNIL veut soumettre à consultation une interprétation du cadre juridique applicable à ces dispositifs en fonction de leurs objectifs, de leurs conditions de mise en œuvre et des risques qu’ils impliquent. Dans la mesure où les dispositifs de vidéo « augmentée » captent et analysent des données, en particulier des images des personnes, leur utilisation et les traitements de données qu’ils impliquent doivent respecter l’ensemble de la réglementation applicable en matière de données personnelles – c’est-à-dire le RGPD et la loi Informatique et Libertés.

Une large consultation

Acteurs publics ou privés, citoyens, administrés, consommateurs, fournisseurs de solutions, utilisateurs de solutions, chercheurs, universitaires, associations… la CNIL invite tous les acteurs à lui faire part de leur positionnement vis-à-vis de cette technologie. La consultation durera huit semaines et prendra fin le 11 mars 2022 inclus. À l’issue de la consultation, la Commission fera connaître sa position à l’égard de ces technologies, du RGPD et la loi Informatique et Libertés.

Erick Haehnsen

Commentez

Participez à la discussion


The reCAPTCHA verification period has expired. Please reload the page.