FreshRSS

🔒
❌ About FreshRSS
There are new available articles, click to refresh the page.
Today — November 12th 2019La Quadrature du Net

[RFI] Reconnaissance faciale, sécurité ou liberté en danger ?

[…] La reconnaissance faciale fait déjà partie du quotidien de nombreuses personnes, ne serait-ce que débloquer son téléphone, mais les expériences se multiplient pour d’autres usages : l’identification pour accéder aux sites internet administratifs, pour embarquer dans un avion, mais aussi pour des raisons de sécurité dans l’espace public ou comme en Chine pour mettre en place un outil de contrôle social. Et c’est cela qui inquiète, au point que certaines villes américaines ont interdit l’utilisation par leur forces de sécurité. Reconnaissance faciale, sécurité ou liberté en danger ? C’est la question du jour.

Pour en débattre :

  • Benoit Piédallu, membre de la Quadrature du Net
  • Didier Baichère, député (LRM) des Yvelines, vice-président de l’Office parlementaire d’évaluation des choix scientifiques et technologiques.

http://www.rfi.fr/emission/20191104-reconnaissance-faciale-securite-libe…

NDLRP – Extrait à retrouver aussi sur le Peertube de La Quadrature du Net :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

Before yesterdayLa Quadrature du Net

[20Minutes] Reconnaissance faciale : « C’est un outil de surveillance de masse qui va déshumaniser les rapports sociaux », estime la Quadrature du Net

INTERVIEW. Benjamin Sonntag, co-fondateur de la Quadrature du Net, explique à « 20 Minutes » pourquoi la mise en place de dispositifs de reconnaissance faciale un peu partout en France peut s’avérer très dangereuse pour les citoyens. […]

« Les dispositifs de reconnaissance faciale sont surtout un outil de surveillance de masse, de surveillance généralisée à la Big Brother. Ils exploitent votre visage – quelque chose que vous ne pouvez pas cacher – ce qui fait que vous êtes surveillé constamment dans l’espace public, sans pouvoir vous y opposer. Ces technologies biométriques augurent un réel changement de paradigme dans l’histoire de la surveillance. Ce sont des dispositifs totalement disproportionnés et liberticides… » […]

https://www.20minutes.fr/high-tech/2642419-20191104-reconnaissance-facia…

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[RFI] La France entre dans l’ère de la reconnaissance faciale

La France veut devenir le premier pays européen à utiliser la reconnaissance faciale. La Commission nationale de l’informatique et des libertés a jugé illégale la demande effectuée par la Région Sud de l’utiliser dans différents lycées, mais le ministère de l’Intérieur teste déjà une application appelée Alicem pour Authentification en ligne certifiée sur mobile. […]

http://www.rfi.fr/emission/20191030-france-entre-ere-reconnaissance-faciale

NDLRP – Extrait du reportage avec Martin Drago à retrouver aussi sur le Peertube de La Quadrature du Net :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[Telerama] Des micros dans la rue : la CNIL tire les oreilles (intelligentes) de Saint-Etienne

Le gendarme des données personnelles a adressé un avertissement à la métropole de la Loire, qui a développé un système d’écoute dans l’espace public. […]

En cause ? Un dispositif de captation et d’analyse des sons que la mairie envisage de déployer sur la voie publique. Révélée en mars dernier par Le Parisien, cette expérimentation inédite en France consiste en l’installation d’une cinquantaine de micros « pas plus gros qu’une pièce de deux euros », à l’affût du moindre bruit suspect, qu’il s’agisse de cris, de verre brisé, de klaxons, de crépitements ou de coups de feu (la Quadrature du Net dresse une liste exhaustive ici). Une fois enregistrés, ceux-ci sont passés à la moulinette d’un algorithme qui les compare avec « l’un des modèles préenregistrés dans la mémoire du nano-ordinateur embarqué dans le boîtier », détaille encore la CNIL dans sa lettre courroucée. […]

https://www.telerama.fr/medias/la-cnil-tire-les-oreilles-intelligentes-d…

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[FranceInter] L’intelligence artificielle est-elle notre ennemie ?

Mardi, la CNIL a fait savoir qu’elle s’opposait à la mise en place de systèmes de reconnaissance faciale dans les lycées. C’est indéniable : les algorithmes font partie de nos vies. Mais sont-ils compatibles avec l’éthique, avec nos libertés ? […]

L’intelligence artificielle a quelque chose de fascinant, mais aussi quelque part, de dangereux. Comment peut-on concilier ces technologies nouvelles avec les libertés individuelles ? Jusqu’où ces algorithmes vont-ils s’infiltrer dans notre quotidien ? Faut-il réguler l’IA ? Est-ce vraiment possible ?

Les invités

  • Arthur Messaud Juriste pour la Quadrature du Net (association de défense des droits et libertés fondamentales à l’ère du numérique)
  • Laurence Devillers Chercheuse au CNRS et maître de Conférences HDR en informatique

https://www.franceinter.fr/emissions/le-telephone-sonne/le-telephone-son…

NDLRP – Extrait d’une intervention d’Arthur Messaud à retrouver aussi sur le Peertube de La Quadrature du Net :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[FrenchWeb] [DECODE] Reconnaissance faciale: une technologie qui vous veut du bien ?

Le gouvernement français compte s’emparer très rapidement de la reconnaissance faciale. Il teste en ce moment l’application Alicem qui permettra à chaque citoyen de se créer une identité numérique en ligne en passant par cette technologie. Que faut-il savoir sur Alicem ? Et où en est-on réellement en France vis-à-vis de l’utilisation de la reconnaissance faciale ?

Décryptage avec Martin Drago, chargé d’analyses juridiques et politique pour La Quadrature du Net, l’association de défense des droits et libertés des citoyens sur Internet, et Guillaume Vassault-Houlière, CEO de la plateforme de bug bounty Yes We Hack. […]

https://www.frenchweb.fr/decode-reconnaissance-faciale-une-technologie-q…

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[BFM/RMC] ‘Une arnaque totale !’ : la Cnil retoque un projet de reconnaissance faciale dans les lycées

La Cnil a jugé illégale la mise en place de portiques de reconnaissance faciale dans les lycées, destinés à empêcher les intrusions et les usurpations d’identité. […]

Une victoire pour Arthur Messaud, juriste au sein de l’association « La quadrature du Net », qui défend les droits et libertés sur internet: « Ce qui nous peine le plus c’est de voir que les enfants sont instrumentalisés pour rendre acceptable une technologie parce qu’on prétend que c’est pour les protéger et que la technologie est pour les plus faibles« . […]

https://rmc.bfmtv.com/emission/une-arnaque-totale-la-cnil-retoque-un-pro…

NDLRP – Vidéo à retrouver aussi sur le Peertube de La Quadrature du Net :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[FranceInfo] Reconnaissance faciale : ‘Il va falloir qu’on arrête de considérer les citoyens comme des cobayes’, estime La Quadrature du Net

La Cnil s’oppose à l’expérimentation du dispositif dans deux lycées à Nice et Marseille. Benoît Piedallu, membre de La Quadrature du Net juge que « cette technologie est inacceptable dans notre champ politique » et « ne doit pas être utilisée« . […]

La reconaissance faciale à l’entrée des lycées porte une atteinte trop grande à la vie privée selon la Cnil, le gendarme français des données personnelles, qui s’oppose mercredi 30 octobre à une expérimentation qui devait avoir lieu dans deux lycées de la région Paca, à Nice et à Marseille. « Il va falloir qu’on arrête de considérer les citoyens comme des cobayes« , estime mercredi 30 octobre sur franceinfo Benoît Piedallu, membre de la Quadrature du Net, l’une des associations qui ont formé un recours contre ce dispositif. […]

https://www.francetvinfo.fr/economie/emploi/metiers/armee-et-securite/re…

NDLRP – Intervention à retrouver aussi sur le Peertube de La Quadrature du Net :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[Usbek&Rica] Données biométriques : menace ou sécurité ?

Reconnaissance faciale, empreinte digitale, reconnaissance vocale… Quels risques représentent vraiment les données biométriques ? Comment les prévenir ? Et la biométrie pourrait-elle être utilisée à des fins de sécurité dans un cadre protégé ? À l’occasion des Assises de la Sécurité, rendez-vous annuel des experts de la cybersécurité qui s’est tenu du 9 au 12 octobre à Monaco, nous avons tenté de faire le point sur le sujet. […]

Une réflexion d’autant plus cruciale que se pose aussi la question de l’efficacité-même des dispositifs biométriques. Dans une tribune publiée dans Le Monde, le juriste Martin Drago et le chercheur Félix Tréguer, s’inquiètent ainsi d’un manque de prise de recul sur le sujet, et de garanties encore « illusoires ». « En dépit de leurs effets politiques délétères, ces coûteuses machines seront incapables d’apporter la sécurité vantée par leurs promoteurs, écrivent-ils. Les milliards d’euros dépensés depuis plus de vingt ans au nom du “solutionnisme technologique” en vogue dans les milieux de la sécurité devraient là encore nous en convaincre : la technologie s’est avérée inopérante pour enrayer les formes de violence qui traversent nos sociétés. » […]

https://usbeketrica.com/article/donnees-biometriques-menace-ou-securite

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[FranceCulture] Jusqu’où ira la reconnaissance faciale ?

#ReconnaissanceFacialePourLeMeilleurOuPourLePire |C’est une technologie déjà omniprésente en Chine. Là-bas, la reconnaissance faciale permet de payer, d’ouvrir des portes à l’hôtel mais aussi de verbaliser les piétons qui traversent au feu rouge. En France, le système s’implante petit à petit et suscite de nombreuses interrogations. […]

La Quadrature du Net a par ailleurs aussi exercé un recours devant le juge administratif contre l’expérimentation d’un portique à reconnaissance faciale souhaitée dans deux lycées de Marseille et Nice. Martin Drago, juriste à la Quadrature juge la technologie « trop attentatoire à nos libertés« , « dangereuse » car « basée sur notre corps, notre visage« . […]

https://www.franceculture.fr/emissions/hashtag/jusquou-ira-la-reconnaiss…

NDLRP – Intervention à retrouver aussi sur le Peertube de La Quadrature du Net :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[Mediapart] La Cnil juge illégale la reconnaissance faciale à l’entrée des lycées

La Région Sud avait demandé à la Cnil d’analyser son projet d’installation de dispositifs biométriques à l’entrée de deux lycées situés à Nice et à Marseille. « Ce dispositif ne saurait être légalement mis en œuvre », affirme la Commission dans sa réponse, obtenue par Mediapart. […]

Contacté par Mediapart, Martin Drago, de la Quadrature du Net, fait part de sa satisfaction. « C’est une très bonne analyse très large et contraignante de la Cnil, se réjouit-il. Mais on peut souligner qu’elle ne fait que rappeler les dispositions du RGPD et de la loi de 1978 et que cela fait des mois que nous avançons ces mêmes arguments sans succès. Cependant, la Cnil fait son travail et on ne peut que s’en réjouir. » […]

https://www.mediapart.fr/journal/france/281019/la-cnil-juge-illegale-la-…

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

Le Parlement doit rejeter le flicage fiscal des réseaux sociaux

By: marne

Le gouvernement, à travers l’article 57 du projet de loi de finances pour 2020 (PLF2020), veut permettre à l’administration fiscale et aux douanes de surveiller les plateformes Internet. Le texte est encore en discussion à l’Assemblée nationale mais cet article 57 doit être rejeté en bloc. Auditionné·es la semaine dernière à ce sujet par le rapporteur (Philippe Latombe, groupe MoDem) de la commission des lois, saisie pour avis, nous avons demandé la suppression de cet article. Notre appel n’a pas été entendu et nous le déplorons fortement. Désormais, nous appelons l’ensemble des député·es à supprimer cet article.

Ce que prévoit l’article 57 du PLF2020

L’article 57 du PLF2020 devrait permettre, en l’état actuel des discussions parlementaires, de surveiller les plateformes sur Internet (sites de e-commerce et réseaux sociaux) afin de lutter contre la fraude fiscale. Sont visés de très nombreux délits, listés de manière exhaustive par l’article de loi dont, par exemple, le fait d’omettre des éléments pour minorer son impôt, ou encore la vente illicite de produits comme le tabac. Le gouvernement veut ainsi autoriser l’administration fiscale et les douanes à collecter toutes les informations publiquement accessibles sur les plateformes en ligne, pour ensuite les faire analyser par leurs algorithmes.

La CNIL, saisie en urgence en août, a rendu un avis particulièrement critique, estimant que le texte comporte d’importants risques d’atteinte disproportionnée aux droits et libertés dont le droit à la vie privée et le droit à la liberté d’expression. Nous partageons ses craintes et sommes encore plus explicites : ces risques ne peuvent être évités d’aucune autre façon qu’en rejetant ce texte. Le gouvernement explique lui-même dans l’exposé des motifs de la loi que les données publiquement accessibles des sites web visés seront collectées « en masse » et analysées par l’administration. Cela signifie que la totalité des internautes utilisant ces sites seront potentiellement concerné·es, peu importe leur nationalité, peu importe la nature des propos tenus, peu importe que les propos aient été retirés de la place publique ensuite, peu importe l’utilité et la pertinence des données collectées. Cela signifie également que l’administration traitera des données sensibles, y compris celles pouvant révéler une opinion politique, philosophique ou religieuse, y compris des propos relatifs à l’orientation sexuelle des personnes, y compris des propos mis par erreur sur la place publique. Il est inévitable que d’une telle surveillance résultera une auto-censure. Également, puisque l’administration pourra traiter des données privées qui n’ont pas été rendues publiques par les personnes directement concernées, l’atteinte au droit à la vie privée sera massive. Ce que dira votre voisin·e pourra être retenu contre vous.

Il s’agit ici de prendre un bazooka pour tuer une mouche. Les types de délits sont précis — bien que trop nombreux — mais, pour cela, le gouvernement sort la grosse artillerie. L’outil qu’il envisage est disproportionné, avec les risques d’atteintes à nos droits et libertés qui s’en suivent.

Certes, la lutte contre la fraude fiscale est légitime et reconnue par le Conseil constitutionnel comme un objectif de valeur constitutionnelle. À ce titre, il est juridiquement possible d’admettre certaines atteintes aux droits et libertés pour poursuivre un tel objectif. Mais ce que nous propose le gouvernement est contraire à la Constitution, au droit de l’Union européenne et au droit de la CEDH. Au-delà du juridique, accepter ce texte serait une grave faute morale : il n’est pas admissible, dans une démocratie, d’accepter de surveiller toute une population pour retrouver, éventuellement, quelques fraudeur·euses.

Rejeter ce texte n’est pas un cadeau aux fraudeur·euses

Le gouvernement veut nous faire croire que cet article de loi lui permettra de découvrir des fraudeur·ses jusqu’alors inconnu·es de l’administration fiscale et douanière. Pourtant, l’exposé des motifs est laconique. Aucun chiffre, aucune évaluation. Le gouvernement est bien incapable d’estimer les effets positifs de sa mesure.

Les gains en efficacité pourraient donc être nuls, l’administration pouvant déjà faire ce travail de lutte contre la fraude fiscale correctement. Ce qui est envisagé dans le PLF2020 est déjà fait manuellement : les fonctionnaires du fisc et des douanes scrutent déjà les fraudeur·euses sur internet, manuellement, au cas par cas, et dans le respect des droits et libertés. Une analyse humaine permet de préserver la qualité de la collecte et le respect des droits de chacun·e. L’automatisation d’un tel travail risque simplement d’augmenter les faux positifs à vérifier et de détourner l’administration de sa mission concrète.

Il serait désastreux, dans un contexte de réduction drastique des effectifs chargés de la lutte contre la fraude fiscale, de laisser croire au législateur et à l’opinion publique que la surveillance généralisée et automatisée, confiée à des algorithmes approximatifs et grossiers, peut remplacer le savoir-faire de contrôleur·ses expérimenté·es.

En outre, la loi du 23 octobre 2018 de lutte contre la fraude impose déjà aux plateformes de e-commerce de transmettre au fisc et aux douanes des données relatives à l’activité commerciale des utilisateur·rices. Ces données sont limitées, contrairement au système de surveillance que veut imposer le gouvernement. Pourtant, cette loi de 2018 comportait déjà d’importants risques pour les libertés fondamentales : plutôt que de l’évaluer convenablement, d’en mesurer les risques et les bénéfices afin, éventuellement, de la remettre en cause, le gouvernement s’empresse d’y ajouter un système inutile et encore plus dangereux. Le Parlement doit s’opposer à cet empressement absurde.

La commission des lois n’a pas fait son travail

Le rapporteur de l’article 57 pour la commission des lois, Philippe Latombe, a rendu un avis le 28 octobre 2019 dans lequel il recommandait à la commission la suppression de cet article. Pour lui, l’atteinte aux droits et libertés était disproportionnée à l’objectif poursuivi. C’était également son discours la semaine dernière lorsqu’il nous a reçu·es.

Mais, devant ses collègues de la commission des lois, changement de ton : certes, le texte est toujours une atteinte disproportionnée, mais il n’était désormais plus question de le supprimer. Le rapporteur a retiré son amendement de suppression et donné un avis défavorable à celui, identique, de ses collègues du groupe LR. Il a appelé, à travers des amendements presque tous rejetés, à augmenter l’encadrement de cette surveillance, sans s’y opposer par principe.

Le rapporteur l’avait annoncé au début de la séance de la commission des lois : s’il n’est pas possible de mieux encadrer le texte lors des travaux de sa commission, il proposera un amendement de suppression pour la séance en hémicycle. Nous attendons donc désormais des actes : non seulement cet article existe toujours dans l’avis de la commission des lois, mais les quelques modifications apportées ne changeront rien à la gravité des atteintes aux droits et libertés.

Dans l’avis de la commission des lois, les données inutiles (et potentiellement sensibles car relatives aux opinions politiques, religieuses, philosophiques, à l’orientation sexuelle, etc.) sont toujours conservées 30 jours alors que l’administration n’a pas le droit de les collecter. Les données rendues publiques par d’autres personnes que celles concernées sont toujours exploitables. L’intelligence artificielle (alors même que ses résultats ne sont pas reproductibles car fortement dépendants de la manière dont l’algorithme a été entraîné) est toujours permise, et même envisagée si l’on en croit la majorité présidentielle. Les personnes trouvées par l’algorithme ne sont toujours pas notifiées. L’administration n’est toujours pas soumise à un contrôle extérieur de sa manière de collecter et de traiter les données. L’algorithme utilisé n’est toujours pas transparent.

Mais il importe probablement assez peu que toutes ces choses ne soient pas corrigées : c’est le principe même de cet article qu’il faut rejeter. Il est présenté comme une « expérimentation » dont le but est d’évaluer les risques et bénéfices de la pratique qu’il autorise. En vérité, il ne s’agit en rien d’une expérimentation : déployée pendant 3 ans sur l’ensemble du territoire et des sites concernés, contre toute la population, il s’agit d’une pure et simple autorisation. Un blanc-seing donné avant toute évaluation concrète, et donc toute discussion possible — l’inverse de la logique du RGPD et du débat démocratique. La commission des lois aurait dû rejeter le texte pour cette seule raison.

Elle a seulement proposé, dans son avis, de limiter cette surveillance aux sites de e-commerce, alors qu’étaient auparavant également visés les réseaux sociaux. Cette limitation est largement insuffisante puisque l’objectif du gouvernement est de surveiller les communications publiques. La suppression de l’article est la seule issue satisfaisante.

Les discussions en commission des lois ont montré un groupe MoDem sans aucun courage et un groupe LaREM hostile à tout encadrement. Le groupe présidentiel veut imposer coûte que coûte cette surveillance de masse. La stratégie du rapporteur en commission des lois était surprenante, puisqu’il relevait lui-même dans son rapport les risques d’absence de conformité à la Constitution, au droit de l’Union européenne, et à la CEDH. Nous attendons que, face à ce blocage du groupe LaREM en commission des lois, le rapporteur et son groupe MoDem actent de l’impossibilité d’encadrer cet article et proposent la suppression de l’article 57 du PLF2020.

C’est désormais au tour de la commission des finances d’étudier cet article. La commission des lois a été incapable de comprendre l’erreur que serait l’adoption de cet article. Nous appelons la commission des finances à le supprimer.

L’écoute des plateformes reste un outil de surveillance de masse. Autoriser son utilisation pour lutter contre la fraude fiscale n’est que la première étape d’un plan de surveillance globale de la population. Demain, cette méthode pourrait être utilisée pour repérer la fraude aux allocations, pour identifier des résidents étrangers ou encore faire du fichage politique — si ce n’est pas déjà le cas.

[Marianne] Lancement de la reconnaissance faciale en France : mais qu’allons-nous faire dans cette galère ?

Alicem, le projet d’identification par reconnaissance faciale de l’Etat français, est attendu dans les mois à venir. Curieux, que la France se porte à la pointe d’une telle technologie tandis qu’en Californie, par exemple, plusieurs villes interdisent déjà son usage par les services publics au nom des libertés civiles… […]

Encore en phase de test, Alicem attise déjà les inquiétudes. Le 15 juillet, La Quadrature du Net a déposé un recours devant le Conseil d’Etat pour annuler le dispositif. L’association de défense des libertés sur Internet s’alarme du traitement des données biométriques (c’est-à-dire des caractéristiques physiques propres à un individu) « ayant pour objectif avoué d’identifier chaque personne sur Internet pour ne plus laisser aucune place à l’anonymat« . Avant même la publication du décret introduisant Alicem, en octobre, la Commission nationale de l’informatique et des libertés (Cnil) avait elle aussi rendu un avis sceptique, s’alarmant déjà de l’absence d’alternative à l’identification par reconnaissance faciale sur le portail. Une telle mise en œuvre, prévenait la Cnil, serait non-conforme au règlement européen de protection des données (RGPD), entré en application en mai 2018. […]

https://www.marianne.net/societe/lancement-de-la-reconnaissance-faciale-…

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[France24] Reconnaissance faciale : la résistance s’organise

Vous connecter aux impôts, à la sécurité sociale ou encore à la caisse de retraite grâce à votre visage : en France, ce sera possible dès janvier 2020. Une première en Europe. Mais la reconnaissance faciale n’est pas du goût du tout le monde. De Paris à Hong Kong, en passant par San Francisco, associations, artistes et startups organisent la résistance. Quadrature du Net dénonce notamment une banalisation du recours à l’identification faciale. Son juriste, Martin Drago, nous en dit plus. […]

https://www.france24.com/fr/20191018-tech24-reconnaissance-faciale-alice…

NDLRP – Extrait vidéo à retrouver aussi sur le Peertube de La Quadrature du Net :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[DigitalSociety] « La défense du projet émancipateur lié à Internet a échoué »

Chercheur et militant, Félix Tréguer a longtemps cru dur comme fer aux pouvoirs émancipateurs de l’Internet. Aujourd’hui, l’enthousiaste des années 2000 est devenu technocritique. Pour comprendre comment le médium de tous les possibles des années 1990 est devenu si intrinsèquement lié à la surveillance, il a adopté une démarche d’historien. Il en a tiré une thèse et un ouvrage passionnant, L’Utopie déchue : une contre-histoire d’Internet (Fayard). Entretien. […]

https://digital-society-forum.orange.com/fr/les-actus/1252-la-defense-du…

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

Lycées Nice Marseille : première victoire contre la reconnaissance faciale

By: martin

La CNIL vient de rendre un avis déclarant que le système de reconnaissance faciale dans deux lycées de la région Sud « ne saurait être légalement mis en œuvre ». La CNIL ne propose pas de correctif et rejette par principe le dispositif. Cette première victoire contre la reconnaissance faciale en France ne peut que nous rendre optimistes dans la lutte qui nous oppose aux systèmes déjà existants (comme la reconnaissance faciale dans les aéroports via PARAFE) ou futurs (l’application d’identité numérique Alicem).

Nous en parlions encore la semaine dernière : en décembre 2018, le conseil de la région Sud a autorisé une expérimentation pour installer des portiques de reconnaissance faciale dans deux lycées, Les Eucalyptus à Nice et Ampère à Marseille. Cette expérimentation est entièrement financée par l’entreprise américaine Cisco qui profite ici de la politique sécuritaire des élus locaux pour tester ses technologies de surveillance sur les lycéens de l’établissement. L’objectif affiché par le conseil régional, et en particulier par son président Christian Estrosi, était d’étendre, au terme de cette expérimentation, ce dispositif à l’ensemble des lycées de la région.

En février 2019, La Quadrature du Net, la Ligue des Droits de l’Homme, CGT Educ’Action des Alpes-Maritimes et la Fédération des Conseils de Parents d’Élèves des écoles publiques des Alpes-Maritimes ont déposé un recours devant le tribunal administratif de Marseille pour demander l’annulation de cette délibération. Les arguments s’appuient essentiellement sur le règlement général sur la protection des données personnelles (RGPD) : absence d’analyse d’impact en amont du processus, absence de cadre juridique à la reconnaissance faciale, traitement des données biométriques manifestement disproportionné par rapport à l’objectif poursuivi…

C’est ce dernier argument qu’a repris la CNIL dans le cinglant avis qu’elle a rendu aujourd’hui : « Les dispositifs de reconnaissance faciale envisagés, quand bien même ceux-ci seraient mis en œuvre à titre expérimental et reposeraient sur le consentement des élèves, pour contrôler l’accès à deux lycées de votre région, ne sont pas conformes aux principes de proportionnalité ».

La CNIL considère en effet que la finalité de ce système de reconnaissance faciale, qui consiste soi-disant à « sécuriser et fluidifier les entrées au sein des deux lycées », aurait pu être « raisonnablement atteinte par d’autres moyens » tels que « la présence de surveillants à l’entrée des lycées ».

C’est le principe même de la reconnaissance faciale qui pourrait être ainsi rejeté : trop dangereux pour nos libertés, ces systèmes automatisés devraient toujours être écartés au profit de pratiques humaines1Même si la CNIL met en avant la présence de surveillants humains en alternative préférable à la reconnaissance faciale, il faut regretter qu’elle propose aussi, comme exemple d’alternative à la reconnaissance faciale, le recours à un système de badges qui causerait pourtant, lui aussi, une atteinte excessive et non nécessaire à la vie privée des lycéens..

Il ne s’agit ici que d’un avis de la CNIL : la région peut toujours décider de ne pas le respecter et de continuer son expérimentation. Néanmoins, il serait très risqué pour la Région de ne pas en tenir compte, et cela notamment au vu de la conclusion de l’autorité qui a clairement énoncé que : « il résulte de cet examen que ce dispositif ne saurait être légalement mis en œuvre ». Et même dans le cas où la Région passerait outre, nous ne manquerions pas d’utiliser cet avis dans le contentieux qui nous oppose à elle devant le tribunal administratif de Marseille.

Hélas, l’autorisation de la CNIL n’est plus requise depuis le RGPD pour autoriser de tels systèmes, et nous devrons saisir la justice chaque fois qu’une région ou une administration décidera de violer la loi de nouveau. Toutefois, il faut anticiper que le gouvernement pourra difficilement se satisfaire de cette situation et qu’il devra réagir. L’avis de la CNIL conteste largement la légalité de sa stratégie en matière de reconnaissance faciale, qu’il s’agisse de son projet d’identification en ligne Alicem ou même de systèmes plus anciens, telle que la reconnaissance faciale dans les aéroports (via PARAFE) contre laquelle s’appliqueraient à l’identique les reproches retenus aujourd’hui par la CNIL contre les lycées.

Certes, la décision d’aujourd’hui semble tardive : elle n’intervient qu’après de multiples appels des défenseurs des libertés. La CNIL n’a eu qu’à rappeler la lettre du RGPD, chose qu’on attendrait plus souvent de sa part. Mais cette décision est suffisamment ferme pour stopper les velléités de recourir à la reconnaissance faciale et pour contraindre l’État à légiférer s’il veut poursuivre sa stratégie. La bataille sera ardue, et nous sommes nombreu·ses à l’attendre de pied ferme.

Rejoignez nous sur Technopolice.fr pour documenter et lutter contre l’usage policier des nouvelles technologies.

References   [ + ]

1. Même si la CNIL met en avant la présence de surveillants humains en alternative préférable à la reconnaissance faciale, il faut regretter qu’elle propose aussi, comme exemple d’alternative à la reconnaissance faciale, le recours à un système de badges qui causerait pourtant, lui aussi, une atteinte excessive et non nécessaire à la vie privée des lycéens.

Pour imposer la reconnaissance faciale, l’État et les industriels main dans la main

By: martin

Nous republions la tribune de Félix Tréguer et Martin Drago parue dans Le Monde du 25 octobre 2019.

L’inévitable débat sur la reconnaissance faciale arrive enfin en France, et le gouvernement esquisse sa réponse. Dans un entretien paru dans Le Monde du 15 octobre, le secrétaire d’Etat au numérique Cédric O, ancien cadre du groupe Safran, a notamment estimé qu’« expérimenter » la reconnaissance faciale était « nécessaire pour que nos industriels progressent ».

Mais cette prise de parole au plus haut niveau politique n’est que la partie émergée de l’iceberg. Car depuis des mois, notes et rapports officiels se succèdent pour souligner le défi que constitue l’« acceptabilité sociale » de ces technologies. Pour leurs auteurs, l’objectif est clair : désarmer les résistances à ces nouvelles modalités d’authentification et d’identification biométriques dont la prolifération est jugée inéluctable, et permettre à des industriels français comme Thales ou Idemia [une entreprise de sécurité numérique] de se positionner face à la concurrence chinoise, américaine ou israélienne.

L’enjeu est d’autant plus pressant que, contrairement à ce que laisse entendre Cédric O, les dispositifs de reconnaissance faciale sont déjà en place sur le territoire français. Depuis plusieurs années, des entreprises développent et testent ces technologies grâce à l’accompagnement de l’Etat et l’argent du contribuable. Le tout sans réel encadrement ni transparence.

La campagne participative de recherche-action Technopolice.fr, lancée début septembre par des associations de défense des libertés, a commencé à documenter les projets lancés au niveau national et local – à Paris, Nice, Marseille, Toulouse, Valenciennes et Metz notamment. Outre la reconnaissance faciale, d’autres applications greffées aux flux de vidéosurveillance et fondées elles aussi sur des techniques d’« intelligence artificielle » font également l’objet d’expérimentations, comme l’analyse des émotions ou la détection de « comportements suspects ».

« Rassurer » l’opinion publique

Alors, face aux oppositions portées sur le terrain et jusque devant les tribunaux par les collectifs mobilisés contre ces déploiements, les représentants de l’Etat et les industriels font front commun. Leur but n’est pas tant d’expérimenter que de tenter de « rassurer » l’opinion publique, le temps d’œuvrer à la banalisation de ces technologies et de mettre la population devant le fait accompli.

Les garanties mises en avant dans la communication gouvernementale – instance de supervision sous l’égide de la Commission nationale de l’informatique et des libertés (CNIL), pseudo-consultation et adoption future de règles juridiques qui dessineraient un modèle « acceptable » de reconnaissance faciale « à la française » – sont tout bonnement illusoires. L’histoire récente l’illustre amplement. La loi « informatique et libertés », adoptée en 1978 en réaction aux premiers scandales liés au fichage d’Etat, n’a de toute évidence pas permis, comme c’était pourtant son objectif, de juguler l’avènement d’une société de surveillance.

Pire, dans ce domaine, la CNIL a vu ses pouvoirs systématiquement rognés depuis quinze ans, donnant le change à des présidents successifs ayant souvent contribué à cette impuissance. Quant à l’exemple des fichiers de police, il suffirait à démontrer que, même une fois inscrites dans la loi, les dispositions destinées à protéger les droits fondamentaux sont systématiquement contournées.

Or ces technologies biométriques augurent un changement de paradigme dans l’histoire de la surveillance. A terme, elles reviennent à instaurer un contrôle d’identité permanent et généralisé, exigeant de chaque personne qu’elle se promène en arborant une carte d’identité infalsifiable, qui pourra être lue sans qu’elle ne le sache par n’importe quel agent de police. L’histoire devrait nous servir de leçon : si nos grands-mères et nos grands-pères avaient dû vivre au début des années 1940 dans un monde saturé de tels dispositifs, ils n’auraient pas pu tisser des réseaux clandestins capables de résister au régime nazi.

Déshumaniser les rapports sociaux

En dépit de leurs effets politiques délétères, ces coûteuses machines seront incapables d’apporter la sécurité vantée par leurs promoteurs. Les milliards d’euros dépensés depuis plus de vingt ans au nom du « solutionnisme technologique » en vogue dans les milieux de la sécurité devraient là encore nous en convaincre : la technologie s’est avérée inopérante pour enrayer les formes de violence qui traversent nos sociétés. Sous couvert d’efficacité et de commodité, elle conduit à déshumaniser encore davantage les rapports sociaux, tout en éludant les questions politiques fondamentales qui sous-tendent des phénomènes tels que la criminalité.

C’est pourquoi, contre cette offensive concertée de l’Etat et des industriels qui, à tout prix, cherchent à imposer la reconnaissance faciale, nous devons dire notre refus. Aux Etats-Unis, après les mobilisations citoyennes, plusieurs municipalités, ainsi que l’Etat de Californie, ont commencé à en proscrire les usages policiers.

A notre tour, nous appelons à l’interdiction de la reconnaissance faciale.

Le Conseil d’État autorise la CNIL à ignorer le RGPD

By: arthur

Hier, le Conseil d’État a rejeté notre demande contre la CNIL en matière de consentement au dépôt de cookie. En sous-titre, le Conseil d’État pourrait désavouer la CNIL dans son rôle de protectrice des libertés, réservant ce rôle aux seuls juges judiciaires.

Ce revirement historique s’inscrit dans une série de démissions opérées ces derniers mois par la CNIL. Il est urgent d’exiger collectivement que celle-ci redevienne ce pour quoi elle a été créée : pour nous défendre du fichage d’entreprises et de l’État.

La décision

En juillet 2019, la CNIL publiait (enfin !) de nouvelles lignes directrice pour rappeler que le RGPD, en application depuis mai 2018, exige que le dépôt de cookie et autres traceurs se fasse avec notre « consentement explicite ». Les bandeaux du type « En poursuivant votre navigation sur ce site, vous acceptez d’être surveillé⋅e – Ok » sont illégaux. Toutefois, la CNIL annonçait en même temps qu’elle ne sanctionnerait cette illégalité qu’après mi-2020.

Nous avons attaqué cette décision devant le Conseil d’État, qui vient de rejeter notre demande. Il considère que la décision de la CNIL n’est pas une violation excessive du RGPD : le délai d’un an ne serait pas si long, et la CNIL continuerait de sanctionner d’autres atteintes au RGPD. Certes, mais le caractère explicite du consentement a été une des rares avancées du RGPD, qui se trouve de facto privée d’effet pendant deux ans (de mai 2018 à juillet 2020).

Que dire à toutes les entreprises qui ont investi pour se mettre entièrement en conformité au RGPD dès 2018 ? Si ces règles sont systématiquement repoussées, comment faire peser une menace sérieuse contre toutes les autres entreprises qui, elles, n’ont jamais respecté le RGPD ? Rien. Le Conseil d’État ne répond même pas à ces questions.

Une autorité administrative est désormais capable de décider seule qu’une règle votée par des élu·es ne s’appliquera à personne pendant un an.

Le juge judiciaire, voie de secours

Le Conseil d’État ne détaille pas beaucoup son raisonnement dans sa décision, mais celle-ci suit fidèlement les conclusions présentées par son rapporteur public lors de l’audience du 30 septembre. Le rapporteur public est un membre du Conseil d’État qui assiste celui-ci en analysant les affaires et en lui proposant une solution, généralement suivie, comme c’est le cas ici.

À l’audience, donc, le rapporteur public a extensivement détaillé son raisonnement. Parmi les éléments qui l’ont convaincu de conclure au rejet de notre demande, et ce après de multiples hésitations clairement exprimées, il a invoqué un argument particulièrement surprenant et intéressant. Est-il vraiment si grave que la CNIL renonce à ses pouvoirs de sanction si, dans le même temps, l’autorité judiciaire peut aussi sanctionner les mêmes manquements ? Autrement dit, est-il grave qu’une autorité établie pour s’acquitter d’une tâche se donne le droit d’y renoncer si une autre autorité est compétente ?

En effet, le code pénal, par ses articles 226-16 à 226-24, sanctionne lourdement un certain nombre d’infractions qui, ensemble, couvrent une large partie des compétences de la CNIL. En plus du juge pénal, le juge civil est aussi compétent pour ordonner à une entreprise de cesser une atteinte au RGPD.

Somme toute, voilà un argument qui n’est pas si absurde : la CNIL peut bien renoncer à sa mission historique, qu’importe, nous pouvons toujours saisir la justice pour défendre nos libertés.

Mais quel abandon ! La CNIL a remis sa lettre de démission, nous l’avons contestée devant le Conseil d’État. Celui-ci l’a malheureusement acceptée, considérant que ses services n’étaient plus requis…

C’est d’ailleurs ce que vient confirmer une phrase très explicite de la décision du Conseil d’État qui considère que « l’exercice du pouvoir de sanction ne serait, en tout état de cause, pas susceptible de faire respecter plus rapidement » le RGPD. Comprendre : selon le Conseil d’État, le pouvoir de sanction de la CNIL ne serait pas requis pour faire respecter les droits auxquels elle a pourtant la charge de veiller.

Une série du démissions

Cette démission n’a rien de surprenant. Depuis un an, l’autorité enchaîne les renoncements à sa mission.

Notre plainte collective de plus de 10 000 personnes contre Google, après avoir entraîné une première et relativement faible sanction de 50 millions d’euros, semble au point mort. La CNIL est manifestement incapable de se décider à confier ou non l’affaire à son homologue irlandaise, alors même que celle-ci croule sous les affaires visant les géants du Web en dépit de ses effectifs encore plus réduits qu’en France.

Alors que la reconnaissance faciale commence à être expérimentée et installée un peu partout en France, la CNIL s’est empressée d’exiger un débat public sur la question, comme si elle renonçait par avance à mener ici la défense de nos libertés. Son renoncement s’est depuis confirmé. Quand la ville de Nice a annoncé déployer cette technologie au cours de son carnaval, au mépris de la loi, la CNIL s’est contentée d’un simple tweet réprobateur… Quand, à Nice ou à Marseille, la reconnaissance faciale a été annoncée pour s’imposer à des lycéens, elle s’est contentée de conseiller et d’accompagner.

Quand le gouvernement a adopté son décret Alicem en dépit de l’avis négatif de la CNIL, celle-ci s’en est tenue là (voir notre article). Elle a refusé d’utiliser le pouvoir que lui confère l’article 58, §5, du RGPD de saisir la justice pour faire annuler ce décret. À la place, elle a préféré laisser partir au front une petite association de six salarié⋅es (La Quadrature du Net) pour attaquer Alicem afin, ensuite, tel que nous l’avons appris avant-hier, de venir se greffer à la procédure en tant qu’« observatrice ».

Sur tous les fronts, la CNIL semble avoir abandonné son rôle de gendarme, ce que la décision du Conseil d’État confirme.

Quel avenir pour la CNIL ?

La tentation est grande d’oublier la CNIL et de ne plus se tourner que vers la justice pour faire appliquer le RGPD. L’option est clairement envisageable au moins en matière de cookies et de traceurs en ligne. Le rapporteur public du Conseil d’État nous y a clairement invité. Nous y reviendrons sûrement bientôt.

Toutefois, faut-il définitivement enterrer la CNIL ? Nous espérons qu’elle soit encore utile dans la bataille qui s’ouvre contre la reconnaissance faciale. Qu’elle soit utile pour faire appliquer le RGPD au sein de l’Union européenne, notamment pour imposer sa vision historiquement forte des libertés (en théorie du moins…) à ses homologues européens, dont certains seraient tentées de s’offrir en forum shopping aux GAFAM et ce contre quoi la justice seule ne peut rien. Dans tous les cas et quel que soit le sujet, mettre tous nos œufs dans l’unique panier judiciaire serait un pari bien risqué.

Si enterrer la CNIL n’est pas une option idéale, l’urgence serait donc de la sortir de sa torpeur. C’est ainsi, notamment, que nous avons accepté l’invitation de la CNIL de participer depuis deux mois à l’élaboration de ses nouvelles recommandations en matière de consentement aux cookies. Oui, ces mêmes recommandations qui détermineront la fin du « blanc-seing » que nous attaquions au même moment devant le Conseil d’État. Nous exigeons que les autorités mises en places pour faire respecter nos libertés fondamentales fassent leur travail et fassent appliquer la loi.

Si notre attitude peut sembler paradoxale, elle marque surtout notre refus d’accepter les pires situations. La lâcheté récurrente des dirigeant·es de la CNIL est aussi la conséquence des manques de moyens chroniques de l’administration et de la diminution récente de ses pouvoirs par la loi. Nous serons moins lâches que ses dirigeant·es et ne démissionnerons pas de notre volonté de la rappeler à l’ordre aussi régulièrement et fermement qu’il le faudra. Nous espérons que le contentieux qui vient de s’achever devant le Conseil d’État, même si nous l’avons formellement perdu, y aura contribué.

[RevueProjet] Okhin, hacker battant

Okhin est un « hacktiviste » : il détourne, contourne, défait les systèmes qui contreviennent aux libertés des citoyens sur Internet. Pour tenter de changer le monde avec des lignes de code. […]

Grand et fin, une casquette de la NSA sur sa crête de cheveux orangés, Okhin parle vite, très vite. Il dénote quelque peu dans les locaux sages de la Revue Projet. Entre deux gorgées de café, il raconte l’univers dans lequel il évolue depuis presque vingt ans, du ministère de l’Intérieur à la Quadrature du Net. Il parle de ses engagements, de ses victoires, de ses coups durs… Bienvenue dans le monde des pirates informatiques ! […]

https://www.revue-projet.com/articles/2019-09-de-mullenheim-okhin-hacker…

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

[LaReleveetlaPeste] Un logiciel de reconnaissance faciale déployé par le gouvernement va arriver en France

Conçue par le ministère de l’Intérieur, Alicem est une application mobile destinée à s’identifier via une photo ou vidéo pour faire ses démarches administratives. […]

« Sur Alicem, la CNIL (le gendarme des données personnelles) a bien dit que le décret n’est pas conforme à la loi, donc illégal. Pourtant, le gouvernement a quand même lancé son utilisation. Et la CNIL, plutôt que de saisir le Conseil d’Etat, n’a rien fait. Elle n’a pas rempli sa mission. C’est pourquoi la Quadrature du Net a déposé un recours devant le Conseil d’Etat pour demander l’annulation du décret en juillet. » explique Arthur Messaud, juriste pour La Quadrature du Net, à La Relève et La Peste. […]

https://lareleveetlapeste.fr/un-logiciel-de-reconnaissance-faciale-deplo…

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

❌