Des émojis coup de poing pour se protéger de la reconnaissance faciale
Depuis le résurgence du mouvement Black Lives Matter, on a pu constater que les forces de l'ordre américaines n'hésitent pas à recourir à des contenus partagés sur les réseaux sociaux pour identifier les personnes qui participent aux manifestations contre les violences policières et les arrêter. Certaines personnes inquiètent de se faire arrêter renoncent à participer à ces manifestations et à exercer leurs droits civiques par la même occasion.
Pour tenter de protéger les manifestants qui sont pris en photo et empêcher les dispositifs de reconnaissance faciale de faire matcher les photos avec les informations conservées dans des bases de données, des chercheurs de Stanford ont développé une intelligence artificielle open source qui remplace les visages des manifestants par un émoji poing.
L'outil a recours à de la détection faciale pour remplacer le visage par un émoji. Cette méthode présente l'avantage de ne pas avoir à identifier les personnes qui sont sur les photos. L'algorithme a été entraîné à partir d'un échantillon de 1,2 millions de personnes.
The model we use in this work has been trained on over 1.2 million people in the open-sourced research dataset, called QNRF, with crowds ranging from the few to the the thousands. False negatives are the worst error in our case.
Les porteurs de ce projet rappellent que leur méthode par ajout d'un émoji est plus efficace que les méthodes d'anonymisation qui floutent les visages des personnes. En effet, des méthodes pour décoder et déflouter les photos peuvent révéler l'identité des personnes.
Computer scientists have tried to mitigate this threat by using blurring and pixelation techniques to hide the faces of demonstrators. But these masking methods can’t always protect protestors from facial recognition; machine learning methods can decode and unblur the images to reveal their concealed face.
Evidemment, cet outil n'est pas infaillible et l'identification d'un individu peut-être effectuée en recoupant plusieurs photos. Les vêtements ou tout autre élément distinctif peuvent compromettre l'anonymat des manifestants.
Blocking out the face offers a great form of anonymization; nevertheless, this cannot be mistaken for complete foolproof anonymity, e.g. if someone is wearing a t-shirt with their SSN or if they are not anonymized in another image and identity could be triangulated through similar clothing and surroundings. It may be self-evident, but this tool is not perfect, so please lend a careful and caring eye to ensuring faces are masked before sharing photos.
Enfin, pour protéger votre vie privée pendant les manifestations, n'hésitez pas à réécouter ce podcast d'Hackstock
BLM Privacy est disponible ici
#BlackLivesMatter #ReconnaissanceFaciale
Source : The Next Web / BLM Privacy
La police de San Francisco utilise un réseau de caméras privées pour surveiller des manifestants
L'EFF a mis la main sur des mails qui prouvent que la police de San Franciso (SFPD) a noué un partenariat avec un tiers pour accéder à distance à son réseau de caméras afin de surveiller des individus ayant participé aux manifestations en soutien au mouvement Black Lives Matter.
But a report from the Electronic Frontier Foundation, a digital privacy advocacy group, shows that the San Francisco Police Department gained remote access to this private camera network for days at a time during protests in late May and early June.
Bien que problématique, le fait que la police utilise des outils de surveillance de masse pour identifier un ou quelques individus dans des manifestations n'a rien de nouveau. Cependant, au regard du contexte législatif de San Francisco, les méthodes de la police locale ont de quoi interroger. En effet, depuis une modification récente de sa législation, San Francisco a interdit à la police de pouvoir surveiller en direct les individus. Les forces de l'ordre doivent respecter une procédure spécifique pour obtenir un accès à des dispositifs de surveillance appartenant à un tiers. Or en l'espèce, la SFPD est allée frapper directement à la porte de l'entreprise qui gère le réseau de caméras.
'The police can’t monitor it live, it’s actually against the law in San Francisco,” Larsen told ABC7. “They have to make a request just like anybody else.”
Le recours à ce genre de méthodes pour tenter d'identifier un individu ou un groupe de personnes pose réellement la question de la violation de la vie privée et des libertés fondamentales des personnes qui exercent leur droit à manifester. A travers ces enregistrements vidéos, ces derniers peuvent être identifiés et la participation à un mouvement de contestation peut leur être reproché. La présence de dispositifs de surveillance et d'identification peut dissuader des personnes à participer à des manifestations par peur de représailles.
#Videosurveillance #BlackLivesMatter
Source : San Francisco Public Press
Quand Twitter aide la police à surveiller des militants du mouvements Black Lives Matter
The Intercept vient de publier une enquête qui révèle que la société Dataminr, spécialisée dans l'intelligence artificielle et l'analyse de données, aurait contribué à aider la police de plusieurs états américains à surveiller les manifestants qui ont participé au mouvement de lutte contre les violences policières Black Lives Matter.
the company has facilitated the surveillance of recent protests, including nonviolent activity, siphoning vast amounts of social media data from across the web and converting it into tidy police intelligence packages
Pour y parvenir, la société Dataminr analyse les tweets qui sont publiés sur la plateforme de Jack Dorsey et communique ensuite les informations aux autorités. Bien évidemment, l'entreprise nie cette pratique et a déjà affirmé par le passé que le tracking et la surveillance d'activistes était formellement interdite et inacceptable.
The company sought to assure the public that attempts to monitor its users for purposes of surveillance were strictly forbidden under its rules, and that any violators would be kicked off the platform. For example, then-VP Chris Moody wrote in a company blog post that “using Twitter’s Public APIs or data products to track or profile protesters and activists is absolutely unacceptable and prohibited.”
Les promesses n'engagent que ceux qui y croient et Dataminr s'est appliquée à donner du sens à cet adage. L'enquête de The Intercept démontre que l'entreprise, malgré ses déclarations, continuait à bénéficier de son accès privilégié à Twitter pour communiquer des informations à la police comme par exemple un rassemblement, le parcours d'une manifestation ou l'organisation qui est à l'initiative d'un événement :
In so doing, it used to great effect its privileged access to Twitter data — despite current terms of service that explicitly bar software developers “from tracking, alerting, or monitoring sensitive events (such as protests, rallies, or community organizing meetings)” via Twitter.
Dataminr se défend évidemment de collaborer avec les forces de police et d'être un acteur de la surveillance des manifestants. Pour l'entreprise, collecter et fournir des tweets sur des citoyens ne s'apparente pas à de la surveillance mais plutôt à une forme de collecte d'informations “idéologiquement neutre”.
Wilcox’s defense of Dataminr was based mostly on a sort of linguistic distinction: that relaying data to the police isn’t a form of surveillance, but a form of ideologically neutral newsgathering
Mais le cynisme de l'entreprise ne semble pas s'arrêter à ce genre d'euphémisme. Un des responsables de l'entreprise explique que cette activité n'est absolument pas contraire aux libertés individuelles. Selon lui, le fait de collecter des informations sur des événements politiques ne contribue pas à porter atteinte à la liberté d'expression ni à celle celle de se rassembler. Même quand ils sont pris en flagrant délit, ils continuent de nier. Quand on leur montre une capture d'écran d'un tweet transmis à la police de Minneapolis concernant l'emplacement exact d'un groupe de manifestants, les représentants de l'entreprise se défendent en expliquant qu'ils ont souhaité avertir les autorités des problèmes de circulation que cela provoquait et non les manifestants.
Cette rhétorique n'est qu'un verni pour couvrir la malhonnêteté de l'entreprise et son rôle dans la surveillance des manifestants.
In response to a screenshot copy of the tweet Dataminr forwarded to Minneapolis police regarding the exact location of a group of protesters, McGee claimed that this was flagged for the department because it showed traffic problems, not protesters. “Alerts on an intersection being blocked are news alerts, not monitoring protests or surveillance,” said McGee.
Le capitalisme de surveillance a encore de beaux jours devant lui.
#BlackLivesMatter
Source : The Intercept
Méconnaissance faciale : une technologie de surveillance viciée
La reconnaissance faciale a du plomb dans l'aile. Depuis le sursaut citoyen de dénonciation des violences policières incarnées par le mouvement Black Lives Matter, plusieurs villes américaines comme Boston ou Los Angeles ont annoncé l'arrêt de l'utilisation de cette technologie par la police. Cet outil de contrôle pose de façon évidente des problèmes en matière de vie privée. Comment faire pour s'opposer à la captation de son visage ? Mais c'est aussi une technologie qui n'est pas neutre et reproduit des biais racistes. Dans la ville de Détroit, un noir américain a fait l'objet d'une arrestation parce que l'algorithme de reconnaissance faciale l'a confondu avec une autre personne recherchée par les autorités.
Robert Williams a passé trente heures en détention parce qu’un logiciel avait jugé identique la photo de son permis de conduire et l’image d’un voleur de montres capturée par des caméras de surveillance, selon cette plainte, rapportée par l'AFP.
Cependant, ces bévues ne suffisent pas à mettre un coup d'arrêt général au développement de cette technologie. On la retrouve partout, en particulier dans les transports en commun. L'argument de la sécurité des voyageurs est souvent mise en avant par les pouvoirs publics ou les régies de transports. A São Paulo, on hésite pas de prendre les voyageurs pour des pigeons en leur vendant un outil de surveillance respectueux de la vie privée. En effet, la direction de la compagnie de transports en commun explique :
Le cadre de la future réglementation générale sur la protection des données a été le modèle utilisé pour ce projet, qui n'utilisera pas de base de données contenant des informations personnelles ni n'enregistrera d'informations personnelles, la priorité étant la sécurité des passagers de METRO.
Tout n'est pas perdu, on peut tromper la reconnaissance faciale. Dans son livre Hacker Citizen, Geoffrey Dorne fournit une astuce en mode DIY pour “aveugler” les caméras de surveillance.
D'autres astuces sont également présentées sur le site Make
#ReconnaissanceFaciale #BlackLivesMatter
Source : ZDnet
Manifestations américaines sous surveillance
Dans un article de Buzzfeed, on apprend que l'entreprise Mobilewalla est capable de dresser un portrait assez précis des personnes qui ont participé aux manifestations #BlackLivesMatter aux Etats-Unis. En effet, elle a tracé les manifestants à partir de leur localisation. Elle peut ainsi dire précisément le pourcentage de femmes ou d'hommes qui ont participé, leur tranche d'âge, s'ils sont Africains-Américains, Caucasiens, Hispaniques ou Asiatiques. Mobilewalla ne collecte pas elle-même les données. Elle les achète auprès d'autres acteurs : FAI, Data brokers, annonceurs...
Les données agglomérées par l'entreprise peuvent également être revendues au gouvernement américains ou aux services d'immigration.
Pour éviter d'être tracker et protéger sa vie privée quand on participe à une manifestation, l'épisode 13 du podcast Hackstock fournit des outils utiles.
Pour aller plus loin, l'entreprise Proton spécialisée dans les outils sécurisés et privilégiant la protection de la vie privée de ses utilisateurs a également publié un guide pour préserver sa vie privée quand on manifeste.
***
Source : BuzzFeed