Comment la police attribue-t-elle un «score de menace» sur Facebook?

Une histoire récente de Le Washington Post a donné au public un aperçu unique des capacités de surveillance des médias sociaux du service de police de Fresno, qui teste un logiciel controversé appelé Beware. La pièce a provoqué beaucoup de remous sur la prétendue prédisposition du logiciel aux violations des libertés civiles.

Mais en quoi ce programme diffère-t-il des autres activités de surveillance menées par la police sur les réseaux sociaux? Beware est-il une menace réelle pour les libertés civiles? Ou est-ce que tout cela est exagéré? Et que pouvez-vous faire pour empêcher la police de fouiller dans vos publications sur les réseaux sociaux??

Un outil évident pour les services de police

Les agents de la force publique utilisent probablement les médias sociaux pour recueillir des renseignements depuis leur adoption - même en 2006, la police avait arrêté un mineur dans le Colorado après avoir publié des photos de lui sur MySpace avec plusieurs armes à feu..

L’utilisation des médias sociaux dans les enquêtes n’est devenue plus banale que depuis, et plusieurs histoires témoignent de son efficacité. En 2014, la police de New York a saisi plus de 250 armes vendues illégalement après une vaste enquête qui a débuté lorsque les policiers ont constaté qu'un aspirant rappeur avait publié des images d'armes à feu dans son studio sur Instagram..

Il a été rapporté à de nombreuses reprises que des étudiants auraient été arrêtés pour avoir placé une bombe et d'autres menaces contre leurs écoles. De nombreuses arrestations ont eu lieu après des publications qui préconisaient des violences contre la police. Blagues à la bombe Comment utiliser Twitter sans se foutre Comment utiliser Twitter sans se foutre Twitter peut être un mystérieux contact, et il est facile de faire des erreurs de temps en temps - même si vous êtes un utilisateur de longue date. Voici quelques erreurs courantes et comment les éviter. ont abouti à des arrestations. Cela ne se limite pas aux États-Unis non plus; Au Royaume-Uni, il y a amplement de précédents pour être arrêté sur la base de quelque chose “grossièrement offensant” ou menaçant sur les médias sociaux.

Les médias sociaux sont devenus un lieu important pour les postures et les menaces de gangs, et la police dans des villes comme Chicago et New York a procédé à un nombre surprenant d'arrestations fondées sur des publications de Facebook, YouTube et Instagram dans lesquelles des membres de gangs agissent de manière illégale ou expriment leurs sentiments. intention de le faire.

Dans l’ensemble, la surveillance des médias sociaux est un choix évident pour les forces de l’ordre: si les gens publient leurs exploits illégaux sur Facebook, là où le monde entier peut les voir, il sera rentable de les surveiller..

Le problème avec Méfiez-vous: une approche algorithmique

Donc, si la police surveille les médias sociaux depuis des années, pourquoi l'approche de Fresno fait-elle la une des journaux? Une partie de la réponse réside dans le fait que Beware utilise une approche algorithmique pour surveiller les médias sociaux. De nombreux outils de surveillance des médias sociaux simplistes (même ceux utilisés par les spécialistes du marketing des médias sociaux). Votre guide pour le marketing des médias sociaux Votre assiette du marketing des médias sociaux Actuellement, les gens et les entreprises se tournent vers les médias sociaux. La concurrence est féroce et aucune entreprise ne peut perdre du temps ou de l'argent en se trompant.) Il suffit de rechercher des mots-clés spécifiques ou des modèles dans les données, ce que des agents de police font à une échelle beaucoup plus petite.

Mais méfiez-vous, lorsque l'information d'un individu donné, calcule un “score de menace” basé sur, selon le site Web d'Intrado,

… Des milliards de documents commerciaux disponibles publiquement en quelques secondes pour alerter les intervenants des situations potentiellement dangereuses alors qu'ils se dirigeaient vers une demande d'assistance 9-1-1 ou sur le lieu de celle-ci.

Les milliards de points de données proviennent de publications sur les réseaux sociaux, d'arrestations et autres archives publiques, de bases de données commerciales et de nombreux autres types de données, bien exactement d'où elles viennent et comment elles sont traduites en un score de menace vert, jaune ou rouge. est un secret commercial gardé par Intrado, le fabricant du logiciel.

La façon dont la police utilise ce système de pointage est cependant évidente: si un appelant au 911 ou une personne impliquée dans l'appel a un indice de menace jaune ou rouge, les agents seront plus prudents avant d'entrer. Ce qui pourrait très bien vouloir dire être plus armé et prêt en cas de problème, un état d'esprit qui pourrait avoir de graves conséquences pour l'appelant.

En 2007, la police enquêtait sur le vol de deux consoles PlayStation sur un campus universitaire quand elle avait découvert des images du suspect en train de poser plusieurs armes à feu sur les médias sociaux. Ils ont envoyé une équipe SWAT chez le suspect et un autre étudiant a été retrouvé mort après qu'un policier ait confondu le bruit du bélier utilisé pour faire entrer des coups de feu dans la maison. C’est exactement le genre de réponse lourdement armée basée sur des informations tirées des médias sociaux qui inquiète les gens..

le PosterL'histoire mentionne qu'une femme qui a tweeté sur le jeu Rage et un homme qui vivait dans une maison occupée auparavant par une personne d’intérêt présentait un niveau de menace élevé. Un officier en chair et en os n'aurait prêté la moindre attention à aucune de ces personnes, mais le logiciel d'Intrado pourrait mettre les officiers en colère s'ils répondaient à un appel de l'un de ces citoyens..

Ce qui inquiète beaucoup de gens, c’est que les calculs du score de menace reposent sur un algorithme développé par une seule entreprise qui ne partagera pas ses équations de si tôt - Méfiez-vous, c’est une boîte noire totale. Des algorithmes contrôlent déjà des parties importantes de notre vie 4 Des algorithmes d'apprentissage automatique qui façonnent votre vie 4 Des algorithmes d'apprentissage automatique qui façonnent votre vie Vous ne le réalisez peut-être pas, mais l'apprentissage automatique est déjà tout autour de vous et il peut exercer une influence surprenante sur votre vie . Ne me crois pas? Vous pourriez être surpris. , mais le fait qu’ils puissent maintenant nous placer dans une situation dangereuse commence à attirer l’attention des gens..

Les approches algorithmiques du maintien de l'ordre ont suscité de nombreuses critiques dans le passé, certains critiques affirmant être enclins au profilage racial, d'autres, encore, affirmant que les outils sont clairs. “raciste.” La recherche sur le sujet est peu concluante, certaines études montrant une diminution de la criminalité à court terme et d'autres ne montrant aucun effet significatif de la technologie prédictive.

Un héritage de surveillance

L'analyse de “des milliards” des points de données rappelle certains programmes antérieurs entrepris par le gouvernement américain.

Total Information Awareness (TIA) (Information Information Awareness - TIA) est une initiative entreprise par le Bureau de la sensibilisation à la sensibilisation au début des années 2000 qui a rassemblé des informations sur les achats par carte de crédit, les abonnements à des magazines, la navigation sur le Web, les courriels, les notes universitaires, les voyages, les événements juridiques et d'autres types d'informations. pour le stockage dans une base de données centrale. Même après avoir été renommée Terrorist Information Awareness, TIA a été fermée en raison de l'indignation du public à l'égard de l'idée franchement orwellienne..

L'un des projets de recherche de la DARPA Vous ne le croirez pas: la recherche future de la DARPA en ordinateurs avancés Vous ne le croirez pas: la recherche future de la DARPA en ordinateurs avancés La DARPA est l'une des parties les plus fascinantes et les plus secrètes du gouvernement américain. Voici quelques-uns des projets les plus avancés de la DARPA qui promettent de transformer le monde de la technologie. examiné un système similaire appelé LifeLog qui collecterait…

… Toutes les activités et relations d'une personne. Cela comprend les achats par carte de crédit, les sites Web visités, le contenu des appels téléphoniques et des courriers électroniques envoyés et reçus, les numérisations de télécopies et de courrier envoyé et reçues, les messages instantanés envoyés et reçus , livres et magazines lus, sélections télévision et radio, localisation physique enregistrée au moyen de capteurs GPS portables, [et] données biomédicales saisies au moyen de capteurs portables.

De toute évidence, Beware et les autres solutions de surveillance des médias sociaux ne sont pas aussi avancées et ne présentent pas le même potentiel de violation de la vie privée. Cependant, le modèle du gouvernement américain consistant à créer des logiciels violant la vie privée qui ne sont pas bien compris du public ou qui sont tenus secrets, a beaucoup de gens nerveux. Et la surveillance des réseaux sociaux par la police semble devenir un champ de bataille pour les libertés civiles.

Beaucoup de gens ont déjà pris parti. Le grand nombre de programmes de surveillance des médias sociaux disponibles indique que de nombreux services de police et autres organisations (y compris les écoles) souhaitent utiliser cette technologie..

D'autre part, des groupes comme l'ACLU se sont déjà prononcés contre la technologie, affirmant qu'elle pourrait permettre aux services de police de “placer les gens sous le soupçon simplement pour avoir exprimé leur opinion en ligne.” Le blog de l'ACLU sur le sujet était intitulé de manière provocante “Ce logiciel de surveillance espionne probablement #BlackLivesMatter Hashtag Activism: #powerful or #pointless? Hashtag Activism: # puissant ou #pointless? #BringBackOurGirls, #ICantBreathe et #BlackLivesMatter ont bénéficié d'une large couverture internationale au cours de la dernière année - mais les hashtags sont-ils un moyen efficace d'activisme? ,” bien qu'il y ait peu de preuves que ce soit le cas.

Et, bien sûr, toutes les informations extraites par Beware sont “disponible dans le commerce.” Il est difficile pour quiconque de savoir exactement ce que cela signifie, car les types de données vendues par les réseaux sociaux semblent changer tout le temps. Comme nous l’avons déjà vu, il n’est pas difficile d’obtenir des informations qui, selon un utilisateur, sont confidentielles. Préparez la confidentialité de votre compte pour la recherche de graphes sur Facebook [Astuces hebdomadaires Facebook] Préparez la confidentialité de votre compte pour la recherche de graphes sur Facebook [Astuces hebdomadaires sur Facebook] publie une nouvelle fonctionnalité pour en savoir plus sur nos amis, de nombreuses personnes se rendent compte que leurs paramètres de confidentialité ne sont plus adéquats. Leur dernière fonctionnalité, Facebook Graph Search, ne fait pas exception:… posez simplement les bonnes questions et utilisez les bons outils.

Je ne serais pas le premier à associer Beware et d’autres solutions de surveillance des médias sociaux à Rapport minoritairepré-crime ou 1984crime de pensée.

La sophistication de logiciels tels que Beware en est au point où elle peut probablement tirer des conclusions basées sur des choses que vous ne dites pas, mais qu’elles impliquent. Intrado et les autres fabricants ne veulent pas que leurs logiciels soient liés à des romans de science-fiction dystopiques, mais le lien est évident..

Leçons apprises

Que vous soyez inquiets ou non des violations potentielles de la vie privée causées par un logiciel de surveillance des médias sociaux par les forces de l'ordre, ceci devrait vous rappeler que tout ce que vous publiez sur Facebook ou Twitter n'est pas uniquement disponible pour vos amis. C'est là pour toujours, et probablement entre les mains d'une grande variété de personnes et d'entreprises.

La meilleure chose à faire est de ne pas publier de choses stupides sur les médias sociaux. Ne fais pas de blagues pour faire quelque chose d'illégal. Ne préconisez pas la violence contre la police ou les militaires. Ne postez pas de photos de vous-même qui pourraient être interprétées comme menaçantes (surtout avec des armes à feu, mais ne postez pas de photos de vous avec des armes à feu). Cela relève du bon sens, mais Fresno et leur utilisation de Beware devraient souligner l’importance de ce type de mesures de protection.

Il est également important de garder à l’esprit cette question lors de la prochaine élection présidentielle américaine. 6 Ressources pour vous aider à suivre l’élection présidentielle américaine de 2016 6 Ressources pour vous aider à suivre l’élection présidentielle américaine de 2016 Le droit de vote du peuple détermine le résultat de une élection. Soyez un électeur informé et prenez cette tâche importante au sérieux à l'aide de ces outils. (où les médias sociaux sont également un outil extrêmement important. Les campagnes politiques vous surveillent sur Facebook. Voici pourquoi les campagnes politiques vous surveillent sur Facebook. Voici pourquoi vous savez maintenant que les entreprises et le gouvernement utilisent les médias sociaux pour vous suivre. regarder, analyser et capitaliser sur chaque mouvement que vous faites sur Facebook: militants politiques. (intéressant). Cette question pourrait très bien se poser peu de temps après l'assermentation d'un nouveau président, et la façon dont elle évoluera à partir de là pourrait dépendre de qui siège au bureau ovale. Cela peut sembler un problème mineur maintenant, mais cela pourrait être un très gros problème dans un proche avenir. Cela vaut la peine de garder un oeil sur.

Que pensez-vous de la surveillance des médias sociaux par les services de police? Pensez-vous qu'ils sont justifiés d'utiliser une approche algorithmique? Ou pensez-vous que cela conduira probablement à un profilage racial et à des jugements inexacts? Devrions-nous nous inquiéter de la progression de ce type de logiciel??

C'est une question compliquée et je ne suis même pas totalement sûr de ce que je ressens à ce sujet. Cela laisse trop de choses entre les mains d'un algorithme qui surveille des personnes à leur insu. Mais cela pourrait aussi aider à sauver la vie d'agents qui se sont retrouvés dans des situations dangereuses. Aidez-moi à le décomposer dans les commentaires ci-dessous.

Crédits d'image: Scott Cornell via Shutterstock.com, Ivelin Radkov via Shutterstock.com.