« Le gouvernement ne devrait pas utiliser d’algorithmes pour examiner nos publications sur les réseaux sociaux »
Une patate chaude : La règle selon laquelle il faut faire attention à ce que l’on publie sur les réseaux sociaux semble être particulièrement pertinente pour toute personne entrant aux États-Unis. L’Immigration and Customs Enforcement (ICE) a utilisé un outil basé sur l’IA pour parcourir les plateformes sociales afin d’identifier les messages des demandeurs de visa qui sont « désobligeants » à l’égard des États-Unis.
Le système, appelé Giant Oak Search Technology (GOST), classe les scores d’une personne sur les réseaux sociaux de un à 100 en fonction de ce qu’il juge pertinent pour la mission spécifique de l’utilisateur. La base de données peut être consultée à l’aide d’identifiants tels que le nom, l’adresse, l’adresse e-mail et le pays de citoyenneté d’une personne.
Après avoir cliqué sur une personne spécifique, les analystes peuvent examiner les images collectées sur les comptes de réseaux sociaux du sujet et ailleurs, et lui attribuer une note positive ou négative. Il est également possible pour les analystes d’examiner eux-mêmes les profils de médias sociaux de la personne et son « graphique social » pour déceler d’éventuelles connexions avec les autres.
404 Media rapporte qu’un procès en vertu de la Freedom of Information Act (FOIA) intenté par l’ACLU et l’ACLU de Californie du Nord a montré que GOST a été utilisé par les services d’immigration et plusieurs agences gouvernementales depuis 2014. ICE a versé à Giant Oak Inc. plus de 10 millions de dollars. depuis 2017, selon les registres des marchés publics.
GOST faisait partie d’un projet pilote de 2016 appelé programme pilote de médias sociaux PATRIOT HSI (Homeland Security Investigations) qui ciblait les contrevenants potentiels en cas de dépassement du séjour dans des pays préoccupants.
Les douanes et la protection des frontières (CBP), la Drug Enforcement Administration (DEA), le département d’État, l’armée de l’air et le bureau du service fiscal, qui fait partie du Trésor américain, ont tous payé pour les services de Giant Oak au cours des dernières années. près de dix ans.
Le site Web GOST déclare qu’il exploite les informations du Web ouvert et profond et applique des paramètres de recherche axés sur les modèles de comportement plutôt que sur les étiquettes d’identité.
« Le gouvernement ne devrait pas utiliser des algorithmes pour examiner nos publications sur les réseaux sociaux et décider lequel d’entre nous est « à risque ». Et les agences ne devraient certainement pas acheter ce type de technologie de boîte noire en secret, sans aucune responsabilité », a déclaré Patrick Toomey, directeur adjoint du projet de sécurité nationale de l’ACLU. « Le DHS doit expliquer au public comment ses systèmes déterminent si une personne présente un « risque » ou non, et ce qui arrive aux personnes dont les publications en ligne sont signalées par ses algorithmes. »
Les dossiers indiquent que le contrat entre le DHS et Giant Oak a pris fin en août 2022.
En 2019, l’administration Trump a introduit de nouvelles règles proposées pour la première fois en mars 2018, selon lesquelles les demandeurs de visa doivent fournir les détails de tous les canaux de médias sociaux qu’ils ont utilisés au cours des cinq dernières années. Le Département d’État et le Département de la Sécurité intérieure peuvent conserver ces informations indéfiniment, les partager avec d’autres agences fédérales et les divulguer – dans certaines circonstances, à des gouvernements étrangers.
2019 est la même année où un étudiant de Harvard s’est vu refuser l’entrée aux États-Unis en raison de l’activité de ses amis sur les réseaux sociaux.
