L’État lance la surveillance « augmentée » par IA, déployée bien au-delà des Jeux Olympiques et Paralympiques
Un article de David Bastien et Benoit Delrue.
Mis à jour le 27/04/2024 à 19h45.
Le 25 mars 2024, le gouvernement français et son Premier ministre Gabriel Attal ont décidé de rehausser le plan Vigipirate à son niveau d’alerte maximal, « Urgence attentat » [1]. Cette mesure, annoncée trois jours après l’attentat islamiste de Moscou qui a coûté la vie à 145 personnes, et qui consiste en un déploiement inédit de contrôles de personnes, de véhicules et un renforcement de la surveillance, est par nature instaurée « pour une durée limitée », officiellement « le temps de la gestion de la crise ».
Plus d’un mois après et à moins de cent jours de l’ouverture de Paris 2024, prochaine édition des Jeux Olympiques et Paralympiques, le pouvoir politique ainsi que les entreprises privées françaises de défense et de la tech voient dans ce contexte une opportunité cruciale pour dérouler leur agenda sécuritaire.
Souriez, vous êtes filmés
La vidéosurveillance publique, à l’initiative le plus souvent des communes françaises, connaît un essor fulgurant, voire exponentiel. A l’approche des JO 2024, pour la première fois, l’intelligence artificielle (IA) sera utilisée pour traiter les images captées en temps réel, afin de détecter des « comportements suspects », sans que la loi ne l’encadre précisément.
La vidéosurveillance posait déjà plusieurs questions : Avec quelles entreprises collaborent l’État et les collectivités ? Qui regarde le flux d’images en direct ? Où sont stockées les images enregistrées ? Pour tâcher d’y voir plus clair, nous commencerons par un bref historique de ce phénomène.
En 1993, le maire RPR (droite) de Levallois-Perret, Patrick Balkany, met en place les premières caméras municipales dans l’espace public avec la volonté revendiquée de poursuivre plus efficacement les auteurs de délits et de crimes, voire de les dissuader par avance. Depuis, la quasi-totalité des villes de grande taille ont instauré leur propre parc de vidéosurveillance, encouragées et accompagnées régulièrement par le gouvernement, tandis que les entreprises privées de type commerces ou gestionnaires de transports en commun ont suivi la même tendance.
Le 10 octobre 2007, quelques mois après l’élection présidentielle de Nicolas Sarkozy, l’inspecteur général de l’administration Philippe Melchior a remis à la ministre de l’Intérieur un rapport sur le développement de la vidéosurveillance [2]. Dans ce document, le nombre de caméras « autorisées » dans l’espace public était estimé à 340.000 et la ministre Michèle Alliot-Marie annonçait, le 13 octobre 2007 dans un entretien au journal Le Monde, sa volonté de tripler ce chiffre en deux ans pour parvenir, en 2009, à un million de caméras à la disposition de la puissance publique, généralement les communes, et des entreprises privées – avec un effort sur les transports et la voie publique, l’exécutif d’alors reconnaissant que la plupart des banques et bureaux de poste étaient déjà pourvus du dispositif. « La vidéosurveillance est une nécessité face au terrorisme, et un atout contre l’insécurité » argumentait alors Mme Alliot-Marie.
Hier objet de clivage, aujourd’hui banalisé
Le 15 décembre 2011, le média spécialisé en datajournalisme OWNI publiait son « palmarès des villes sous surveillance », insistant à travers plusieurs infographies sur le clivage gauche / droite dans l’approche des mairies vis-à-vis de la vidéosurveillance [3]. A mesure que l’insécurité, liée aux délits de droit commun ou à des attaques terroristes, s’est imposée dans le débat public français, les opposants politiques à la généralisation de la vidéosurveillance ont vu leurs effectifs fondre comme neige au soleil.
La Commission nationale de l’informatique et des libertés (CNIL) recensait 935.000 caméras actives sur le territoire national en 2012, public et privé confondus. Entre la fin de l’année 2013 et le début de l’année 2020, « le nombre de caméras de vidéosurveillance – appartenant aux communes – dans les 40 villes les plus peuplées de France a été multiplié par 2,4 » relevait alors La Gazette des Communes [4]. Les projections statistiques pour la période 2020-2025 permettent à l’industrie de la vidéosurveillance de se frotter les mains, prévoyant un chiffre d’affaires « qui sans surprise devrait continuer de croître de manière significative » [5].
« Décriés dans les années 2000, banalisés aujourd’hui » résumait Le Monde en janvier 2021 au sujet des systèmes de surveillance dans l’espace public français [6], dans un article consacré à l’enquête de Michel Henry et Olivier Lamour diffusée sur France 5. Dans ce reportage, les journalistes notent que la ville d’Issy-les-Moulineaux a fait le choix de développer des maisons de quartier et d’engager des médiateurs sans utiliser de vidéosurveillance, avec des résultats positifs comparés à la commune voisine de Levallois-Perret.
L’image ne leur suffit plus
De tels contre-exemples se raréfient face à l’essor apparemment inexorable de la surveillance filmée. Et pour les plus ardents défenseurs de la « vidéoprotection », l’image seule ne suffit plus : il faut la recouper avec d’autres outils, d’autres données. En octobre 2021, la ville d’Orléans a signé une convention avec la start-up Sensivic pour expérimenter des « capteurs sonores » venus équiper les caméras. Comme le relève la Quadrature du Net, « dans la droite lignée de ce qui avait été tenté à Saint-Étienne, le projet consiste à déployer des ‘détecteurs de sons anormaux‘ (une douce expression pour ‘mouchards‘) sur des caméras de surveillance » [7].
Nice est la championne tricolore de la vidéosurveillance avec ses 2.666 caméras en activité en 2019 – une augmentation du parc de 253% entre 2013 et 2019 [4] – puis 3.800 en 2021 [8] et enfin plus de 4.000 en 2023 [9]. Son maire Christian Estrosi, étiqueté LR et devenu proche du Président de la République Emmanuel Macron, se fait le grand promoteur de l’utilisation de la reconnaissance faciale appliquée aux images de vidéosurveillance [10] [11]. En outre, il a fait partie des premiers édiles français à signer un contrat avec la société israélienne Briefcam pour l’utilisation d’un logiciel d’analyse d’images de vidéosurveillance qu’elle a développé, comme le révélait en novembre dernier le média Disclose [12]. Ce logiciel, s’appuyant sur des algorithmes mis au point par le traitement d’une grande quantité de données, permet d’activer « en quelques clics l’option reconnaissance faciale ».
Poursuivie par de nombreuses organisations associatives et syndicales, parmi lesquelles la Ligue des Droits de l’Homme, la CGT et le Syndicat de la magistrature, la Ville de Nice a botté en touche en jurant que si des expérimentations avaient bien eu lieu lors de l’Euro 2016 et du Carnaval de Nice en 2019, l’outil ne serait « actuellement plus utilisé par la commune ». De quoi convaincre le Tribunal administratif de Nice, qui a choisi de condamner les associations à « verser solidairement à la commune de Nice la somme de 3.000 euros », quand bien même la juridiction admet que « le logiciel de vidéosurveillance augmenté dénommé ‘Wintics‘ » sera bien déployé pour les Jeux Olympiques et Paralympiques 2024. Cette décision de justice, rendue le 23 novembre 2023, fait abstraction de l’expérimentation attestée et documentée de la reconnaissance faciale par la mairie de Nice, pour identifier de supposés fichés S ou pour analyser « des émotions des passagers d’un tramway pour anticiper les problèmes potentiels » [13].
Les JO, opportunité en or massif
Le gouvernement macroniste, à l’approche de Paris 2024, emboîte le pas des plus fervents militants de la surveillance généralisée. Le 23 mars 2023, l’article 7 du projet de loi relatif « aux Jeux Olympiques et Paralympiques de 2024 et portant diverses autres dispositions » est adopté : il instaure officiellement le système de vidéosurveillance algorithmique utilisant l’intelligence artificielle, que l’on peut abréger en système de « caméras augmentées ».
L’émergence des IA de plus en plus rapides et perfectionnées, dont le très populaire ChatGPT, suscitait en 2023 une inquiétude grandissante au sein de l’opinion publique ; pour rendre sa disposition acceptable, le gouvernement et la majorité relative macroniste à l’Assemblée nationale, aidés par la droite LR et l’extrême-droite RN, ont juré ne pas avoir recours à la reconnaissance faciale par le déploiement de l’IA, qui en est pourtant tout à fait capable [14]. Dans l’hémicycle parlementaire, le ministre de l’Intérieur Gérald Darmanin a cité en exemples « un départ de feu, des goulots d’étranglement de population, un colis ou un sac abandonné » qui seraient automatiquement détectés par l’IA, laquelle enverrait une alerte aux forces de l’ordre, positionnées devant les écrans de vidéosurveillance ou en patrouilles sur le terrain.
Le texte stipule que les images captées par la vidéosurveillance et couplées à l’intelligence artificielle auront « pour unique objet de détecter, en temps réel, des événements prédéterminés susceptibles de présenter ou de révéler ces risques et de les signaler ». Reste à définir quels seront les « événements prédéterminés », dont la liste doit être fixée par un décret ministériel, qui n’a toujours pas été publié à l’heure où ces lignes sont écrites.
Il est à noter que la CNIL, qui sert d’institution officielle dans la protection des données et des libertés, avait précisément pris position contre le développement des caméras dites « augmentées » dans les espaces publics, et rendu donc un avis défavorable à ce qu’une mesure, telle que celle de l’article 7 de la loi relative aux Jeux Olympiques et Paralympiques de 2024, soit adoptée par le législateur et appliquée par l’État. Ses arguments, rendus publics le 19 juillet 2022 et soulignant « les risques pour les droits et libertés des personnes » d’une « technologie d’analyse automatisée d’images par nature intrusive » [15], ont été balayés d’un revers de main par l’alliance allant des macronistes aux lepénistes.
Si « il importe, certes, de distinguer les caméras augmentées des caméras biométriques, qui intègrent un système de reconnaissance faciale couplé à un fichier d’identités et demeurent interdites par le Règlement général sur la protection des données (RGPD) », comme le souligne Balises, le magazine de la Bibliothèque publique d’information, ce dernier sonne l’alarme sur des « algorithmes [qui] ne sont, par nature, pas transparents » et qui doivent déterminer les « comportements suspects », « dont il n’existe pas de définition claire » [16].
Une loi à la limite de la constitutionnalité
La loi relative aux Jeux Olympiques et Paralympiques de 2024 a définitivement été promulguée le 19 mai 2023 par le Président de la République. Problème : le Conseil Constitutionnel, saisi par les parlementaires écologistes, insoumis, socialistes et communistes, a rendu un avis mitigé deux jours plus tôt. Dans leur décision N°2023-850 DC du 17 mai 2023, les « Sages » affirment très clairement : « L’article 7 de la loi relative aux Jeux Olympiques et Paralympiques de 2024 et portant diverses autres dispositions est contraire à la Constitution » [17].
Le Conseil Constitutionnel n’est pas un organe consultatif mais rend des décisions auxquelles doivent se plier le législateur et l’exécutif gouvernemental. Si l’article 7 n’apparaît tout simplement pas dans la loi telle qu’elle est consultable sur le site officiel Legifrance, les dispositions adoptées au Parlement au titre de cet article ayant été déclarées « non conformes à la Constitution » [18], il est à noter que l’article 7 voté le 23 mars 2023 à l’Assemblée nationale, autorisant la vidéosurveillance algorithmique, a endossé le numéro 10 dans la loi telle que promulguée deux mois plus tard.
Malgré les sérieux doutes soulevés et argumentés par les parlementaires de gauche, le Conseil Constitutionnel juge finalement « conforme à la Constitution » l’article 10 de la loi, à condition que l’ensemble des garde-fous évoqués par l’article soient scrupuleusement respectés, notamment les avis de la CNIL, bien que cette dernière ait d’ores et déjà contesté la mise en place de ces caméras dites « intelligentes » dans son avis du 19 juillet 2022. En outre, le Conseil Constitutionnel, composé de membres nommés par le Président de la République, la Présidente de l’Assemblée nationale et le Président du Sénat, donne quitus à « l’expérimentation autorisée par ces dispositions, qui n’a pas au demeurant pour objet de s’appliquer uniquement aux jeux Olympiques et Paralympiques de 2024, [et qui] s’achèvera le 31 mars 2025 ». D’autres événements de type culturels ou rassemblements pouvant provoquer un trouble à l’ordre public, dont l’appréciation sera laissée à la discrétion des services de l’État, pourront donc faire l’objet de cette vidéosurveillance couplée à l’intelligence artificielle.
Les marchés déjà attribués au privé
Ignorant les mises en garde pour les droits et libertés individuelles et collectives, notamment émises par la CNIL, le gouvernement et singulièrement le ministère de l’Intérieur vont appliquer avec zèle et enthousiasme la mise en œuvre de la surveillance généralisée et traitée par algorithmes. Les marchés de la vidéosurveillance algorithmique ont été attribués en 2024, par Beauvau, à quatre entreprises françaises : Wintics, basée à Paris ; Videtics dans la technopôle de Sophia-Antipolis près de Nice ; Orange Business, située en Seine-Saint-Denis ; et Chapsvision, spécialiste de l’analyse de données située dans les Hauts-de-Seine [19]. Chacun des quatre lots attribués, évalués à un montant maximum de 2 millions d’euros l’unité, consiste en « la fourniture d’une solution algorithmique », son installation et son démontage et la formation des « acteurs de terrain ». Les contrats ont été signés en janvier dernier [20].
L’intelligence artificielle pourra analyser en direct le flux d’images de la vidéosurveillance pour détecter huit types d’événements : le non-respect du sens de circulation, le franchissement d’une zone interdite, la présence ou l’utilisation d’une arme, un départ de feu, un mouvement de foule, une personne au sol, une densité trop importante ou un colis abandonné. Les seuls personnels habilités à recevoir les alertes de l’IA et à réagir feront partie des effectifs de sécurité de la police, la gendarmerie, les pompiers, la RATP et la SNCF [21].
Selon les déclarations de Beauvau, siège du ministère de l’Intérieur, « il s’agit d’une aide à la lecture des très nombreuses images d’une salle de contrôle, pour être sûr que l’opérateur ne manque pas un événement important ». Chaque recours à la vidéosurveillance algorithmique devra faire l’objet d’un arrêté préfectoral, qui précisera « la temporalité, la localisation et les motifs » de cet usage. Enfin, « seules les caméras particulières » seront équipées, à savoir les caméras fixes qui ne tournent pas et ne zooment pas, car ces mouvements pourraient induire de fausses alertes des logiciels. Les drones devraient donc être exclus du programme de traitement algorithmique des images filmées, selon les dernières déclarations officielles, mais le Conseil Constitutionnel a bien autorisé l’application de la surveillance augmentée aux aéronefs équipés de caméras.
Reste que ce cadre annoncé, censé réguler le couplage de la vidéosurveillance à l’IA, est initié par un gouvernement qui a fait de l’expansion de l’arsenal sécuritaire un leitmotiv ces dernières années, notamment à l’occasion de l’adoption de la Loi Sécurité Globale [22]. Il est donc difficile de déterminer où se situeront les limites de l’utilisation d’un outil officiellement expérimenté pour l’organisation et l’accueil des Jeux Olympiques et Paralympiques, mais qui sera déployé à d’autres occasions au moins jusqu’au 31 mars 2025.
Le privé a pris de l’avance illégalement
Les expérimentations technologiques de la puissance publique dans un événement d’une envergure aussi gigantesque que Paris 2024 doivent éviter le plus possible les ratés. Les bons algorithmes, les bons traitements, les bonnes automatisations, en somme les bonnes intelligences artificielles doivent donc être choisis à partir d’une expérience antérieure et présumée réussie. Logiquement, l’État français s’est donc tourné vers des firmes spécialisées ayant déjà fait leurs preuves… en l’absence de tout cadre légal autorisant le recours à la vidéosurveillance algorithmique. Autrement dit, l’État s’appuie sur un secteur privé ayant agi sur le territoire national, ces dernières années, en-dehors du droit français.
La « start-up nation » voulue et appliquée par M. Macron autorise l’audace, le caractère « disruptif » des firmes de la tech et de la sécurité, à condition que leurs initiatives servent la cause exclusive du système capitaliste, à commencer par la défense de la propriété lucrative, quitte à se trouver hors-la-loi. Il n’est donc pas étonnant que ce qui a ouvert le chemin de la technique algorithmique réside dans la protection des marchandises de grands magasins.
En effet, le meilleur exemple de ce déploiement est la start-up Veesion, créée en 2018 et qui a depuis vendu ses services à de très nombreux commerces physiques tels que Leclerc, la Fnac ou Biocoop. La solution proposée par la jeune entreprise fondée par trois anciens diplômés de la prestigieuse école des Hautes études commerciales (HEC) et de Polytechnique ? « Lutter contre le fléau du vol à l’étalage » dans les magasins, en envoyant une notification dès qu’un comportement suspect a été détecté, par l’IA, à partir des images en direct des caméras installées dans l’établissement.
Concrètement, les vigiles ou gérants des commerces ayant passé contrat avec Veesion reçoivent sur la messagerie cryptée Telegram un gif, une courte vidéo extraite des images de vidéosurveillance qui montre une personne venant de faire un geste suspect, qui laisserait penser qu’elle vient de voler un produit dans les rayons pour le mettre dans son manteau ou dans son sac. La personne peut donc être appréhendée avant même qu’elle ne quitte les lieux, comme l’explique l’enquête du média Streetpress sortie en juin 2023 sur ce sujet [23].
Les clients de Veesion, parmi lesquels Carrefour, Système U ou Kiabi, voient dans cet outil une belle opportunité de dissuader ou de réprimer les clients tentés par le vol à l’étalage, qui se multiplie à l’heure où l’inflation explose tandis que les salaires et minima sociaux stagnent. Sollicitée, la CNIL appelle à ce que les caméras augmentées installées dans les commerces soient « encadrées par un texte [de loi] pour, notamment, écarter le droit d’opposition des personnes » [24].
Le droit d’opposition, fixé par l’article 21 du RGPD, permet à tout un chacun de s’opposer au traitement et à l’utilisation de ses données personnelles, y compris son apparition sur des images de vidéosurveillance [25]. La Commission nationale de l’informatique et des libertés précise que « l’exercice de ce droit apparaît incompatible avec l’objectif même du dispositif » vendu par Veesion. Cette start-up, prisée par les grands magasins, a donc mené ses activités et engendré de larges profits en toute illégalité.
Jusqu’où la loi est-elle bafouée ?
Officiellement, les images prises sur la voie publique, y compris de la vidéosurveillance, ne peuvent être enregistrées et conservées que pour une période maximale de 1 mois [26]. La Ville de Nice, où 90 agents se relaient sept jours sur sept, 24 heures sur 24 pour scruter les images des plus de 4.000 caméras, au sein du Centre de Supervision Urbain, jure effacer les enregistrements au bout de 10 jours [27]. Mais l’article 10 de la loi du 19 mai 2023 rebat les cartes : « un échantillon d’images collectées, dans des conditions analogues à celles prévues pour l’emploi de ces traitements, au moyen de systèmes de vidéoprotection (…) peut être utilisé comme données d’apprentissage pendant une durée strictement nécessaire, de douze mois au plus à compter de l’enregistrement des images ». A pas feutrés, la loi vient donc de multiplier par douze la durée de stockage des enregistrements des images à partir desquelles un traitement algorithmique sera appliqué.
A ce sujet, il est difficile de savoir sur quels serveurs ces images sont stockées, quand on sait à quel point l’administration française s’est rendue dépendante des serveurs de données étasuniens. Le réseau de l’Éducation nationale, incluant les évaluations des élèves et les échanges de la communauté éducative, se base sur des serveurs gérés par Amazon [28]. Pour ce qui est des données de santé des patients en France, le gouvernement a créé en grandes pompes le Health Data Hub en juillet 2019, en faisant appel aux services de stockage de Microsoft ; au point que le Conseil d’État s’inquiétait en 2020 du risque de transfert de données sensibles vers les États-Unis [29]. Depuis, la question de l’emplacement et de la gestion du stockage des informations confidentielles collectées par l’administration française n’est pas revenue sur le devant médiatique, dans un contexte où la « souveraineté numérique », l’un des portefeuilles du ministre de l’Économie Bruno Le Maire, sonne plus creux que jamais en France.
D’autres questions sont soulevées par le cadre actuel de la loi, en décalage avec la pratique sécuritaire encouragée par le gouvernement et les industries du secteur. Officiellement, toute personne filmée par vidéosurveillance a un droit d’accès aux images sur lesquelles elle apparaît et peut demander à consulter ces images [30] ; dans les faits, l’usage de ce droit est garanti par une machine judiciaire trop lente pour faire face au rythme des nouvelles technologies et le plus souvent, on ne peut que vérifier la destruction des enregistrements dans le délai fixé par le préfet.
Toujours selon la loi en vigueur, la vidéosurveillance, mise en place par les villes ou l’État, est limitée. Les caméras installées dans l’espace public ne doivent pas permettre de visualiser l’intérieur des immeubles d’habitation, ni leurs entrées ; « des procédés de masquage irréversible de ces zones doivent être mis en œuvre » précise la CNIL [31].
En théorie, il est donc interdit de filmer l’intérieur des bâtiments et même toutes les habitations privées, incluant les balcons. En pratique, on imagine mal les forces de sécurité ne pas utiliser la vidéosurveillance, couplée à l’IA, pour scruter efficacement les centaines, voire milliers de balcons situés tout au long du parcours de la cérémonie d’ouverture des Jeux Olympiques, prévue sur la Seine. Le contexte actuel, avec un plan Vigipirate au niveau d’alerte maximal, peut conduire les pouvoirs publics et les forces de l’ordre à prendre certaines libertés avec des lois, protectrices des libertés, régulièrement pointées du doigt par les syndicats de policiers et les partis de droite, qui y voient des angles morts ou des points faibles de l’arsenal anti-terroriste.
Les JO, crash-test mondial
Paris 2024 ne sera pas seulement une expérimentation à l’échelle de la France, mais bien une vitrine internationale des solutions de surveillance voulues par le gouvernement. Les enjeux de réussite sécuritaire, pour déjouer des attentats ou éviter des drames, sont donc gigantesques avec un pouvoir politique qui mise toute sa crédibilité dans cette séquence ; le ministre de l’Intérieur Gérald Darmanin, l’un des poids lourds de la Macronie, a par exemple laissé entendre qu’il pourrait quitter Beauvau après les JO [32].
Étant donné leur exposition médiatique et commerciale, ainsi que la mise en place d’une cérémonie d’ouverture aux accents mégalomaniaques – jamais une telle cérémonie ne s’est déroulée en pleine ville, et encore moins sur un cours d’eau – les Jeux Olympiques et Paralympiques feront l’objet d’une attention mondiale toute particulière, à l’heure où les tensions se multiplient entre les États de l’Occident et du Sud global, en sus des mouvances terroristes. Or la guerre, expression par excellence des affrontements entre nations, a glissé ces dernières années sur le terrain numérique, par lequel des infrastructures essentielles et des services de sécurité, publique ou privée, peuvent être neutralisés.
Les cyberattaques se sont multipliées à l’égard des administrations françaises ces derniers mois. Mardi 6 février 2024, La Poste a subi une énorme panne, due à une attaque informatique de type DDoS revendiquée par le groupe « Turk Hack Team » [33]. Entre le 6 février et le 5 mars 2024, France Travail a été victime d’une cyberattaque « qui a conduit à l’exfiltration de données personnelles » [34]. Le 12 février 2024, un groupe de hackers du nom de « LulzSec » a revendiqué sur les réseaux sociaux le piratage de 600.000 comptes clients de la Caisse d’allocation familiale (CAF), obligeant cette dernière à demander à l’ensemble de ses inscrits un changement de mot de passe début mars [35]. Enfin, les espaces numériques de travail ou ENT de nombreux établissements scolaires français ont été piratés, amenant le parquet de Paris à ouvrir une enquête jeudi 21 mars 2024 [36] puis la ministre de l’Éducation nationale Nicole Belloubet à « suspendre » la messagerie dans tous les ENT de France le jeudi 28 mars [37].
Or, plus la technologie engage des intérêts sensibles, plus les cyberattaques peuvent être dévastatrices. L’instauration de la vidéosurveillance augmentée décuple les dégâts d’une potentielle attaque informatique, par laquelle des acteurs malveillants viendraient interférer avec les algorithmes et les alertes des logiciels d’intelligence artificielle. Le développement des contrefaçons de masse, plus connues sous l’anglicisme deep fake, justement générées par des IA concurrentes, rend possible la manipulation du flux d’images ou du traitement algorithmique. Des hackers, suffisamment performants pour contourner la cybersécurité des outils de sûreté publique, pourraient lancer des alertes intempestives pour saturer les effectifs d’opérateurs recevant ces notifications, ou au contraire neutraliser les alertes pour dissimuler aux yeux des agents en poste un risque réel sur le terrain.
Terrible balance bénéfices/risques
Le couplage des IA avec le parc de caméras de vidéosurveillance comprend donc un risque grave pour les droits et libertés des citoyens, non garantis en l’absence de définition précise des comportements suspects donnant lieu à des alertes, et un danger pour la sécurité nationale qui, s’il se concrétise, obligerait les pouvoirs publics à une fuite en avant où autoritarisme politique et déploiement des technologies apparaîtraient, d’après eux, comme la seule solution possible – puisque la vis est inefficace, il faudrait la serrer encore davantage, nous diraient les politiciens ultra-libéraux et réactionnaires.
La question légitime que nous pouvons soulever est de savoir si le développement de cette nouvelle technologie va servir la protection des Français ou les profits des industriels de la tech et de la défense, dont les prévisions de revenus globaux pour l’année 2025 atteignent 31,9 milliards de dollars [5] ? La surveillance sous l’empire de l’intelligence artificielle est un enjeu de défense nationale et de sécurité intérieure, autant que de commercialisation d’outils nouveaux qui pourraient s’exporter massivement dans un avenir proche. Justement, l’État entend profiter des Jeux Olympiques et Paralympiques comme d’une vitrine pour justifier du bien-fondé et de l’efficacité de ces méthodes inédites, qui doivent absolument être démontrés du point de vue d’un gouvernement dont l’action s’appuie ici sur des start-up ayant précisément grandi dans l’illégalité.
La balance bénéfices/risques est donc lourdement déséquilibrée, en cela que les risques pour les libertés individuelles et collectives sont pris par les citoyens malgré eux, et que les bénéfices en termes d’utilité concrète et de profits reviennent respectivement à l’État et aux entreprises privées d’un secteur ultra-lucratif. Que l’intérêt général soit effectivement servi par cette expérimentation de masse s’avère, en tout cas, d’autant moins garanti qu’un flou persiste sur la temporalité et l’espace géographique dans lesquelles cette technologie sera déployée, à une échelle de masse. L’engrenage sécuritaire change de dimension à l’instant même où nous ne pouvons plus nous en extirper.
Références
1 : https://www.service-public.fr/particuliers/actualites/A14434
2 : https://web.archive.org/web/20071024194150/http://www.premier-ministre.gouv.fr/information/actualites_20/un_million_cameras_videosurveillance_57751.html
3 : http://owni.fr/2011/12/15/le-palmares-des-villes-sous-surveillance/
4 : https://www.lagazettedescommunes.com/660599/le-palmares-des-50-plus-grandes-villes-videosurveillees/
5 : https://www.ass-security.fr/blog/previsions-statistiques-du-marche-mondial-de-la-videosurveillance-2020-2021/
6 : https://www.lemonde.fr/culture/article/2021/01/05/fliquez-vous-les-uns-les-autres-sur-france-5-la-videosurveillance-une-etrange-passion-francaise_6065286_3246.html
7 : https://www.laquadrature.net/2023/01/12/surveillance-sonore-orleans-baratine-la-justice/
8 : https://www.20minutes.fr/societe/3198407-20211215-nice-largement-tete-villes-mettent-plus-moyens-securite
9 : https://www.europe1.fr/societe/plus-de-800-interpellations-lannee-derniere-a-nice-les-cameras-sont-indispensables-au-travail-des-policiers-4206234
10 : https://www.lagazettedescommunes.com/636256/le-plaidoyer-pour-la-reconnaissance-faciale-de-la-ville-de-nice-laisse-sceptique/
11 : https://france3-regions.francetvinfo.fr/provence-alpes-cote-d-azur/alpes-maritimes/nice/sans-reconnaissance-faciale-nice-se-tourne-vers-l-intelligence-artificielle-2564496.html
12 : https://disclose.ngo/fr/article/la-police-nationale-utilise-illegalement-un-logiciel-israelien-de-reconnaissance-faciale
13 : https://france3-regions.francetvinfo.fr/provence-alpes-cote-d-azur/alpes-maritimes/nice/polemique-sur-l-usage-illegal-de-la-reconnaissance-faciale-la-ville-de-nice-n-a-commis-aucune-infraction-2877800.html
14 : https://www.leparisien.fr/jo-paris-2024/paris-2024-il-y-aura-bien-des-cameras-intelligentes-pour-les-jeux-olympiques-23-03-2023-ZUGRDLKEXJDSVD6QGXKIKBYDTM.php
15 : https://www.cnil.fr/fr/cameras-dites-augmentees-dans-les-espaces-publics-la-position-de-la-cnil
16 : https://balises.bpi.fr/cameras-surveillance/
17 : https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000047562010
18 : https://www.legifrance.gouv.fr/loda/id/JORFTEXT000047561974
19 : https://www.solutions-numeriques.com/la-videosurveillance-algorithmique-des-jo-confiee-a-quatre-entreprises-francaises/
20 : https://www.bfmtv.com/tech/cybersecurite/jeux-olympiques-la-videosurveillance-algorithmique-entre-les-mains-de-quatre-entreprises_AD-202401090675.html
21 : https://www.francebleu.fr/infos/societe/jo-paris-2024-comment-l-intelligence-artificielle-va-aider-a-analyser-les-images-de-la-videosurveillance-1423127
22 : https://infoscope.live/2020/11/28/loi-securite-globale-pourquoi-elle-est-inutile-et-dangereuse/
23 : https://www.streetpress.com/sujet/1687789862-leclerc-fnac-biocoop-commerces-videosurveillance-intelligence-artificielle-illegal
24 : https://next.ink/brief_article/le-vol-a-letalage-fait-le-lit-de-la-videosurveillance-algorithmique/
25 : https://www.mission-rgpd.com/tout-savoir-droit-opposition-rgpd/
26 : https://www.service-public.fr/particuliers/vosdroits/F2517
27 : https://www.nice.fr/fr/securite/le-centre-de-supervision-urbain
28 : https://www.ouest-france.fr/education/education-les-evaluations-nationales-ont-ete-hebergees-sur-des-serveurs-amazon-5985098
29 : https://www.conseil-etat.fr/Media/actualites/documents/2020/10-octobre/ordonnance-n-444937
30 : https://www.cnil.fr/fr/videoprotection-quelles-sont-les-dispositions-applicables#droit-acces
31 : https://www.cnil.fr/fr/la-videosurveillance-videoprotection-sur-la-voie-publique
32 : https://www.lejdd.fr/politique/gerald-darmanin-pense-un-depart-du-ministere-de-linterieur-apres-les-jeux-olympiques-141185
33 : https://www.clubic.com/actualite-518146-les-sites-internet-de-la-poste-ont-subi-une-enorme-panne-qui-serait-due-a-une-attaque-informatique-de-type-ddos.html
34 : https://www.cybermalveillance.gouv.fr/tous-nos-contenus/actualites/violation-de-donnees-personnelles-france-travail-formulaire-lettre-plainte-202403
35 : https://imazpress.com/actus-reunion/la-caf-impose-le-changement-de-mot-de-passe-des-le-8-mars
36 : https://www.radiofrance.fr/franceculture/podcasts/un-monde-connecte/menaces-d-attentats-et-cyberattaques-les-pirates-infiltrent-les-classes-4120212
37 : https://www.francetvinfo.fr/internet/securite-sur-internet/cyberattaques/cyberattaques-visant-des-etablissements-scolaires-le-gouvernement-suspend-la-messagerie-de-tous-les-espaces-numeriques-de-travail_6453755.html
