# articles

feed_id: https://www.laquadrature.net/?p=21082
title: QSPTAG #292 — 8 septembre 2023
uri: QSPTAG-292-8-septembre-2023
url: https://www.laquadrature.net/2023/09/08/qsptag-292-8-septembre-2023/
content:
<h2 class="wp-block-heading">La VSA marseillaise fait de la résistance</h2>
<p>Voilà trois ans déjà que nous agissons contre l&rsquo;installation à Marseille de caméras de surveillance «&nbsp;augmentées&nbsp;», dont les images sont analysées en direct par des algorithmes de reconnaissance des comportements. Le recours que nous avions déposé devant le tribunal administratif de Marseille a été rejeté le 2 juin dernier, pour un défaut de procédure&nbsp;: le tribunal a donc avalisé la stratégie de la mairie, constante malgré un changement de majorité en 2020, qui prétendait avoir <i>«&nbsp;suspendu&nbsp;»</i> le déploiement de ces caméras, sans pour autant s&#8217;empêcher d&rsquo;utiliser celles qui étaient déjà installées&#8230; Puisque les caméras algorithmiques sont <i>«&nbsp;suspendues&nbsp;»</i>, alors le recours n&rsquo;avait plus lieu d&rsquo;être, a tranché le tribunal sans chercher plus loin.</p>
<p>Ce faisant, le tribunal a évité de se pencher sur le fond de la question, alors que la CNIL et le Conseil d’État ont clairement énoncé l’illégalité de la vidéosurveillance algorithmique (VSA). Nous avons donc fait appel devant la cour administrative d’appel de Marseille.</p>
<p><strong>Lire l&rsquo;article entier&nbsp;: <a href="https://www.laquadrature.net/2023/08/30/la-justice-refuse-de-sanctionner-la-videosurveillance-algorithmique-marseillaise/">https://www.laquadrature.net/2023/08/30/la-justice-refuse-de-sanctionner-la-videosurveillance-algorithmique-marseillaise/</a></strong></p>
<h2 class="wp-block-heading">Le député Philippe Latombe en porte-à-faux entre la CNIL et l&rsquo;AN2V</h2>
<p>Le mardi 5 septembre nous avons publié sur <a href="https://twitter.com/laquadrature/status/1699042577884778785">TwiX</a> et sur notre <a href="https://mamot.fr/@LaQuadrature/111012612267210356">compte Mastodon</a> une lettre adressée à Marie-Laure Denis, présidente de la CNIL, pour attirer son attention sur les liens très étroits qu&rsquo;entretient Philippe Latombe, député (Modem) et tout nouveau membre de la CNIL, avec l&rsquo;industrie de la vidéosurveillance et son principal lobby, l&rsquo;AN2V.</p>
<p>Nous avons récemment <a href="https://www.laquadrature.net/2023/07/11/en-visite-aux-nuits-de-lan2v-le-lobby-de-la-videosurveillance/">documenté cette connivence</a> entre le député et les tenants économiques de la surveillance généralisée. Au moment où la CNIL devait se prononcer sur les expériences de vidéosurveillance automatisée dans le cadre des JO de Paris 2024 (les décrets d&rsquo;application de la «&nbsp;loi JO&nbsp;» étaient alors en préparation), le député-membre de la CNIL n&rsquo;a pas hésité à inviter un parterre conquis à intégrer l&rsquo;intelligence artificielle <i>«&nbsp;sur tous les domaines qui pourront être utilisés&nbsp;»</i>, s&rsquo;engageant de son coté à tout faire pour <i>«&nbsp;élargir l’utilisation des drones malgré la réserve du Conseil constitutionnel&nbsp;»</i>. Le mélange des genres est total&nbsp;: tout à la fois député, lobbyiste et commissaire, chacun de ses avatars servant les deux autres, M. Latombe se place de lui-même en flagrante position de conflit d&rsquo;intérêts.</p>
<p>Il ne se gêne d&rsquo;ailleurs pas pour expliquer devant l&rsquo;AN2V comment manœuvrer la CNIL, dont il est bien placé pour connaître les logiques internes, et suggérer dans quel sens il faudrait modifier le collège des membres pour l&rsquo;orienter vers une vision moins soucieuse du droit et plus sensible aux attentes du monde économique. À nos yeux, cette confusion des rôles n&rsquo;est pas seulement choquante, elle est contraire à toutes les dispositions qui régissent la conduite déontologique de la CNIL pour assurer l&rsquo;indépendance d&rsquo;esprit de ses membres. Nous les rappelons donc dans notre courrier, pour soumettre l&rsquo;ensemble de la situation à sa présidente, garante de l&rsquo;indépendance et de la crédibilité de la Commission.</p>
<h2 class="wp-block-heading">La Quadrature dans les médias</h2>
<p><strong>Philippe Latombe et la CNIL</strong></p>
<ul>
<li>Vidéosurveillance&nbsp;: mis en cause par La Quadrature du Net, le député Philippe Latombe se défend de tout conflit d&rsquo;intérêts — <a href="https://www.usine-digitale.fr/article/videosurveillance-mis-en-cause-par-la-quadrature-du-net-le-depute-philippe-latombe-se-defend-de-tout-conflit-d-interets.N2167592">https://www.usine-digitale.fr/article/videosurveillance-mis-en-cause-par-la-quadrature-du-net-le-depute-philippe-latombe-se-defend-de-tout-conflit-d-interets.N2167592</a> [L&rsquo;Usine Digitale]</li>
<li>Vidéosurveillance&nbsp;: la Quadrature du Net met en cause le commissaire Latombe — <a href="https://www.zdnet.fr/actualites/videosurveillance-la-quadrature-du-net-met-en-cause-le-commissaire-latombe-39961172.htm">https://www.zdnet.fr/actualites/videosurveillance-la-quadrature-du-net-met-en-cause-le-commissaire-latombe-39961172.htm</a> [ZDNet]</li>
</ul>
<p><strong>VSA et JO</strong></p>
<ul>
<li>Caméras intelligentes pendant les JO de Paris&nbsp;: «&nbsp;Les personnes vont être utilisées comme des cobayes&nbsp;», déplore la Quadrature du Net — <a href="https://www.01net.com/actualites/cameras-dopees-aux-algorithmes-pendant-les-jo-de-paris-vers-un-recours-systematique.html">https://www.01net.com/actualites/cameras-dopees-aux-algorithmes-pendant-les-jo-de-paris-vers-un-recours-systematique.html</a> [01Net]</li>
<li>France’s Surveillance Plans For 2024 Olympics Raise Privacy Concerns — <a href="https://www.forbes.com/sites/federicoguerrini/2023/09/06/frances-surveillance-plans-for-2024-olympics-raise-privacy-concerns/?sh=1170adf09541">https://www.forbes.com/sites/federicoguerrini/2023/09/06/frances-surveillance-plans-for-2024-olympics-raise-privacy-concerns/?sh=1170adf09541</a> [Forbes]</li>
</ul>
<p><strong>Divers</strong></p>
<ul>
<li>Digital Services Act&nbsp;: «&nbsp;On traite les symptômes sans mettre en cause le fonctionnement des grandes plateformes&nbsp;» — <a href="https://www.humanite.fr/social-et-economie/digital-service-act/digital-services-act-on-traite-les-symptomes-sans-mettre-en-cause-le-fonctionnement-des-grandes-plateformes">https://www.humanite.fr/social-et-economie/digital-service-act/digital-services-act-on-traite-les-symptomes-sans-mettre-en-cause-le-fonctionnement-des-grandes-plateformes</a> [L&rsquo;Humanité]</li>
<li>Un projet de loi pour renforcer la censure du web&nbsp;: «&nbsp;Une perspective inquiétante pour la liberté d’expression&nbsp;» — <a href="https://basta.media/Un-projet-de-loi-pour-renforcer-la-censure-du-web-Une-perspective-inquietante-pour-la-liberte-d-expression">https://basta.media/Un-projet-de-loi-pour-renforcer-la-censure-du-web-Une-perspective-inquietante-pour-la-liberte-d-expression</a> [Basta!]</li>
<li>Enfants et écrans&nbsp;: «&nbsp;La clé est une utilisation plus vertueuse, plus rationnelle des outils numériques&nbsp;» — <a href="https://leclaireur.fnac.com/article/340290-enfants-et-ecrans-la-cle-est-une-utilisation-plus-vertueuse-plus-rationnelle-des-outils-numeriques/">https://leclaireur.fnac.com/article/340290-enfants-et-ecrans-la-cle-est-une-utilisation-plus-vertueuse-plus-rationnelle-des-outils-numeriques/</a> [L’Éclaireur FNAC]</li>
</ul>
<h2 class="wp-block-heading">Agenda</h2>
<ul>
<li><strong>14 septembre</strong>&nbsp;: La Quadrature donne à 19h une conférence à la Bibliothèque publique d&rsquo;information (BPI) du Centre Pompidou&nbsp;: «&nbsp;Tout savoir sur la surveillance biométrique&nbsp;». Plus d&rsquo;infos&nbsp;: <a href="https://agenda.bpi.fr/evenement/tout-savoir-sur-la-surveillance-biometrique/">https://agenda.bpi.fr/evenement/tout-savoir-sur-la-surveillance-biometrique/</a>.</li>
<li><strong>14 septembre</strong>&nbsp;: causerie mensuelle Technopolice Marseille. C&rsquo;est à 19h au Manifesten, 59 Rue Adolphe Thiers, Marseille.</li>
<li><strong>16 septembre</strong>&nbsp;: La Quadrature du Net sera à Lyon pour le Festival Techxploitation &#8211; pour un usage critique des technologies &#8211; pour une discussion sur les menaces sur le chiffrement et la confidentialité des échanges. Plus d&rsquo;infos sur le Festival&nbsp;: <a href="">https://amicale.online/du-14-09-au-17-09-techxploitation-pour-un-usage-critique-des-technologies/</a>.</li>
<li><strong>du 28 septembre au 1er octobre</strong>&nbsp;: Festival Technopolice Marseille, 2e édition. Toutes les infos ici&nbsp;: <a href="https://technopolice.fr/festival-2023/">https://technopolice.fr/festival-2023/</a>.</li>
<li><strong>29 septembre</strong>&nbsp;: apéro mensuel au Garage (115 rue de Ménilmontant 75020 Paris) à partir de 19h&nbsp;: apportez un petit truc à manger ou à boire si vous pouvez et venez discuter avec nous&nbsp;!</li>
</ul>


feed_id: https://www.laquadrature.net/?p=21120
title: Projet de loi SREN : le gouvernement sourd à la réalité d’internet
uri: Projet-de-loi-SREN-le-gouvernement-sourd-à-la-réalité-d-intern
url:
https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/

content:
<p><strong>Le <a href="https://www.assemblee-nationale.fr/dyn/16/dossiers/alt/DLR5L16N47884">projet de loi</a> visant à sécuriser et réguler l’espace numérique (aussi appelé «&nbsp;SREN&nbsp;» ou «&nbsp;Espace numérique&nbsp;») est actuellement en discussion à l&rsquo;Assemblée nationale, après avoir été voté en juillet dernier au Sénat. Ce texte, présenté comme une simple adaptation d&rsquo;une série de règlements européens, change en réalité la manière de concevoir la régulation des plateformes en ligne. En voulant instaurer une censure autoritaire et extra-judiciaire, en voulant mettre fin à l&rsquo;anonymat en ligne et en répétant les erreurs déjà commises avec la loi Avia, le gouvernement fait une nouvelle fois fausse route. Ce projet de loi étant très dense, commençons par une présentation générale des éléments importants du texte (nous reviendrons plus tard en détails sur certains points avec des articles dédiés).</strong></p>
<h1 id="L&rsquo;accès au porno, prétexte pour mettre fin à l&rsquo;anonymat">L&rsquo;accès au porno, prétexte pour mettre fin à l&rsquo;anonymat</h1>
<p>Les articles 1<sup>er</sup> et 2 du projet de loi renforcent l&rsquo;obligation pour les sites pornographiques de vérifier l&rsquo;âge de leurs utilisateurs. Pour rappel, depuis une proposition de loi issue de la majorité présidentielle en 2020, les sites proposant du contenu pornographique doivent vérifier l&rsquo;âge des internautes, une simple case à cocher auto-déclarative ne suffisant pas. En cas de non-respect, une peine de censure peut être prononcée par un juge. Nous <a href="https://www.laquadrature.net/2020/07/03/acces-aux-contenus-pornographiques-le-parlement-doit-retirer-larticle-11/">dénoncions</a> à l&rsquo;époque un tel principe d&rsquo;obliger les personnes à justifier de leur âge, qui passe nécessairement par une mise à mal de l&rsquo;anonymat en ligne.</p>
<p>Mais en réalité, cette loi de 2020 n&rsquo;a pas vraiment changé les choses&nbsp;: les sites pornographiques continuent d&rsquo;afficher un bouton pour que l&rsquo;internaute déclare sur l&rsquo;honneur avoir plus de 18 ans, et très peu de censures ont été prononcées par la justice. Pour la simple raison que personne, ni les plateformes, ni le gouvernement, ni la CNIL ne savent comment effectuer cette vérification de l&rsquo;âge d&rsquo;une manière qui soit simple techniquement et respectueuse de la vie privée des personnes. Le laboratoire de prospective de la CNIL, le LINC, <a href=https://linc.cnil.fr/demonstrateur-du-mecanisme-de-verification-de-lage-respectueux-de-la-vie-privee">suggère</a> une solution passant par un tiers de confiance, c&rsquo;est-à-dire une autorité chargée de délivrer à l&rsquo;internaute un certificat (un jeton, ou «&nbsp;<i>token</i>&nbsp;») confirmant qu&rsquo;il est bien majeur, sans que ce tiers ne connaisse le service réclamant ce certificat. Mais, d&rsquo;une part, cette solution implique que le tiers de confiance pourra facilement déduire que, quand une personne lui demandera une «&nbsp;preuve de majorité&nbsp;», l&rsquo;objectif sera de consulter un site pornographique. D&rsquo;autre part, ce mécanisme du tiers de confiance impose l&rsquo;utilisation d&rsquo;une identité numérique d&rsquo;État, aujourd&rsquo;hui théoriquement facultative, qui deviendra alors encore plus obligatoire de fait.</p>
<p>Malgré ces obstacles pratiques et en dépit de l&rsquo;absence de solution viable décidée conjointement par les institutions et les experts techniques, le gouvernement persiste. Mécontent d&rsquo;une justice qui, à son goût, ne censure pas assez les sites pornographiques, il propose tout simplement de la contourner&nbsp;: <strong>le projet de loi SREN passe d&rsquo;une censure judiciaire des sites ne vérifiant pas l&rsquo;âge de leurs internautes à une censure administrative</strong>, c&rsquo;est-à-dire extra-judiciaire. Ce n&rsquo;est donc qu&rsquo;une fois la censure décidée qu&rsquo;un juge vérifiera sa légalité. L&rsquo;Arcom, autorité née de la fusion entre la Hadopi et le CSA, sera chargée de prononcer la censure d&rsquo;un site pornographique qui ne vérifierait pas l&rsquo;âge des internautes. Cet entêtement à vouloir fliquer les internautes est d&rsquo;autant plus surprenant que même la Grande-Bretagne, pourtant pionnière dans la censure des sites pornographiques et source d&rsquo;inspiration du gouvernement, a <a href="https://www.lemonde.fr/pixels/article/2019/10/16/le-royaume-uni-enterre-son-projet-de-filtrage-des-sites-pornographiques_6015764_4408996.html">abandonné</a> en 2019 un dispositif similaire, faute de solution technique satisfaisante. Très récemment encore, l’Australie a <a href="https://www.01net.com/actualites/laustralie-abandonne-son-projet-de-verification-dage-pour-acceder-aux-sites-porno.html">abandonné</a> un tel mécanisme de vérification d&rsquo;âge et le Texas a été <a href="media/f739159a.gov.uscourts.txwd.1172751222.36.0.pdf" data-original-source="https://storage.courtlistener.com/recap/gov.uscourts.txwd.1172751222/gov.uscourts.txwd.1172751222.36.0.pdf">obligé de suspendre</a> une loi similaire parce que la justice américaine a considéré cette loi contraire à la liberté d&rsquo;expression.</p>
<h1 id="Le retour de la censure obligatoire en 24 heures">Le retour de la censure obligatoire en 24 heures</h1>
<p>L’article 3 du projet de loi renforce les obligations de retrait des contenus à caractère pédopornographique pesant sur les hébergeurs de sites internet. Aujourd&rsquo;hui, la loi impose que ces derniers doivent retirer ces contenus en 24 heures sur demande de la police, mais il n’y a pas de sanction spécifique en cas d&rsquo;absence de retrait (seule la responsabilité des hébergeurs pourra être retenue, mais elle s&rsquo;apprécie en fonction des capacités des plateformes, de la gravité du contenu, de la difficulté à contrôler la légalité de la demande, etc.). La nouveauté du projet de loi réside dans le fait que l&rsquo;absence de retrait une fois passé le délai de 24 heures constitue automatiquement un délit, sans que ne soient examinées les potentielles raisons ou explications de cette absence d’action. Dès lors, la menace d’une répression systématique accentue le joug de l’État sur ces hébergeurs et renforce le principe de la censure administrative qui est déjà, en soi, un danger pour la liberté d&rsquo;expression en ligne (voir par exemple <a href="https://www.laquadrature.net/2010/12/15/loppsi-censure-administrative-du-net-adoptee-les-pedophiles-sont-tranquilles/">ce que nous disions</a> il y a 13 ans à propos de la LOPPSI).</p>
<p>Mais surtout, il est très probable que, par crainte d’une sanction, les hébergeurs préfèrent retirer trop de contenus, quitte à se tromper. C&rsquo;est exactement ce que voulait la loi Avia qui imposait des délais fixes pour retirer des contenus haineux ou à caractère terroriste. Nous <a href="https://www.laquadrature.net/2019/06/27/deuxieme-analyse-de-la-loi-haine/">dénoncions</a> alors le risque de surcensure que ce mécanisme impliquait, tout comme le Conseil constitutionnel lorsqu’il a déclaré cette loi <a href="https://www.laquadrature.net/2020/06/18/loi-haine-le-conseil-constitutionnel-refuse-la-censure-sans-juge/">contraire à la Constitution</a>.</p>
<p>Malgré cela, le gouvernement ne cache pas vraiment ses intentions de censure généralisée. Dans l&rsquo;<a href="https://www.senat.fr/leg/etudes-impact/pjl22-593-ei/pjl22-593-ei.html#_Toc134548512">étude d&rsquo;impact</a> du projet de loi, il explique que l&rsquo;objectif de l&rsquo;article 3 est d&rsquo;«&nbsp;<i>aligner</i>&nbsp;» les régimes de censure administrative sur celui du terrorisme. En effet, après la censure de la loi Avia, la France s&rsquo;est <a href="https://www.laquadrature.net/2020/09/22/aviasback/">empressée de pousser</a> un règlement européen qui oblige aujourd&rsquo;hui les hébergeurs à retirer les contenus à caractère terroristes sous peine de lourdes sanctions pénales, par un mécanisme similaire à feue la loi Avia. Par cet article 3 qui introduit des sanctions similaires pour les contenus pédopornographiques, le gouvernement organise donc le retour masqué de la loi Avia.</p>
<h1 id="Le bannissement des réseaux sociaux, un coup d&rsquo;épée dans l&rsquo;eau">Le bannissement des réseaux sociaux, un coup d&rsquo;épée dans l&rsquo;eau</h1>
<p>Pour lutter contre le harcèlement en ligne, le gouvernement n&rsquo;envisage pas de donner les moyens humains et financiers à la justice pour faire son travail. À l&rsquo;inverse, l&rsquo;article 5 du projet de loi préfère miser sur un réflexe disciplinaire, en créant une peine complémentaire d&rsquo;interdiction de réseaux sociaux pour les personnes qui seraient condamnées pour harcèlement&nbsp;: sur décision de justice, les plateformes en ligne devront suspendre les comptes détenus par les personnes condamnées et les empêcher de se créer un nouveau compte. Mais comment s&rsquo;assurer qu&rsquo;une personne condamnée ne se recrée pas un compte&nbsp;? Le projet de loi est parfaitement silencieux sur ce point. On peut en revanche légitimement craindre que cette nouveauté ouvre la voie à la généralisation du contrôle d&rsquo;identité en ligne, afin de s&rsquo;assurer que l&rsquo;internaute voulant se créer un compte ne sera pas sur la liste des personnes interdites de réseaux sociaux.</p>
<p>Cette peine d&rsquo;interdiction des réseaux sociaux et la généralisation de la vérification d&rsquo;identité qu&rsquo;elle risque d&rsquo;induire s&rsquo;inscrivent dans la même ligne que la <a href="https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000047799533">récente loi</a> visant à instaurer une majorité numérique et à lutter contre la haine en ligne, adoptée il y a quelques mois. Issue d&rsquo;une proposition de loi du groupe Horizons, elle instaure une interdiction pour les mineur·es de moins de 13 ans de se créer un compte en ligne, impose à celles et ceux entre 13 et 15 ans d&rsquo;obtenir l&rsquo;accord de leurs parents, et permet aux parents d&rsquo;adolescent·es ayant entre 15 et 18 ans de suspendre leurs comptes jusqu&rsquo;à leur majorité. Or, ces règles ne peuvent être respectées qu&rsquo;en vérifiant l&rsquo;identité de toute personne voulant s&rsquo;inscrire sur un réseau social.</p>
<p>Cette «&nbsp;majorité numérique&nbsp;» semble non seulement impossible à mettre en œuvre sans atteinte excessive au droit à l&rsquo;anonymat en ligne, mais également contraire au droit de l&rsquo;Union européenne. Cette situation inconfortable a poussé le législateur à soumettre, à la toute fin du processus législatif, l&rsquo;entrée en vigueur de ce texte à une décision de la Commission européenne sur la conformité au droit de l&rsquo;UE de ce mécanisme.</p>
<p>Pour autant, cela ne rebute toujours pas le gouvernement, qui continue avec le projet de loi SREN et son idée de bannissement des réseaux sociaux. Le Sénat est même allé plus loin&nbsp;: le rapporteur du texte à la chambre haute, Loïc Hervé, a introduit de nouvelles dispositions pour que ce bannissement des réseaux sociaux puisse être prononcé par un juge d&rsquo;application des peines, voire par un procureur de la République <i>via</i> une composition pénale<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21120_2('footnote_plugin_reference_21120_2_1');" onkeypress="footnote_moveToReference_21120_2('footnote_plugin_reference_21120_2_1');" ><sup id="footnote_plugin_tooltip_21120_2_1" class="footnote_plugin_tooltip_text">1</sup></a><span id="footnote_plugin_tooltip_text_21120_2_1" class="footnote_tooltip">Procédure pénale où procureur et personne mise en cause s&rsquo;accordent sur une peine puis la font valider par un tribunal.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21120_2_1').tooltip({ tip: '#footnote_plugin_tooltip_text_21120_2_1', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>
<h1 id="La censure administrative par le navigateur">La censure administrative par le navigateur</h1>
<p>Autre surprise du texte&nbsp;: le gouvernement propose une nouvelle manière de faire de la censure administrative, en passant par un blocage des contenus au niveau des navigateurs web. Sous couvert de proposer un filtre «&nbsp;anti-arnaques&nbsp;», l&rsquo;article 6 du projet de loi impose non seulement aux fournisseurs d&rsquo;accès à Internet (FAI) et aux fournisseurs de systèmes de résolution de noms de domaine (c&rsquo;est-à-dire les fournisseurs de <a href="https://fr.wikipedia.org/wiki/Domain_Name_System">DNS</a> alternatifs autres que ceux des FAI) de censurer certaines ressources en ligne que la police aurait identifiées comme étant des «&nbsp;arnaques&nbsp;», mais oblige également les navigateurs web à procéder à une telle censure.</p>
<p>Autrement dit, si demain la police repère un site de <i>phishing</i>, elle pourra imposer à l&rsquo;éditeur de votre navigateur préféré de procéder à son blocage pur et simple. Et peu importe s&rsquo;il s&rsquo;avère que la demande est erronée ou abusive. Peu importe aussi si cela ouvre grand la porte à des censures d&rsquo;un autre genre, politiques par exemple. Bien évidemment, la fondation Mozilla, qui édite le navigateur Firefox, est vent debout contre cette obligation. Nous vous invitons d&rsquo;ailleurs à <a href="https://foundation.mozilla.org/fr/campaigns/sign-our-petition-to-stop-france-from-forcing-browsers-like-mozillas-firefox-to-censor-websites/">signer</a> leur pétition et à la faire circuler largement.</p>
<h1 id="Et peut-être d&rsquo;autres mesures autoritaires à venir">Et peut-être d&rsquo;autres mesures autoritaires à venir</h1>
<p>Ces quelques articles de ce projet de loi sont déjà très inquiétants, au regard de la mise à mal de l&rsquo;anonymat en ligne, de l&rsquo;atteinte à la liberté d&rsquo;expression et de la négation du droit à la vie privée qu&rsquo;ils instaurent. Mais ce projet de loi risque encore de s&rsquo;aggraver au cours des discussions.</p>
<p>En juillet dernier, la réponse du gouvernement et de ses soutiens a été de <a href="https://www.laquadrature.net/2023/07/28/revoltes-et-reseaux-sociaux-le-retour-du-coupable-ideal/">pointer les réseaux sociaux</a> comme responsables des révoltes en France, pour mieux passer sous silence le malaise social grandissant. À cette occasion, le député Renaissance Paul Midy, rapporteur général de ce projet de loi SREN, avait déjà <a href="https://www.lopinion.fr/politique/violences-urbaines-mettons-fin-a-limpunite-sur-les-reseaux-sociaux-la-tribune-de-paul-midy-depute-renaissance">annoncé</a> qu&rsquo;il était favorable à l&rsquo;obligation de justifier de son identité civile avant de pouvoir s&rsquo;inscrire sur une plateforme en ligne, emboîtant ainsi le pas d&rsquo;Emmanuel Macron. Cette marotte de la droite française pourrait bien se concrétiser avec ce texte. Suite aux violences estivales, un «&nbsp;groupe de travail&nbsp;» interparlementaire s&rsquo;est déjà <a href="https://www.contexte.com/actualite/numerique/le-gouvernement-sonde-la-commission-pour-savoir-comment-le-dsa-sapplique-aux-emeutes_173995.html">réuni trois fois</a> cet été pour réfléchir à une «&nbsp;évolution législative&nbsp;» de l’encadrement des réseaux sociaux. Seraient pour l&rsquo;instant envisagées des <a href="https://www.contexte.com/actualite/numerique/le-gouvernement-et-les-parlementaires-main-dans-la-main-pour-dompter-les-reseaux-sociaux_172245.html">restrictions temporaires</a> de la géolocalisation ou l’obligation pour les plateformes de conserver les messages éphémères qui y sont échangés.</p>
<p>De plus, tout le monde au gouvernement veut maintenant son petit bout de censure. En réponse à la polémique née autour d&rsquo;un site de rencontres pour jeunes enfants et adolescents devenu le terrain de chasse de pédophiles, la secrétaire d&rsquo;État en charge de l&rsquo;Enfance Charlotte Caubel <a href="https://www.francetvinfo.fr/societe/enfance-et-adolescence/video-site-de-rencontres-pour-ados-l-objectif-n-est-pas-d-interdire-mais-de-reglementer-assure-la-secretaire-d-etat-en-charge-de-l-enfance_6019169.html">s&rsquo;imagine</a> déjà censurer ce type de site. Mais comme la loi instaurant une majorité numérique, qui obligerait à vérifier l&rsquo;identité de toute personne, n&rsquo;est pas encore en vigueur, elle pourrait bien <a href="https://www.contexte.com/actualite/numerique/la-secretaire-detat-a-lenfance-menace-de-bloquer-les-sites-de-rencontre-depourvus-de-controle-de-lage_173436.html">profiter</a> de ce projet de loi SREN pour pousser ses idées de censure.</p>
<h1 id="Une grande absente&nbsp;: l&rsquo;obligation d&rsquo;interopérabilité des réseaux sociaux">Une grande absente&nbsp;: l&rsquo;obligation d&rsquo;interopérabilité des réseaux sociaux</h1>
<p>Finalement, il n&rsquo;est pas surprenant que l&rsquo;idée d&rsquo;une interopérabilité obligatoire des réseaux sociaux ne figure pas dans ce projet de loi&nbsp;: il s&rsquo;agit d&rsquo;une manière radicalement différente de celle du gouvernement de réguler les contenus en ligne. L&rsquo;obligation d&rsquo;interopérabilité des réseaux sociaux consiste à imposer aux grandes plateformes d&rsquo;ouvrir leurs communautés à d&rsquo;autres réseaux sociaux. Concrètement, avec une telle obligation, les utilisateur·rices de Mastodon seraient capables de discuter avec leurs contacts restés sur Facebook. Autrement dit&nbsp;: les internautes pourraient partir d&rsquo;un réseau social dangereux (car il marchanderait la vie privée de ses utilisateur·rices et/ou mettrait en avant des contenus problématiques) sans se couper de leurs ami·es qui y resteraient.</p>
<p>L&rsquo;obligation d&rsquo;interopérabilité des réseaux sociaux remettrait largement en question le modèle économique des géants actuels. Celui-ci repose en effet sur le non-respect structurel du droit des données personnelles et la mise en avant algorithmique de contenus haineux. En faisant réagir, ces réseaux sociaux commerciaux gardent les internautes plus longtemps sur la plateforme, augmentant ainsi les revenus publicitaires. En permettant aux internautes de partir d&rsquo;un Twitter aux mains d&rsquo;un milliardaire aux choix erratiques et qui met en avant l&rsquo;extrême-droite ou d&rsquo;un Meta régulièrement condamné pour ne pas respecter le droit des données personnelles, l&rsquo;obligation d&rsquo;interopérabilité de ces plateformes les pousseraient à s&rsquo;adapter face à la concurrence plus éthique des réseaux sociaux décentralisés. Sans passer par une censure verticale des contenus problématiques en ligne, l&rsquo;interopérabilité des réseaux sociaux, si elle est obligatoire, permettrait qu&rsquo;ils ne soient plus mis en avant, et donc de réduire leur impact sur les sociétés.</p>
<p>Ce projet de loi, en ne s&rsquo;intéressant pas à la question de l&rsquo;interopérabilité, passe d&rsquo;autant plus à côté du vrai sujet que les géants du numérique, eux, commencent à s&rsquo;intéresser à cette question. Cet été, Meta a lancé son concurrent à Twitter, Threads, et a annoncé que son service serait interopérable, notamment avec le reste du fédivers. L&rsquo;absence d&rsquo;autorité capable de réguler les ardeurs des géants comme Meta crée alors un danger immédiat pour le fédivers (voir <a href="https://www.laquadrature.net/2023/08/09/larrivee-de-meta-sur-le-fedivers-est-elle-une-bonne-nouvelle/">notre explication</a>). Il est aujourd&rsquo;hui crucial d&#8217;empêcher un aussi grand acteur que Meta de prendre ce qui l&rsquo;intéresse dans l&rsquo;écosystème des réseaux sociaux interopérables sans donner en retour. Alors que le <i>Digital Markets Act</i>, règlement européen voulant réguler les plateformes, avait un temps envisagé d&rsquo;instaurer une telle obligation d&rsquo;interopérabilité des réseaux sociaux, la France était parvenue en bout de course législative à supprimer une telle obligation. On ne peut que déplorer cette stratégie d&rsquo;ignorer la question de l&rsquo;interopérabilité des réseaux sociaux.</p>
<p><strong>S&rsquo;il fallait résumer le projet de loi SREN, nous pourrions le présenter comme l&rsquo;exemple parfait de ce qu&rsquo;il ne faut pas faire. Réguler par la censure, l&rsquo;autoritarisme et les atteintes massives aux droits fondamentaux n&rsquo;est pas la bonne solution. Il existe pourtant d&rsquo;autres manières de faire, notamment en passant par l&rsquo;obligation d&rsquo;interopérabilité des réseaux sociaux. Nous reviendrons plus en détails sur certaines des dispositions que nous venons de présenter. En attendant, vous pouvez nous aider à continuer de défendre un Internet respectueux des personnes en nous <a href="https://www.laquadrature.net/donner">faisant un don</a>.</strong></p>
<div class="speaker-mute footnotes_reference_container"> <div class="footnote_container_prepare"><p><span role="button" tabindex="0" class="footnote_reference_container_label pointer" onclick="footnote_expand_collapse_reference_container_21120_2();">References</span><span role="button" tabindex="0" class="footnote_reference_container_collapse_button" style="display: none;" onclick="footnote_expand_collapse_reference_container_21120_2();">[<a id="footnote_reference_container_collapse_button_21120_2">+</a>]</span></p></div> <div id="footnote_references_container_21120_2" style=""><table class="footnotes_table footnote-reference-container"><caption class="accessibility">References</caption> <tbody> 

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21120_2('footnote_plugin_tooltip_21120_2_1');"><a id="footnote_plugin_reference_21120_2_1" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>1</a></th> <td class="footnote_plugin_text">Procédure pénale où procureur et personne mise en cause s&rsquo;accordent sur une peine puis la font valider par un tribunal.</td></tr>

 </tbody> </table> </div></div><script type="text/javascript"> function footnote_expand_reference_container_21120_2() { jQuery('#footnote_references_container_21120_2').show(); jQuery('#footnote_reference_container_collapse_button_21120_2').text('−'); } function footnote_collapse_reference_container_21120_2() { jQuery('#footnote_references_container_21120_2').hide(); jQuery('#footnote_reference_container_collapse_button_21120_2').text('+'); } function footnote_expand_collapse_reference_container_21120_2() { if (jQuery('#footnote_references_container_21120_2').is(':hidden')) { footnote_expand_reference_container_21120_2(); } else { footnote_collapse_reference_container_21120_2(); } } function footnote_moveToReference_21120_2(p_str_TargetID) { footnote_expand_reference_container_21120_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } } function footnote_moveToAnchor_21120_2(p_str_TargetID) { footnote_expand_reference_container_21120_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } }</script>


feed_id: https://www.laquadrature.net/?p=21144
title: QSPTAG #293 — 15 septembre 2023
uri: QSPTAG-293-15-septembre-2023
url: https://www.laquadrature.net/2023/09/15/qsptag-293/
content:
<p>Au Garage cette semaine, on a publié <a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/">un gros article sur la loi SREN</a> (on en reparlera la semaine prochaine) et on vous propose pour les quinze jours qui viennent un agenda rempli de rendez-vous&nbsp;:<br />
– trois rencontres avec Félix Tréguer, membre fondateur de l’association, qui présentera son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>Contre-histoire d&rsquo;Internet</i></a> dans des librairies de Marseille, Nice et Paris,<br />
– deux soirées de soutien aux inculpé·es du «&nbsp;8 décembre&nbsp;» à Nantes et à Pantin ainsi qu’un évènement organisé à Paris par La Quadrature et d’autres collectifs pour revenir sur cette affaire et débattre de la manière dont le chiffrement a été criminalisé par les services de renseignement et la justice,<br />
– une rencontre à Lyon pour parler également du «&nbsp;8 décembre&nbsp;» et du secret des communications,<br />
– une rencontre à Bruxelles pour parler de la surveillance et de la défense du chiffrement avec nos partenaires européens,<br />
– la deuxième édition du Festival Technopolice à Marseille, avec films et débats,<br />
– et un apéro public dans nos locaux parisiens le vendredi 29 septembre&nbsp;: on vous attend pour parler de tout ça&nbsp;!</p>
<p>Alex, Bastien, Marne, Mathieu, Myriam, Noémie et Nono</p>
<h2 class="wp-block-heading">Agenda du 15 septembre au 6 octobre 2023</h2>
<ul>
<li><strong>15 septembre</strong>&nbsp;: rencontre avec Félix Tréguer à 19h à la librairie Les Parleuses à Nice (18 rue Defly, 5 pl. du Général Georges Marshall) dans le cadre de la parution de son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>Contre-histoire d&rsquo;Internet</i></a> aux éditions Agone.</li>
<li><strong>16 septembre</strong>&nbsp;: La Quadrature du Net sera à Lyon dans le cadre du Festival «&nbsp;Techxploitation, pour un usage critique des technologies&nbsp;» — pour une discussion sur la criminilasiation du chiffrement et la confidentialité des échanges. Plus d&rsquo;infos sur le festival&nbsp;: <a href="https://amicale.online/du-14-09-au-17-09-techxploitation-pour-un-usage-critique-des-technologies-2">https://amicale.online/du-14-09-au-17-09-techxploitation-pour-un-usage-critique-des-technologies-2</a></li>
<li><strong>17 septembre</strong>&nbsp;: soirée de soutien aux inculpé·es du «&nbsp;8 décembre&nbsp;» à La Cocotte à Nantes (Île de Versailles) à partir de 19h30, toutes les informations ici&nbsp;: <a href="https://contre-attaque.net/2023/09/11/qui-terrorise-qui-soiree-de-soutien-a-nantes-dimanche-17-septembre/">https://contre-attaque.net/2023/09/11/qui-terrorise-qui-soiree-de-soutien-a-nantes-dimanche-17-septembre/</a>.</li>
<li><strong>23 septembre</strong>&nbsp;: soirée de soutien aux inculpé·es du «&nbsp;8 décembre&nbsp;» à La Trotteuse à Pantin (61 rue Charles Nodier) — discussion à 16h avec L’Envolée et La Quadrature du Net, puis grand concert à partir de 18h jusqu&rsquo;à minuit&nbsp;: <a href="https://www.agendamilitant.org/Concert-de-soutien-aux-inculpee-es-du-8-12.html">https://www.agendamilitant.org/Concert-de-soutien-aux-inculpee-es-du-8-12.html</a>.</li>
<li><strong>25 septembre</strong>&nbsp;: discussion «&nbsp;Affaire du «&nbsp;8 décembre&nbsp;»&nbsp;: antiterrorisme et criminalisation du chiffrement&nbsp;» à la Bourse du travail à Paris (29 boulevard du Temple, 75003) — à partir de 19h avec La Quadrature du Net, le SNJ, Nothing to Hide et les avocats des inculpé·es.</li>
<p><img decoding="async" src="media/922af675.bourse-du-travail.jpeg" data-original-source="https://www.laquadrature.net/wp-content/uploads/sites/8/2023/09/bourse-du-travail.jpeg"></p>
<li><strong>26 septembre</strong>&nbsp;: La Quadrature participera à une discussion sur le chiffrement et la surveillance organisée par <a href="https://edri.org/">EDRi</a> à partir de 16h30 à Bruxelles (lieu à préciser)&nbsp;: <a href="https://edri.org/take-action/events/save-the-date-join-edri-to-talk-encryption-surveillance-and-privacy/">https://edri.org/take-action/events/save-the-date-join-edri-to-talk-encryption-surveillance-and-privacy/</a>.</li>
<li><strong>du 28 septembre au 1er octobre</strong>&nbsp;: deuxième édition du Festival Technopolice  à Marseille&nbsp;! Films, ateliers et débats, toutes les infos ici&nbsp;: <a href="https://technopolice.fr/festival-2023/">https://technopolice.fr/festival-2023/</a>.</li>
<li><strong>28 septembre</strong>&nbsp;: rencontre avec Félix Tréguer à 18h à la librairie L&rsquo;Hydre aux milles tête à Marseille (96 rue Saint-Savournin, 13001) dans le cadre de la parution de son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>Contre-histoire d&rsquo;Internet</i></a> aux éditions Agone.</li>
<li><strong>29 septembre</strong>&nbsp;: apéro mensuel au Garage (115 rue de Ménilmontant, 75020 Paris) à partir de 19h&nbsp;: apportez un petit truc à manger ou à boire si vous pouvez et venez discuter avec nous&nbsp;!</li>
<li><strong>6 octobre</strong>&nbsp;: rencontre avec Félix Tréguer à 19h à la librairie Le Monte-en-l&rsquo;air à Paris (2 rue de la Mare, 75020) dans le cadre de la parution de son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>Contre-histoire d&rsquo;Internet</i></a> aux éditions Agone.</li>
</ul>


feed_id: https://www.laquadrature.net/?p=21179
title: Festival Technopolice 2023 – Marseille, édition #2
uri: Festival-Technopolice-2023-Marseille-édition-2
url: https://www.laquadrature.net/2023/09/18/festival-technopolice-2023-marseille-edition-2/
content:
<p class="has-text-align-left"><strong>Aujourd&rsquo;hui,  nous sommes heureux de vous annoncer l&rsquo;organisation par le collectif Technopolice Marseille de la deuxième édition du Festival Technopolice</strong> <strong>qui aura lieu du 28 septembre au 1er octobre 2023 à Marseille, avec le soutien de La Quadrature du Net.</strong></p>



<p class="has-text-align-left">Dans un contexte de répression des mouvements populaires, le recours aux technologies de surveillance de l&rsquo;espace public se normalise sous prétexte de sécurité, tandis que la violence policière continue de s&rsquo;accroître en France. En vue des Jeux Olympiques 2024, une loi légalisant la vidéosurveillance algorithmique (VSA) a été adoptée malgré de nombreuses oppositions (voir notamment <a href="https://lqdn.fr/biometrie-jo">ici</a> et <a href="https://reclaimyourface.eu">ici</a>), faisant de la France le premier pays de l&rsquo;Union Européenne à légaliser la surveillance biométrique de l&rsquo;espace public.</p>



<p class="has-text-align-left">Il y a 4 ans, La Quadrature du Net, association de défense des libertés numériques, lançait l’initiative Technopolice avec le soutien d&rsquo;une <a href="https://technopolice.fr/about/">vingtaine d&rsquo;associations</a>, pour recenser et contrer les nouvelles technologies de surveillance policières dans nos villes. Le collectif Technopolice Marseille commençait alors à s’organiser localement avec des conférences, expositions artistiques, cartographies de caméras et actions de rue contre le dispositif de surveillance de la ville. En 2022, nous organisions la première édition du festival Technopolice à Marseille et y lancions notre <a href="https://plainte.technopolice.fr">plainte collective</a> contre la vidéosurveillance, le fichage de masse et la reconnaissance faciale de l’État. Pour cette deuxième édition, nous souhaitons dénoncer le rôle de ces technologies, qui donnent davantage de pouvoir à une police toujours plus répressive, </p>



<p class="has-text-align-left"><strong>Face à la mise en place de la surveillance totale de l’espace public, il est urgent de résister et d&rsquo;agir pour nos futurs désirables. À travers des films, des débats et des ateliers, en entrée libre, cette 2ème édition du festival vous invite à une réflexion collective.</strong></p>



<p class="has-text-align-left"><strong>Retrouvez le programme du festival sur <a href="http://technopolice.fr/festival-2023/">technopolice.fr/festival-2023</a></strong>.</p>


feed_id: https://www.laquadrature.net/?p=21184
title: Règlement CSAR : la surveillance de nos communications se joue maintenant à Bruxelles
uri: Règlement-CSAR-la-surveillance-de-nos-communications-se-joue-maint
url:
https://www.laquadrature.net/2023/09/18/reglement-csar-la-surveillance-de-nos-communications-se-joue-maintenant-a-bruxelles/

content:
<p><b>Il y a un peu plus d’un an, la Commission européenne proposait l’un des pires textes jamais pensés sur le numérique&nbsp;: le  <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:52022PC0209">règlement CSAR</a>, également appelé «&nbsp;Chat control&nbsp;». Affichant l’objectif de lutter contre les abus sexuels sur les enfants, cette proposition vise en réalité à créer un outil inédit de surveillance des communications. Dès le dépôt de ce projet de règlement, partout en Europe, associations et expert·es se sont insurgé·es contre cette initiative car elle reviendrait à mettre fin au chiffrement des communications. Aujourd’hui, bien que les critiques sont aujourd&rsquo;hui plus nombreuses encore, les discussions avancent rapidement à Bruxelles, laissant présager une adoption très prochaine du texte. Afin de comprendre ses enjeux et aider à renforcer la mobilisation, nous revenons sur le contenu de ce règlement qui pourrait signer la fin de toute confidentialité des échanges en ligne.</b></p>
<h2 id="La genèse du projet">La genèse du projet</h2>
<p>Le 11 mai 2022, la Commission européenne lâchait une bombe dans le monde du numérique en publiant sa <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:52022PC0209">proposition de règlement</a> «&nbsp;<i>établissant des règles en vue de prévenir et de combattre les abus sexuels sur enfants</i>&nbsp;». Dénommé  «&nbsp;Chat control&nbsp;» ou «&nbsp;CSAR&nbsp;» (pour «&nbsp;<i>Child sexual abuse regulation</i>&nbsp;»), ce texte vise à obliger les fournisseurs de contenus en ligne à détecter des contenus d&rsquo;abus sexuels de mineurs <b>en analysant les conversations de leurs utilisateur·ices</b>.</p>
<p>Cette initiative s’inspire d’outils mis en œuvre depuis plusieurs années par les grandes entreprises du web. <a href="media/b525c2fb.tas-approach-to-safer-private-messaging-on-MSGR-and-IG-DMs-4.pdf" data-original-source="https://messengernews.fb.com/wp-content/uploads/2021/12/Metas-approach-to-safer-private-messaging-on-MSGR-and-IG-DMs-4.pdf">Meta</a>, par exemple, analyse de façon proactive l’ensemble des messages échangés sur Facebook Messenger ainsi que les données non chiffrées de <a href="https://faq.whatsapp.com/5704021823023684">Whatsapp</a> (photos de profil ou groupe, descriptions, &#8230;) en vue de détecter des images connues d’exploitation d’enfants. En 2021, <a href="https://www.theverge.com/2021/8/10/22613225/apple-csam-scanning-messages-child-safety-features-privacy-controversy-explained">Apple</a> annonçait mettre en place un outil d&rsquo;analyse des données de ses clients hébergées sur iCloud afin de les comparer à une base de données de contenus signalés comme liés à de la pédopornographie, tout comme <a href="https://www.theverge.com/2020/1/14/21063491/microsoft-tool-artemis-abuse-chat-xbox">Microsoft</a> qui a développé l&rsquo;outil de comparaison <a href="https://www.microsoft.com/en-us/photodna">PhotoDNA</a>.</p>
<p>Dès 2020, la Commission avait commencé à laisser présager son appétence pour ce type d’outils dans sa «&nbsp;<i>stratégie de lutte contre les abus sexuels commis contre les enfants</i>&nbsp;» qui a débouché en 2021 sur l’adoption d’un <a href="https://eur-lex.europa.eu/legal-content/FR/ALL/?uri=CELEX:32021R1232">règlement</a> sur le sujet. Celui-ci autorisait, de façon temporaire pendant trois ans, les services de communication électronique à faire de l’analyse de contenus en vue de détecter ceux liés à ce type d&rsquo;abus. Si cette possibilité était facultative et devait reposer sur leurs conditions générales, une telle inscription formelle dans la loi <b>légitimait néanmoins les initiatives et techniques de surveillance des grandes plateformes</b>, renforçant par là même leur pouvoir hégémonique, sans qu’aucune évaluation de la pertinence de ces méthodes ne soit par ailleurs réalisée.</p>
<p>Cette autorisation prend fin en 2024 et c&rsquo;est pour cette raison que le CSAR a été proposé. Mais contrairement au règlement temporaire qui ne faisait que l&rsquo;autoriser, ce projet de règlement <b>impose de façon obligatoire la détection de ces contenus pédopornographiques</b> sous certaines conditions, mettant donc fin à toute forme de confidentialité. Depuis le début des discussions il y a un an et demi, le réseau européen EDRi, dont La Quadrature du Net fait partie, a fourni un travail d’analyse considérable sur ce texte, que vous pouvez retrouver dans leur «&nbsp;<i><a href="media/fdcbb301.EDRi-Position-Paper-CSAR.pdf" data-original-source="https://edri.org/wp-content/uploads/2022/10/EDRi-Position-Paper-CSAR.pdf">position paper</a></i>&nbsp;» ou, de façon plus condensée, dans leur <a href="media/1229ddd9.CSAR-summary-booklet.pdf" data-original-source="https://edri.org/wp-content/uploads/2023/05/CSAR-summary-booklet.pdf">brochure</a> (en anglais). Nous vous résumons ici les principaux enjeux autour de ce règlement.</p>
<h2 id="Le contenu du règlement">Le contenu du règlement</h2>
<p>Le règlement CSAR vise à s&rsquo;appliquer à un nombre très important d’acteurs. Entrent ainsi dans le champ d’application tous les «&nbsp;<i>fournisseurs de services de communications interpersonnelles</i>&nbsp;», c’est-à-dire <b>les messageries en ligne telles que Signal, Whatsapp ou Telegram</b>, les fournisseurs de mail, les applications de rencontre mais également les messageries qui ne sont qu’une fonction accessoire à d’autres services, comme dans les jeux par exemple. Rentrent également dans le champ d’application les «&nbsp;<i>fournisseurs de services d’hébergement</i>&nbsp;» tels que NextCloud, iCloud, DropBox ou les hébergeurs associatifs des <a href="https://www.chatons.org/">CHATONS</a>, les boutiques d’applications ainsi que les réseaux sociaux.</p>
<p>Ces fournisseurs seraient contraints à mettre en œuvre une surveillance considérable de leurs utilisateur·ices. D’une part, les articles 3 et 4 prévoient qu&rsquo;ils obéissent à une <b>obligation d’évaluer et réduire au maximum les risques de partage de contenus pédopornographiques sur les services concernés</b>. Cela impliquerait de fournir, via une étude d’impact, des éléments sur le fonctionnement et l’usage de leur outil afin de théoriquement anticiper les risques pour identifier les mesures d’atténuation correspondantes. Les fournisseurs devraient ainsi être en capacité de donner des informations sur quel type d&rsquo;utilisateur·rice (personne majeure, mineure..) utilisent leur service et quel type de contenu (vidéo, texte..) y sont échangés. Cette obligation est pourtant incompatible avec un des principes de base de respect de la vie privée sur lesquels repose le fonctionnement de nombreux services&nbsp;: l&rsquo;absence de collecte de ce type de données personnelles. Ces prestataires seraient alors dans une position intenable car, pour se conformer à cette nouvelle réglementation, ils devront changer de modèle et commencer à recueillir des informations qu&rsquo;aujourd&rsquo;hui ils ne possèdent pas. Le règlement CSAR reviendrait pour eux à abandonner leur promesse de confidentialité, garantie notamment par le recours au chiffrement et l&rsquo;anonymisation de données.</p>
<p>En outre, l’article 6 du CSAR préconise que les fournisseurs aient <b>recours à des solutions de vérification d’âge</b> pour remplir cet objectif de réduction des risques. Or, non seulement aucun outil viable et respectueux de la vie privée n’existe réellement à ce jour mais, surtout, le recours à ce genre de solution pose de sérieux problèmes quant à <b>la protection de l’anonymat en ligne</b>, comme nous le <a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/">rappelions</a> récemment dans notre analyse de la loi française SREN. Au final, le texte pousse pour privilégier la mise en place de mesures coercitives et remet frontalement en cause le droit à la vie privée.</p>
<p><b>D’autre part, ces acteurs auront l’obligation de répondre à toute «&nbsp;injonction de détection&nbsp;» émise par un juge ou une autorité administrative</b>. Ainsi, les articles 7 à 11 prévoient que, s’il existe «&nbsp;<i>un risque important que le service soit utilisé à des fins d’abus sexuels sur enfants en ligne</i>&nbsp;», les fournisseurs pourront se voir obligés d’installer au cœur même de leur application ou infrastructure des outils leur permettant de scanner les données qui y transitent, afin d’y détecter de potentiels contenus liés aux abus sexuels d’enfants.</p>
<p>Plus précisément les fournisseurs devront repérer trois types de données&nbsp;:</p>
<ul>
<li>Des <b>contenus «&nbsp;connus&nbsp;»</b> c’est-à-dire des images ou des vidéos déjà répertoriées par les autorités comme liées à de la pédopornographie ou des abus sexuels d’enfants.</li>
<li>Des <b>contenus «&nbsp;inconnus&nbsp;»</b> c’est-à-dire des photos ou vidéos susceptibles de constituer de la pédopornographie, mais qui n’auraient pas été identifiées comme telles. Pour trouver ces contenus, les services devront utiliser des outils fondés sur de l’intelligence artificielle qui identifieront des corrélations entre les contenus partagés et des indicateurs prédéfinis (par exemple de la peau nue).</li>
<li>Des <b>activités consistant à solliciter des enfants</b> (appelé «&nbsp;<i>pédopiégeage</i>&nbsp;»). Il s’agit de détecter des comportements «&nbsp;types&nbsp;» de personnes qui rentrent en contact avec des enfants, à nouveau à partir de modèles statistiques et probabilistes fondés sur de l’intelligence artificielle.</li>
</ul>
<p>Concrètement, il s’agira de mettre en œuvre une technique de «&nbsp;<i>client side scanning</i>&nbsp;» (littéralement «&nbsp;analyse côté client&nbsp;»), c’est-à-dire analyser <b>directement sur les appareils des utilisateur·ices les données qui y transitent</b>. Lorsqu&rsquo;un internaute enverra un message ou postera une publication <i>via</i> un des services concernés par une injonction, ce contenu sera analysé avant envoi. Plus précisément, ce sont des «&nbsp;<i>hash</i>&nbsp;», c&rsquo;est-à-dire des empreintes numériques liées aux images, qui seront examinées. Ce <i>hash</i> sera alors comparé à une base de données déjà constituée de contenus relatifs à des abus sexuels d&rsquo;enfants. Si le <i>hash</i> correspond avec une photo de la base, une alerte est déclenchée. Dans le cas contraire, cela signifie que le contenu doit être qualifié d&rsquo;«&nbsp;inconnu&nbsp;» et un outil d&rsquo;analyse supplémentaire vérifiera alors s&rsquo;il existe des corrélations ou similitudes avec des contenus d&rsquo;abus sexuels pour déclencher une alerte le cas échéant.</p>
<h2 id="Le cheval de Troie de la Commission&nbsp;: vers la fin du chiffrement">Le cheval de Troie de la Commission&nbsp;: vers la fin du chiffrement</h2>
<p>En affichant l’objectif de protéger les enfants, l’Union européenne tente en réalité d’introduire une capacité de <b>contrôle gigantesque de l’ensemble des vies numériques</b>, concrétisant le rêve de surveillance de tout gouvernement. Ce texte a fait l&rsquo;objet de tant de réactions qu&rsquo;EDRi <a href="https://edri.org/our-work/most-criticised-eu-law-of-all-time/">se demande</a> si le CSAR ne serait pas la loi européenne la plus critiquée de tous les temps. Les critiques contre ce texte viennent des <a href="media/b127f03e.20230426-opinion-legal-services-on-csar-proposal.pdf" data-original-source="https://www.bitsoffreedom.nl/wp-content/uploads/2023/05/20230426-opinion-legal-services-on-csar-proposal.pdf">institutions européennes</a> elles-mêmes, mais aussi d&rsquo;organisations de défense des enfants en passant par les acteurs de la tech, ainsi que de scientifiques et chercheur·es où 465 d&rsquo;entre eux ont signé une <a href="https://docs.google.com/document/d/13Aeex72MtFBjKhExRTooVMWN9TC-pbH-5LEaAbMF91Y/edit">lettre</a> contre cette proposition. Et à raison.</p>
<p>Sur le plan technique, il faut comprendre que les injonctions de détections <b>obligent les fournisseurs à analyser toutes les communications de l’ensemble des utilisateur·ices des services concernés</b>. Et puisque les messages sont alors analysés avant d’être envoyés à leurs destinataires, cela supprime non seulement toute confidentialité mais cela rendra également inutile toute technique de chiffrement appliquée ultérieurement, c&rsquo;est-à-dire une fois que le message à quitté l&rsquo;appareil de l&rsquo;utilisateur·ice. L&rsquo;objectif premier du chiffrement est d&#8217;empêcher un tiers de lire le message. Le CSAR vise pourtant précisément à permettre une telle lecture tierce. De même, la recherche de photo ou vidéo «&nbsp;inconnue&nbsp;» est totalement inacceptable. En pratique, le risque de «&nbsp;faux positifs&nbsp;» est énorme et cela signifie que pourraient faire l&rsquo;objet d&rsquo;une alerte des contenus tout à fait légitimes tels le corps d’adulte d&rsquo;apparence trop juvénile, une photo d’enfant envoyée dans un cadre familial ou encore des ados échangeant de façon consentante.</p>
<p>Enfin, appliqué au cas particulier de la détection de contenus pédopornographiques, envisager la constitution et l’utilisation d’une telle base de données <b>ne prend pas en compte la réalité des humains devant la manipuler</b>, l’alimenter, et qui seront confrontés à des contenus difficiles quotidiennement. Sans parler du fait que les images des enfants victimes seront conservées pour «&nbsp;améliorer&nbsp;» l&rsquo;efficacité de ces outils.</p>
<p>Non seulement le CSAR crée des obligations disproportionnées et implique des techniques extrêmement intrusives, mais surtout ces mesures sont loin d&rsquo;être pertinentes pour atteindre l’objectif crucial de protection des enfants et de lutte contre les abus sexuels. En effet, aucune étude sérieuse n’a été fournie sur l&rsquo;adéquation, la fiabilité ou la pertinence de telles mesures extrêmement intrusives. Au contraire, il a été <a href="https://www.euractiv.com/section/digital/news/eu-assessment-of-child-abuse-detection-tools-based-on-industry-data/">révélé</a> par l’<a href="https://www.asktheeu.org/en/request/technologies_for_the_detection_o">association allemande</a> Gesellschaft für Freiheitsrechte que la <b>Commission fondait sa proposition sur les seules allégations de l’industrie, particulièrement la fondation <a href="https://www.thorn.org/">Thorn</a> et Meta</b>, pour justifier ce projet de règlement. Des institutions policières et judiciaires, comme en <a href="https://www.bundestag.de/ausschuesse/a23_digitales/Anhoerungen/932296-932296">Allemagne</a> par exemple, ont elles aussi exprimé leurs réserves sur l&rsquo;utilité de ces dispositifs pour leurs enquêtes dès lors que cela ne répond pas aux problématiques qu&rsquo;ils rencontrent au quotidien.</p>
<p>Par ailleurs, depuis le début de la campagne contre ce texte, beaucoup de <a href="https://stopscanningme.eu/en/CSA-Regulation.html#policyExplainer">ressources ont été produites</a> pour démontrer que la protection des enfants contre les abus passait principalement par des politiques de prévention ou d’éducation et que toute éventuelle réponse pénale devait être encadrée par des mesures ciblées et fondées sur des preuves tangibles. Comment a-t-on pu alors en arriver là&nbsp;?</p>
<h2 id="La tentation autoritaire des États">La tentation autoritaire des États</h2>
<p>Cette proposition législative est une solution largement conçue par l&rsquo;industrie, et ensuite généralisée par les élites politiques qui illustrent ainsi une nouvelle fois leur absurde propension au «&nbsp;solutionnisme technologique&nbsp;» <b>et au renforcement de la surveillance numérique</b>. Pour rendre acceptable ces mesures de surveillance, elles affichent un objectif qui fait l&rsquo;unanimité. Mais tout le monde sait que la stratégie consiste avant tout à affaiblir le niveau de sécurité et de confidentialité des communications numériques. Depuis les <i><a href="https://fr.wikipedia.org/wiki/Crypto_Wars">crypto-wars</a></i> des années 1990, un certain nombre d’États affirment que les technologies protégeant la vie privée, et principalement le chiffrement des communications, sont un obstacle aux enquêtes policières. De fait, ces technologies sont conçues pour cela, puisque c&rsquo;est à cette condition qu&rsquo;elle garantissent à toutes et tous la possibilité de contrôler nos modes d&rsquo;expression et de communication. L&rsquo;une des plus importantes conséquences des révélations du lanceur d&rsquo;alerte de la NSA Edward Snowden, il y a dix ans, fut justement <b>une démocratisation de la pratique du chiffrement et, à l&rsquo;époque, l&rsquo;établissement d&rsquo;un relatif <a href="https://www.nextinpact.com/article/23247/100863-lanssi-defend-chiffrement-bout-en-bout-sans-portes-derobees">consensus</a> en faveur du droit au chiffrement au plan institutionnel</b>. Mais police et gouvernements sont gênés, et l&rsquo;on assiste depuis plusieurs années au retour de positionnements autoritaires de dirigeants prenant tour à tour l&rsquo;excuse du terrorisme, de la criminalité organisée et de la pédopornographie pour obtenir sa remise en cause.</p>
<p>En France, aussi bien Bernard <a href="https://www.lemonde.fr/pixels/article/2016/08/12/bernard-cazeneuve-veut-une-initiative-europeenne-contre-le-chiffrement_4981741_4408996.html">Cazeneuve</a> qu&rsquo;Emmanuel <a href="https://www.france24.com/fr/20170411-macron-lutte-terrorisme-messagerie-chiffrement-whatsapp-telegram-controverse-presidentielle">Macron</a> ont déjà affirmé leur volonté de contrôler les messageries chiffrées, rêvant ainsi de percer l&rsquo;intimité des millions de personnes qui les utilisent. Au cours d&rsquo;une audition devant le Sénat le 5 avril dernier, Gérald Darmanin a expressément <a href="https://www.vie-publique.fr/discours/288957-gerald-darmanin-05042023-sainte-soline">demandé</a> pouvoir casser le chiffrement des militant·es écologistes et de «&nbsp;l&rsquo;ultragauche&nbsp;», qui auraient une «&nbsp;<i>culture du clandestin</i>&nbsp;». Aussi avons-nous récemment exposé comment, dans <a href="https://www.laquadrature.net/2023/06/05/affaire-du-8-decembre-le-chiffrement-des-communications-assimile-a-un-comportement-terroriste/">l’affaire dite du «&nbsp;8 décembre&nbsp;»</a>, les services de renseignement et de police ont construit une narration similaire autour de l’utilisation d&rsquo;outils respectueux de la vie privée par les personnes inculpées (Signal, Tor, Tails&#8230;), afin de dessiner le portrait de personnes criminelles ayant des choses à cacher ou la volonté de fuir la police. Au niveau européen, des <a href="https://www.wired.com/story/europe-break-encryption-leaked-document-csa-law/">fuites</a> ont révélé l’intention de plusieurs États de réduire le niveau de sécurité du chiffrement de bout-en-bout, <b>tels que l’Espagne qui veut tout simplement y mettre fin</b>.</p>
<p>Le règlement CSAR s&rsquo;inscrit dans cette continuité et constitue une opportunité parfaite pour les États membres pour enfin concevoir et généraliser un outil de surveillance des échanges de la population et ainsi mettre fin aux obstacles posés par les services trop protecteurs de la vie privée. Mais passer ce cap, <b>c’est supprimer toute confidentialité des communications qui passeraient par des infrastructures numériques. L’intégrité et la sécurité de ces dernières ne pourraient alors plus jamais être garanties dès lors que cette «&nbsp;porte dérobée&nbsp;» existe</b>. C’est créer des occasions, aussi bien pour les États que les acteurs malveillants, de détourner et d&rsquo;abuser de cette capacité d’entrer dans les téléphones et ordinateurs de la population. Enfin, c’est ouvrir une brèche, un espace à surveiller qui n’existait pas auparavant, et qui sera nécessairement étendu dans le futur par de nouvelles législations pour repérer d’autres types de contenus.</p>
<p>Ce risque est dénoncé par des services tels que <a href="media/9bd521d5.EDRi20anniv_Meredith_Whittaker.pdf" data-original-source="https://edri.org/wp-content/uploads/2023/04/EDRi20anniv_Meredith_Whittaker.pdf">Signal</a>, <a href="https://proton.me/blog/eu-chat-control">Proton</a> ou <a href="https://matrix.org/blog/2021/05/19/how-the-uk-s-online-safety-bill-threatens-matrix/">Matrix</a>, qui proposent des communications chiffrées de bout-en-bout et sécurisées — et promettent donc une confidentialité presque intégrale. Cette proposition viendrait casser leur promesse en les obligeant à analyser les contenus et à créer une vulnérabilité dans leurs technologies. Ce risque a également été récemment dénoncé par Apple&nbsp;: pour <a href="https://www.forbes.com/sites/thomasbrewster/2023/09/07/apple-icloud-child-sexual-abuse-material-privacy/">justifier la fin</a> de l’analyse des contenus hébergés sur iCloud, <a href="https://www.wired.com/story/apple-csam-scanning-heat-initiative-letter/">l&rsquo;entreprise expliquait</a> que la technologie utilisée est <b>trop dangereuse en termes de sécurité et de respect de la vie privée</b><span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21184_2('footnote_plugin_reference_21184_2_1');" onkeypress="footnote_moveToReference_21184_2('footnote_plugin_reference_21184_2_1');" ><sup id="footnote_plugin_tooltip_21184_2_1" class="footnote_plugin_tooltip_text">1</sup></a><span id="footnote_plugin_tooltip_text_21184_2_1" class="footnote_tooltip">Néanmoins, il faut relativiser cette prise de position dès lors que la firme continue d’<a href="https://www.wired.com/story/apple-photo-scanning-csam-communication-safety-messages/">expérimenter</a> une technologie similaire dans une fonction facultative dénommée «&nbsp;<i>Communication Safety</i>&nbsp;» qui recherche de la nudité directement sur les terminaux.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21184_2_1').tooltip({ tip: '#footnote_plugin_tooltip_text_21184_2_1', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>
<p>En Grande-Bretagne, où est actuellement discuté un projet de loi similaire, le <a href="https://www.openrightsgroup.org/campaign/online-safety-bill-campaign-hub/">Online Safety Bill</a>, Signal et Whatsapp ont menacé de <a href="https://www.theverge.com/2023/3/10/23633601/uk-online-safety-bill-encryption-whatsapp-leave">supprimer leur service du pays</a> si ce texte venait à passer. Face à cette fronde, les Britanniques ont très récemment annoncé <a href="https://www.wired.com/story/britain-admits-defeat-online-safety-bill-encryption/">suspendre</a> la mise en œuvre de cette mesure au regard de l’infaisabilité à ce stade de protéger le chiffrement de bout-en-bout. Cependant, la mesure est toujours dans la loi et pourrait donc être applicable un jour. À Londres comme à Bruxelles, la bataille est loin d’être finie.</p>
<h2 id="Refuser et agir">Refuser et agir</h2>
<p>Il est donc urgent d’agir pour arrêter cette nouvelle initiative qui créerait un grave précédent et donnerait aux États une légitimité pour pousser toujours plus loin l’intrusion dans les communications. Mais les discussions avancent vite à Bruxelles. D’un coté, le Conseil, organe regroupant les gouvernements des États membres, <b>doit publier sa position sur ce texte d&rsquo;ici fin septembre</b>. Celle-ci s’annonce très mauvaise, poussée par plusieurs États – France en tête. Certains États comme l&rsquo;Allemagne ou l&rsquo;Autriche auraient néanmoins exprimé des réserves quand à l’incompatibilité de cette dernière version par rapport à leur propre position officielle. Une <a href="https://edri.org/our-work/open-letter-eu-countries-should-say-no-to-the-csar-mass-surveillance-proposal/">lettre ouverte</a> a été signée le 13 septembre par plus de 80 organisations, dont La Quadrature, pour que les États membres n&rsquo;adoptent pas le CSAR dans sa version actuelle.</p>
<p>De l’autre coté, le Parlement européen devra également adopter sa version du texte, d’abord en commission en octobre puis en novembre en séance plénière. Si beaucoup d’eurodéputé·es <a href="https://edri.org/our-work/civil-liberties-meps-warn-against-undermining-or-circumventing-encryption-in-csar/">s’opposent au texte</a>, cela ne suffira sans doute pas à bloquer son adoption. Pour agir, nous vous invitons à rejoindre la campagne «&nbsp;<i><a href="https://stopscanningme.eu/fr/index.html">Stop Scanning me</a></i>&nbsp;» menée par une coalition d’organisations et à partager le plus possible les informations sur la mobilisation en cours<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21184_2('footnote_plugin_reference_21184_2_2');" onkeypress="footnote_moveToReference_21184_2('footnote_plugin_reference_21184_2_2');" ><sup id="footnote_plugin_tooltip_21184_2_2" class="footnote_plugin_tooltip_text">2</sup></a><span id="footnote_plugin_tooltip_text_21184_2_2" class="footnote_tooltip">Aussi, vous pouvez regarder <a href="https://media.ccc.de/v/camp2023-57226-chat_control#t=419">cette conférence</a> faite au dernier Chaos Communication Camp sur le combat contre Chat control (en anglais).</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21184_2_2').tooltip({ tip: '#footnote_plugin_tooltip_text_21184_2_2', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Vous pouvez également <a href="https://wiki.laquadrature.net/Comment_contacter_un_d%C3%A9put%C3%A9_europ%C3%A9en">appeler</a> des <a href="https://www.europarl.europa.eu/meps/fr/full-list/all">parlementaires européens</a> pour les inviter à rejeter ce texte.</p>
<p><b>Et si vous le pouvez n&rsquo;hésitez pas à faire un don à <a href="https://www.laquadrature.net/donner/">La Quadrature</a> ou à <a href="https://edri.org/take-action/donate/">EDRi</a> qui agit à Bruxelles. Merci&nbsp;!</b></p>
<div class="speaker-mute footnotes_reference_container"> <div class="footnote_container_prepare"><p><span role="button" tabindex="0" class="footnote_reference_container_label pointer" onclick="footnote_expand_collapse_reference_container_21184_2();">References</span><span role="button" tabindex="0" class="footnote_reference_container_collapse_button" style="display: none;" onclick="footnote_expand_collapse_reference_container_21184_2();">[<a id="footnote_reference_container_collapse_button_21184_2">+</a>]</span></p></div> <div id="footnote_references_container_21184_2" style=""><table class="footnotes_table footnote-reference-container"><caption class="accessibility">References</caption> <tbody> 

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21184_2('footnote_plugin_tooltip_21184_2_1');"><a id="footnote_plugin_reference_21184_2_1" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>1</a></th> <td class="footnote_plugin_text">Néanmoins, il faut relativiser cette prise de position dès lors que la firme continue d’<a href="https://www.wired.com/story/apple-photo-scanning-csam-communication-safety-messages/">expérimenter</a> une technologie similaire dans une fonction facultative dénommée «&nbsp;<i>Communication Safety</i>&nbsp;» qui recherche de la nudité directement sur les terminaux.</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21184_2('footnote_plugin_tooltip_21184_2_2');"><a id="footnote_plugin_reference_21184_2_2" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>2</a></th> <td class="footnote_plugin_text">Aussi, vous pouvez regarder <a href="https://media.ccc.de/v/camp2023-57226-chat_control#t=419">cette conférence</a> faite au dernier Chaos Communication Camp sur le combat contre Chat control (en anglais).</td></tr>

 </tbody> </table> </div></div><script type="text/javascript"> function footnote_expand_reference_container_21184_2() { jQuery('#footnote_references_container_21184_2').show(); jQuery('#footnote_reference_container_collapse_button_21184_2').text('−'); } function footnote_collapse_reference_container_21184_2() { jQuery('#footnote_references_container_21184_2').hide(); jQuery('#footnote_reference_container_collapse_button_21184_2').text('+'); } function footnote_expand_collapse_reference_container_21184_2() { if (jQuery('#footnote_references_container_21184_2').is(':hidden')) { footnote_expand_reference_container_21184_2(); } else { footnote_collapse_reference_container_21184_2(); } } function footnote_moveToReference_21184_2(p_str_TargetID) { footnote_expand_reference_container_21184_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } } function footnote_moveToAnchor_21184_2(p_str_TargetID) { footnote_expand_reference_container_21184_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } }</script>


feed_id: https://www.laquadrature.net/?p=21195
title: Projet de loi SREN et accès au porno : identifier les internautes ne résoudra rien
uri: Projet-de-loi-SREN-et-accès-au-porno-identifier-les-internautes-ne
url:
https://www.laquadrature.net/2023/09/19/projet-de-loi-sren-et-acces-au-porno-identifier-les-internautes-ne-resoudra-rien/

content:
<p><i>Article co-écrit par <a href="https://www.laquadrature.net">La Quadrature du Net</a> et <a href="https://www.actupparis.org/">Act Up-Paris</a>.</i></p>
<p><strong>Parmi les nombreuses mesures du <a href="https://www.assemblee-nationale.fr/dyn/16/dossiers/alt/DLR5L16N47884">projet de loi</a> visant à sécuriser et réguler l’espace numérique («&nbsp;SREN&nbsp;» ou «&nbsp;Espace numérique&nbsp;») figurent deux articles qui renforcent le contrôle des sites proposant du contenu à caractère pornographique, en leur imposant de vérifier l&rsquo;âge des internautes pour bloquer l&rsquo;accès aux mineur·es. Nous revenons, La Quadrature du Net et Act Up-Paris, sur cette mesure et ses dangers (voir aussi l&rsquo;<a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/">analyse globale de La Quadrature sur le projet de loi SREN</a>).</strong></p>
<h1 id="Vérification de l&rsquo;âge et blocage">Vérification de l&rsquo;âge et blocage</h1>
<p>À l&rsquo;été 2020, la <a href="https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000042176652">loi n° 2020-936</a> a renforcé les obligations pesant sur les sites proposant du contenu à caractère pornographique afin d&#8217;empêcher les mineur·es d&rsquo;accéder à ces derniers. D&rsquo;une part, elle a renforcé le délit que commet un site à caractère pornographique s&rsquo;il est accessible à un·e mineur·e&nbsp;: demander à l&rsquo;internaute de déclarer sur l&rsquo;honneur qu&rsquo;il ou elle est majeur·e ne suffit pas. D&rsquo;autre part, cette loi a introduit une obligation pour ces sites de recourir à des dispositifs de vérification de l&rsquo;âge des internautes. La sanction en cas d&rsquo;absence de vérification de l&rsquo;âge est la censure. L&rsquo;Arcom, autorité née de la fusion entre le CSA et la Hadopi, est chargée de mettre en demeure les sites ne vérifiant pas correctement l&rsquo;âge des internautes, puis de saisir la justice pour les faire censurer si les mises en demeures sont restées sans effet.</p>
<p>À l&rsquo;époque, La Quadrature <a href="https://www.laquadrature.net/2020/07/03/acces-aux-contenus-pornographiques-le-parlement-doit-retirer-larticle-11/">constatait</a> que, encore une fois, les élu·es n&rsquo;avaient rien compris à ce qu&rsquo;est Internet. Vouloir mettre en place une obligation de vérifier l&rsquo;âge des internautes en empêchant la seule technique respectueuse des libertés fondamentales qu&rsquo;est l&rsquo;auto-déclaration de l&rsquo;internaute revient à supprimer le droit à l&rsquo;anonymat en ligne. Act Up-Paris s&rsquo;était <a href="https://blogs.mediapart.fr/les-invites-de-mediapart/blog/180220/contre-la-pornodivulgation-pour-la-protection-des-mineurs-et-des-libertes-censurer-le">prononcée</a> également contre de tels procédés de censure, contre-productifs tant pour protéger les mineur·es de l&rsquo;exposition aux contenus pornographiques que pour l&rsquo;indépendance des travailleur·ses du sexe.</p>
<p>Le projet de loi SREN actuellement débattu à l&rsquo;Assemblée montre que le gouvernement et les élu·es qui soutiennent ce texte n&rsquo;ont toujours pas compris le fonctionnement d&rsquo;Internet et les enjeux en termes de libertés fondamentales. En effet, à ses articles 1<sup>er</sup> et 2, ce texte va encore plus loin dans l&rsquo;obligation de vérifier l&rsquo;âge des internautes qui souhaiteraient accéder à un site à caractère pornographique&nbsp;: si ces deux articles étaient votés en l&rsquo;état, l&rsquo;Arcom pourrait imposer aux plateformes ses propres choix techniques pour vérifier l&rsquo;âge (à travers l&rsquo;édiction d&rsquo;un référentiel), puis censurer elle-même, sans passer par un juge, les sites qui ne se plieraient pas à ses exigences (par des injonctions de blocage et de déréférencement).</p>
<h1 id="Contourner le juge">Contourner le juge</h1>
<p>Ce projet de loi prévoit deux contournements du juge&nbsp;: celui-ci ne décidera plus du bien-fondé d&rsquo;une censure avant que celle-ci ne soit prononcée, et il ne décidera plus de la manière de procéder à la vérification de l&rsquo;âge.</p>
<p>En effet, premièrement, le ministre Jean-Noël Barrot à l&rsquo;origine de ce projet de loi ne cache pas que l&rsquo;objectif est de ne plus attendre la justice pour censurer les sites&nbsp;: le projet de loi confie, dans son article 2, le soin à l&rsquo;Arcom de censurer elle-même les sites, au lieu de passer par la justice, dans un mouvement de défiance envers cette dernière. M. Barrot <a href="https://www.senat.fr/seances/s202307/s20230704/s20230704_mono.html#par_1919">justifiait</a> ainsi devant le Sénat le rôle du référentiel qu&rsquo;édictera l&rsquo;Arcom&nbsp;: «&nbsp;<i>En réalité, le référentiel vient sécuriser la capacité de l’Arcom à ordonner le blocage et le déréférencement. Et puisque nous prévoyons dans les articles 1<sup>er</sup> et 2 <strong>d’aller beaucoup plus vite, en contournant la procédure judiciaire, pour procéder à ce blocage</strong>, il faut que nous puissions fixer, à tout le moins, les conditions dans lesquelles le blocage et le déréférencement puissent être prononcés par l’Arcom.</i>&nbsp;»</p>
<p>Le ministre a <a href="https://www.bfmtv.com/tech/twitter/pornographie-l-arcom-pourra-etre-amenee-a-bloquer-twitter-annonce-le-ministere-du-numerique_AV-202305090669.html">admis</a> également dans la presse que ce mécanisme pourrait parfaitement conduire à censurer des réseaux sociaux comme Twitter. En effet, censurer Twitter est une demande récurrente de certaines associations de protection de l&rsquo;enfance qui avaient <a href="https://www.nextinpact.com/article/69667/pornographie-associations-protection-lenfance-reclament-blocage-twitter-en-france">formellement saisi</a> l&rsquo;année dernière l&rsquo;Arcom afin qu&rsquo;elle obtienne le blocage judiciaire du réseau social. Pourtant, à notre connaissance, l&rsquo;autorité n&rsquo;a jamais fait droit à cette demande, très certainement parce qu&rsquo;une telle censure serait refusée par la justice. Demain, si ce texte passait, l&rsquo;autorité pourrait exiger directement le blocage d&rsquo;un réseau social comme Twitter, d&rsquo;autant plus que le gouvernement l&rsquo;y incite.</p>
<p>Deuxièmement, le contournement du juge réside également dans les règles qui s&rsquo;appliqueront aux sites pour vérifier l&rsquo;âge. En effet, l&rsquo;Arcom sera chargée d&rsquo;établir un référentiel pour déterminer les caractéristiques obligatoires de la vérification de l&rsquo;âge. Aujourd&rsquo;hui, en l&rsquo;absence de précision dans la loi, c&rsquo;est le juge qui, lorsqu&rsquo;il est saisi d&rsquo;une demande de l&rsquo;Arcom de censure d&rsquo;un site, regarde si la vérification de l&rsquo;âge est techniquement possible et décide de prononcer ou non une censure en fonction des outils disponibles et des conséquences pour les droits fondamentaux. Mais demain, ce sera l&rsquo;Arcom qui décidera de comment procéder à cette vérification<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_1');" onkeypress="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_1');" ><sup id="footnote_plugin_tooltip_21195_2_1" class="footnote_plugin_tooltip_text">1</sup></a><span id="footnote_plugin_tooltip_text_21195_2_1" class="footnote_tooltip">On relèvera également le grand risque d&rsquo;inconstitutionnalité de ce nouveau pouvoir accordé à l&rsquo;Arcom. Depuis une <a href="https://www.conseil-constitutionnel.fr/decision/1989/88248DC.htm">décision</a> de 1989, le Conseil constitutionnel considère que, s’il est possible de confier à une autorité administrative un pouvoir réglementaire, c&rsquo;est-à-dire un pouvoir d&rsquo;édicter des règles contraignantes, celui-ci ne peut porter que sur «&nbsp;<i>des mesures de portée limitée tant par leur champ d’application que par leur contenu</i>&nbsp;». En l’espèce, le Conseil constitutionnel avait censuré des dispositions qui confiaient au CSA le soin d’édicter des règles générales qui devaient s’imposer aux personnes régulées. Cette jurisprudence s’oppose donc également à ce que le  référentiel que l’Arcom devra établir soit édicté par l’autorité elle-même.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21195_2_1').tooltip({ tip: '#footnote_plugin_tooltip_text_21195_2_1', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Ce référentiel s&rsquo;imposera aux sites, qui n&rsquo;auront pas d&rsquo;autre choix que de s&rsquo;y conformer sous peine d&rsquo;être censuré, même si cela aurait des conséquences dramatiques pour les libertés fondamentales.</p>
<p><strong>Ce contournement du juge est particulièrement inquiétant dans un État de droit</strong>. La justice est vue par le gouvernement comme un frein, un obstacle qu&rsquo;il faudrait «&nbsp;<i>contourner</i>&nbsp;». Pour le ministre, la fin justifie les moyens&nbsp;: parce que la justice est considérée comme trop lente, elle doit être contournée. Les mêmes dangers pour les libertés que dans le reste des cas de censure administrative se poseront ici&nbsp;: la justice pourra toujours se prononcer sur le bien-fondé d&rsquo;une censure, mais une fois seulement que celle-ci sera mise en place. Agir d&rsquo;abord, réfléchir ensuite.</p>
<h1 id="Surveillance automatisée des contenus et risques de sur-censure">Surveillance automatisée des contenus et risques de sur-censure</h1>
<p>À première vue, on serait tenté de se dire que l&rsquo;obligation de vérification de l&rsquo;âge pour les sites proposant du contenu pornographique n&rsquo;est pas très grave car elle est limitée. Mais comme on l&rsquo;a dit juste avant, les réseaux sociaux seront eux aussi concernés.</p>
<p>Pour une plateforme dont l&rsquo;objet principal est de proposer du contenu à caractère pornographique, l&rsquo;étendue de cette obligation de vérifier l&rsquo;âge des internautes est facile à déterminer&nbsp;: avant l&rsquo;accès à la moindre page de ces sites, la vérification de l&rsquo;âge devra être faite. Mais il est beaucoup plus difficile pour un site dont l&rsquo;objet principal n&rsquo;est pas de proposer un tel contenu, notamment les réseaux sociaux, de distinguer ce qui relèverait de la pornographie ou non.</p>
<p>L&rsquo;obligation de vérifier l&rsquo;âge des internautes avant d&rsquo;accéder à un contenu pornographique va donc, de fait, imposer aux plateformes de réseaux sociaux d&rsquo;analyser automatiquement tous les contenus que publieraient leurs utilisateur·rices afin de déterminer les contenus à caractère pornographique, pour activer la vérification de l&rsquo;âge quand cela sera nécessaire. Une analyse humaine n&rsquo;est en effet pas envisageable en raison de la masse à traiter. Et comme la responsabilité repose sur les plateformes, elles seront nécessairement incitées à englober des contenus qui ne relèvent pas de la pornographie, dans le doute et par crainte d&rsquo;une sanction pénale et d&rsquo;une censure administrative<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_2');" onkeypress="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_2');" ><sup id="footnote_plugin_tooltip_21195_2_2" class="footnote_plugin_tooltip_text">2</sup></a><span id="footnote_plugin_tooltip_text_21195_2_2" class="footnote_tooltip">Une telle obligation de surveillance généralisée des contenus est radicalement contraire au droit européen puisque la <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32000L0031">directive e-commerce</a> précise à son article 15 que «&nbsp;<i>les États membres ne doivent pas imposer aux prestataires</i> (…) <i>une obligation générale de surveiller les informations qu’ils transmettent ou stockent</i>&nbsp;».</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21195_2_2').tooltip({ tip: '#footnote_plugin_tooltip_text_21195_2_2', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>
<p>Le résultat sera catastrophique car les plateformes censureront par exemple les contenus de prévention en santé sexuelle. En effet, aujourd&rsquo;hui, des associations de santé comme le <a href="https://projet-jasmine.org/">Projet Jasmine de Médecins du Monde</a> font des maraudes virtuelles pour toucher les travailleur·ses du sexe les plus éloigné·es de l’accès au soin. D&rsquo;autres, comme <a href="https://www.instagram.com/p/CpNDGUPDwG_/">Grisélidis</a>, effectuent des maraudes en ligne sur les applications pour toucher les personnes mineur·es qui se prostituent. Or, ces différentes actions, qui visent à accompagner et aider ces personnes, seront impactées par cette censure. Aujourd&rsquo;hui déjà, les campagnes de santé sexuelle sont limitées car les algorithmes invisibilisent tout ce qui touche aux sexualités&nbsp;: la simple mention du mot «&nbsp;sexe&nbsp;» fait perdre de la visibilité aux contenus en ligne et la nudité est censurée (voir par exemple la <a href="https://www.telerama.fr/medias/grossophobie-contre-la-censure-des-reseaux-sociaux,-postez-la-une-de-telerama,n6601971.php">censure</a> par Meta d&rsquo;une une de Télérama contre la grossophobie, ou la <a href="https://nitter.net/actupparis/status/1529049283730743297">censure</a> d&rsquo;une campagne de prévention d&rsquo;Act-Up Paris). Le public que ces associations tentent d&rsquo;aider subit aujourd&rsquo;hui déjà des suppression de comptes sur les réseaux sociaux, et ce projet de loi aggravera cela. Le principal risque pour les associations de santé communautaire est de perdre le contact avec ces personnes particulièrement vulnérables.</p>
<h1 id="Fin de l&rsquo;anonymat en ligne">Fin de l&rsquo;anonymat en ligne</h1>
<p>Enfin, de manière encore plus grave, cette vérification de l&rsquo;âge implique la fin de l&rsquo;anonymat en ligne. On rappellera que le principe est le droit à l&rsquo;anonymat en ligne, qui est protégé tant par le droit de l&rsquo;Union européenne<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_3');" onkeypress="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_3');" ><sup id="footnote_plugin_tooltip_21195_2_3" class="footnote_plugin_tooltip_text">3</sup></a><span id="footnote_plugin_tooltip_text_21195_2_3" class="footnote_tooltip">Le considérant 14 de la <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32000L0031">directive e-commerce</a> précise que «&nbsp;<i>La présente directive ne peut pas empêcher l’utilisation anonyme de réseaux ouverts tels qu’Internet.</i>&nbsp;» La CJUE rattache également ce droit à naviguer anonymement sur Internet aux articles 7 (droit à la vie privée) et 8 (droit à la protection des données personnelles) de la Charte UE des droits fondamentaux&nbsp;: «&nbsp;<i>Ainsi, en adoptant cette directive</i> [<a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32002L0058">e-privacy n° 2002/58</a>]<i>, le législateur de l’Union a concrétisé les droits consacrés aux articles 7 et 8 de la Charte, de telle sorte que les utilisateurs des moyens de communications électroniques sont en droit de s’attendre, en principe, à ce que leurs communications et les données y afférentes restent, en l’absence de leur consentement, anonymes et ne puissent pas faire l’objet d’un enregistrement.</i>&nbsp;» (CJUE, gr. ch., 6 octobre 2020, <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:62018CJ0511"><i>La Quadrature du Net e.a.</i></a>, aff. C-511/18, C-512/18 et C-520/18, pt. 109). Par ailleurs, la CJUE parle d’anonymat, et non de pseudonymat.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21195_2_3').tooltip({ tip: '#footnote_plugin_tooltip_text_21195_2_3', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script> que par la Convention européenne de sauvegarde des libertés fondamentales (CESDH)<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_4');" onkeypress="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_4');" ><sup id="footnote_plugin_tooltip_21195_2_4" class="footnote_plugin_tooltip_text">4</sup></a><span id="footnote_plugin_tooltip_text_21195_2_4" class="footnote_tooltip">La Cour européenne des droits de l&rsquo;Homme (CEDH) considère, au visa de l’article 10 de la CESDH qui protège le droit à la liberté d’expression, qu’il existe un principe de droit à l’anonymat sur Internet (CEDH, gr. ch., 16 juin 2015, <a href="https://hudoc.echr.coe.int/?i=001-155627"><i>Delfi AS c. Estonie</i></a>, n° 64569/09, § 147). Ce droit à l’anonymat est également issu du droit à la vie privée de la CEDH puisque la Cour considère qu’un internaute conserve une attente raisonnable relative au respect de sa vie privée lorsque son adresse IP est traitée lors de sa navigation en ligne, alors même que l’adresse IP est, dans ce contexte, une donnée personnelle rendue publique par la navigation (CEDH, 24 avril 2018, <a href="https://hudoc.echr.coe.int/?i=001-182455"><i>Benedik c. Slovénie</i></a>, n° 62357/14, §§ 100–119).</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21195_2_4').tooltip({ tip: '#footnote_plugin_tooltip_text_21195_2_4', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Or, le projet de loi SREN remet directement en cause ce principe en ligne.</p>
<p>Le texte ne dit pas comment la vérification de l&rsquo;âge devra se faire&nbsp;: c&rsquo;est sur l&rsquo;Arcom, lorsqu&rsquo;elle édictera son référentiel, que reposera cette mission. Il existe plusieurs manières de vérifier l&rsquo;âge en ligne. La plupart sont relativement peu fiables et constitueraient de graves atteintes aux libertés fondamentales (analyse biométrique du visage, analyse de l&rsquo;historique, utilisation d&rsquo;une carte bancaire, envoi de sa carte d&rsquo;identité au site). Il existe également une manière non-fiable mais qui offre l&rsquo;avantage de ne pas créer d&rsquo;atteinte disproportionnée aux libertés&nbsp;: l&rsquo;auto-déclaration par l&rsquo;internaute. Mais le législateur a explicitement <a href="https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000042176652">écarté</a> cette dernière en 2020.</p>
<p>La solution qui revient régulièrement, parce qu&rsquo;elle serait la moins mauvaise solution, est l&rsquo;<a href="https://fr.wikipedia.org/wiki/Identit%C3%A9_num%C3%A9rique">identité numérique</a> et on peut s&rsquo;attendre à ce que l&rsquo;Arcom s&rsquo;oriente vers cette solution dans son référentiel. L&rsquo;identité numérique consiste à s&rsquo;identifier en ligne à l&rsquo;aide d&rsquo;un service autre. Les GAFAM ont leur système d&rsquo;identité numérique (par exemple Google qui permet de s&rsquo;identifier sur un site tiers à l&rsquo;aide du compte Google de l&rsquo;internaute), l&rsquo;État également (avec ses services FranceConnect et France Identité). Or, l&rsquo;identité numérique, si elle est bien implémentée <i>via</i> un tiers de confiance, permet de limiter les informations traitées. Comme le <a href="https://linc.cnil.fr/demonstrateur-du-mecanisme-de-verification-de-lage-respectueux-de-la-vie-privee">relevait</a> le laboratoire d&rsquo;innovation numérique de la CNIL (le LINC), passer par un tiers de confiance qui sera chargé de vérifier l&rsquo;âge pour le compte d&rsquo;un site internet permet à ce dernier de ne pas connaître l&rsquo;identité de l&rsquo;internaute. Avec ce mécanisme, l&rsquo;internaute se connecte à ce tiers de confiance à l&rsquo;aide d&rsquo;une identité numérique d&rsquo;État pour justifier de son identité donc de son âge. Puis le tiers de confiance délivre un certificat de majorité (aussi appelé ici «&nbsp;jeton&nbsp;» ou «&nbsp;<i>token</i>&nbsp;») à l&rsquo;internaute. Enfin, l&rsquo;internaute transmet au site ce certificat pour prouver qu&rsquo;il ou elle a 18 ans ou plus. Concrètement, cela prend la forme d&rsquo;une page de connexion sur la plateforme du tiers de confiance et la transmission du certificat est effectuée automatiquement par le navigateur de l&rsquo;internaute vers le site qui demande la majorité.</p>
<p>Cette solution, parfois appelée «&nbsp;en double aveugle&nbsp;», a beau être la moins mauvaise, elle reste dangereuse. Certes, le site qui doit vérifier l&rsquo;âge de l&rsquo;internaute ne connaît pas son identité réelle (mais seulement s&rsquo;il a 18 ans ou plus) et le tiers de confiance ne sait pas sur quel site l&rsquo;internaute se connecte (parce que le certificat de majorité n&rsquo;est pas présenté directement par le tiers de confiance au site). En revanche, une telle solution implique nécessairement de devoir justifier de son identité à un moment avant de pouvoir accéder à un service en ligne&nbsp;: même si l&rsquo;internaute ne se connecte pas directement auprès du site voulant vérifier l&rsquo;âge, il devra justifier de son identité auprès d&rsquo;un tiers. L&rsquo;anonymat n&rsquo;est plus possible si un site impose à ses internautes de s&rsquo;identifier pour vérifier leur âge. Dit autrement, lorsque le législateur impose de vérifier l&rsquo;age des internautes, il  empêche fatalement tout anonymat en ligne.</p>
<p>Et cette affirmation est d&rsquo;autant plus vraie que d&rsquo;autres mesures voulues par la majorité impliquent de vérifier l&rsquo;âge au-delà des contenus à caractère pornographique.</p>
<h1 id="Interdire, interdire, interdire">Interdire, interdire, interdire</h1>
<p>Comme La Quadrature du Net le <a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/">relevait</a>, la vérification de l&rsquo;identité des internautes avant d&rsquo;accéder à du contenu à caractère pornographique s&rsquo;insère dans une série de prises de positions et de lois en défaveur de l&rsquo;anonymat en ligne. En juillet, le Parlement a <a href="https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000047799533">adopté</a> une proposition de loi Horizons qui instaure une «&nbsp;majorité numérique&nbsp;». Cette loi veut imposer aux plateformes en ligne<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_5');" onkeypress="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_5');" ><sup id="footnote_plugin_tooltip_21195_2_5" class="footnote_plugin_tooltip_text">5</sup></a><span id="footnote_plugin_tooltip_text_21195_2_5" class="footnote_tooltip">Le texte parle de «&nbsp;réseaux sociaux&nbsp;» mais la définition est tellement large qu&rsquo;elle englobe également les messageries interpersonnelles ou les sites ayant un espace de discussion, comme par exemple n&rsquo;importe quel blog en ligne&nbsp;: «&nbsp;<i>On entend par service de réseaux sociaux en ligne toute plateforme permettant aux utilisateurs finaux de se connecter et de communiquer entre eux, de partager des contenus et de découvrir d&rsquo;autres utilisateurs et d&rsquo;autres contenus, sur plusieurs appareils, en particulier au moyen de conversations en ligne, de publications, de vidéos et de recommandations.</i>&nbsp;»</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21195_2_5').tooltip({ tip: '#footnote_plugin_tooltip_text_21195_2_5', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script> d&#8217;empêcher leurs utilisateur·rices de moins de 13 ans de se créer un compte, de s&rsquo;assurer que celles et ceux ayant entre 13 et 15 ans ont bien l&rsquo;accord de leurs parents, et, pour les mineur·es entre 15 et 18 ans de permettre à leurs parents de suspendre <i>a posteriori</i> leur compte sans avoir à se justifier. Heureusement que la rapporteure du texte au Sénat a torpillé la loi en <a href="https://www.senat.fr/amendements/commissions/2022-2023/389/Amdt_COM-9.html">soumettant son entrée en vigueur</a> au feu vert de la Commission européenne qui ne devrait jamais être donné<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_6');" onkeypress="footnote_moveToReference_21195_2('footnote_plugin_reference_21195_2_6');" ><sup id="footnote_plugin_tooltip_21195_2_6" class="footnote_plugin_tooltip_text">6</sup></a><span id="footnote_plugin_tooltip_text_21195_2_6" class="footnote_tooltip">Dans une affaire pendante devant la Cour de justice de l&rsquo;Union européenne (CJUE) concernant les obligations de modération qui s&rsquo;imposent aux plateformes, l&rsquo;avocat général (magistrat chargé de rentre un avis à la Cour sur l&rsquo;affaire) <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:62022CC0376">a estimé</a> qu&rsquo;un État membre ne peut imposer à une plateforme en ligne une obligation générale qui n&rsquo;est pas prévue par le droit de l&rsquo;UE. Autrement dit, si la Cour suivait son avocat général (elle n&rsquo;est pas obligée mais le suit malgré tout très souvent), les obligations de vérifier l&rsquo;âge des internautes seraient contraires au droit de l&rsquo;UE car elles constitueraient une obligation supplémentaire qui n&rsquo;est pas prévue par le droit de l&rsquo;UE.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21195_2_6').tooltip({ tip: '#footnote_plugin_tooltip_text_21195_2_6', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. En revanche, cette tentative législative montre bien que le législateur est prêt à généraliser le contrôle de l&rsquo;identité en ligne, parce que pour lui la solution aux problèmes ne peut résider que dans l&rsquo;interdiction&nbsp;: interdire le porno et les réseaux sociaux aux mineurs, voire peut-être demain <a href="https://web.archive.org/web/20230916104301/https://www.assemblee-nationale.fr/dyn/16/amendements/1514/ESPNUM/232">également les VPN</a>. Parce que pourquoi pas.</p>
<h1 id="L&rsquo;art de passer à côté du vrai problème">L&rsquo;art de passer à côté du vrai problème</h1>
<p>Sous couvert de réguler les plateformes, le gouvernement évite soigneusement de répondre au problème de l&rsquo;éducation sexuelle des enfants. Encore une fois, il préfère agir sur les conséquences (l&rsquo;accès aux contenus à caractère pornographique par les mineur·es) plutôt que de s&rsquo;occuper du fond du problème, qui est l&rsquo;échec de l&rsquo;éducation sexuelle en France.</p>
<p>Il y a un an, le Haut Conseil à l&rsquo;égalité entre les femmes et les hommes (HCE) <a href="media/a65db60f.hce_vigilanceeduc-3.pdf" data-original-source="https://www.haut-conseil-egalite.gouv.fr/IMG/pdf/hce_vigilanceeduc-3.pdf">tirait la sonnette d&rsquo;alarme</a> sur le sexisme à l&rsquo;école. Il notait que, loin d&rsquo;être un lieu d&rsquo;éducation des enfants aux questions d&rsquo;égalité de genre, l&rsquo;école, au contraire, «&nbsp;<i>entretient et amplifie les stéréotypes de sexe</i>&nbsp;». S&rsquo;il relève également que l&rsquo;accès à la pornographie peut être une des raisons de la culture du viol prégnante (bien que celle-ci ne soit pas propre aux pornographies mais se diffuse dans toutes les strates de la société), il ne préconise pas la censure des sites. Au contraire, le HCE presse les pouvoirs publics de s&rsquo;attaquer à la racine du problème à l&rsquo;école&nbsp;: les enseignements obligatoires à la sexualité ne sont pas assurés, le harcèlement, le cyberharcèlement et les violences en ligne ne sont pas traitées à la hauteur des enjeux, il n&rsquo;existe pas d&rsquo;obligation de justes représentation et proportion de figures féminines dans les manuels, programmes scolaires et sujets d&rsquo;examen. En effet, seul·es 15 % des élèves bénéficient des trois séances d&rsquo;éducation à la sexualité obligatoires pendant l’année scolaire jusqu&rsquo;à la fin du lycée alors même qu&rsquo;elles sont prévues dans la loi depuis 2001. Cette carence grave de l&rsquo;éducation nationale a récemment conduit les associations Sidaction, Planning Familial et SOS Homophobie à <a href="https://casdecole.org/">saisir la justice</a> pour faire appliquer la loi. Or, comme le <a href="https://casdecole.org/pourquoi-education-sexuelle-importante/">rappellent</a> ces associations, «&nbsp;<i>l’éducation à la sexualité, c’est donc moins de grossesses non désirées, moins d’IST, moins de VIH, moins de violences sexistes et sexuelles, moins de discriminations et de violences LGBTIphobes, plus de consentement, plus de comportements responsables, plus d’autonomie, plus de respect de soi même et de l’autre, plus de confiance en soi, plus d’égalité entre les femmes et les hommes</i>&nbsp;». Le Défenseur des droits faisait le <a href="media/5f42ffcc.rae21-num-28.10.21_01access.pdf" data-original-source="https://www.defenseurdesdroits.fr/sites/default/files/atoms/files/rae21-num-28.10.21_01access.pdf">même constat</a> en 2021 de la nécessité d&rsquo;accompagner et d&rsquo;aider les enfants au lieu de leur rajouter de nouvelles interdictions&nbsp;: «&nbsp;<i>Il est par ailleurs nécessaire de déployer <strong>la prévention à l’école, afin de mieux protéger les enfants de l’exposition précoce à la pornographie</strong>. Il convient également de <strong>renforcer les campagnes de sensibilisation</strong> auprès des enfants, adolescents et de leurs familles (<strong>éducation à la vie affective, relationnelle et sexuelle</strong> </i>[…]<i>)</i>&nbsp;».</p>
<p><strong>En définitive, le projet de loi SREN est une énième opération de marketing électoral. Non seulement il ne résoudra rien aux problèmes qu&rsquo;il prétend vouloir régler, mais en plus il signifierait la fin de l&rsquo;anonymat en ligne. Cette dernière est une vieille demande de la droite française et le symptôme d&rsquo;une classe politique qui ne comprend toujours pas ce qu&rsquo;est Internet. Le rejet des articles 1<sup>er</sup> et 2 du projet de loi est nécessaire. Ils ne sont pas seulement contraires aux droits fondamentaux, ils feraient sauter la digue de l&rsquo;anonymat en ligne, pourtant cruciale pour beaucoup de personnes, et feraient entrer encore un peu plus la France dans le club des États autoritaires. Alors n&rsquo;hésitez pas à nous aider dans notre lutte, en faisant un don à <a href="https://www.actupparis.org/nous-soutenir/comment/">Act-Up Paris</a> ou à <a href="https://www.laquadrature.net/donner">La Quadrature du Net</a> et en parlant de ces sujets autour de vous.</strong></p>
<div class="speaker-mute footnotes_reference_container"> <div class="footnote_container_prepare"><p><span role="button" tabindex="0" class="footnote_reference_container_label pointer" onclick="footnote_expand_collapse_reference_container_21195_2();">References</span><span role="button" tabindex="0" class="footnote_reference_container_collapse_button" style="display: none;" onclick="footnote_expand_collapse_reference_container_21195_2();">[<a id="footnote_reference_container_collapse_button_21195_2">+</a>]</span></p></div> <div id="footnote_references_container_21195_2" style=""><table class="footnotes_table footnote-reference-container"><caption class="accessibility">References</caption> <tbody> 

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21195_2('footnote_plugin_tooltip_21195_2_1');"><a id="footnote_plugin_reference_21195_2_1" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>1</a></th> <td class="footnote_plugin_text">On relèvera également le grand risque d&rsquo;inconstitutionnalité de ce nouveau pouvoir accordé à l&rsquo;Arcom. Depuis une <a href="https://www.conseil-constitutionnel.fr/decision/1989/88248DC.htm">décision</a> de 1989, le Conseil constitutionnel considère que, s’il est possible de confier à une autorité administrative un pouvoir réglementaire, c&rsquo;est-à-dire un pouvoir d&rsquo;édicter des règles contraignantes, celui-ci ne peut porter que sur «&nbsp;<i>des mesures de portée limitée tant par leur champ d’application que par leur contenu</i>&nbsp;». En l’espèce, le Conseil constitutionnel avait censuré des dispositions qui confiaient au CSA le soin d’édicter des règles générales qui devaient s’imposer aux personnes régulées. Cette jurisprudence s’oppose donc également à ce que le  référentiel que l’Arcom devra établir soit édicté par l’autorité elle-même.</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21195_2('footnote_plugin_tooltip_21195_2_2');"><a id="footnote_plugin_reference_21195_2_2" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>2</a></th> <td class="footnote_plugin_text">Une telle obligation de surveillance généralisée des contenus est radicalement contraire au droit européen puisque la <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32000L0031">directive e-commerce</a> précise à son article 15 que «&nbsp;<i>les États membres ne doivent pas imposer aux prestataires</i> (…) <i>une obligation générale de surveiller les informations qu’ils transmettent ou stockent</i>&nbsp;».</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21195_2('footnote_plugin_tooltip_21195_2_3');"><a id="footnote_plugin_reference_21195_2_3" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>3</a></th> <td class="footnote_plugin_text">Le considérant 14 de la <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32000L0031">directive e-commerce</a> précise que «&nbsp;<i>La présente directive ne peut pas empêcher l’utilisation anonyme de réseaux ouverts tels qu’Internet.</i>&nbsp;» La CJUE rattache également ce droit à naviguer anonymement sur Internet aux articles 7 (droit à la vie privée) et 8 (droit à la protection des données personnelles) de la Charte UE des droits fondamentaux&nbsp;: «&nbsp;<i>Ainsi, en adoptant cette directive</i> [<a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32002L0058">e-privacy n° 2002/58</a>]<i>, le législateur de l’Union a concrétisé les droits consacrés aux articles 7 et 8 de la Charte, de telle sorte que les utilisateurs des moyens de communications électroniques sont en droit de s’attendre, en principe, à ce que leurs communications et les données y afférentes restent, en l’absence de leur consentement, anonymes et ne puissent pas faire l’objet d’un enregistrement.</i>&nbsp;» (CJUE, gr. ch., 6 octobre 2020, <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:62018CJ0511"><i>La Quadrature du Net e.a.</i></a>, aff. C-511/18, C-512/18 et C-520/18, pt. 109). Par ailleurs, la CJUE parle d’anonymat, et non de pseudonymat.</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21195_2('footnote_plugin_tooltip_21195_2_4');"><a id="footnote_plugin_reference_21195_2_4" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>4</a></th> <td class="footnote_plugin_text">La Cour européenne des droits de l&rsquo;Homme (CEDH) considère, au visa de l’article 10 de la CESDH qui protège le droit à la liberté d’expression, qu’il existe un principe de droit à l’anonymat sur Internet (CEDH, gr. ch., 16 juin 2015, <a href="https://hudoc.echr.coe.int/?i=001-155627"><i>Delfi AS c. Estonie</i></a>, n° 64569/09, § 147). Ce droit à l’anonymat est également issu du droit à la vie privée de la CEDH puisque la Cour considère qu’un internaute conserve une attente raisonnable relative au respect de sa vie privée lorsque son adresse IP est traitée lors de sa navigation en ligne, alors même que l’adresse IP est, dans ce contexte, une donnée personnelle rendue publique par la navigation (CEDH, 24 avril 2018, <a href="https://hudoc.echr.coe.int/?i=001-182455"><i>Benedik c. Slovénie</i></a>, n° 62357/14, §§ 100–119).</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21195_2('footnote_plugin_tooltip_21195_2_5');"><a id="footnote_plugin_reference_21195_2_5" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>5</a></th> <td class="footnote_plugin_text">Le texte parle de «&nbsp;réseaux sociaux&nbsp;» mais la définition est tellement large qu&rsquo;elle englobe également les messageries interpersonnelles ou les sites ayant un espace de discussion, comme par exemple n&rsquo;importe quel blog en ligne&nbsp;: «&nbsp;<i>On entend par service de réseaux sociaux en ligne toute plateforme permettant aux utilisateurs finaux de se connecter et de communiquer entre eux, de partager des contenus et de découvrir d&rsquo;autres utilisateurs et d&rsquo;autres contenus, sur plusieurs appareils, en particulier au moyen de conversations en ligne, de publications, de vidéos et de recommandations.</i>&nbsp;»</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21195_2('footnote_plugin_tooltip_21195_2_6');"><a id="footnote_plugin_reference_21195_2_6" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>6</a></th> <td class="footnote_plugin_text">Dans une affaire pendante devant la Cour de justice de l&rsquo;Union européenne (CJUE) concernant les obligations de modération qui s&rsquo;imposent aux plateformes, l&rsquo;avocat général (magistrat chargé de rentre un avis à la Cour sur l&rsquo;affaire) <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:62022CC0376">a estimé</a> qu&rsquo;un État membre ne peut imposer à une plateforme en ligne une obligation générale qui n&rsquo;est pas prévue par le droit de l&rsquo;UE. Autrement dit, si la Cour suivait son avocat général (elle n&rsquo;est pas obligée mais le suit malgré tout très souvent), les obligations de vérifier l&rsquo;âge des internautes seraient contraires au droit de l&rsquo;UE car elles constitueraient une obligation supplémentaire qui n&rsquo;est pas prévue par le droit de l&rsquo;UE.</td></tr>

 </tbody> </table> </div></div><script type="text/javascript"> function footnote_expand_reference_container_21195_2() { jQuery('#footnote_references_container_21195_2').show(); jQuery('#footnote_reference_container_collapse_button_21195_2').text('−'); } function footnote_collapse_reference_container_21195_2() { jQuery('#footnote_references_container_21195_2').hide(); jQuery('#footnote_reference_container_collapse_button_21195_2').text('+'); } function footnote_expand_collapse_reference_container_21195_2() { if (jQuery('#footnote_references_container_21195_2').is(':hidden')) { footnote_expand_reference_container_21195_2(); } else { footnote_collapse_reference_container_21195_2(); } } function footnote_moveToReference_21195_2(p_str_TargetID) { footnote_expand_reference_container_21195_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } } function footnote_moveToAnchor_21195_2(p_str_TargetID) { footnote_expand_reference_container_21195_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } }</script>


feed_id: https://www.laquadrature.net/?p=21214
title: QSPTAG #294 — 22 septembre 2023
uri: QSPTAG-294-22-septembre-2023
url: https://www.laquadrature.net/2023/09/22/qsptag-294-22-septembre-2023/
content:
<h2 class="wp-block-heading">Loi SREN&nbsp;: un catalogue de mauvaises nouvelles</h2>
<p>Le projet de loi «&nbsp;visant à sécuriser et réguler l’espace numérique&nbsp;» (SREN), voté en juillet dernier par le Sénat mais actuellement en discussion à l&rsquo;Assemblée, est dans son état actuel un grand fourre-tout de mesures pour «&nbsp;civiliser&nbsp;» le «&nbsp;Far-West&nbsp;» qu&rsquo;est encore aujourd&rsquo;hui le web dans l&rsquo;esprit des politiques.</p>
<p>De nombreux faits divers sont venus alimenter cette vision noire d&rsquo;internet, coupable de tous les maux de la société&nbsp;: après le terrorisme, la pédophilie, la désinformation, les mouvements sociaux spontanés ou les émeutes de banlieue, les maux qui justifient une action énergique sont aujourd&rsquo;hui le harcèlement scolaire et la pornographie accessible aux enfants. Et comme à chaque fois, on n&rsquo;imagine rien d&rsquo;autre que davantage de répression, de censure et de surveillance, confiées à des acteurs privés (les grandes plateformes de réseaux sociaux, en général) sans contrôle de la justice et avec les encouragements des services administratifs et policiers de l’État.</p>
<p>Bien sûr, personne ne songe à nier ou à minimiser les problèmes ni les faits de société qui sont à l’œuvre. En revanche, il est de notre rôle de prendre la parole quand les moyens imaginés pour les résoudre sont démesurés, inefficaces, ou carrément dangereux&nbsp;: surveiller tout et tout le monde présente beaucoup de risques pour une société démocratique&#8230; Nous avons donc publié le 12 septembre <a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/">un long article d&rsquo;analyse</a> — aussi dense et copieux que la loi — pour présenter les points qui nous inquiètent.</p>
<p>Le projet de loi aborde la problématique du harcèlement en ligne par la manière autoritaire&nbsp;: une personne condamnée, donc bien connue et punie en proportion de ses actes, serait désormais bannie des réseaux sociaux. À charge aux plateformes de se débrouiller pour identifier les nouveaux comptes créés par une personne condamnée. Comment y arriver, si chacun ne doit pas fournir son identité civile pour créer le moindre compte&nbsp;?<br />
Même logique encore contre les arnaques en ligne (phishing et autres)&nbsp;: une liste de sites identifiés à bloquer serait fournie par l’État et intégrée directement dans les navigateurs web. Un moyen parfait pour créer des listes à tout faire où se retrouveraient des sites à teneur politique ou contestataire.</p>
<p>Par ailleurs, le projet de loi ne propose aucune solution favorisant l&rsquo;autogestion des contenus en ligne, comme l&rsquo;interopérabilité des réseaux sociaux que nous défendons depuis plusieurs années. En permettant la création d&rsquo;instances spécifiques, gérées par une communauté qui se dote de règles, elle permettrait pourtant aux internautes jeunes et vieux d&rsquo;évoluer dans des espaces modérés où les contenus haineux et pédopornographiques seraient exclus, et au pire cantonnés à des espaces plus faciles à identifier et à isoler. La promotion des plateformes géantes entraîne le recours à des moyens massifs qui attentent aux droits du plus grand nombre.</p>
<p>Le texte présente enfin des mesures contre l&rsquo;accès jugé trop facile des enfants et des jeunes à la pornographie en ligne. L&rsquo;obligation faite aux sites depuis 2020 de filtrer l&rsquo;entrée aux mineurs n&rsquo;ayant rien changé, le projet de loi SREN introduit une nouvelle obligation de prouver son âge. Devoir faire usage de son identité civile pour naviguer sur Internet, voilà une nouveauté très dérangeante. Comme chaque point de cette loi mérite une analyse particulière, nous avons également publié le 19 septembre un <a href="https://www.laquadrature.net/2023/09/19/projet-de-loi-sren-et-acces-au-porno-identifier-les-internautes-ne-resoudra-rien/">article consacré à la question de l&rsquo;accès au porno</a>, écrit en partenariat avec l&rsquo;association Act-Up.</p>
<p>Passé en commission des lois cette semaine, le projet de loi sera discuté en séance par l&rsquo;Assemblée à partir du 4 octobre prochain.</p>
<p><strong>L&rsquo;analyse complète de la loi&nbsp;: <a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/">https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/</a></strong></p>
<p><strong>L&rsquo;article sur l&rsquo;accès au porno&nbsp;: <a href="https://www.laquadrature.net/2023/09/19/projet-de-loi-sren-et-acces-au-porno-identifier-les-internautes-ne-resoudra-rien/">https://www.laquadrature.net/2023/09/19/projet-de-loi-sren-et-acces-au-porno-identifier-les-internautes-ne-resoudra-rien/</a></strong></p>
<h2 class="wp-block-heading">Règlement CSAR&nbsp;: la fin des échanges confidentiels&nbsp;?</h2>
<p>Les instances de l&rsquo;Union européenne travaillent en ce moment sur un projet de règlement contre la pédopornographie intitulé «&nbsp;Child Sexual Abuse Regulation&nbsp;» (CSAR) et souvent appelé «&nbsp;Chat control&nbsp;» par les acteurs européens. Idée forte du texte&nbsp;: pour lutter contre les violences sexuelles faites aux enfants, il est demandé aux hébergeurs de contenus en ligne de détecter les contenus pédopornographiques et de surveiller les conversations des utilisateurs.</p>
<p>En réalité, l&rsquo;analyse des images postées par les utilisateurs de services en ligne existe déjà, <a href="media/b525c2fb.tas-approach-to-safer-private-messaging-on-MSGR-and-IG-DMs-4.pdf" data-original-source="https://messengernews.fb.com/wp-content/uploads/2021/12/Metas-approach-to-safer-private-messaging-on-MSGR-and-IG-DMs-4.pdf">pratiquée par Meta</a>, <a href="https://www.theverge.com/2021/8/10/22613225/apple-csam-scanning-messages-child-safety-features-privacy-controversy-explained">envisagée par Apple</a>, et encouragée à titre expérimental, pour 3 ans, par un précédent règlement européen de 2021. Le CSAR doit justement prendre le relais et inscrire cette obligation d&rsquo;analyse et de filtrage dans le marbre. L&rsquo;enjeu est colossal. Dans ce cadre comme dans celui de la loi SREN, la lutte contre la pédopornographie, totem inattaquable et légitime, justifie l&rsquo;abolition de la confidentialité de tous les échanges en ligne.</p>
<p>Le pseudonymat, le chiffrement des échanges, le secret des correspondances, la vie privée qui va de pair avec la liberté d&rsquo;expression, tout disparaît devant une seule cause élevée en absolu — et pour des résultats que des études et des services de police ne jugent même pas probants.</p>
<p><strong>Lire l&rsquo;article complet&nbsp;: <a href="https://www.laquadrature.net/2023/09/18/reglement-csar-la-surveillance-de-nos-communications-se-joue-maintenant-a-bruxelles/"><br />
https://www.laquadrature.net/2023/09/18/reglement-csar-la-surveillance-de-nos-communications-se-joue-maintenant-a-bruxelles/</a></strong></p>
<h2 class="wp-block-heading">La Quadrature dans les médias</h2>
<p><strong>Loi SREN</strong></p>
<ul>
<li>Projet de loi sur l&rsquo;espace numérique&nbsp;: « une surenchère autoritaire » pour la Quadrature du Net — <a href="https://www.notretemps.com/depeches/projet-de-loi-sur-l-espace-numerique-une-surenchere-autoritaire-pour-la-quadrature-du-net-78288">https://www.notretemps.com/depeches/projet-de-loi-sur-l-espace-numerique-une-surenchere-autoritaire-pour-la-quadrature-du-net-78288</a> [Notre Temps]</li>
<li>Il faut qu’on parle du projet de loi SREN qui pourrait détruire les libertés fondamentales d’Internet — <a href="https://www.konbini.com/internet/il-faut-quon-parle-du-projet-de-loi-sren-qui-pourrait-detruire-les-libertes-fondamentales-dinternet/">https://www.konbini.com/internet/il-faut-quon-parle-du-projet-de-loi-sren-qui-pourrait-detruire-les-libertes-fondamentales-dinternet/</a> [Konbini]</li>
<li>Porno, harcèlement en ligne, blocage de sites Web&nbsp;: que contient la loi SREN&nbsp;? — <a href="https://www.commentcamarche.net/securite/protection/29049-porno-harcelement-en-ligne-blocage-de-sites-web-que-contient-la-loi-sren/">https://www.commentcamarche.net/securite/protection/29049-porno-harcelement-en-ligne-blocage-de-sites-web-que-contient-la-loi-sren/</a> [Comment ça marche]</li>
<li>https://alloforfait.fr/internet/news/121431-sren-paul-midy-souhaite-fin-anonymat-internet-sonner-fin-impunite.html — <a href="https://alloforfait.fr/internet/news/121431-sren-paul-midy-souhaite-fin-anonymat-internet-sonner-fin-impunite.html">https://alloforfait.fr/internet/news/121431-sren-paul-midy-souhaite-fin-anonymat-internet-sonner-fin-impunite.html</a> [AlloForfait]</li>
</ul>
<p><strong>VSA et JO</strong></p>
<ul>
<li>JO de Paris 2024&nbsp;: La vidéosurveillance algorithmique signe-t-elle la fin de nos libertés&nbsp;? — <a href="https://www.20minutes.fr/high-tech/4053081-20230920-jo-paris-2024-videosurveillance-algorithmique-signe-fin-libertes">https://www.20minutes.fr/high-tech/4053081-20230920-jo-paris-2024-videosurveillance-algorithmique-signe-fin-libertes</a> [20 minutes]</li>
<li>Responsables politiques de l’UE&nbsp;: réglementez les technologies policières&nbsp;! La société civile demande à l’UE de fixer des limites aux technologies de surveillance dans la loi sur l’intelligence artificielle — <a href="https://www.ldh-france.org/responsables-politiques-europeens-reglementez-la-technologie-policiere/">https://www.ldh-france.org/responsables-politiques-europeens-reglementez-la-technologie-policiere/</a> [Ligue des droits de l&rsquo;Homme]</li>
<li>Police AI needs strict limits and controls, warn civil society organisations — <a href="https://www.statewatch.org/news/2023/september/police-ai-needs-strict-limits-and-controls-warn-civil-society-organisations/">https://www.statewatch.org/news/2023/september/police-ai-needs-strict-limits-and-controls-warn-civil-society-organisations/</a> [Statewatch]</li>
</ul>
<p><strong>Divers</strong></p>
<ul>
<li>Weltweite Warnung vor Überwachungsplänen der EU — <a href="https://netzpolitik.org/2023/chatkonrolle-weltweite-warnung-vor-ueberwachungsplaenen-der-eu/">https://netzpolitik.org/2023/chatkonrolle-weltweite-warnung-vor-ueberwachungsplaenen-der-eu/</a> [Netzpolitik]</li>
<li>Jusqu’où faut-il équiper la police&nbsp;? — <a href="https://usbeketrica.com/fr/article/jusqu-ou-faudra-t-il-equiper-la-police">https://usbeketrica.com/fr/article/jusqu-ou-faudra-t-il-equiper-la-police</a> [Usbek &#038; Rica]</li>
<li>«&nbsp;Les techniques de surveillance utilisées par le renseignement justifieraient un contrôle plus resserré&nbsp;» — <a href="https://www.lepoint.fr/monde/les-techniques-de-surveillance-utilisees-par-le-renseignement-justifieraient-un-controle-plus-resserre-18-09-2023-2535789_24.php">https://www.lepoint.fr/monde/les-techniques-de-surveillance-utilisees-par-le-renseignement-justifieraient-un-controle-plus-resserre-18-09-2023-2535789_24.php</a> [Le Point]</li>
</ul>
<h2 class="wp-block-heading">Agenda</h2>
<ul>
<li><strong>23 septembre</strong>&nbsp;: soirée de soutien aux inculpé·es du «&nbsp;8 décembre&nbsp;» au Centre Paris Anim&rsquo; Montparnasse (Jardin Atlantique, 26 allée du Chef d&rsquo;Escadron de Guillebon, 75014) — discussion à 16h avec L’Envolée et La Quadrature du Net, puis grand concert de 18h à 23h&nbsp;: <a href="https://www.agendamilitant.org/Concert-de-soutien-aux-inculpee-es-du-8-12.html">https://www.agendamilitant.org/Concert-de-soutien-aux-inculpee-es-du-8-12.html</a>.</li>
<p><img decoding="async" src="media/27ec91f4.2023-09-23-1.jpeg" data-original-source="https://www.laquadrature.net/wp-content/uploads/sites/8/2023/09/2023-09-23-1.jpeg"></p>
<li><strong>25 septembre</strong>&nbsp;: discussion «&nbsp; Affaire du « 8 décembre »&nbsp;: antiterrorisme et criminalisation du chiffrement&nbsp;» à la Bourse du Travail à Paris (29 boulevard du Temple, 75003) — à partir de 19h avec La Quadrature du Net, le SNJ, N0thing to Hide et les avocats des inculpé·es.<br />
<img decoding="async" src="media/922af675.bourse-du-travail.jpeg" data-original-source="https://www.laquadrature.net/wp-content/uploads/sites/8/2023/09/bourse-du-travail.jpeg"></li>
<li><strong>26 septembre</strong>&nbsp;: La Quadrature participera à une discussion sur le chiffrement et la surveillance organisée par <a href="https://edri.org/">EDRi</a> à partir de 16h30 à Bruxelles (lieu à préciser)&nbsp;: <a href="https://edri.org/take-action/events/save-the-date-join-edri-to-talk-encryption-surveillance-and-privacy/">https://edri.org/take-action/events/save-the-date-join-edri-to-talk-encryption-surveillance-and-privacy/</a>.</li>
<li><strong>du 28 septembre au 1er octobre</strong>&nbsp;: deuxième édition du Festival Technopolice à Marseille&nbsp;! Films, ateliers et débats, toutes les infos ici&nbsp;: <a href="https://technopolice.fr/festival-2023/">https://technopolice.fr/festival-2023/</a>.</li>
<li><strong>28 septembre</strong>&nbsp;: rencontre avec Félix Tréguer à 18h à la librairie L&rsquo;Hydre aux mille têtes à Marseille (96 rue Saint-Savournin, 13001) dans le cadre de la parution de son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>Contre-histoire d&rsquo;Internet</i></a> aux éditions Agone.</li>
<li><strong>29 septembre</strong>&nbsp;: apéro mensuel au Garage (115 rue de Ménilmontant, 75020 Paris) à partir de 19h&nbsp;: apportez un petit truc à manger ou à boire si vous pouvez et venez discuter avec nous&nbsp;!</li>
<li><strong>6 octobre</strong>&nbsp;: rencontre avec Félix Tréguer à 19h à la librairie Le Monte-en-l&rsquo;air à Paris (2 rue de la Mare, 75020) dans le cadre de la parution de son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>Contre-histoire d&rsquo;Internet</i></a> aux éditions Agone.</li>


feed_id: https://www.laquadrature.net/?p=21242
uri: Audiosurveillance-algorithmique-à-Orléans-la-CNIL-donne-raison-à
title:
Audiosurveillance algorithmique à Orléans : la CNIL donne raison à La Quadrature sur l’illégalité du dispositif

url:
https://www.laquadrature.net/2023/09/30/audiosurveillance-algorithmique-a-orleans-la-cnil-donne-raison-a-la-quadrature-sur-lillegalite-du-dispositif/

content:
<p><strong>En 2021, La Quadrature du Net avait <a href="https://www.laquadrature.net/2021/12/14/surveillance-sonore-lqdn-attaque-lexperimentation-dorleans/">attaqué</a> un dispositif d&rsquo;audiosurveillance algorithmique déployé à Orléans dans le cadre d&rsquo;une convention avec l&rsquo;entreprise de surveillance Sensivic. Cette semaine, la CNIL vient de nous <a href="media/be984e4f.Courrier_CNIL_20230927_cloture_plainte_ASA_Orleans_anon.pdf" data-original-source="https://www.laquadrature.net/wp-content/uploads/sites/8/2023/09/Courrier_CNIL_20230927_cloture_plainte_ASA_Orleans_anon.pdf">donner raison</a> en soulignant l&rsquo;illégalité de ce dispositif technopolicier</strong>.</p>
<p>En 2021, la ville d&rsquo;Orléans concluait avec une startup locale, Sensivic, un contrat pour expérimenter une nouvelle forme de surveillance policière de l&rsquo;espace public&nbsp;: l&rsquo;audiosurveillance algorithmique (ASA). Comme ce qui avait été tenté à <a href="https://www.laquadrature.net/2019/04/15/mouchards-et-drone-a-saint-etienne-le-maire-veut-etouffer-le-debat/">Saint-Étienne</a>, <b>le projet consistait à déployer des «&nbsp;<i>détecteurs de sons anormaux</i>&nbsp;» (c&rsquo;est-à-dire des «&nbsp;mouchards&nbsp;») sur des caméras de surveillance</b>.</p>
<p>L&rsquo;ASA est un des composantes de la Technopolice qui s&rsquo;affirme sur le territoire français, aux côtés de la vidéosurveillance algorithmique (VSA), des drones ou de la reconnaissance faciale. <strong>Il est essentiel de la freiner et de la combattre partout où elle se déploie</strong>. C&rsquo;est la raison pour laquelle nous avions donc attaqué la convention entre Orléans et Sensivic, aussi bien devant la justice administrative que devant la CNIL. C&rsquo;est aujourd&rsquo;hui que la CNIL, après plus de deux ans d&rsquo;instruction, vient de nous donner raison.</p>
<h1 id="Pas d&rsquo;oreilles pour les caméras">Pas d&rsquo;oreilles pour les caméras</h1>
<p>La CNIL vient ici rappeler ce qu&rsquo;elle avait déjà dit à Saint-Étienne. En effet, en 2019, avec l&rsquo;aide de l&rsquo;entreprise Serenicity, Saint-Étienne avait envisagé un projet similaire de surveillance sonore&nbsp;: la CNIL avait déjà à l&rsquo;époque considéré qu&rsquo;<b>il est illégal de capter des sons dans l&rsquo;espace public pour améliorer la vidéosurveillance</b>.</p>
<p>Le projet orléanais que nous avons attaqué prévoyait bien lui aussi une analyse automatisée de tous les sons de l&rsquo;espace public dans l&rsquo;objectif d&rsquo;aider les caméras à repérer certains comportements suspects. Malgré tout ce qu&rsquo;a pu <a href="https://www.laquadrature.net/2023/01/12/surveillance-sonore-orleans-baratine-la-justice/">baratiner</a> Sensivic dans le cadre de notre contentieux, la CNIL rappelle le droit&nbsp;: ce dispositif de micros, couplé à la vidéosurveillance, est illégal car le droit existant ne permet en aucun cas une telle surveillance.</p>
<p>Après Saint-Étienne, <b>une telle décision à Orléans permet au moins de clarifier les choses et de mettre un frein, aussi petit soit-il, à l&rsquo;industrie de la surveillance qui cherche par tous les moyens à revendre ses logiciels de surveillance de masse</b>.</p>
<h1 id="La CNIL relègue l&rsquo;ASA au rang de technologie inutilisable">La CNIL relègue l&rsquo;ASA au rang de technologie inutilisable</h1>
<p>Cette position de la CNIL est néanmoins décevante.</p>
<p><strong>D&rsquo;une part</strong>, alors qu&rsquo;il ne s&rsquo;agissait que de l&rsquo;application stricte d&rsquo;une décision déjà prise dans le passé à Saint-Étienne, la CNIL a mis presque trois ans à instruire ce dossier et à prendre une décision. Trois ans pendant lesquels l&rsquo;ASA a pu se normaliser et se développer. <strong>Trois ans de gagnés pour la Technopolice</strong>. Notons que nous sommes d&rsquo;ailleurs toujours en attente de la décision du tribunal administratif sur ce même dossier.</p>
<p><strong>D&rsquo;autre part</strong>, la CNIL limite son raisonnement à la question du couplage de l&rsquo;ASA avec la vidéosurveillance. <i>A contrario</i>, elle considère que, lorsque l&rsquo;ASA n&rsquo;est pas couplée à de la vidéosurveillance, il pourrait ne pas y avoir de traitement de données personnelles. Cette analyse de la CNIL, bien que sans conséquence pratique, reste très contestable juridiquement. En bref, elle semble laisser une marge à l&rsquo;industrie de la surveillance sur la question de l&rsquo;analyse automatisée des sons.</p>
<p>Considérer qu&rsquo;il n&rsquo;y a de traitement de données personnelles que lorsque l&rsquo;ASA est couplée avec un dispositif de vidéosurveillance (ou n&rsquo;importe quel un mécanisme d&rsquo;identification des personnes) est juridiquement contestable. Mais cela n&rsquo;a pas de conséquence pratique directe&nbsp;: <strong>l&rsquo;objectif de l&rsquo;ASA est bien de connaître la source d&rsquo;un bruit</strong>, c&rsquo;est-à-dire d&rsquo;être couplée à un autre dispositif. Ce «&nbsp;<i>complément naturel à l&rsquo;image dans les systèmes de sécurité et de vidéosurveillance</i>&nbsp;», pour reprendre les mots de Sensivic, est bien illégal.</p>
<p><strong>Cette victoire devant la CNIL est une bonne nouvelle. Au tour de la justice administrative, désormais, de rendre sa décision. Il est urgent, aujourd&rsquo;hui, de mettre un terme définitif à ces projets de surveillance sonore. Alors pour nous aider à continuer la lutte, vous pouvez participer à <a href="https://technopolice.fr/blog/boite-a-outils-de-la-technopolice/">documenter cette surveillance</a> ou <a href="https://www.laquadrature.net/donner">faire un don</a>.</strong></p>


feed_id: https://www.laquadrature.net/?p=21247
title: Affaire du « 8 décembre » : le droit au chiffrement et à la vie privée en procès
uri: Affaire-du-8-décembre-le-droit-au-chiffrement-et-à-la-vie
url:
https://www.laquadrature.net/2023/10/02/affaire-du-8-decembre-le-droit-au-chiffrement-et-a-la-vie-privee-en-proces/

content:
<p><strong>Le 3 octobre prochain s&rsquo;ouvrira le procès de l&rsquo;affaire dite du «&nbsp;8 décembre&nbsp;». Sept personnes sont accusées d&rsquo;association de malfaiteurs terroriste. Pour construire le récit du complot terroriste, les services de renseignement de la DGSI chargés de l&rsquo;enquête judiciaire, le parquet national antiterroriste (PNAT) puis le juge d&rsquo;instruction instrumentalisent à charge le fait que les inculpé·es utilisaient au quotidien des outils pour protéger leur vie privée et chiffrer leurs communications. Face à cette atteinte inédite, que nous <a href="https://www.laquadrature.net/2023/06/05/affaire-du-8-decembre-le-chiffrement-des-communications-assimile-a-un-comportement-terroriste/">documentions</a> longuement il y a quelques mois, le temps de ce procès va donc être crucial dans la bataille contre les velléités récurrentes de l’État de criminaliser des pratiques numériques banales, sécurisées et saines, pratiques que nous défendons depuis toujours.</strong></p>
<h1 id="«&nbsp;Il reconnaissait devant les enquêteurs utiliser l’application Signal&nbsp;»">«&nbsp;Il reconnaissait devant les enquêteurs utiliser l’application Signal&nbsp;»</h1>
<p>Comme le souligne le journal <i>Le Monde</i> qui a consacré un long article au «&nbsp;8 décembre&nbsp;», cette affaire repose «&nbsp;<a href="https://www.lemonde.fr/societe/article/2023/09/25/affaire-du-8-decembre-2020-le-proces-d-une-supposee-menace-terroriste-d-ultragauche_6190853_3224.html"><i>sur des bases fragiles</i></a>&nbsp;». Parmi celles-ci, nous sommes particulièrement inquiets de la place donnée à l&rsquo;utilisation des outils de chiffrement ou, plus largement, des moyens pour protéger sa vie privée. Un des enjeux de ce procès sera donc de savoir si une telle pratique peut être utilisée à charge par la police et la justice pour étayer la la présomption d&rsquo;un projet terroriste. Un tel parti pris de la part du juge constituerait un passage de cap extrêmement dangereux, puisque <b>toute forme de confidentialité deviendrait alors suspecte par défaut</b>.</p>
<p>Dans ce dossier, protéger sa vie privée et chiffrer ses communications n&rsquo;est plus seulement suspect mais devient constitutif d&rsquo;un «&nbsp;comportement clandestin&nbsp;», un moyen de cacher un projet criminel. À travers différentes notes, la DGSI s&rsquo;est ainsi affairée à démontrer comment l&rsquo;utilisation d&rsquo;outils comme Signal, Tor, Proton, Silence, etc., serait une preuve de la volonté de dissimuler des éléments compromettants. Et en plus de cela, comme nous le <a href="https://www.laquadrature.net/2023/06/05/affaire-du-8-decembre-le-chiffrement-des-communications-assimile-a-un-comportement-terroriste/">dénonçions</a> en juin dernier, la DGSI justifie l&rsquo;absence de preuves d&rsquo;un projet terroriste par l’utilisation d&rsquo;outils de chiffrement&nbsp;: les éléments prouvant une intention terroriste sont nécessairement, selon elle, dans ces fameux messages chiffrés et inaccessibles. Le serpent se mord la queue, ce qui amène les avocats d&rsquo;un des inculpé·es <a href="https://www.telerama.fr/debats-reportages/affaire-du-8-decembre-quinze-ans-apres-tarnac-l-antiterrorisme-encore-a-la-derive-face-a-l-ultragauche-7017318.php">à dénoncer</a> le fait qu&rsquo;«&nbsp;<i>ici, l’absence de preuve devient une preuve</i>&nbsp;».</p>
<p>Plus inquiétant encore, l&rsquo;enquête de la DGSI est parsemée d&rsquo;approximations voire d&rsquo;erreurs techniques, qui seront ensuite reprises par le PNAT puis le juge d&rsquo;instruction. Ainsi, les enquêteurs confondent Tor et Tails dans certaines pièces du dossier. Le résultat de l&rsquo;enquête pointe également comme un élément de culpabilité le fait que les inculpé·es chiffrent le contenu de leur téléphone ou de leur ordinateur. Toujours avec beaucoup de confusions techniques, la DGSI reproche ainsi aux personnes en cause d&rsquo;utiliser LUKS, un outil disponible sous Linux pour chiffrer ses disques, pourtant banal et recommandé pour protéger ses données. Mais, de manière générale, l&rsquo;ensemble du dossier tend à démontrer que la police et la justice ignorent que le chiffrement par défaut des supports de stockage est mis en place par les principaux développeurs de logiciels. Et ces mêmes autorités oublient que leurs périphériques aussi sont chiffrés (en tout cas nous l&rsquo;espérons pour elles&nbsp;!).</p>
<p><b>En somme, il est reproché aux inculpé·es de respecter des règles élémentaires de sécurité informatique</b>. Ce qui est parfois appelé «&nbsp;hygiène numérique&nbsp;»<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21247_2('footnote_plugin_reference_21247_2_1');" onkeypress="footnote_moveToReference_21247_2('footnote_plugin_reference_21247_2_1');" ><sup id="footnote_plugin_tooltip_21247_2_1" class="footnote_plugin_tooltip_text">1</sup></a><span id="footnote_plugin_tooltip_text_21247_2_1" class="footnote_tooltip">Voir par exemple le <a href="media/4b3fffbf.guide_hygiene_informatique_anssi.pdf" data-original-source="https://www.ssi.gouv.fr/uploads/2017/01/guide_hygiene_informatique_anssi.pdf">guide de l&rsquo;ANSSI</a> sur l&rsquo;hygiène numérique.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21247_2_1').tooltip({ tip: '#footnote_plugin_tooltip_text_21247_2_1', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script> devient  le symbole d&rsquo;un prétendu comportement clandestin.</p>
<h1 id="Les États relancent leur guerre contre le chiffrement">Les États relancent leur guerre contre le chiffrement</h1>
<p>Il existe depuis toujours une tension politique autour du chiffrement des communications électroniques, et cela est bien logique puisque <b>le chiffrement <i>est</i> politique par nature</b>. Martin Hellmann, un des chercheurs en mathématiques ayant participé à la conception du chiffrement asymétrique dans les années 1970, justifiait  à l&rsquo;époque sa démarche par sa crainte que «&nbsp;<i>l’utilisation croissante des outils de traitement automatisés représente une réelle menace pour l’économie et la vie privée</i>&nbsp;». Pour lui, les techniques de chiffrement fiables constituaient une manière d&#8217;empêcher le développement de la «&nbsp;<i>surveillance d’un État policier s’appuyant sur l’informatisation</i>&nbsp;» <span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21247_2('footnote_plugin_reference_21247_2_2');" onkeypress="footnote_moveToReference_21247_2('footnote_plugin_reference_21247_2_2');" ><sup id="footnote_plugin_tooltip_21247_2_2" class="footnote_plugin_tooltip_text">2</sup></a><span id="footnote_plugin_tooltip_text_21247_2_2" class="footnote_tooltip">Voir la citation de Corrigan-Gibbs, «&nbsp;Keeping Secrets&nbsp;», dans la thèse de Félix Tréguer, «&nbsp;Pouvoir et résistance dans l&rsquo;espace public&nbsp;: une contre-histoire d&rsquo;Internet (XVe-XXIe siècle)&nbsp;» accessible sur <a href="https://shs.hal.science/tel-01631122"><span class="footnote_url_wrap">https://shs.hal.science/tel-01631122</span></a>. Voir aussi le <a href="https://agone.org/livres/contre-histoire-dinternet">livre</a> <i>Contre-histoire d’Internet&nbsp;: Du XVe siècle à nos jours</i>, édition revue et actualisée, Agone, 2023.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21247_2_2').tooltip({ tip: '#footnote_plugin_tooltip_text_21247_2_2', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. On le comprend, l&rsquo;émergence de cette technologie n&rsquo;est pas le résultat de découvertes scientifiques fortuites mais bien <b>le fruit d&rsquo;un rapport de force naissant</b>. Et cela explique pourquoi les États ont toujours opposé une résistance à son développement et à son utilisation, une volonté de contrôle trahie par un discours transformant leurs créateur·rices et les utilisateur·rices du chiffrement en criminels potentiels.</p>
<p>En effet, dès la publication des travaux d&rsquo;Hallman et de ses camarades, le gouvernement des États-Unis a fait pression pour que cette technique reste dans le domaine militaire, afin de pouvoir en maîtriser le développement. Ensuite, dans les années 1990, la démocratisation du chiffrement, notamment via le <a href="https://fr.wikipedia.org/wiki/Pretty_Good_Privacy">protocole PGP</a>, donne de nouvelles sueurs froides au gouvernement états-unien qui repart à l&rsquo;attaque. Ce dernier propose alors de mettre en place des <a href ="https://en.wikipedia.org/wiki/Clipper_chip">«&nbsp;Clipper Chips&nbsp;»</a>, c&rsquo;est-à-dire l&rsquo;obligation d&rsquo;installer une puce contenant une «&nbsp;porte dérobée&nbsp;» dans tout système chiffré, permettant un accès aux données pour les autorités judiciaires et administratives.</p>
<p>Commence alors une «&nbsp;<a href="https://fr.wikipedia.org/wiki/Crypto_Wars">crypto-war</a>&nbsp;» qui oppose l&rsquo;administration Clinton et les nombreux activistes défendant le droit à la cryptographie. Le gouvernement fédéral <a href="https://archive.epic.org/crypto/clipper/white_house_statement_2_94.html">se défend</a> en expliquant que «&nbsp;<i>si les technologies cryptographiques sont rendues librement accessibles à l’échelle mondiale, elles seraient sans aucun doute largement utilisées par les terroristes, les trafiquants de drogue et autres criminels qui portent préjudice aux Américains sur le territoire national et à l’étranger.</i>&nbsp;» Mais ce discours de criminalisation échoue et le chiffrement est retiré de la liste des «&nbsp;armes et munitions&nbsp;» en 1996, ouvrant la voie à sa libéralisation. En France, bien que poussée <a href="https://www.lemonde.fr/archives/article/1995/01/27/pour-la-liberalisation-du-chiffrement-en-france_3839087_1819218.html">par des militant·es</a>, cette libéralisation du chiffrement n&rsquo;a eu lieu <a href="http://www1.rfi.fr/actufr/articles/989/article_2505.asp">qu&rsquo;en 1999</a>, faisant de la France <b>un des derniers États à vouloir garder cette technique sous son contrôle</b>.</p>
<p>Les attaques contre le chiffrement ont refait surface dans les années 2010, à un moment où la population a tout à la fois pris conscience des méga-programmes de surveillance étatiques, vécu des épisodes d’attentats donnant lieu à un climat sécuritaire intense, et pu accéder à des messageries chiffrées grand public. Cette conjoncture a ainsi donné de nouvelles occasions aux différents ministres de l’intérieur (<a href="https://www.la-croix.com/France/Securite/Chiffrement-gouvernement-sattaque-messageries-securisees-2016-08-23-1200784119">Cazeneuve</a>, <a href="https://www.nextinpact.com/article/30053/108718-face-au-chiffrement-bout-en-bout-christophe-castaner-reve-backdoors">Castaner</a> puis <a href="https://www.numerama.com/tech/707469-affaiblir-le-chiffrement-nest-jamais-une-bonne-idee-contrairement-a-ce-quaffirme-gerald-darmanin.html">Darmanin</a>), <a href="https://www.rtl.fr/actu/politique/antiterrorisme-le-depute-eric-ciotti-menace-apple-d-interdire-les-iphone-en-france-7782143062">députés</a>, ou <a href="https://www.france24.com/fr/20170411-macron-lutte-terrorisme-messagerie-chiffrement-whatsapp-telegram-controverse-presidentielle">président</a> pour redonner corps à la criminalisation aussi bien des concepteur·rices des outils fondés sur du chiffrement (pensons par exemple à l&rsquo;affaire de <a href="https://www.nextinpact.com/article/45610/iphone-deverrouille-resume-et-epilogue-limbroglio-san-bernardino">l&rsquo;iPhone de San Bernardino</a> qui a mis Apple au centre des critiques) que de ses utilisateur·rices.</p>
<h1 id="La crainte d&rsquo;un précédent irrémédiable">La crainte d&rsquo;un précédent irrémédiable</h1>
<p>Avec l&rsquo;affaire du «&nbsp;8 décembre&nbsp;», nous assistons donc à une matérialisation de ce discours qui tente de faire croire que le chiffrement des communications serait l’apanage des criminels et terroristes. Sauf qu&rsquo;il ne s&rsquo;agit plus d&rsquo;une déclaration politique opportuniste pour étendre des pouvoirs voulus depuis des décennies. <b>Nous parlons cette fois-ci d&rsquo;une accusation policière et judiciaire aux conséquences concrètes et graves</b>, qui a participé à mettre des personnes en prison. Nos inquiétudes sont grandes face à la possibilité que les juges puissent adhérer à cette narration criminalisant les outils de protection de la vie privée. Cela créerait un précédent aussi bien juridique que politique, en plus d&rsquo;avoir des conséquences humaines désastreuses pour les principales personnes concernées. La confidentialité, ici numérique mais qui pourrait s&rsquo;étendre demain à des pratiques physiques, deviendrait alors une présomption de culpabilité. Se protéger, adopter des mesures de sécurité pour soi et les autres serait alors un motif de poursuites.</p>
<p>Isabela Fernandes, la directrice exécutive du Tor Project nous a fait part de son soutien dans cette bataille à venir. Pour elle, «&nbsp;<i>le chiffrement ne doit pas être compris à tort comme un signe d&rsquo;intention malveillante mais, <b>doit au contraire être vu comme une composante fondamentale du droit à la vie privée et à la sécurité informatique des personnes</b>. Dès lors que de plus en plus d&rsquo;aspects de nos vies ont lieu en ligne, le chiffrement est garant de la capacité à protéger sa vie privée et ses droits.</i>&nbsp;»</p>
<p>Elle ajoute&nbsp;: «&nbsp;<i>De nombreux outils préservant la vie privée sont utilisés par les membres de la Commission européenne et des organes d&rsquo;État. <b>Les gouvernements ont la responsabilité d&rsquo;assurer le droit à la liberté d&rsquo;expression et à la vie privée pour toutes et tous afin de protéger un fondement des sociétés démocratiques</b> – plutôt que de promouvoir une interprétation biaisée de qui peut bénéficier de ces droits et qui ne le peut pas.</i>&nbsp;»</p>
<p>C&rsquo;est bien parce que déduire de l&rsquo;utilisation d&rsquo;outils pour protéger sa vie privée et chiffrer ses communications un comportement clandestin vient nourrir un dossier pénal très faible que <b>plus de 130 personnes et organisations ont dénoncé cela</b> dans une <a href="https://www.laquadrature.net/2023/06/15/tribune-attaches-aux-libertes-fondamentales-dans-lespace-numerique-nous-defendons-le-droit-au-chiffrement-de-nos-communications/">tribune</a> parue dans <i>Le Monde</i>. À l&rsquo;heure où l&rsquo;État étend ses filets de plus en plus loin, autorise <a href="https://www.laquadrature.net/2023/05/31/transformer-les-objets-connectes-en-mouchards-la-surenchere-securitaire-du-gouvernement/">la surveillance à distance des objets connectés </a>, y compris ceux des <a href="https://edri.org/our-work/eu-parliament-libe-committee-opinion-spyware-ban-european-media-freedom-act/">journalistes sous prétexte de sécurité nationale</a>, assimile les revendications écologiques à du terrorisme pour mieux justifier sa débauche de moyens répressifs et intrusifs, <a href="https://disclose.ngo/fr/article/ariane-lavrilleux-jetais-sous-surveillance-de-la-dgsi">perquisitionne les journalistes</a> qui révèlent des crimes de guerre commis avec la complicité de l&rsquo;État, veut <a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/">mettre fin à toute idée d&rsquo;anonymat en ligne</a> ou <a href="https://www.laquadrature.net/2023/09/18/reglement-csar-la-surveillance-de-nos-communications-se-joue-maintenant-a-bruxelles/">à tout secret des correspondances</a>, nous assistons actuellement à un emballement autoritaire terriblement inquiétant.</p>
<p><strong>Ce procès est une énième attaque contre les libertés fondamentales, mais surtout un possible aller sans retour dans le rapport que l’État entretient avec le droit à la vie privée. Alors votre mobilisation est importante&nbsp;! Rendez-vous demain, 3 octobre, à 12h devant le tribunal de Paris (Porte de Clichy) pour un rassemblement en soutien aux inculpé·es. Puis si vous le pouvez, venez assister aux audiences (qui se tiendront les après-midis du 3 au 27 octobre au tribunal de Paris) afin de montrer, tous les jours, solidarité et résistance face à ces attaques.</strong></p>
<div class="speaker-mute footnotes_reference_container"> <div class="footnote_container_prepare"><p><span role="button" tabindex="0" class="footnote_reference_container_label pointer" onclick="footnote_expand_collapse_reference_container_21247_2();">References</span><span role="button" tabindex="0" class="footnote_reference_container_collapse_button" style="display: none;" onclick="footnote_expand_collapse_reference_container_21247_2();">[<a id="footnote_reference_container_collapse_button_21247_2">+</a>]</span></p></div> <div id="footnote_references_container_21247_2" style=""><table class="footnotes_table footnote-reference-container"><caption class="accessibility">References</caption> <tbody> 

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21247_2('footnote_plugin_tooltip_21247_2_1');"><a id="footnote_plugin_reference_21247_2_1" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>1</a></th> <td class="footnote_plugin_text">Voir par exemple le <a href="media/4b3fffbf.guide_hygiene_informatique_anssi.pdf" data-original-source="https://www.ssi.gouv.fr/uploads/2017/01/guide_hygiene_informatique_anssi.pdf">guide de l&rsquo;ANSSI</a> sur l&rsquo;hygiène numérique.</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21247_2('footnote_plugin_tooltip_21247_2_2');"><a id="footnote_plugin_reference_21247_2_2" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>2</a></th> <td class="footnote_plugin_text">Voir la citation de Corrigan-Gibbs, «&nbsp;Keeping Secrets&nbsp;», dans la thèse de Félix Tréguer, «&nbsp;Pouvoir et résistance dans l&rsquo;espace public&nbsp;: une contre-histoire d&rsquo;Internet (XVe-XXIe siècle)&nbsp;» accessible sur <a href="https://shs.hal.science/tel-01631122"><span class="footnote_url_wrap">https://shs.hal.science/tel-01631122</span></a>. Voir aussi le <a href="https://agone.org/livres/contre-histoire-dinternet">livre</a> <i>Contre-histoire d’Internet&nbsp;: Du XVe siècle à nos jours</i>, édition revue et actualisée, Agone, 2023.</td></tr>

 </tbody> </table> </div></div><script type="text/javascript"> function footnote_expand_reference_container_21247_2() { jQuery('#footnote_references_container_21247_2').show(); jQuery('#footnote_reference_container_collapse_button_21247_2').text('−'); } function footnote_collapse_reference_container_21247_2() { jQuery('#footnote_references_container_21247_2').hide(); jQuery('#footnote_reference_container_collapse_button_21247_2').text('+'); } function footnote_expand_collapse_reference_container_21247_2() { if (jQuery('#footnote_references_container_21247_2').is(':hidden')) { footnote_expand_reference_container_21247_2(); } else { footnote_collapse_reference_container_21247_2(); } } function footnote_moveToReference_21247_2(p_str_TargetID) { footnote_expand_reference_container_21247_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } } function footnote_moveToAnchor_21247_2(p_str_TargetID) { footnote_expand_reference_container_21247_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } }</script>


feed_id: https://www.laquadrature.net/?p=21259
title: Projet de loi SREN et filtre « anti-arnaque » : les navigateurs comme auxiliaires de police
uri: Projet-de-loi-SREN-et-filtre-anti-arnaque-les-navigateurs-c
url:
https://www.laquadrature.net/2023/10/05/projet-de-loi-sren-et-filtre-anti-arnaque-les-navigateurs-comme-auxiliaires-de-police/

content:
<p><strong>Le <a href="https://www.assemblee-nationale.fr/dyn/16/dossiers/alt/DLR5L16N47884">projet de loi visant à sécuriser et réguler l’espace numérique</a> («&nbsp;SREN&nbsp;», parfois appelé projet de loi «&nbsp;Espace numérique&nbsp;»), qui est actuellement débattu en hémicycle à l&rsquo;Assemblée nationale, comporte un article 6 qui crée une nouvelle excuse pour imposer un mécanisme de censure administrative&nbsp;: la protection contre les «&nbsp;arnaques&nbsp;» en ligne. Cet article ne se contente pas de créer un nouveau prétexte pour faire retirer un contenu&nbsp;: pour la première fois, il exige également que les fournisseurs de navigateurs Internet participent activement à cette censure.</strong></p>
<p>L&rsquo;article 6 du projet de loi SREN prévoit en effet d&rsquo;obliger les navigateurs Internet à censurer les sites qui proposeraient des «&nbsp;arnaques&nbsp;». Cette censure administrative se ferait sur demande de la police (c&rsquo;est-à-dire sans passer par un juge) si celle-ci estime qu&rsquo;un contenu en ligne constitue une «&nbsp;arnaque&nbsp;». Il faut entendre par «&nbsp;arnaque&nbsp;» les contenus qui usurperaient l&rsquo;identité d&rsquo;une personne, collecteraient de manière illicite des données personnelles, exploiteraient des failles de sécurité pour s&rsquo;introduire dans le terminal de l&rsquo;internaute ou tenteraient de tromper l&rsquo;internaute par une fausse page de paiement ou de connexion (<i>phishing</i>, ou hameçonnage). Pour comprendre ce texte, présentons d&rsquo;abord comment la censure se passe aujourd&rsquo;hui en France.</p>
<h1 id="La faible efficacité de la censure par DNS">La faible efficacité de la censure par DNS</h1>
<p>Aujourd&rsquo;hui, lorsqu&rsquo;une censure d&rsquo;un site est demandée, soit par un juge, soit par la police, elle passe par un blocage DNS. Pour simplifier, le DNS est le système qui traduit un nom de domaine en une adresse IP (par exemple <code>www.laquadrature.net</code> correspond à l&rsquo;adresse IP <code>185.34.33.4</code>). Quand un internaute veut consulter un site Internet, son périphérique interroge un service appelé «&nbsp;serveur DNS&nbsp;» qui effectue cette traduction. Chaque fournisseur d&rsquo;accès Internet (FAI) fournit des serveurs DNS, de manière transparente pour l&rsquo;abonné·e, qui n&rsquo;a pas besoin de configurer quoi que ce soit&nbsp;: les serveurs DNS du FAI sont paramétrés par défaut.</p>
<p>Les injonctions de censure jouent aujourd&rsquo;hui sur ce paramétrage par défaut&nbsp;: les FAI soumis à une obligation de censurer un site font mentir leur service DNS. Ainsi, au lieu de retourner à l&rsquo;internaute la bonne adresse IP, le serveur DNS du FAI répondra qu&rsquo;il ne connaît pas l&rsquo;adresse IP du site censuré demandé, ou répondra par une adresse IP autre que celle du site censuré (par exemple pour rediriger l&rsquo;internaute vers les serveurs du ministère de l&rsquo;intérieur, comme c&rsquo;est le cas avec la censure des sites terroristes ou des sites pédopornographiques).</p>
<p>La censure par DNS menteur a deux problèmes majeurs. Premièrement, elle est facilement contournable&nbsp;: il suffit à l&rsquo;internaute de changer de serveur DNS. L&rsquo;internaute peut même, lorsque sa box Internet le permet, paramétrer des serveurs DNS différents de ceux de son FAI, pour ne pas avoir à faire ce changement sur chaque périphérique connecté à son réseau. Deuxièmement, cette censure n&rsquo;est pas précise&nbsp;: c&rsquo;est tout le nom de domaine qui est bloqué. Il n&rsquo;est ainsi pas possible de bloquer une page web seule. Si un FAI voulait bloquer avec un DNS menteur l&rsquo;article que vous êtes en train de lire, il bloquerait aussi tous les autres articles sur <code>www.laquadrature.net</code>.</p>
<p>Lorsque le principe de la censure sur Internet a été introduit en droit, les législateurs dans le monde ont tâtonné pour trouver un moyen de la rendre effective. Différentes techniques ont été expérimentées avec la censure par DNS, et toutes posaient de sérieux problèmes (voir notamment l&rsquo;<a href="https://blog.fdn.fr/?post/2014/09/07/pjl-cazeneuve-le-filtrage-administratif-encore-vraiment">article</a> de Benjamin Bayart sur le site du FAI associatif French Data Network). Finalement, la censure par DNS menteur, lorsqu&rsquo;elle ne consiste pas à renvoyer vers les serveurs d&rsquo;un ministère<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21259_2('footnote_plugin_reference_21259_2_1');" onkeypress="footnote_moveToReference_21259_2('footnote_plugin_reference_21259_2_1');" ><sup id="footnote_plugin_tooltip_21259_2_1" class="footnote_plugin_tooltip_text">1</sup></a><span id="footnote_plugin_tooltip_text_21259_2_1" class="footnote_tooltip">Lorsque les serveurs DNS d&rsquo;un FAI répondent par une adresse IP qui n&rsquo;appartient pas au site demandé mais à un tiers, ce tiers, qui recevra le trafic ainsi redirigé, sera capable de savoir quels sites censurés un·e abonné·e a voulu consulter. Ainsi, lorsqu&rsquo;un serveur DNS répond par une adresse IP du ministère de l’intérieur lorsqu&rsquo;on lui demande un site terroriste ou pédopornographique censuré (dans le but d&rsquo;afficher le message d&rsquo;avertissement du gouvernement), le ministère de l&rsquo;intérieur sait que tel·le abonné·e a voulu accéder à tel site censuré. Qu&rsquo;un gouvernement puisse connaître les détails d&rsquo;une partie de la navigation d&rsquo;un·e internaute pose d&rsquo;évidents problèmes de vie privée.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21259_2_1').tooltip({ tip: '#footnote_plugin_tooltip_text_21259_2_1', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>, a l&rsquo;avantage de ne poser que peu de restrictions aux libertés fondamentales. Et le <i>status quo</i> aujourd&rsquo;hui est de préférer cette technique de censure peu efficace à d&rsquo;autres qui poseraient des problèmes techniques ou conduiraient à devoir surveiller tout le trafic.</p>
<h1 id="En France, on n&rsquo;a pas de pétrole, mais on a des idées">En France, on n&rsquo;a pas de pétrole, mais on a des idées</h1>
<p>C&rsquo;est là que le gouvernement français innove avec son idée de censure par les navigateurs Internet. L&rsquo;article 6 du projet de loi SREN vise à obliger les navigateurs à censurer des sites qui auraient été notifiés par la police parce qu&rsquo;ils proposeraient des «&nbsp;arnaques&nbsp;». Pour cela, le gouvernement compte sur une technologie déjà présente dans les principaux navigateurs&nbsp;: les filtres <i>anti-phishing</i>.</p>
<p>Aujourd&rsquo;hui, les principaux navigateurs protègent leurs internautes en comparant les URL des sites visités avec une liste d&rsquo;URL connues pour être dangereuses (par exemple, si le site héberge des applications malveillantes ou un faux formulaire de connexion pour tenter de voler des identifiants). Il existe différentes listes d&rsquo;URL dangereuses, notamment <a href="https://fr.wikipedia.org/wiki/Google_Safe_Browsing">Google Safe Browsing</a> (notamment utilisée par Firefox) ou Microsoft Defender SmartScreen (utilisée par Edge)&nbsp;: le navigateur, à partir d&rsquo;une copie locale de cette liste, va vérifier que l&rsquo;internaute n&rsquo;est pas en train de naviguer vers une URL marquée comme dangereuse. Et si c&rsquo;est le cas, un message d&rsquo;avertissement est affiché<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21259_2('footnote_plugin_reference_21259_2_2');" onkeypress="footnote_moveToReference_21259_2('footnote_plugin_reference_21259_2_2');" ><sup id="footnote_plugin_tooltip_21259_2_2" class="footnote_plugin_tooltip_text">2</sup></a><span id="footnote_plugin_tooltip_text_21259_2_2" class="footnote_tooltip">Vous pouvez tester vous-même dans Firefox avec <a href="https://www.itisatrap.org/firefox/its-an-attack.html">cette adresse de test de Mozilla</a>. Rassurez-vous, le site en question n&rsquo;est pas dangereux, il ne s&rsquo;agit que d&rsquo;une démonstration.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21259_2_2').tooltip({ tip: '#footnote_plugin_tooltip_text_21259_2_2', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>
<p>Mais cette censure n&rsquo;est pas obligatoire&nbsp;: l&rsquo;internaute peut passer outre l&rsquo;avertissement pour un site <strong>et</strong> il peut désactiver totalement cette censure dans les paramètres de son navigateur. Celle-ci est également transparente&nbsp;: les listes d&rsquo;URL bloquées sont téléchargées localement, c&rsquo;est-à-dire qu&rsquo;elle sont intégralement connues par l&rsquo;ensemble des internautes (voir, pour Firefox, l&rsquo;explication du fonctionnement sur le <a href="https://support.mozilla.org/fr/kb/comment-fonctionne-protection-hame%C3%A7onnage-logiciels-malveillants">site de Mozilla</a>).</p>
<p>Or, avec ce projet de loi SREN, le législateur entend s&rsquo;inspirer de ces filtres, mais en changeant leur esprit. Les navigateurs devront obligatoirement intégrer un mécanisme de censure des sites d&rsquo;«&nbsp;arnaques&nbsp;» et, même si l&rsquo;internaute pourra passer outre un avertissement, ce mécanisme ne pourra pas être désactivé dans son ensemble.</p>
<p>Certes, le gouvernement voulait initialement aller plus loin&nbsp;: dans la version du texte présentée en juillet au Sénat, il n&rsquo;était pas question de laisser la possibilité à l&rsquo;internaute de contourner un blocage. Exit le bouton «&nbsp;J&rsquo;ai compris&nbsp;»&nbsp;: si la police avait décidé qu&rsquo;une URL était dangereuse, il n&rsquo;était pas envisagé que vous puissiez accéder à cette adresse. En <a href="https://www.assemblee-nationale.fr/dyn/16/organes/autres-commissions/commissions-speciales/cs-espace-numerique">commission spéciale</a> à l&rsquo;Assemblée nationale, des député·es ont modifié le texte issu des travaux du Sénat pour ajouter la possibilité de contourner un blocage exigé d&rsquo;un navigateur. Leur élément de langage était tout trouvé&nbsp;: ne parlez plus de «&nbsp;<i>censure</i>&nbsp;», il ne s&rsquo;agit désormais que de «&nbsp;<i>filtrage</i>&nbsp;». Bon, peut-être n&rsquo;avaient-ils pas ouvert un dictionnaire&nbsp;: «&nbsp;<i>Filtrage, n.m. […] Censure des informations jugées non conformes à la loi ou aux bonnes mœurs</i>&nbsp;» nous <a href="https://fr.wiktionary.org/wiki/filtrage">rappelle le Wiktionnaire</a>.</p>
<p>Malgré cette maigre atténuation des dangers de cette censure par rapport à la version du Sénat, le principe de cet article 6 n&rsquo;a pas été remis en cause par les député·es en commission spéciale&nbsp;: les navigateurs devront toujours, en l&rsquo;état actuel du projet de loi, censurer les URL notifiées par la police.</p>
<h1 id="Un texte flou qui sapera la confiance dans les navigateurs">Un texte flou qui sapera la confiance dans les navigateurs</h1>
<p>Ce nouveau mécanisme de blocage comporte énormément de parts d&rsquo;ombre. Par exemple, le texte ne précise pas comment les navigateurs devront l&rsquo;intégrer. Le décret d&rsquo;application que devra adopter le gouvernement pour préciser la loi pourrait très bien, en raison du flou de la rédaction actuelle, exiger l&rsquo;utilisation d&rsquo;une sorte de boîte noire non-libre pour faire cette censure. Cela aurait comme conséquence que les navigateurs Internet aujourd&rsquo;hui libres, comme Firefox, ne le seraient plus réellement puisqu&rsquo;ils intégreraient cette brique non-libre du gouvernement.</p>
<p>Par ailleurs, le projet de loi est également flou sur la question de la transparence des URL bloquées. En l&rsquo;état actuel du texte, les URL censurées ne doivent être rendues publiques que 72h après une injonction de censure. Autrement dit, la police pourrait exiger des navigateurs qu&rsquo;ils ne dévoilent pas aux internautes quelles URL sont censurées. Dès lors, à défaut de ne pouvoir embarquer la liste complète des URL bloquées, les navigateurs devraient interroger la police (ou un tiers agissant pour son compte) à chaque fois qu&rsquo;une page web serait demandée par l&rsquo;internaute pour vérifier si celle-ci n&rsquo;est pas soumise à une injonction de blocage. Ce faisant, la police (ou ce tiers) connaîtrait l&rsquo;intégralité de la navigation Internet de tout internaute.</p>
<p>Au-delà du flou entretenu sur cet article 6, les navigateurs deviendront, avec ce texte, des auxiliaires de police. Ils devront opérer pour le compte de la police cette censure. Ils devront assumer à la place de l&rsquo;État les cas de surcensure qui, vu la quantité de contenus à traiter, arriveront nécessairement<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_21259_2('footnote_plugin_reference_21259_2_3');" onkeypress="footnote_moveToReference_21259_2('footnote_plugin_reference_21259_2_3');" ><sup id="footnote_plugin_tooltip_21259_2_3" class="footnote_plugin_tooltip_text">3</sup></a><span id="footnote_plugin_tooltip_text_21259_2_3" class="footnote_tooltip">Cette surcensure arrive déjà aujourd&rsquo;hui avec les filtres <i>anti-phishing</i> intégrés par défaut. Cela s&rsquo;est par exemple produit avec des <a href="https://brennan.io/2022/11/12/snake.club-blocked/">instances Mastodon</a>.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_21259_2_3').tooltip({ tip: '#footnote_plugin_tooltip_text_21259_2_3', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Ils devront engager leur crédibilité lorsque des abus seront commis par la police. Alors que ce filtre anti-arnaque voulait redonner confiance aux internautes lorsqu&rsquo;ils ou elles naviguent en ligne, c&rsquo;est bien l&rsquo;inverse qui se produira&nbsp;: le gouvernement retourne les navigateurs contre leurs utilisateur·rices, en imposant à ces dernier·es des censures possiblement injustifiées et potentiellement arbitraires. Comment, dans ce cas, faire confiance à un navigateur dont le comportement est en partie dicté par la police&nbsp;?</p>
<p>Et c&rsquo;est sans parler de cet effet cliquet qui se met en place à chaque nouvelle mesure sécuritaire. Il est impossible de revenir sur de nouvelles formes de contrôle par l&rsquo;État&nbsp;: initialement présentées comme limitées, elles finissent inévitablement par être étendues. Avec son texte, le gouvernement envoie un signal fort à sa police et aux autres administrations&nbsp;: une fois l&rsquo;État capable de faire bloquer sans juge les «&nbsp;arnaques&nbsp;» par les navigateurs, tout le monde pourra avoir sa part du gâteau de la censure par navigateur. Demain, la police voudra-t-elle faire censurer les discours politiques ou d&rsquo;actions écologistes sous prétexte de lutte contre le terrorisme&nbsp;? Les parlementaires voudront-ils faire bloquer des contenus haineux comme au temps de la loi Avia&nbsp;? L&rsquo;Arcom, qui a récupéré les pouvoirs de l&rsquo;Hadopi en matière de droit d&rsquo;auteur, voudra-telle bloquer les sites de streaming&nbsp;?</p>
<h1 id="Prendre les internautes pour des enfants incapables">Prendre les internautes pour des enfants incapables</h1>
<p>Une fois encore, la CNIL est brandie en garde-fou qui permettrait de neutraliser et faire oublier tous les dangers de ce texte. Le projet de loi prévoit ainsi qu&rsquo;une «&nbsp;personnalité qualifiée&nbsp;» de la CNIL sera notifiée des URL censurées et pourra enjoindre à la police de cesser un blocage abusif.</p>
<p>Or, ce «&nbsp;garde-fou&nbsp;» n&rsquo;est pas sans rappeler celui, similaire et totalement défaillant, que l&rsquo;on retrouve en matière de censure des sites terroristes ou pédopornographiques&nbsp;: lorsque la police veut faire censurer un contenu à caractère terroriste ou pédopornographique, une personnalité qualifiée de l&rsquo;Arcom est chargée de vérifier que la demande est bien légitime. Avant l&rsquo;Arcom, c&rsquo;était à une personnalité qualifiée de la CNIL, Alexandre Linden, que revenait cette tâche. <a href="media/a050dc5d.cnil_rapport_blocage_2018_web.pdf" data-original-source="https://www.cnil.fr/sites/cnil/files/atoms/files/cnil_rapport_blocage_2018_web.pdf">En 2018</a>, il dénonçait le manque de moyens humains à sa disposition, ce qui a conduit à l&rsquo;impossibilité de contrôler l&rsquo;ensemble des demandes de censure. <a href="media/1ce0ae9d.cnil_rapport_blocage_2019.pdf" data-original-source="https://www.cnil.fr/sites/cnil/files/atoms/files/cnil_rapport_blocage_2019.pdf">En 2019</a>, il réitérait son appel et rappelait que les moyens nécessaires à son contrôle n&rsquo;étaient toujours pas là. <a href="media/b9e8234a.rapport_linden_2020.pdf" data-original-source="https://www.cnil.fr/sites/cnil/files/atoms/files/rapport_linden_2020.pdf">En 2020</a>, il alertait sur les obstacles techniques mis en place par le ministère de l&rsquo;intérieur.</p>
<p>Avec la censure des contenus terroristes ou pédopornographiques, ce sont déjà près de <a href="media/d5e26788.rapport-activite_personnalite_qualifiee_2022.pdf" data-original-source="https://www.cnil.fr/sites/cnil/files/2023-06/rapport-activite_personnalite_qualifiee_2022.pdf">160 000</a> contenus qui ont été vérifiés en 2022. Or, ce filtre «&nbsp;anti-arnaque&nbsp;» opèrerait un changement d&rsquo;échelle&nbsp;: avec environ 1000 nouvelles menaces quotidiennes, il faudrait deux à trois fois plus de vérifications. Autant dire qu&rsquo;il est illusoire de compter sur un tel garde-fou. Pire&nbsp;! La police n&rsquo;aura pas à motiver ses décisions de blocage lorsqu&rsquo;une «&nbsp;mesure conservatoire&nbsp;» est prise, c&rsquo;est-à-dire dans les cinq jours suivants la détection de l&rsquo;arnaque, lorsque la police attend l&rsquo;explication du site concerné. La personnalité qualifiée devra donc vérifier la véracité des «&nbsp;mesures conservatoires&nbsp;» sans connaître la raison pour laquelle la police a ordonné la censure.</p>
<p>En quoi la protection des internautes justifie-t-elle d&rsquo;imposer une censure qu&rsquo;ils ou elles ne pourront que contourner au cas par cas avec un message dont l&rsquo;objectif est de dissuader de continuer&nbsp;? Le gouvernement adopte une nouvelle fois une posture paternaliste auprès des internautes qui, pour leur bien, devraient accepter d&rsquo;être pris·es par la main et de se voir imposer des mesures coercitives.</p>
<p>Reconnaissons un point&nbsp;: ce filtre «&nbsp;anti-arnaques&nbsp;» part d&rsquo;une bonne intention. Mais l&rsquo;imposer comme le fait l&rsquo;article 6 du projet de loi SREN est un non-sens. Ce filtre aurait sa place dans un ensemble de mesures facultatives, mais qui ne relèvent pas de la loi&nbsp;: si le gouvernement est persuadé qu&rsquo;il peut proposer un filtre «&nbsp;anti-arnaques&nbsp;» complet, fiable et à jour, pourquoi ne confie-t-il pas à la police le soin de maintenir une liste <i>anti-phishing</i> concurrente à celles de Google ou Microsoft&nbsp;? Si ce filtre est de qualité, les navigateurs seront incités à l&rsquo;intégrer, de leur plein gré et en laissant la liberté à l&rsquo;internaute de le désactiver. Non, au contraire, le législateur préfère imposer sa solution, persuadé d&rsquo;avoir raison et que forcer la main des navigateurs et des internautes serait une bonne chose. Et tant pis si cette censure ne sert à rien puisque, comme pour la <a href="https://www.laquadrature.net/2023/09/19/projet-de-loi-sren-et-acces-au-porno-identifier-les-internautes-ne-resoudra-rien/">censure des sites pornographique</a>, les origines du problème ne sont pas abordées&nbsp;: rien n&rsquo;est prévu dans ce projet de loi pour éduquer les citoyen·nes aux risques sur Internet, aucun nouveau moyen pour la CNIL ou l&rsquo;ANSSI et son service <a href="https://www.cybermalveillance.gouv.fr/">cybermalveillance.gouv.fr</a> n&rsquo;est envisagé.</p>
<p><strong>La vision paternaliste qui se dégage de ce filtre «&nbsp;anti-arnaque&nbsp;» montre bien la philosophie de l&rsquo;ensemble de ce projet de loi&nbsp;: réguler Internet par l&rsquo;excès d&rsquo;autorité. Taper du poing sur la table, montrer que le gouvernement agit même si cela est parfaitement inefficace, et finalement sacrifier les libertés fondamentales sur l&rsquo;autel du marketing politique en se ménageant de nouveaux moyens de surveillance et de censure. Le législateur ne doit pas tomber dans le piège, tendu par la commission spéciale, d&rsquo;un «&nbsp;filtrage&nbsp;» qui serait acceptable&nbsp;: ce texte prévoit bel et bien une censure administrative par les navigateurs inacceptable en elle-même. Il est donc fondamental que cet article 6 et, au-delà, <a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/">l&rsquo;ensemble du projet de loi</a> soient rejetés. Alors pour nous aider à continuer à défendre un Internet libre, vous pouvez nous <a href="https://www.laquadrature.net/donner">faire un don</a>&nbsp;!</strong></p>
<div class="speaker-mute footnotes_reference_container"> <div class="footnote_container_prepare"><p><span role="button" tabindex="0" class="footnote_reference_container_label pointer" onclick="footnote_expand_collapse_reference_container_21259_2();">References</span><span role="button" tabindex="0" class="footnote_reference_container_collapse_button" style="display: none;" onclick="footnote_expand_collapse_reference_container_21259_2();">[<a id="footnote_reference_container_collapse_button_21259_2">+</a>]</span></p></div> <div id="footnote_references_container_21259_2" style=""><table class="footnotes_table footnote-reference-container"><caption class="accessibility">References</caption> <tbody> 

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21259_2('footnote_plugin_tooltip_21259_2_1');"><a id="footnote_plugin_reference_21259_2_1" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>1</a></th> <td class="footnote_plugin_text">Lorsque les serveurs DNS d&rsquo;un FAI répondent par une adresse IP qui n&rsquo;appartient pas au site demandé mais à un tiers, ce tiers, qui recevra le trafic ainsi redirigé, sera capable de savoir quels sites censurés un·e abonné·e a voulu consulter. Ainsi, lorsqu&rsquo;un serveur DNS répond par une adresse IP du ministère de l’intérieur lorsqu&rsquo;on lui demande un site terroriste ou pédopornographique censuré (dans le but d&rsquo;afficher le message d&rsquo;avertissement du gouvernement), le ministère de l&rsquo;intérieur sait que tel·le abonné·e a voulu accéder à tel site censuré. Qu&rsquo;un gouvernement puisse connaître les détails d&rsquo;une partie de la navigation d&rsquo;un·e internaute pose d&rsquo;évidents problèmes de vie privée.</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21259_2('footnote_plugin_tooltip_21259_2_2');"><a id="footnote_plugin_reference_21259_2_2" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>2</a></th> <td class="footnote_plugin_text">Vous pouvez tester vous-même dans Firefox avec <a href="https://www.itisatrap.org/firefox/its-an-attack.html">cette adresse de test de Mozilla</a>. Rassurez-vous, le site en question n&rsquo;est pas dangereux, il ne s&rsquo;agit que d&rsquo;une démonstration.</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_21259_2('footnote_plugin_tooltip_21259_2_3');"><a id="footnote_plugin_reference_21259_2_3" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>3</a></th> <td class="footnote_plugin_text">Cette surcensure arrive déjà aujourd&rsquo;hui avec les filtres <i>anti-phishing</i> intégrés par défaut. Cela s&rsquo;est par exemple produit avec des <a href="https://brennan.io/2022/11/12/snake.club-blocked/">instances Mastodon</a>.</td></tr>

 </tbody> </table> </div></div><script type="text/javascript"> function footnote_expand_reference_container_21259_2() { jQuery('#footnote_references_container_21259_2').show(); jQuery('#footnote_reference_container_collapse_button_21259_2').text('−'); } function footnote_collapse_reference_container_21259_2() { jQuery('#footnote_references_container_21259_2').hide(); jQuery('#footnote_reference_container_collapse_button_21259_2').text('+'); } function footnote_expand_collapse_reference_container_21259_2() { if (jQuery('#footnote_references_container_21259_2').is(':hidden')) { footnote_expand_reference_container_21259_2(); } else { footnote_collapse_reference_container_21259_2(); } } function footnote_moveToReference_21259_2(p_str_TargetID) { footnote_expand_reference_container_21259_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } } function footnote_moveToAnchor_21259_2(p_str_TargetID) { footnote_expand_reference_container_21259_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } }</script>


feed_id: https://www.laquadrature.net/?p=21277
title: QSPTAG #295 — 6 octobre 2023
uri: QSPTAG-295-6-octobre-2023
url: https://www.laquadrature.net/2023/10/06/qsptag-295/
content:
<h2 id="Sensivic, couic">Sensivic, couic</h2>
<p>Voilà déjà deux ans que nous avons <a href="https://www.laquadrature.net/2021/12/14/surveillance-sonore-lqdn-attaque-lexperimentation-dorleans/">attaqué en justice et devant la CNIL</a> l&rsquo;initiative de la mairie d&rsquo;Orléans qui voulait installer dans certaines rues les micros de surveillance de l&rsquo;entreprise Sensivic pour détecter <i>«&nbsp;des sons anormaux&nbsp;»</i>. Des cris de misère, des ventres qui gargouillent, des protestations contre la suppression des services publics&nbsp;? Non&nbsp;: des bruits de bombe de peinture, de bagarre, de verre brisé ou des éclats de voix. Petit problème&nbsp;: le système implique <i>«&nbsp;d’analyser en permanence le son ambiant pour pouvoir détecter des anomalies&nbsp;»</i>. N&rsquo;allez pas raconter votre dernier secret amoureux dans les rues d&rsquo;Orléans.</p>
<p>Suite à notre action, Sensivic (aujourd&rsquo;hui en redressement judiciaire) et la ville d&rsquo;Orléans ont reçu la visite de la CNIL qui a étudié de près cette surveillance. Finalement, par un courrier du 27 septembre dernier, l&rsquo;autorité nous a informé qu&rsquo;elle considère illégal le couple maléfique constitué par les caméras et les micros dans les rues. On détaille dans l&rsquo;article pourquoi cette position est insatisfaisante à nos oreilles – les micros tout seuls seraient-ils donc plus acceptables&nbsp;?</p>
<p><strong>Lire l&rsquo;article&nbsp;: <a href="https://www.laquadrature.net/2023/09/30/audiosurveillance-algorithmique-a-orleans-la-cnil-donne-raison-a-la-quadrature-sur-lillegalite-du-dispositif/">https://www.laquadrature.net/2023/09/30/audiosurveillance-algorithmique-a-orleans-la-cnil-donne-raison-a-la-quadrature-sur-lillegalite-du-dispositif/</a></strong></p>
<h2 id="Affaire du «&nbsp;8 décembre&nbsp;»&nbsp;: le chiffrement mis en procès">Affaire du «&nbsp;8 décembre&nbsp;»&nbsp;: le chiffrement mis en procès</h2>
<p>C&rsquo;est un sujet grave dont nous parlons <a href="https://www.laquadrature.net/2023/06/05/affaire-du-8-decembre-le-chiffrement-des-communications-assimile-a-un-comportement-terroriste/">depuis le mois de juin dernier</a>. Un groupe de sept personnes est inculpé du chef de terrorisme, pour diverses raisons sans lien apparent, et surtout sans trace d&rsquo;un projet terroriste avéré. Mais les enquêteurs de la DGSI et le parquet national antiterroriste ne doutent pas de leur intuition et pensent que les intentions terroristes des inculpé·es sont d&rsquo;autant plus certaines qu&rsquo;elles sont cachées.</p>
<p>Et ce n&rsquo;est même pas une blague&nbsp;: pour l&rsquo;accusation, le fait que les accusé·es utilisaient des messageries chiffrées (Signal par exemple) et des disques durs chiffrés est la marque évidente d&rsquo;une <i>«&nbsp;culture de la clandestinité&nbsp;»</i>. Encore plus fort&nbsp;: alors qu&rsquo;elle a saisi tous les appareils électroniques des accusé·es, ordinateurs et téléphones, et qu&rsquo;elle a pu lire 80 à 90 % de leur contenu, l&rsquo;accusation prétend que les preuves d&rsquo;un projet terroriste se cachent forcément dans les 10% restants, qui sont chiffrés. Comme le dit l&rsquo;un des avocats d&rsquo;une inculpée, <i>«&nbsp;l&rsquo;absence de preuve devient une preuve&nbsp;»</i>.</p>
<p>L&rsquo;histoire serait absurde si elle n&rsquo;était pas très grave. D&rsquo;abord, des vies ont été détruites&nbsp;: surveillance, prison, procès, emplois perdus, désastre psychologique. Et pour nous, les prémisses et les conséquences du raisonnement policier et judiciaire concernent tout le monde&nbsp;: tout le monde utilise des messageries chiffrées. Whatsapp par exemple, qui est le moyen de communication utilisé pour un très grand nombre de conversations amicales et familiales, est une messagerie chiffrée. Les journalistes, les lanceur·euses d&rsquo;alerte, les militant·es politiques et syndicales, les chercheur·euses, les industriel·les, ont besoin de protéger leurs communications. Au quotidien, le secret des correspondances est protégé par le droit, comme principe de base de libertés civiles et du débat démocratique. Le droit à la vie privée est la condition <i>sine qua non</i> à l&rsquo;exercice d&rsquo;autres libertés fondamentales.</p>
<p>Si l&rsquo;utilisation d&rsquo;outils de chiffrement devenait, lors de ce procès et de son verdict, un élément incriminant ou aggravant, alors nous serions toutes et tous des terroristes, des malfaiteurs ou des comploteurs en puissance. Et si les outils de chiffrement était interdits, alors nos échanges numériques seraient accessibles à toutes les personnes malintentionnées et à toutes les polices. Cela n&rsquo;est pas envisageable. C&rsquo;est pourquoi nous suivons de très près ce procès, pour les droits de toutes et tous.</p>
<p><strong>Lire l&rsquo;article&nbsp;: <a href="https://www.laquadrature.net/2023/10/02/affaire-du-8-decembre-le-droit-au-chiffrement-et-a-la-vie-privee-en-proces/">https://www.laquadrature.net/2023/10/02/affaire-du-8-decembre-le-droit-au-chiffrement-et-a-la-vie-privee-en-proces/</a></strong></p>
<h2 id="La Quadrature dans les médias">La Quadrature dans les médias</h2>
<p><strong>Technopolice (reconnaissance faciale)</strong></p>
<ul>
<li>Reconnaissance faciale&nbsp;: « Une opposition entre le Parlement européen et les États membres », explique Bastien Le Querrec, juriste et membre de la Quadrature du Net — <a href="https://www.francetvinfo.fr/sciences/high-tech/reconnaissance-faciale-une-opposition-entre-le-parlement-europeen-et-les-etats-membres-explique-bastien-le-querrec-juriste-et-membre-de-la-quadranure-du-net_6095601.html">https://www.francetvinfo.fr/sciences/high-tech/reconnaissance-faciale-une-opposition-entre-le-parlement-europeen-et-les-etats-membres-explique-bastien-le-querrec-juriste-et-membre-de-la-quadranure-du-net_6095601.html</a> [France Info TV]</li>
</ul>
<p><strong>Technopolice (audiosurveillance algorithmique)</strong></p>
<ul>
<li>Derrière le cas d’Orléans, le procès de la surveillance sonore — <a href="https://www.lemonde.fr/pixels/article/2023/09/29/derriere-le-cas-d-orleans-le-proces-de-la-surveillance-sonore_6191636_4408996.html">https://www.lemonde.fr/pixels/article/2023/09/29/derriere-le-cas-d-orleans-le-proces-de-la-surveillance-sonore_6191636_4408996.html</a> [Le Monde]</li>
<li>Testée dans les rues d&rsquo;Orléans, l&rsquo;audiosurveillance algorithmique jugée illégale par la Cnil— <a href="
https://www.bfmtv.com/tech/actualites/donnees-personnelles/testee-dans-les-rues-d-orleans-l-audiosurveillance-algorithmique-jugee-illegale-par-la-cnil_AV-202310030618.html"><br />
https://www.bfmtv.com/tech/actualites/donnees-personnelles/testee-dans-les-rues-d-orleans-l-audiosurveillance-algorithmique-jugee-illegale-par-la-cnil_AV-202310030618.html</a> [BFM TV]</li>
<li>La Cnil dit non à la vidéosurveillance algorithmique dans les rues d&rsquo;Orléans — <a href="https://www.usine-digitale.fr/article/la-cnil-dit-non-a-la-videosurveillance-algorithmique-dans-les-rues-d-orleans.N2178342">https://www.usine-digitale.fr/article/la-cnil-dit-non-a-la-videosurveillance-algorithmique-dans-les-rues-d-orleans.N2178342</a> [L&rsquo;Usine Digitale]</li>
<li>Vidéosurveillance&nbsp;: la Cnil retoque la captation sonore couplée aux images — <a href="https://incyber.org/videosurveillance-cnil-retoque-captation-sonore-couplee-aux-images/">https://incyber.org/videosurveillance-cnil-retoque-captation-sonore-couplee-aux-images/</a> [In Cyber News]</li>
<li>Les caméras de vidéosurveillance dotées de capteurs de son jugées illégales par la Cnil — <a href="https://www.ouest-france.fr/societe/securite/les-cameras-de-videosurveillance-dotees-de-capteurs-de-son-jugees-illegales-par-la-cnil-bc03d738-62a6-11ee-baff-05c4272f4825">https://www.ouest-france.fr/societe/securite/les-cameras-de-videosurveillance-dotees-de-capteurs-de-son-jugees-illegales-par-la-cnil-bc03d738-62a6-11ee-baff-05c4272f4825</a> [Ouest-France]</li>
</ul>
<p><strong>Technopolice (police prédictive)</strong></p>
<ul>
<li>L’intelligence artificielle est nulle pour prédire les crimes — <a href="https://www.ladn.eu/tech-a-suivre/lintelligence-artificielle-est-nulle-pour-predire-les-crimes/">https://www.ladn.eu/tech-a-suivre/lintelligence-artificielle-est-nulle-pour-predire-les-crimes/</a> [L&rsquo;ADN]</li>
</ul>
<p><strong>Loi SREN (Espace numérique)</strong></p>
<ul>
<li>Le climat anti-porno nuit à la santé sexuelle, alertent Act Up-Paris et la Quadrature du Net — <a href="https://tetu.com/2023/10/04/tribune-act-up-paris-quadrature-du-net-climat-anti-porno-projet-loi-regulation-numerique/">https://tetu.com/2023/10/04/tribune-act-up-paris-quadrature-du-net-climat-anti-porno-projet-loi-regulation-numerique/</a> [Têtu]</li>
<li>Cyberharcèlement, accès au porno, filtre anti-arnaques&#8230; Ce que contient le projet de loi qui veut « sécuriser et réguler l&rsquo;espace numérique » — <a href="https://www.francetvinfo.fr/sciences/high-tech/cyberharcelement-acces-au-porno-filtre-anti-arnaques-ce-que-contient-le-projet-de-loi-qui-veut-securiser-et-reguler-l-espace-numerique_6085515.htm"><br />
https://www.francetvinfo.fr/sciences/high-tech/cyberharcelement-acces-au-porno-filtre-anti-arnaques-ce-que-contient-le-projet-de-loi-qui-veut-securiser-et-reguler-l-espace-numerique_6085515.html</a> [France Info TV]</li>
<li>SREN&nbsp;: vive opposition et amendement Mozilla sur la table — <a href="https://goodtech.info/sren-un-amendement-mozilla-sur-la-table/">https://goodtech.info/sren-un-amendement-mozilla-sur-la-table/</a> [Goodtech.info]</li>
</ul>
<p><strong>Règlement CSAR (Chat control)</strong></p>
<ul>
<li>Le Parlement européen veut-il surveiller nos conversations sur les messageries&nbsp;? — <a href="https://www.nouvelobs.com/opinions/20231005.OBS79069/le-parlement-europeen-veut-il-surveiller-nos-conversations-sur-les-messageries.html">https://www.nouvelobs.com/opinions/20231005.OBS79069/le-parlement-europeen-veut-il-surveiller-nos-conversations-sur-les-messageries.html</a> [Nouvel Obs]</li>
</ul>
<p><strong>Chiffrement et «&nbsp;8 décembre&nbsp;»</strong></p>
<ul>
<li>Affaire du «&nbsp;8 décembre&nbsp;»&nbsp;: antiterrorisme et criminalisation du chiffrement — <a href="https://paris-luttes.info/affaire-du-8-decembre-17397">https://paris-luttes.info/affaire-du-8-decembre-17397</a> [Pris Luttes Info]</li>
</ul>
<h2 id="Agenda">Agenda</h2>
<ul>
<li><strong>6 octobre</strong>&nbsp;: rencontre avec Félix Tréguer à 19h à la librairie Le Monte-en-l’air à Paris (2 rue de la Mare, 75020) dans le cadre de la parution de son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>Contre-histoire d’Internet</i></a> aux éditions Agone.</li>
<li><strong>6 octobre</strong>&nbsp;: Rencontres Radicales d&rsquo;Alternatiba &#8211; Table ronde sur la répression. Césure &#8211; 13 rue Santeuil 75005, 19h.
<li><strong>3-27 octobre</strong>&nbsp;: procès de l&rsquo;affaire du «&nbsp;8 décembre&nbsp;», audiences publiques les après-midis du mardi au vendredi à partir de 13h30 au tribunal de Paris (Porte de Clichy).</li>
<li><strong>12 octobre</strong>&nbsp;: causerie mensuelle Technopolice Marseille, de 19h à 20h, au Manifesten (59 rue Adolphe Thiers, Marseille).</li>
</ul>


feed_id: https://www.laquadrature.net/?p=21306
title: QSPTAG #296 — 13 octobre 2023
uri: QSPTAG-296-13-octobre-2023
url: https://www.laquadrature.net/2023/10/13/qsptag-296-13-octobre-2023/
content:
<h2 id="Filtre anti-arnaques&nbsp;: la censure administrative embarquée dans le navigateur&nbsp;?">Filtre anti-arnaques&nbsp;: la censure administrative embarquée dans le navigateur&nbsp;?</h2>
<p>Parmi les mesures contestables et contestées de la loi «&nbsp;visant à sécuriser et réguler l&rsquo;espace numérique&nbsp;» (SREN), l&rsquo;obligation des filtres anti-arnaques n&rsquo;est pas la moindre. L&rsquo;article 6 du projet de loi oblige les navigateurs web à bloquer les sites identifiés par les autorités administratives (la police) comme étant des arnaques (phishing, mineurs de Bitcoin, usurpation d&rsquo;identité, etc.).</p>
<p>Aujourd&rsquo;hui déjà, la police peut exiger que les plateformes et les fournisseurs d&rsquo;accès à Internet (FAI) censurent les contenus terroristes ou pédocriminels. Dans ce cas, les FAI paramètrent leurs serveurs DNS, chargés de traduire les URL des sites (www.laquadrature.net) en adresses IP (185.34.33.4). Après cette modification, le site n&rsquo;est plus trouvable à partir de son URL et se trouve donc hors d&rsquo;atteinte pour la grande majorité des internautes. Sauf si.<br />
Sauf si l&rsquo;internaute sait choisir son DNS et contourner l&rsquo;interdiction en passant par un autre serveur. Il est donc tout à fait possible, et pas très difficile à vrai dire, de contourner une censure par DNS. C&rsquo;est un procédé utilisé lorsque certains États bloquent les DNS nationaux, comme cela s&rsquo;est vu lors des révoltes du Printemps arabe en 2011 par exemple.</p>
<p>Mais la solution choisie dans le projet de loi pour les «&nbsp;arnaques&nbsp;» implique directement le navigateur web de l&rsquo;internaute. Les navigateurs incluent déjà des listes de sites ou de pages web malhonnêtes, sur lesquelles les utilisateurs pourraient croiser des virus ou des scripts malveillants. Si le navigateur détecte une tentative de connexion à l’une de ces pages «&nbsp;dangereuses&nbsp;», il prévient l&rsquo;internaute, qui a le choix de passer outre à ses risques et périls. L&rsquo;outil est donc envisagé à l&rsquo;heure actuelle comme un service que les navigateurs choisissent de rendre à l&rsquo;utilisateur, qui garde la main sur la décision finale.</p>
<p>Avec ce que le projet de loi SREN propose, les listes seraient non seulement tenues par la police, mais s&rsquo;imposeraient surtout aux navigateurs. Une pratique très différente dans sa philosophie, et qui ouvre la porte à tous les excès possibles, à la censure de sites politiques par exemple, quand le fait sera installé et qu&rsquo;il suffira de l&rsquo;étendre pour censurer à discrétion tous les sites «&nbsp;gênants&nbsp;».<br />
Plus de détails dans notre article paru le 5 octobre dernier, avant le vote de l&rsquo;article 6 à l&rsquo;Assemblée ce mercredi 11 octobre.</p>
<p><strong>Lire l&rsquo;article&nbsp;: <a href="https://www.laquadrature.net/2023/10/05/projet-de-loi-sren-et-filtre-anti-arnaque-les-navigateurs-comme-auxiliaires-de-police/">https://www.laquadrature.net/2023/10/05/projet-de-loi-sren-et-filtre-anti-arnaque-les-navigateurs-comme-auxiliaires-de-police/</a></strong></p>
<h2 id="La Quadrature dans les médias">La Quadrature dans les médias</h2>
<p><strong>Vidéosurveillance algorithmique</strong></p>
<ul>
<li>JO de Paris 2024&nbsp;: des centaines de nouvelles caméras HD installées dans les gares SNCF d’Île-de-France — <a href="https://www.leparisien.fr/info-paris-ile-de-france-oise/transports/jo-de-paris-2024-des-centaines-de-nouvelles-cameras-hd-installees-dans-les-gares-sncf-dile-de-france-12-10-2023-HOIJCCXCLRDLBDS5HCS4ERXFMU.php">https://www.leparisien.fr/info-paris-ile-de-france-oise/transports/jo-de-paris-2024-des-centaines-de-nouvelles-cameras-hd-installees-dans-les-gares-sncf-dile-de-france-12-10-2023-HOIJCCXCLRDLBDS5HCS4ERXFMU.php</a> [Le Parisien]</li>
<li>Sécuriser les grands événements sportifs&nbsp;: que faut-il attendre des outils technologiques&nbsp;? — <a href="https://theconversation.com/securiser-les-grands-evenements-sportifs-que-faut-il-attendre-des-outils-technologiques-214986">https://theconversation.com/securiser-les-grands-evenements-sportifs-que-faut-il-attendre-des-outils-technologiques-214986</a> [The Conversation]</li>
<li>Un logiciel israélien dans la vidéosurveillance de l’Assemblée Nationale — <a href="https://www.linforme.com/tech-telecom/article/un-logiciel-israelien-dans-la-videosurveillance-de-l-assemblee-nationale_1062.html">https://www.linforme.com/tech-telecom/article/un-logiciel-israelien-dans-la-videosurveillance-de-l-assemblee-nationale_1062.html</a> [L&rsquo;Informé]</li>
<li>Mais au fait, pourquoi a-t-on besoin de sécuriser les Jeux Olympiques&nbsp;? — <a href="https://www.numerama.com/cyberguerre/1517202-mais-au-fait-pourquoi-a-t-on-besoin-de-securiser-les-jeux-olympiques.html">https://www.numerama.com/cyberguerre/1517202-mais-au-fait-pourquoi-a-t-on-besoin-de-securiser-les-jeux-olympiques.html</a> [Numerama]</li>
<li>Loi jeux olympiques&nbsp;: Big Brother en finale… — <a href="https://journaloptions.fr/2023/10/13/loi-jeux-olympiques-big-brother-en-finale/">https://journaloptions.fr/2023/10/13/loi-jeux-olympiques-big-brother-en-finale/</a> [Options]</li>
</ul>
<p><strong>Divers</strong></p>
<ul>
<li>Mélanie Jaoul&nbsp;: « Ce n’est pas tant le porno qu’il faut réguler, ce sont les plateformes » — <a href="https://actu.fr/occitanie/montpellier_34172/melanie-jaoul-ce-n-est-pas-tant-le-porno-qu-il-faut-reguler-ce-sont-les-plateformes_60178741.html">https://actu.fr/occitanie/montpellier_34172/melanie-jaoul-ce-n-est-pas-tant-le-porno-qu-il-faut-reguler-ce-sont-les-plateformes_60178741.html</a> [Actu.fr]</li>
<li>EU: Artificial Intelligence Regulation Should Ban Social Scoring — <a href="https://www.hrw.org/news/2023/10/09/eu-artificial-intelligence-regulation-should-ban-social-scoring">https://www.hrw.org/news/2023/10/09/eu-artificial-intelligence-regulation-should-ban-social-scoring</a> [Human Rights Watch]</li>
</ul>
<h2 id="Agenda">Agenda</h2>
<ul>
<li><strong>3-27 octobre</strong>&nbsp;: procès de l&rsquo;affaire du «&nbsp;8 décembre&nbsp;», audiences publiques les après-midis du mardi au vendredi à partir de 13h30 au tribunal de Paris (porte de Clichy). Les débats sur la question du chiffrement devraient commencer  aux alentours du mercredi 18, mais le calendrier des audiences change sans cesse au gré des retards pris dans les auditions.</li>
<li><strong>13 octobre</strong>&nbsp;: Félix Tréguer sera l&rsquo;invité de David Dufresne dans «&nbsp;Au Poste&nbsp;», à l&rsquo;occasion de la publication de son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>«&nbsp;Contre-histoire d&rsquo;Internet&nbsp;»</i></a> aux éditions Agone&nbsp;: <a href="https://www.auposte.fr/convocation/contre-histoire-de-linternet-avec-felix-treguer/">https://www.auposte.fr/convocation/contre-histoire-de-linternet-avec-felix-treguer/</a></li>
<li><strong>2 novembre</strong>&nbsp;: rencontre avec Félix Tréguer à 18h à la librairie L’Hydre aux mille têtes à Marseille (96 rue Saint-Savournin, 13001) dans le cadre de la parution de son livre <a href="https://agone.org/livres/contre-histoire-dinternet"><i>«&nbsp;Contre-histoire d&rsquo;Internet&nbsp;»</i></a> aux éditions Agone.</li>
</ul>


feed_id: https://www.laquadrature.net/?p=21545
uri: Une-coalition-de-6-organisations-attaque-en-justice-le-dangereux-règl
title:
Une coalition de 6 organisations attaque en justice le dangereux règlement de l’UE sur les contenus terroristes

url:
https://www.laquadrature.net/2023/11/09/une-coalition-de-6-organisations-attaque-en-justice-le-dangereux-reglement-de-lue-sur-les-contenus-terroristes/

content:
<p>Le 8 novembre 2023, une coalition de six organisations – La Quadrature du Net (LQDN), Access Now, ARTICLE 19, European Center for Not-for-Profit Law (ECNL), European Digital Rights (EDRi) et Wikimedia France – <strong><a href="media/8d214618.NL_AN_EDRi_A19_WMFr_TERREG_Memoire_complementaire_FINAL_anon.pdf" data-original-source="https://www.laquadrature.net/wp-content/uploads/sites/8/2023/11/LQDN_ECNL_AN_EDRi_A19_WMFr_TERREG_Memoire_complementaire_FINAL_anon.pdf">a déposé un recours</a> devant la plus haute juridiction administrative française, le Conseil d’État, contre le décret français adaptant le <a href="https://eur-lex.europa.eu/eli/reg/2021/784/oj">règlement européen relatif à la lutte contre la diffusion des contenus à caractère terroriste en ligne</a></strong> (également connu sous le nom de «&nbsp;TERREG&nbsp;»).</p>
<p>Elles demandent au Conseil d’État de <strong>saisir la Cour de justice de l’Union européenne (CJUE) d’une question préjudicielle sur la validité du TERREG</strong> au regard des droits fondamentaux protégés par le droit de l’UE.</p>
<p>Ce règlement permet aux forces de police d’un pays de l’UE d’<strong>ordonner à un site web, à un réseau social ou à tout fournisseur de services en ligne hébergeant des contenus créés par les utilisateurs de bloquer, dans un délai d’une heure, tout contenu</strong> supposé être à caractère terroriste – et cela dans tous les États membres de l’UE. Ces fournisseurs de services peuvent également être contraints de mettre en œuvre des «&nbsp;mesures spécifiques&nbsp;» pour prévenir la publication de contenus terroristes. <strong>Ces «&nbsp;mesures spécifiques&nbsp;» – dont la nature reste à la discrétion des fournisseurs de services – peuvent inclure, par exemple, des dispositifs de filtrage automatisé, afin d’analyser l’ensemble des contenus avant leur publication</strong>. Ces systèmes automatisés sont incapables de prendre en compte le contexte de la publication et sont notoirement <a href="https://digitalfreedomfund.org/how-copyright-bots-are-governing-free-speech-online/">prédisposés à commettre des erreurs</a>, <strong>entraînant la censure de contenus protégés</strong> tels que le travail de journalistes, la satire, l’art ou les contenus documentant les violations des droits humains. En outre, l’obligation d’adopter des «&nbsp;mesures spécifiques&nbsp;» peut <strong>violer l’interdiction d’imposer une obligation générale de surveillance</strong> en vertu du <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32022R2065#d1e2172-1-1">règlement sur les services numériques</a> (Digital Services Act, ou DSA).</p>
<p>Depuis que la proposition législative a été publiée par la Commission européenne en 2018, les organisations de la société civile parties au litige – comme <a href="https://www.hrw.org/news/2021/03/25/joint-letter-eu-parliament-vote-against-proposed-terrorist-content-online">beaucoup d’autres</a> – <a href="media/04ff519a.Terrorism-Regulation-legal-briefing-020420-FINAL-1.pdf" data-original-source="https://www.article19.org/wp-content/uploads/2020/04/Terrorism-Regulation-legal-briefing-020420-FINAL-1.pdf">ont</a> <a href="https://www.laquadrature.net/censureterro/">dénoncé</a> le risque de violation des droits fondamentaux qu’implique le TERREG. Bien que la lutte contre le terrorisme soit un objectif important, le TERREG <strong>menace la liberté d’expression et l’accès à l’information sur internet</strong> en donnant aux forces de l’ordre le pouvoir de décider de ce qui peut être dit en ligne, <strong>sans contrôle judiciaire indépendant préalable</strong>. Le risque d’excès et d’abus des forces de l’ordre en matière de suppression de contenu a été largement décrit, et augmentera inévitablement avec ce règlement. <strong>Cette législation renforce également l’hégémonie des plus grandes plateformes en ligne</strong>, car seules quelques plateformes sont actuellement en mesure de respecter les obligations prévues par le TERREG.</p>
<p>«&nbsp;<i>La question de la modération des contenus en ligne est grave et la réponse ne peut être une censure policière technosolutionniste, simpliste mais dangereuse</i>&nbsp;», déclare Bastien Le Querrec, juriste à La Quadrature du Net, l’ONG cheffe de file de la coalition.</p>
<p>La défense de l’affaire par le gouvernement français est attendue pour les prochains mois. La décision du Conseil d’État n’est pas attendue avant l’année prochaine.</p>
<p></p>
<p><a href="https://www.laquadrature.net/">La Quadrature du Net</a> (LQDN) promeut et défend les libertés fondamentales dans le monde numérique. Par ses activités de plaidoyer et de contentieux, elle lutte contre la censure et la surveillance, s’interroge sur la manière dont le monde numérique et la société s’influencent mutuellement et œuvre en faveur d’un internet libre, décentralisé et émancipateur.</p>
<p>Le <a href="https://ecnl.org/">European Center for Not-for-Profit Law</a> (ECNL) est une organisation non-gouvernementale qui œuvre à la création d’environnements juridiques et politiques permettant aux individus, aux mouvements et aux organisations d’exercer et de protéger leurs libertés civiques.</p>
<p><a href="https://www.accessnow.org/">Access Now</a> défend et améliore les droits numériques des personnes et des communautés à risque. L’organisation défend une vision de la technologie compatible avec les droits fondamentaux, y compris la liberté d’expression en ligne.</p>
<p><a href="https://edri.org/">European Digital Rights</a> (EDRi) est le plus grand réseau européen d’ONG, d’expert·es, de militant·es et d’universitaires travaillant à la défense et à la progression des droits humains à l’ère du numérique sur l’ensemble du continent.</p>
<p><a href="https://www.article19.org/">ARTICLE 19</a> œuvre pour un monde où tous les individus, où qu’ils soient, peuvent s’exprimer librement et s’engager activement dans la vie publique sans crainte de discrimination, en travaillant sur deux libertés étroitement liées&nbsp;: la liberté de s’exprimer et la liberté de savoir.</p>
<p><a href="https://www.wikimedia.fr/">Wikimédia France</a> est la branche française du mouvement Wikimédia. Elle promeut le libre partage de la connaissance, notamment à travers les projets Wikimédia, comme l’encyclopédie en ligne Wikipédia, et contribue à la défense de la liberté d’expression, notamment en ligne.</a></p>


feed_id: https://www.laquadrature.net/?p=21732
title: Vidéosurveillance algorithmique à la police nationale : des révélations passibles du droit pénal
uri: Vidéosurveillance-algorithmique-à-la-police-nationale-des-révél
url:
https://www.laquadrature.net/2023/11/14/videosurveillance-algorithmique-a-la-police-nationale-des-revelations-passibles-du-droit-penal/

content:
<p><strong>Dans un <a href=" https://disclose.ngo/fr/article/la-police-nationale-utilise-illegalement-un-logiciel-israelien-de-reconnaissance-faciale/">article publié aujourd&rsquo;hui</a>, le média d&rsquo;investigation Disclose révèle que depuis des années, en se sachant dans l&rsquo;illégalité la plus totale, la police nationale a recouru au logiciel de l&rsquo;entreprise israélienne Briefcam, qui permet d&rsquo;automatiser l’analyse des images de vidéosurveillance. Cette solution comporte une option «&nbsp;reconnaissance faciale&nbsp;» qui serait, d&rsquo;après Disclose, «&nbsp;activement utilisée&nbsp;».</strong></p>
<p>Cela fait désormais près de cinq ans qu&rsquo;à travers la campagne <a href="https://technopolice.fr">Technopolice</a>, La Quadrature du Net, en lien avec des collectifs partout dans le pays, documente l&rsquo;usage illégal de la vidéosurveillance algorithmique (VSA) par les forces de police municipale. De fortes présomptions existaient quant à son utilisation par la police nationale. Nous l&rsquo;évoquions d&rsquo;ailleurs dans notre <a href="media/38edd0d4.Dossier-VSA-2-LQDN.pdf" data-original-source="https://www.laquadrature.net/wp-content/uploads/sites/8/2023/02/Dossier-VSA-2-LQDN.pdf">dossier</a> sur la VSA publié lors de la campagne contre la loi sur les jeux olympiques et paralympiques (voir page 20). <b>La confirmation faite aujourd&rsquo;hui n&rsquo;en est pas moins choquante.</b> Non seulement compte tenu de l&rsquo;échelle du déploiement de cette technologie, avec des licences Briefcam couvrant plusieurs départements. Mais aussi en raison des dissimulations dont ce marché public hautement sensible a fait l&rsquo;objet de la part de hauts fonctionnaires et de responsables politiques.</p>
<p>Il faut se souvenir de Gérald Darmanin qui, l&rsquo;an dernier en préparation des débats sur l&rsquo;article 10 de la loi Jeux Olympiques, reconnaissait qu&rsquo;il n&rsquo;existait aucune base légale pour l&rsquo;utilisation policière de ces technologies d&rsquo;analyse automatisée. L&rsquo;intelligence artificielle transforme radicalement l&rsquo;économie politique de la vidéosurveillance, raison pour laquelle nous refusons la VSA. Même dans le cadre d&rsquo;enquêtes judiciaires, l&rsquo;État se devrait au minimum de prévoir une base juridique claire pour l&rsquo;encadrer. </p>
<p><b>Tout aussi choquant est le sentiment d&rsquo;impunité généralisé que révèle cette affaire</b>. Les cadres de la Direction Générale de la Police Nationale, de même que les ministres successifs, ont sciemment organisé le secret par peur de la controverse, se sachant hors du droit.</p>
<p>Rappelons-le&nbsp;: «&nbsp;Le fait de collecter des données à caractère personnel par un moyen frauduleux, déloyal ou illicite est <a href="https://www.cnil.fr/fr/les-sanctions-penales">puni</a> de cinq ans d&#8217;emprisonnement et de 300 000 euros d&rsquo;amende.&nbsp;» (cf. art. 226-18 et -19 du code pénal). Par ailleurs, tout·e fonctionnaire est tenu·e de signaler sur le champ une infraction dont il ou elle aurait connaissance au procureur (article 40 du code de procédure pénale). Enfin, Disclose explique que pour financer le renouvellement des licences Briefcam, «&nbsp;la hiérarchie policière a pioché dans le « fonds concours drogue »&nbsp;». Ce qui pourrait s&rsquo;apparenter à du détournement de fonds publics.</p>
<p><strong>Ces faits sont extrêmement graves. L&rsquo;impuissance chronique à laquelle se condamnent les contre-pouvoirs institutionnels, de la CNIL à l&rsquo;IGPN, est elle aussi symptomatique d&rsquo;une crise systémique de l&rsquo;État de droit.</strong> L&rsquo;actualité donne d&rsquo;ailleurs une nouvelle et triste illustration de cette coupable inaction&nbsp;: la CNIL s&rsquo;est <a href="https://www.lemonde.fr/pixels/article/2023/11/14/donnees-personnelles-la-cnil-recadre-deux-ministeres-apres-l-envoi-de-2-millions-de-messages-vantant-la-reforme-des-retraites_6200020_4408996.html">contentée</a> d&rsquo;un «&nbsp;rappel à l&rsquo;ordre&nbsp;» à l&rsquo;encontre de deux ministères après le détournement de fichiers et l&rsquo;envoi au printemps dernier de 2 millions de messages de propagande destinés à manipuler l&rsquo;opinion au sujet de la réforme des retraites. </p>


feed_id: https://www.laquadrature.net/?p=21750
title: De nouveaux combats pour 2024
uri: De-nouveaux-combats-pour-2024
url: https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
content:
<p>La Quadrature du Net défend <a href="https://lqdnlivre.lqdn.fr/">depuis quinze ans</a> les droits et les libertés fondamentales de toutes et tous à l’ère du numérique. <strong>Ces quinze années de combat n’auraient pas été possibles sans vous, merci beaucoup&nbsp;! Et nous avons besoin de vous pour continuer la lutte en 2024&nbsp;!</strong></p>
<p>Les chantiers que nous suivons depuis quinze ans déjà, vous les connaissez sans doute&nbsp;: <a href="https://video.lqdn.fr/w/kTwBymp4zvzbcEAMz86eVX">contre la criminalisation du partage de la culture</a> depuis la loi Hadopi de 2008, pour la <a href="https://video.lqdn.fr/w/eBj4npJPJeKEwQ1zbqq4mf">neutralité du Net</a>, contre l’<a href="https://video.lqdn.fr/w/ihSZEKsdVaULnQqfF8C57o">exploitation des données personnelles</a> et la tyrannie de la publicité en ligne, contre la <a href="https://video.lqdn.fr/w/743v88bfTreADWfdAPpqWc">censure et la surveillance du Web</a> par les États, contre la <a href="https://video.lqdn.fr/w/3AR9bGMtmjv2FBfxB4KCoR">Technopolice</a>, les drones et la vidéosurveillance algorithmique.</p>
<p><strong>Mais de nouvelles questions surgissent, de nouveaux fronts se réactivent, où nous sentons que nous pouvons jouer un rôle utile</strong>. On a vu les administrations publiques s&rsquo;armer d&rsquo;algorithmes dans la guerre aux pauvres et aux «&nbsp;fraudeurs&nbsp;», avec pour effet l&rsquo;amplification des discriminations structurelles, le tout sous sous prétexte de modernité caricaturale, de pseudo-efficacité et de «&nbsp;dématérialisation&nbsp;». On a vu la logique de la surveillance s’immiscer partout et s’étendre à tous les aspects de nos vies publiques et intimes. D&rsquo;abord pour les besoins d’une surenchère publicitaire qui a transformé le Web en gigantesque galerie marchande, où chacune de nos curiosités, chacun de nos intérêts et chacune de nos relations amoureuse ou amicale devient l’enjeu d’une vente, d’un produit, ou d’un «&nbsp;service&nbsp;» toujours plus inutile et farfelu. Ensuite, et surtout, pour les besoins d’un pouvoir politique et étatique friand de fichage et toujours plus intrusif, beaucoup trop content d’exploiter nos innombrables traces numériques pour mieux nous surveiller, nous connaître, et anticiper nos comportements politiques et sociaux. Face à ces défis, nous voulons amplifier de  nouveaux chantiers — sans pour autant oublier ceux sur lesquels nous travaillons déjà. </p>
<p>D’abord, nous continuerons de porter toujours plus loin et toujours plus haut (ça tombe bien, on entre dans une année olympique) l’idée d’un <strong>Web interopérable</strong>. L’Internet ouvert et horizontal des débuts, qui fut une réalité incontestable, s’est retrouvé ces quinze dernières années mis en «&nbsp;silos&nbsp;» par les grandes plateformes et les réseaux sociaux privés (Facebook, Twitter, Instagram bien sûr, mais aussi YouTube, etc.). Aujourd’hui, quitter un de ces réseaux c’est perdre les relations et les échanges qui sont tout le sel du Web. Alors que si les différents services sont interopérables, on peut déménager sans perdre de vue personne, et choisir l’environnement dans lequel on se sent libre de s’exprimer sans être soumis à l’hostilité qui fait vivre les plateformes et détruit le tissu des sociétés. Nous porterons avec entêtement cette idée simple, qui a déjà une réalité technique (dans le <a href="https://fr.wikipedia.org/wiki/Fediverse">Fédivers</a> par exemple), jusqu’à ce que les lois européennes et françaises en fassent un principe de base du Web et de l’Internet en général.</p>
<p>Nous allons aussi continuer notre travail d’enquête et de <strong>lutte contre les algorithmes de contrôle social</strong>, jusqu’à leur disparition. Aujourd’hui, des algos de «&nbsp;scoring&nbsp;» ou de profilage traquent les bénéficiaires des minima sociaux, que ce soit à la CAF, à Pôle Emploi ou ailleurs, pour transformer en enfer la vie des personnes les plus précaires, sous prétexte de lutter contre les abus. En réalité, ici comme ailleurs, l’outil numérique n’a servi qu’à introduire une surveillance très fine des vies les plus ordinaires pour contester les droits des personnes et criminaliser les comportements marginaux. Le numérique ne doit pas être l’instrument complaisant d’une politique sociale qui déresponsabilise la société dans son ensemble et déshumanise les personnes. Nous ferons tout pour que ces outils dangereux soient remplacés par une volonté d’humanité et le désir d’une société plus aimante et plus juste.</p>
<p>Ensuite, nous défendrons partout où il le faudra le <strong>droit au chiffrement des données et des communications</strong>. C’est une vieille lune des États, quels qu’ils soient&nbsp;: accéder aux correspondances des citoyens pour des raisons de police. Le <a href="https://fr.wikipedia.org/wiki/Cabinet_noir">«&nbsp;cabinet noir&nbsp;»</a>, c’était autrefois ce lieu secret métaphorique où la police lisait discrètement les lettres des opposants avant de les remettre en circulation. Alors que le numérique menace de rendre tout transparent aux yeux du pouvoir, le chiffrement des données a rétabli un peu de l&rsquo;équilibre perdu entre le secret des correspondances et la prétention du «&nbsp;cabinet noir&nbsp;» à tout voir. Sans le chiffrement des communications, n’importe qui d’un peu déterminé peut accéder aux photos et aux blagues que vous échangez avec votre famille, aux échanges scientifiques inaboutis des chercheurs, aux discussions des groupes politiques ou syndicaux, etc. Le secret des communications est un des piliers de la démocratie bien tempérée&nbsp;: la transparence totale des opinions aux yeux de l’État est exactement la définition d’un régime policier. Pour mille raisons, dont le fait qu’il s’agit d’un droit fondamental, nous devons donc défendre notre droit au chiffrement et au secret contre tous les sophismes sécuritaires et policiers. Et plus les États voudront forcer ce droit au secret, plus nous aurons de raisons urgentes de le protéger.</p>
<p>Enfin, nous ne pouvons plus longtemps faire l’impasse sur <strong>les dangers immédiats et majeurs que notre mode de vie numérique fait collectivement peser sur les conditions de notre survie, et celle d’innombrables autres espèces</strong>. L’écosystème dont nous faisons partie craque de toutes parts, on le sait, on le voit, et la surproduction numérique a largement sa part dans ce désastre. Porté par le culte incontesté de la croissance et de la nouveauté permanente, le numérique entraîne avec lui une industrie colossale et polluante, qui détruit des territoires et des vies, pour alimenter notre ivresse d’écrans et de connectivité. Des mines de cobalt et de lithium jusqu’aux entrepôts des géants de la distribution mondiale, de la frénésie consumériste à l’économie de l’attention qui nous retient avec des procédés d’addiction, le numérique est aujourd’hui sans conteste un facteur de destruction autant que d’échanges, de liberté et de savoir. <strong>Il faut donc rendre au «&nbsp;digital&nbsp;» le poids de son corps physique, et à la «&nbsp;dématérialisation&nbsp;» sa matérialité, pour réfléchir aux outils et aux usages qui nous paraissent devoir être sauvés, préservés, cultivés ou inventés, et ceux auxquels ils nous faut renoncer</strong>.</p>
<p>Vaste programme&nbsp;! Et on ne s&rsquo;arrêtera pas à cela. Notre campagne <strong>Technopolice</strong> va connaître des rebondissements avec l&rsquo;expérimentation prochaine de la vidéosurveillance algorithmique légalisée par la loi relative aux Jeux Olympiques. Nous voulons aussi participer de manière plus résolue à <strong>lutter contre la surveillance numérique croissante à laquelle font face les groupe militants</strong>. Enfin, nous envisageons d&rsquo;ouvrir un <strong>front contre l&rsquo;«&nbsp;intelligence artificielle&nbsp;»</strong>, qui déferle partout sans qu&rsquo;une résistance organisée puisse y faire face.</p>
<p><strong>Tout cela pour vous dire à quel point votre soutien et vos dons seront précieux pour cette nouvelle année qui s&rsquo;annonce&nbsp;!</strong></p>
<p><a style="font-size: 1.5em;background-color: #6901DF;color: white;text-decoration: none;padding: 0.5em 1em;border-radius: 2em;text-align: center;display: block;width: fit-content;margin: auto;" href="https://www.laquadrature.net/donner/">Faire un don&nbsp;!</a></p>
<p>L’équipe de La Quadrature du Net</p>


feed_id: https://www.laquadrature.net/?p=21834
title: QSPTAG #297 — 16 novembre 2023
uri: QSPTAG-297-16-novembre-2023
url: https://www.laquadrature.net/2023/11/17/qsptag-297-16-novembre-2023/
content:
<h2 id="Campagne 2024&nbsp;: c&rsquo;est le moment de soutenir La Quadrature&nbsp;!">Campagne 2024&nbsp;: c&rsquo;est le moment de soutenir La Quadrature&nbsp;!</h2>
<p>Comme chaque fin d&rsquo;année à l&rsquo;approche de l&rsquo;hiver, nous lançons notre campagne de soutien pour financer l&rsquo;année qui vient. Si vous pouvez faire un don pour nous aider à travailler en 2024, c&rsquo;est maintenant, et c&rsquo;est <a href="https://don.laquadrature.net/">ici</a>&nbsp;!</p>
<p>Pour nous, c&rsquo;est bien sûr aussi un moment important pour réfléchir aux chantiers qui nous attendent, en plus de ceux qui nous occupent déjà beaucoup. Sans cesse il faut faire des choix, décider où mettre le temps et l&rsquo;énergie qui ne sont pas illimitées. Alors on se donne une sorte de «&nbsp;feuille de route&nbsp;» pour garder le cap, sans s&rsquo;interdire bien sûr de se consacrer aux surprises bonnes ou mauvaises de l&rsquo;actualité quand elles se présenteront. Cette «&nbsp;feuille de route&nbsp;» est <a href="https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/">ici</a>.</p>
<p>Nous porterons plus haut que jamais l&rsquo;idée et la nécessité d&rsquo;obliger les services web à <a href="https://www.laquadrature.net/donner/#interop">l&rsquo;interopérabilité</a>, seul moyen de lutter contre la recentralisation du Web et la tyrannie de l&rsquo;économie de l&rsquo;attention. Nous lutterons autant que nécessaire contre les <a href="https://www.laquadrature.net/donner/#algos">algorithmes</a> utilisés par les administrations pour criminaliser et punir les bénéficiaires des services sociaux. Nous défendrons le droit au <a href="https://www.laquadrature.net/donner/#chiffrement">chiffrement des communications</a>, attaqué de toutes parts par les gouvernements français et européens sous prétexte de lutter contre le terrorisme, au mépris du droit fondamental qu&rsquo;est le secret des correspondances, vital pour les démocraties. Et enfin, nous réfléchirons à ce que le numérique fait au monde, non seulement selon les points de vues sociaux et politiques qui sont les nôtres depuis toujours, mais aussi <a  href="https://www.laquadrature.net/donner/#lowtech">du point de vue écologique</a>, dans le contexte bien connu de la destruction de l&rsquo;écosystème par les activités humaines. Quels usages faut-il promouvoir et lesquels abandonner&nbsp;? Il nous semble que La Quadrature à quelque chose à en dire&nbsp;: «&nbsp;l&rsquo;écologie sans la politique, c&rsquo;est du jardinage&nbsp;», dit le dicton.</p>
<p>Nous aurons donc beaucoup à faire dans l&rsquo;année qui vient. Alors si vous le pouvez, soutenez-nous&nbsp;! Tous les dons sont les bienvenus, même les tout petits, et les dons mensuels même minimes auront toujours notre prédilection parce qu&rsquo;ils nous permettent d&rsquo;envisager le budget de l&rsquo;année avec plus de sérénité. Merci pour tout ce que vous pourrez faire, et merci aussi de faire connaître cette campagne de soutien sur vos réseaux sociaux&nbsp;!</p>
<p><strong>Lire notre feuille de route pour 2024&nbsp;: <a href="https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/">https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/</a></strong><br />
<strong>Faire un don pour soutenir La Quadrature&nbsp;: <a href="https://www.laquadrature.net/donner/">https://www.laquadrature.net/donner/</a></strong></p>
<h2 id="Révélation&nbsp;: la police nationale utilise de manière illégale les logiciels de VSA de la société Briefcam">Révélation&nbsp;: la police nationale utilise de manière illégale les logiciels de VSA de la société Briefcam</h2>
<p>C&rsquo;est l&rsquo;association Disclose <a href="">qui a publié l&rsquo;information</a> après une enquête approfondie&nbsp;: la police nationale utilise en toute illégalité et en toute connaissance de cause les logiciels de la société Briefcam, qui appliquent un traitement algorithmique aux photos et aux flux de vidéosurveillance pour analyser les images et identifier des personnes par reconnaissance faciale.</p>
<p>Nous avons <a href="media/38edd0d4.Dossier-VSA-2-LQDN.pdf" data-original-source="https://www.laquadrature.net/wp-content/uploads/sites/8/2023/02/Dossier-VSA-2-LQDN.pdf">documenté</a> depuis quelque temps l&rsquo;utilisation de ce logiciel ou d&rsquo;outils similaires par les polices municipales, mais nous n&rsquo;avions pas de preuves concernant les pratiques de la police nationale. C&rsquo;est aujourd&rsquo;hui chose faite>. Nous rappelons dans <a href="https://www.laquadrature.net/2023/11/14/videosurveillance-algorithmique-a-la-police-nationale-des-revelations-passibles-du-droit-penal/">un article de réaction</a> à cette publication de Disclose les éléments juridiques qui posent l&rsquo;illégalité du dispositif, et nous en appelons aussi à la CNIL, beaucoup trop conciliante jusqu&rsquo;à présent avec les usages illégaux de la reconnaissance faciale et de logiciels d&rsquo;analyse par les forces de police.</p>
<p><strong>Lire l&rsquo;article de Disclose&nbsp;: <a href="https://disclose.ngo/fr/article/la-police-nationale-utilise-illegalement-un-logiciel-israelien-de-reconnaissance-faciale/">https://disclose.ngo/fr/article/la-police-nationale-utilise-illegalement-un-logiciel-israelien-de-reconnaissance-faciale/</a></strong><br />
<strong>Notre réaction&nbsp;: <a href="https://www.laquadrature.net/2023/11/14/videosurveillance-algorithmique-a-la-police-nationale-des-revelations-passibles-du-droit-penal/">https://www.laquadrature.net/2023/11/14/videosurveillance-algorithmique-a-la-police-nationale-des-revelations-passibles-du-droit-penal/</a></strong></p>
<h2 id="Une coalition d&rsquo;associations européennes attaque le Règlement Terro en France">Une coalition d&rsquo;associations européennes attaque le Règlement Terro en France</h2>
<p>Le 8 novembre denier, six organisations européennes — La Quadrature du Net, <a href="https://www.accessnow.org/">Access Now</a>, <a href="https://www.article19.org/">ARTICLE 19</a>, <a href="https://ecnl.org/">European Center for Not-for-Profit Law</a>, <a href="https://edri.org/">EDRi</a> et <a href="https://www.wikimedia.fr/">Wikimedia France</a> — ont déposé devant le Conseil d&rsquo;État un recours contre le décret qui doit adapter dans le droit français les dispositions du «&nbsp;règlement Terro&nbsp;» européen (ou TERREG) adopté en 2021.</p>
<p>Mais en quoi ce contentieux français concerne-t-il nos partenaires européens&nbsp;? C&rsquo;est que ce recours en France est pour nous un point d&rsquo;entrée&nbsp;: nous demandons au Conseil d’État de transmettre à la Cour de justice de l’Union européenne (CJUE) une «&nbsp;question préjudicielle&nbsp;» sur la validité du TERREG. Nous pensons que ce règlement, qui permet aux forces de police d’un pays de l’UE d’ordonner à un site web de bloquer dans un délai d’une heure (oui, une heure) tout contenu supposé être à caractère terroriste, contrevient au regard des droits fondamentaux protégés par le droit de l’UE.</p>
<p>La procédure durera plusieurs mois, avant que le gouvernement français produise sa réponse, et probablement plusieurs années avant que la CJUE ne rende sa décision. Mais comme nous rejetons les dispositions numériques du TERREG depuis sa première ébauche en 2018, on peut dire que La Quadrature a les idées longues. On suit l&rsquo;affaire et on vous tiendra au courant&nbsp;!</p>
<p><strong>Lire l&rsquo;article&nbsp;: <a href="https://www.laquadrature.net/2023/11/09/une-coalition-de-6-organisations-attaque-en-justice-le-dangereux-reglement-de-lue-sur-les-contenus-terroristes/">https://www.laquadrature.net/2023/11/09/une-coalition-de-6-organisations-attaque-en-justice-le-dangereux-reglement-de-lue-sur-les-contenus-terroristes/</a></strong></p>
<h2 id="La Quadrature dans les médias">La Quadrature dans les médias</h2>
<p><strong>Reconnaissance faciale et VSA</strong></p>
<ul>
<li>Recours à la reconnaissance faciale par la police&nbsp;: «&nbsp;Une affaire très grave&nbsp;», selon la socialiste Sylvie Robert — <a href="https://www.publicsenat.fr/actualites/societe/recours-a-la-reconnaissance-faciale-par-la-police-une-affaire-tres-grave-selon-la-socialiste-sylvie-robert">https://www.publicsenat.fr/actualites/societe/recours-a-la-reconnaissance-faciale-par-la-police-une-affaire-tres-grave-selon-la-socialiste-sylvie-robert</a> [Public Sénat]</li>
<li>Logiciel de vidéosurveillance&nbsp;: la Cnil lance une «procédure de contrôle» visant le ministère de l&rsquo;Intérieur — <a href="https://www.lefigaro.fr/conjoncture/logiciel-de-videosurveillance-la-cnil-lance-une-procedure-de-controle-visant-le-ministere-de-l-interieur-20231115">https://www.lefigaro.fr/conjoncture/logiciel-de-videosurveillance-la-cnil-lance-une-procedure-de-controle-visant-le-ministere-de-l-interieur-20231115</a> [Le Figaro]</li>
<li>Vidéosurveillance&nbsp;: la Cnil ouvre une «&nbsp;procédure de contrôle&nbsp;» contre le ministère de l’intérieur — <a href="
 https://www.la-croix.com/france/Videosurveillance-Cnil-ouvre-procedure-controle-contre-ministere-linterieur-2023-11-15-1201290903"> https://www.la-croix.com/france/Videosurveillance-Cnil-ouvre-procedure-controle-contre-ministere-linterieur-2023-11-15-1201290903</a> [La Croix]</li>
<li>Reconnaissance faciale&nbsp;: « Ce que propose Laurent Wauquiez est inacceptable en démocratie », juge un expert — <a href="https://www.radiofrance.fr/franceinter/reconnaissance-faciale-ce-que-propose-laurent-wauquiez-est-inacceptable-en-democratie-juge-un-expert-6299239">https://www.radiofrance.fr/franceinter/reconnaissance-faciale-ce-que-propose-laurent-wauquiez-est-inacceptable-en-democratie-juge-un-expert-6299239</a> [France Inter]</li>
<li>Vidéosurveillance&nbsp;: la Cnil lance une « procédure de contrôle » visant le ministère de l&rsquo;Intérieur — <a href="https://rmc.bfmtv.com/actualites/police-justice/videosurveillance-la-cnil-lance-une-procedure-de-controle-visant-le-ministere-de-l-interieur_AD-202311150808.html">https://rmc.bfmtv.com/actualites/police-justice/videosurveillance-la-cnil-lance-une-procedure-de-controle-visant-le-ministere-de-l-interieur_AD-202311150808.html</a> [BFM/RMC]</li>
<li>Sensivic, start-up créatrice de détecteurs de sons anormaux à Orléans, a été acquise par une société alsacienne — <a href="https://www.larep.fr/orleans-45000/actualites/sensivic-start-up-creatrice-de-detecteurs-de-sons-anormaux-a-orleans-a-ete-acquise-par-une-societe-alsacienne_14404400/">https://www.larep.fr/orleans-45000/actualites/sensivic-start-up-creatrice-de-detecteurs-de-sons-anormaux-a-orleans-a-ete-acquise-par-une-societe-alsacienne_14404400/</a> [La République du Centre]</li>
<li>Hervé Zandrowicz (Sensivic)&nbsp;: «&nbsp;Nous n’écoutons pas les conversations mais nous analysons le paysage sonore de manière anonymisée&nbsp;»  — <a href="https://www.infoprotection.fr/herve-zandrowicz-sensivic-nous-necoutons-pas-les-conversations-mais-nous-analysons-le-paysage-sonore-de-maniere-anonymisee/">https://www.infoprotection.fr/herve-zandrowicz-sensivic-nous-necoutons-pas-les-conversations-mais-nous-analysons-le-paysage-sonore-de-maniere-anonymisee/</a> [InfoProtection]</li>
</ul>
<p><strong>JO et VSA</strong></p>
<ul>
<li>«&nbsp;Faisons du 2 décembre une journée de mobilisations contre les ravages des JO&nbsp;» — <a href="https://basta.media/2-decembre-journee-mobilisations-contre-ravages-jeux-olympiques-paralympiques-JO-Paris-2024-Alpes-2030">https://basta.media/2-decembre-journee-mobilisations-contre-ravages-jeux-olympiques-paralympiques-JO-Paris-2024-Alpes-2030</a> [Basta]</li>
<li>Loi Jeux olympiques&nbsp;: Big Brother en finale — <a href="https://journaloptions.fr/2023/10/13/loi-jeux-olympiques-big-brother-en-finale/">https://journaloptions.fr/2023/10/13/loi-jeux-olympiques-big-brother-en-finale/</a> [Options]</li>
</ul>
<p><strong>Surveillance</strong></p>
<ul>
<li>Risque d&rsquo;attentat en France&nbsp;: la sécurité à quel prix&nbsp;? — <a href="https://video.lqdn.fr/w/uHec8vZhmPFVonwv8hGQA5">https://video.lqdn.fr/w/uHec8vZhmPFVonwv8hGQA5</a> [Le Talk/France Info]</li>
<li>L’activation à distance par la police des appareils électroniques en partie censurée — <a href="https://www.mediapart.fr/journal/france/171123/l-activation-distance-par-la-police-des-appareils-electroniques-en-partie-censuree">https://www.mediapart.fr/journal/france/171123/l-activation-distance-par-la-police-des-appareils-electroniques-en-partie-censuree</a> [Mediapart]</li>
<li>À Orléans, la Cnil dit non au couple vidéosurveillance-captation sonore — <a href="https://www.lagazettedescommunes.com/891582/a-orleans-la-cnil-dit-non-au-couple-videosurveillance-captation-sonore/">https://www.lagazettedescommunes.com/891582/a-orleans-la-cnil-dit-non-au-couple-videosurveillance-captation-sonore/</a> [La Gazette des Communes]</li>
</ul>
<p><strong>Recours contre le TERREG</strong></p>
<ul>
<li>Lutte contre le terrorisme en ligne&nbsp;: des associations demandent au Conseil d’État de saisir la justice européenne — <a href="https://www.humanite.fr/societe/libertes-publiques/lutte-contre-le-terrorisme-en-ligne-des-associations-demandent-au-conseil-detat-de-saisir-la-justice-europeenne">https://www.humanite.fr/societe/libertes-publiques/lutte-contre-le-terrorisme-en-ligne-des-associations-demandent-au-conseil-detat-de-saisir-la-justice-europeenne</a> [L&rsquo;Humanité]</li>
<li>Six organisations, menées par La Quadrature du Net, attaquent en justice le règlement de l’UE sur les contenus terroristes — <a href="https://www.zdnet.fr/blogs/l-esprit-libre/six-organisations-menees-par-la-quadrature-du-net-attaquent-en-justice-le-reglement-de-l-ue-sur-les-contenus-terroristes-39962366.htm">https://www.zdnet.fr/blogs/l-esprit-libre/six-organisations-menees-par-la-quadrature-du-net-attaquent-en-justice-le-reglement-de-l-ue-sur-les-contenus-terroristes-39962366.htm</a> [ZDNet]</li>
<li>Six ONG attaquent le règlement de l’UE sur les contenus terroristes en justice — <a href="https://www.nextinpact.com/article/72832/six-ong-attaquent-reglement-lue-sur-contenus-terroristes-en-justice">https://www.nextinpact.com/article/72832/six-ong-attaquent-reglement-lue-sur-contenus-terroristes-en-justice</a> [NextINpact]</li>
<li>Technosurveillance – Le règlement de l’UE sur la gestion des contenus «&nbsp;terroristes&nbsp;» contesté par La Quadrature du Net et cinq autres ONG — <a href="https://ewatchers.org/info/2023-11-09-technosurveillance-le-reglement-de-l-ue-sur-la-gestion-des-contenus-terroristes-conteste-par-la-quadrature-du-net-et-cinq-autres-ong-168">https://ewatchers.org/info/2023-11-09-technosurveillance-le-reglement-de-l-ue-sur-la-gestion-des-contenus-terroristes-conteste-par-la-quadrature-du-net-et-cinq-autres-ong-168</a> [eWatchers.org]</li>
<li>Le règlement européen sur le retrait des contenus terroristes, un danger pour la protection des données&nbsp;? — <a href="https://www.usine-digitale.fr/article/le-reglement-europeen-sur-le-retrait-des-contenus-terroristes-un-danger-pour-la-protection-des-donnees.N2194103">https://www.usine-digitale.fr/article/le-reglement-europeen-sur-le-retrait-des-contenus-terroristes-un-danger-pour-la-protection-des-donnees.N2194103</a> [L&rsquo;Usine Digitale]</li>
</ul>
<p><strong>Loi SREN</strong></p>
<ul>
<li>C&rsquo;est quoi le projet de loi « Sécuriser et Réguler l&rsquo;Espace Numérique » (SREN)&nbsp;? — <a href="https://www.instagram.com/p/CzOPZvoL2XT/">https://www.instagram.com/p/CzOPZvoL2XT/</a> [Konbini]</li>
<li>Et une loi de plus pour «&nbsp;réguler et sécuriser&nbsp;» Internet votée à l&rsquo;Assemblée — <a href="https://www.april.org/et-une-loi-de-plus-pour-reguler-et-securiser-internet-votee-a-l-assemblee">https://www.april.org/et-une-loi-de-plus-pour-reguler-et-securiser-internet-votee-a-l-assemblee</a> [April]</li>
<li>Blocage de l’accès des mineurs aux contenus porno&nbsp;: un casse-tête mondial — <a href="https://www.france24.com/fr/%C3%A9co-tech/20231103-blocage-de-l-acc%C3%A8s-des-mineurs-aux-contenus-porno-un-casse-t%C3%AAte-mondial">https://www.france24.com/fr/%C3%A9co-tech/20231103-blocage-de-l-acc%C3%A8s-des-mineurs-aux-contenus-porno-un-casse-t%C3%AAte-mondial</a> [France24]</li>
<li>« Ce rapport est une honte »&nbsp;: Des universitaires et professionnels dénoncent un réquisitoire contre la pornographie — <a href="https://www.neonmag.fr/societe-politique/ce-rapport-est-une-honte-des-universitaires-et-professionnels-denoncent-un-requisitoire-contre-la-pornographie-561605">https://www.neonmag.fr/societe-politique/ce-rapport-est-une-honte-des-universitaires-et-professionnels-denoncent-un-requisitoire-contre-la-pornographie-561605</a> [Neon]</li>
</ul>
<p><strong>Procès du 8 décembre</strong></p>
<ul>
<li>Au procès de «&nbsp;l’ultragauche&nbsp;», l’introuvable projet terroriste — <a href="https://www.mediapart.fr/journal/france/251023/au-proces-de-l-ultragauche-l-introuvable-projet-terroriste">https://www.mediapart.fr/journal/france/251023/au-proces-de-l-ultragauche-l-introuvable-projet-terroriste</a> [Mediapart]</li>
<li>Procès du «8 décembre»&nbsp;: les délires de l’antiterrorisme — <a href="https://lanticapitaliste.org/videos/proces-du-8-decembre-les-delires-de-lantiterrorisme">https://lanticapitaliste.org/videos/proces-du-8-decembre-les-delires-de-lantiterrorisme</a> [L&rsquo;Anticapitaliste]</li>
<li>Au procès de l’ultragauche, les prévenus dénoncent une «&nbsp;criminalisation&nbsp;» de leurs opinions  — <a href="https://www.sudouest.fr/justice/au-proces-de-l-ultragauche-les-prevenus-denoncent-une-criminalisation-de-leurs-opinions-17154722.php">https://www.sudouest.fr/justice/au-proces-de-l-ultragauche-les-prevenus-denoncent-une-criminalisation-de-leurs-opinions-17154722.php</a> [Sud-Ouest]</li>
<li>The Fictional Terrorist Conspiracy Being Tried in France — <a href="https://www.thenation.com/article/world/france-left-terrorism-affaire-decembre-8/">https://www.thenation.com/article/world/france-left-terrorism-affaire-decembre-8/</a> [The Nation]</li>
</ul>
<p><strong>Divers</strong></p>
<ul>
<li>La (belle) et (terrifiante) «&nbsp;Contre-Histoire d’Internet&nbsp;» — <a href="https://www.auposte.fr/la-terrifiante-contre-histoire-dinternet/">https://www.auposte.fr/la-terrifiante-contre-histoire-dinternet/</a> [Au Poste]</li>
<li>La surveillance algorithmique des données de connexion dans le cadre de la lutte contre le terrorisme — <a href="https://journals.openedition.org/crdf/8874">https://journals.openedition.org/crdf/8874</a></li>
<li>Bruxelles&nbsp;: remise à plat de la proposition de loi sur la surveillance des conversations privées — <a href="https://www.macg.co/ailleurs/2023/11/bruxelles-remise-plat-de-la-proposition-de-loi-sur-la-surveillance-des-conversations-privees-140481">https://www.macg.co/ailleurs/2023/11/bruxelles-remise-plat-de-la-proposition-de-loi-sur-la-surveillance-des-conversations-privees-140481</a> [MacGénération]</li>
<li>IA en France&nbsp;: la Cnil trace des lignes rouges — <a href="https://www.zdnet.fr/actualites/ia-en-france-la-cnil-trace-des-lignes-rouges-39961880.htm">https://www.zdnet.fr/actualites/ia-en-france-la-cnil-trace-des-lignes-rouges-39961880.htm</a> [ZDNet]</li>
<li>Quand Gérald Darmanin repart à l’assaut du chiffrement, après l’attentat d’Arras — <a href="
 https://www.01net.com/actualites/quand-gerald-darmanin-repart-a-lassaut-du-chiffrement-apres-lattentat-darras.html"> https://www.01net.com/actualites/quand-gerald-darmanin-repart-a-lassaut-du-chiffrement-apres-lattentat-darras.html</a> [01Net]</li>
<li>La cartographie comme outil de luttes — <a href="https://www.socialter.fr/article/cartographie-lutte-militante">https://www.socialter.fr/article/cartographie-lutte-militante</a> [Socialter]</li>
<li>The Advocate General on how to balance personal data protection and action to combat online copyright infringement — <a href="https://www.lexology.com/library/detail.aspx?g=9aad2863-0660-462f-92cc-72388bc1b73e">https://www.lexology.com/library/detail.aspx?g=9aad2863-0660-462f-92cc-72388bc1b73e</a> [Lexology]</li>
</ul>
<h2 id="Agenda">Agenda</h2>
<ul>
<li><strong>18 novembre 2023</strong>&nbsp;:  <a href="https://technopolice.fr/blog/atelier-sur-la-surveillance-policiere-dans-les-quartiers-marseille-18-novembre-2023/">Atelier Technopolice sur la surveillance policière dans les quartiers</a> — à partir de 18h au 152 rue de la Rose, Marseille.</li>
<li><strong>30 novembre 2023</strong>&nbsp;: <a href="https://agone.org/rencontres/reeinscrire-internet-dans-lhistoire-de-la-production-de-savoir">Rencontre autour de <i>Contre-histoire d&rsquo;Internet</i></a> — à partir de 19h, La Carmagnole, Montpellier.</li>
<li><strong>8 décembre 2023</strong>&nbsp;: Réunion d&rsquo;information Technopolice à Rouen — à partir de 18h30, Maison des associations et la solidarité, 22 bis rue Dumont d&rsquo;Urville, Rouen.</li>
<li><strong>14 décembre 2023</strong>&nbsp;: Causerie mensuelle du groupe Technopolice Marseille — à partir de 19h, Manifesten, 59 Rue Adolphe Thiers, Marseille.</li>
</ul>


feed_id: https://www.laquadrature.net/?p=21959
title: Censure de la surveillance par mouchard : l’OLN ne crie pas victoire
uri: Censure-de-la-surveillance-par-mouchard-l-OLN-ne-crie-pas-victoir
url:
https://www.laquadrature.net/2023/11/23/censure-de-la-surveillance-par-mouchard-loln-ne-crie-pas-victoire/

content:
<h2 id=" Communiqué de l’Observatoire des libertés et du numérique (OLN), Paris, le 23 novembre 2023."> Communiqué de l’Observatoire des libertés et du numérique (OLN), Paris, le 23 novembre 2023.</h2>
<p><strong>Le  16 novembre 2023, le Conseil constitutionnel a rendu sa décision sur la loi de programmation de la justice en censurant une disposition relative à l’activation à distance des objets électroniques. Pour les organisations de l’Observatoire des libertés et du numérique (OLN) qui s’étaient fortement <a href="https://www.laquadrature.net/2023/05/31/transformer-les-objets-connectes-en-mouchards-la-surenchere-securitaire-du-gouvernement/">opposées</a> à cette mesure, cette <a href="https://www.conseil-constitutionnel.fr/decision/2023/2023855DC.htm">décision</a> est plus que bienvenue. Pour autant, elle ne saurait constituer une victoire criante.</strong> </p>
<p>Il faut se souvenir des récentes décisions de ce même Conseil constitutionnel faisant peu cas du respect des libertés&nbsp;: <a href="https://www.conseil-constitutionnel.fr/decision/2023/2023850DC.htm">validation</a> de la vidéosurveillance algorithmique dans <a href="https://www.laquadrature.net/2023/03/23/la-france-premier-pays-deurope-a-legaliser-la-surveillance-biometrique/">la loi JOP 2024</a>, légalisation des <a href="https://www.laquadrature.net/2022/01/21/les-drones-policiers-autorises-par-le-conseil-constitutionnel/">drones</a>, blanc-seing à l’assouplissement de la procédure pénale dans la <a href="https://www.laquadrature.net/2022/10/28/examen-de-la-lopmi-refusons-les-policiers-programmes/">LOPMI</a> au nom d’une «&nbsp;efficacité opérationnelle&nbsp;»&#8230; <b>Si l’on peut saluer le sursaut de la décision de la semaine dernière, il est difficile d’y déceler une volonté de mettre fin à la fuite en avant sécuritaire</b>, tant cette institution l’a accompagnée ces dernières années. Pour caractériser une atteinte au droit à la vie privée, le Conseil retient qu&rsquo;il existe un risque pour les tierces personnes étant dans le champ d’une éventuelle captation déclenchée par cette activation à distance du micro ou de la caméra. Si nous saluons l&rsquo;établissement d&rsquo;une telle limite, qui pourra servir d&rsquo;argument pour d&rsquo;autres types de surveillance, nous regrettons que le Conseil ne prenne jamais en compte le changement de paradigme philosophique et politique qu’implique la possibilité de transformation de tout objet numérique en mouchard de la police.</p>
<p>Cette absence dans le raisonnement s&rsquo;illustre par <b>la validation pure et simple de l’activation à distance des fonctions de géolocalisation de téléphone et autres objets connectés (voiture, balises airtag, montre etc) qui repose exactement sur le même procédé technique</b> que le dispositif censuré&nbsp;: la compromission d&rsquo;un périphérique, en y accédant directement ou par l’intermédiaire d’un logiciel espion pour en prendre le contrôle à distance. Or, une telle possibilité soulève de graves problèmes en termes de vie privée, de sécurité et d&rsquo;intégrité des preuves. On le comprend, le caractère intrusif de cette technique, pourtant au cœur des scandales <a href="https://fr.wikipedia.org/wiki/Pegasus_(logiciel_espion)">Pegasus</a> et <a href="https://www.mediapart.fr/journal/international/dossier/predator-files-toutes-nos-revelations">Predator Files</a>, n&rsquo;intéresse pas le Conseil.</p>
<p>Pour justifier cette nouvelle forme de surveillance, le gouvernement et ses soutiens <a href="https://videos.assemblee-nationale.fr/video.13634787_649346be46c1e?timecode=1416000">ont répété</a> que les services de renseignement seraient déjà autorisés à activer à distance les micros ou caméras de terminaux. Pourtant, la lecture de <a href="https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000043887476">l&rsquo;article L. 853-2</a> du code de la sécurité intérieure montre précisément l&rsquo;inverse&nbsp;: ne peuvent être mis en œuvre par les services de renseignement que des dispositifs qui permettent d’accéder à des données qui «&nbsp;s’affichent sur un écran&nbsp;», telles qu’une personne les «&nbsp;introduit par saisie de caractère&nbsp;» ou «&nbsp;telles qu&rsquo;elles sont reçues et émises par des périphériques.&nbsp;» Autrement dit, le droit actuel ne permet aux services de renseignement que d&rsquo;enregistrer l&rsquo;activité d&rsquo;une personne sur un téléphone ou un ordinateur, mais en aucun cas d&rsquo;activer à son insu une fonctionnalité supplémentaire comme un micro ou une caméra. Cette pratique, pourtant avancée pour justifier le bien-fondé de la mesure, <b>semble donc illégale et doit être sérieusement questionnée</b>.</p>
<p>De façon générale, on assiste à un essor toujours plus important des technologies de surveillance et à une banalisation de leurs usages par les services de police et de renseignement alors que, souvent, elles ne répondent à aucun cadre. Ces pratiques illégales se généralisent aussi bien dans les ministères que sur le terrain, et la licéité de ces outils n&rsquo;est jamais une préoccupation de ceux qui les utilisent. Qu’il s’agisse de <a href=" https://disclose.ngo/fr/article/la-police-nationale-utilise-illegalement-un-logiciel-israelien-de-reconnaissance-faciale">logiciels illégaux</a> de surveillance algorithmique et reconnaissance faciale, de <a href="https://www.nicematin.com/justice/a-saint-laurent-du-var-les-policiers-municipaux-ont-constitue-leurs-propres-fichiers-de-delinquants-886441">fichage sauvage</a> ou ou encore <a href="https://www.streetpress.com/sujet/1579520319-police-gendarmerie-un-logiciel-pour-fouiller-portables">d&rsquo;exploitation de téléphone</a> en garde à vue, l&rsquo;impunité se répand, l&rsquo;illégalité se banalise. <b>Dans ce contexte et avec ces tendances lourdes, la décision du Conseil constitutionnel est salutaire mais nous apparaît malheureusement trop peu engageante pour y voir un avertissement fort contre la surveillance</b>.</p>
<p><b>Organisations signataires membres de l’OLN&nbsp;: Globenet, <a href="http://www.lecreis.org/">Creis-Terminal</a>, la Ligue des droits de l&rsquo;Homme (<a href="https://www.ldh-france.org/">LDH</a>), Le Syndicat des Avocats de France (<a href="http://lesaf.org/">SAF</a>), le Syndicat de la Magistrature (<a href="http://www.syndicat-magistrature.fr/">SM</a>), La Quadrature du Net (<a href="http://www.laquadrature.net/fr">LQDN</a>).</b></p>


feed_id: https://www.laquadrature.net/?p=22088
title: QSPTAG #298 — 23 novembre 2023
uri: QSPTAG-298-23-novembre-2023
url: https://www.laquadrature.net/2023/11/24/qsptag-298-23-novembre-2023/
content:
<h2 id="Campagne de soutien 2024&nbsp;: gros plan sur le Chiffrement">Campagne de soutien 2024&nbsp;: gros plan sur le Chiffrement</h2>
<p>Comme bon nombre d&rsquo;associations, vous le savez, nous avons lancé la semaine dernière notre <a href="https://www.laquadrature.net/donner/">campagne de soutien</a> pour l&rsquo;année qui vient. C&rsquo;est pour nous l&rsquo;occasion de présenter les grands chantiers qui nous attendent en 2024, principalement la promotion de l&rsquo;interopérabilité des services Web, la lutte contre les algorithmes de contrôle social dans les administrations, la réflexion nécessaire autour du numérique nécessaire dans le contexte de la crise écologique, et la défense du droit au chiffrement des communications.
</p>
<p>Cette semaine, nos publications ont mis l&rsquo;accent sur la défense du chiffrement. Vous pouvez retrouver l&rsquo;ensemble de ces «&nbsp;fils&nbsp;» sur nos réseaux sociaux&nbsp;: <a href="https://mamot.fr/@LaQuadrature/111442772511950226">ici</a> la présentation générale de la problématique, <a href="https://mamot.fr/@LaQuadrature/111466112732607224">ici</a> la nécessité du chiffrement pour que les réseaux soient structurellement compatibles avec le droit fondamental à la vie privée, <a href="https://mamot.fr/@LaQuadrature/111448955886743662">ici</a> les risques que le règlement européen CSAR, surnommé «&nbsp;Chat Control&nbsp;», <a href="https://www.laquadrature.net/2023/09/18/reglement-csar-la-surveillance-de-nos-communications-se-joue-maintenant-a-bruxelles/">fait peser sur le chiffrement de bout en bout des messageries instantanées</a>, <a href="https://mamot.fr/@LaQuadrature/111454317409152954">ici</a> le rappel des fantasmes du ministre de l&rsquo;Intérieur</a> selon qui le chiffrement des communications par les militant·es politiques couvre la prolifération des projets <i>«&nbsp;clandestins&nbsp;»</i> fomentés par <i>«&nbsp;les extrêmes&nbsp;»</i>, et enfin <a ref="https://mamot.fr/@LaQuadrature/111460514600092030">ici</a> nous racontons comment le chiffrement, dans la logique de la DGSI, est carrément devenu <a href="https://www.laquadrature.net/2023/10/02/affaire-du-8-decembre-le-droit-au-chiffrement-et-a-la-vie-privee-en-proces/">un élément à charge</a> dans le procès des inculpé·es de l&rsquo;affaire du «&nbsp;8 décembre&nbsp;».</p>
<p>Nous avons besoin de vous pour travailler en 2024&nbsp;! N&rsquo;hésitez pas à faire <a href="https://don.laquadrature.net">un don de soutien</a> à l&rsquo;association, ou à faire connaître <a href="https://wwww.laquadrature.net/donner/">notre campagne de dons</a> autour de vous. Merci pour votre aide&nbsp;!</p>
<p><strong>Présentation des grands chantiers de 2024&nbsp;: <a href="https://www.laquadrature.net/donner/">https://www.laquadrature.net/donner/</a></strong><br />
<strong>Faire un don pour soutenir La Quadrature&nbsp;: <a href="https://don.laquadrature.net/">https://don.laquadrature.net/</a></strong></p>
<h2 id="Censure constitutionnelle des mouchards audio, mais la géolocalisation passe l&rsquo;épreuve">Censure constitutionnelle des mouchards audio, mais la géolocalisation passe l&rsquo;épreuve</h2>
<p>Le 16 novembre dernier, le Conseil constitutionnel, après avoir examiné la loi de programmation et d&rsquo;orientation du ministère de la justice (LOPJ), a censuré la disposition qui autorisait les services de renseignement et de police à transformer les objets connectés en «&nbsp;mouchards&nbsp;» en les activant à distance (avec des techniques d&rsquo;intrusion), pour utiliser leur micro ou leur caméra en toute discrétion dans le cadre de leurs enquêtes.</p>
<p>L&rsquo;Observatoire des Libertés et du Numérique (OLN), dont La Quadrature du Net fait partie, <a href="https://www.laquadrature.net/2023/05/31/transformer-les-objets-connectes-en-mouchards-la-surenchere-securitaire-du-gouvernement/">s&rsquo;était prononcé contre cette légalisation de l&rsquo;espionnage policier</a>, mal bordée par des conditions trop faciles à élargir dans l&rsquo;usage, une fois l&rsquo;idée rendue acceptable et banalisée.</p>
<p>Aujourd&rsquo;hui, l&rsquo;OLN se réjouit donc de la censure des «&nbsp;mouchards&nbsp;» comme micros ou comme caméras à distance, tout en soulignant le gros défaut de cette censure&nbsp;: l&rsquo;activation à distance des objets connectés pour géo-localiser leur propriétaire reste autorisée par la loi. Si cela paraît moins grave, alors la stratégie du «&nbsp;chiffon rouge&nbsp;» chère au gouvernement aura fonctionné encore une fois&nbsp;: introduire une mesure inacceptable pour camoufler une mesure tout aussi contestable mais moins scandaleuse. Vous ne voulez pas être légalement écouté·es par les services de renseignement&nbsp;? D&rsquo;accord, d&rsquo;accord&#8230; Mais vous serez légalement localisé·es.</p>
<p><strong>La réaction de l&rsquo;OLN&nbsp;: <a href="https://www.laquadrature.net/2023/11/23/censure-de-la-surveillance-par-mouchard-loln-ne-crie-pas-victoire/">https://www.laquadrature.net/2023/11/23/censure-de-la-surveillance-par-mouchard-loln-ne-crie-pas-victoire/</a></strong></p>
<h2 id="La Quadrature dans les médias">La Quadrature dans les médias</h2>
<p><strong>Reconnaissance faciale et police</strong></p>
<ul>
<li>Vidéosurveillance&nbsp;: Gérald Darmanin lance une enquête administrative sur l&rsquo;utilisation de la reconnaissance faciale — <a href="https://www.humanite.fr/societe/disclose/videosurveillance-gerald-darmanin-lance-une-enquete-administrative-sur-lutilisation-de-la-reconnaissance-faciale">https://www.humanite.fr/societe/disclose/videosurveillance-gerald-darmanin-lance-une-enquete-administrative-sur-lutilisation-de-la-reconnaissance-faciale</a> [L&rsquo;Humanité]</li>
<li>La CNIL et le ministère de l’Intérieur vont enquêter sur la reconnaissance faciale à des fins policières — <a href="https://next.ink/678/la-cnil-et-ministere-interieur-vont-enqueter-sur-reconnaissance-faciale-a-fins-policieres/">https://next.ink/678/la-cnil-et-ministere-interieur-vont-enqueter-sur-reconnaissance-faciale-a-fins-policieres/</a> [Next]</li>
<li>La police accusée d’utiliser illégalement un logiciel de reconnaissance faciale&nbsp;: la CNIL ouvre une enquête&nbsp;! — <a href="https://www.clubic.com/actualite-509302-la-police-accusee-d-utiliser-illegalement-un-logiciel-de-reconnaissance-faciale-la-cnil-ouvre-une-enquete.html">https://www.clubic.com/actualite-509302-la-police-accusee-d-utiliser-illegalement-un-logiciel-de-reconnaissance-faciale-la-cnil-ouvre-une-enquete.html</a> [Clubic]</li>
<li>Les policiers municipaux ont constitué leurs propres fichiers de délinquants dans cette commune azuréenne — <a href="https://www.monacomatin.mc/justice/a-saint-laurent-du-var-les-policiers-municipaux-ont-constitue-leurs-propres-fichiers-de-delinquants-886441">https://www.monacomatin.mc/justice/a-saint-laurent-du-var-les-policiers-municipaux-ont-constitue-leurs-propres-fichiers-de-delinquants-886441</a> [Monaco-Matin]</li>
</ul>
<h2 id="Agenda">Agenda</h2>
<ul>
<li><strong>30 novembre 2023</strong>&nbsp;: <a href="https://agone.org/rencontres/reeinscrire-internet-dans-lhistoire-de-la-production-de-savoir">Rencontre autour de <i>Contre-histoire d&rsquo;Internet</i></a> — à partir de 19h, La Carmagnole, Montpellier.</li>
<li><strong>2 décembre 2023</strong>&nbsp;: le groupe Saccage 2024 appelle à une journée d&rsquo;action contre les Jeux Olympiques de Paris 2024, notamment en raison des mesures de surveillance numérique prévues par la loi JO. Plus d&rsquo;informations&nbsp;: <a href="https://saccage2024.noblogs.org/archives/2480">https://saccage2024.noblogs.org/archives/2480</a>.</li>
<li><strong>8 décembre 2023</strong>&nbsp;: Réunion d&rsquo;information Technopolice à Rouen — à partir de 18h30, Maison des associations et la solidarité, 22 bis rue Dumont d&rsquo;Urville, Rouen.</li>
<li><strong>14 décembre 2023</strong>&nbsp;: Causerie mensuelle du groupe Technopolice Marseille — à partir de 19h, Manifesten, 59 Rue Adolphe Thiers, Marseille.</li>
<li><strong>14 décembre 2023</strong>&nbsp;: Table ronde au festival OSINT à La Gaité Lyrique &#8211; à 11h, à La Gaité Lyrique, 259 rue Saint-Martin 75003 Paris. Plus d&rsquo;informations sur https://www.gaite-lyrique.net/evenement/festival-osint</li>
<li><strong>27-30 décembre 2023</strong>&nbsp;: La Quadrature sera au 37e Chaos Communication Congress à Hambourg&nbsp;: <a href="https://events.ccc.de/category/37c3/">https://events.ccc.de/category/37c3/</a>.</li>
</ul>


feed_id: https://www.laquadrature.net/?p=22126
title: Notation des allocataires : l’indécence des pratiques de la CAF désormais indéniable
uri: 2023-11-27-
url:
https://www.laquadrature.net/2023/11/27/notation-des-allocataires-lindecence-des-pratiques-de-la-caf-desormais-indeniable/

content:
<p><em>Après plus d&rsquo;un an de mobilisation contre les pratiques de notation des allocataires de la CAF au côté des collectifs Stop Contrôles et Changer de Cap<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_1');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_1');" ><sup id="footnote_plugin_tooltip_22126_1_1" class="footnote_plugin_tooltip_text">1</sup></a><span id="footnote_plugin_tooltip_text_22126_1_1" class="footnote_tooltip">Vous pouvez les contacter à <a href="mailto:stop.controles@protonmail.com">stop.controles@protonmail.com</a> et <a href="mailto:contact@changerdecap.net">contact@changerdecap.net</a>.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_1').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_1', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>, et après <a href="https://www.laquadrature.net/2022/10/19/caf-le-numerique-au-service-de-lexclusion-et-du-harcelement-des-plus-precaires/">avoir détaillé le fonctionnement</a> de l&rsquo;algorithme de la CAF et son cadre politique, nous publions aujourd&rsquo;hui le code source de cet algorithme de notation. Nous vous invitons aussi à consulter <a href="https://www.laquadrature.net/lutter-contre-les-algos-de-controle/">ici</a> notre page de présentation sur l&rsquo;utilisation d&rsquo;algorithmes similaires au sein d&rsquo;autres administrations.</em></p>



<p><em>Les détails techniques de l&rsquo;algorithme (code, liste de variables et leurs pondérations) et de la méthodologie employée pour la construction de profils-types sont présentés dans cette <a href="https://git.laquadrature.net/la-quadrature-du-net/algo-et-controle/caf">annexe méthodologique</a>.</em></p>



<p><strong>Petit à petit, la lumière se fait sur un système de surveillance de masse particulièrement pernicieux</strong><span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_2');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_2');" ><sup id="footnote_plugin_tooltip_22126_1_2" class="footnote_plugin_tooltip_text">2</sup></a><span id="footnote_plugin_tooltip_text_22126_1_2" class="footnote_tooltip">La CAF n&rsquo;est pas la seule administration à utiliser ce type d&rsquo;algorithmes, mais elle fut la première à le faire. Nous reviendrons bientôt sur une vision plus globale de l&rsquo;utilisation de ce type d&rsquo;algorithmes par les administrations sociales dans leur ensemble.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_2').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_2', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>&nbsp;: l&rsquo;utilisation par la CAF d&rsquo;un algorithme de notation des allocataires visant à prédire quel·les allocataires seraient (in)dignes de confiance et doivent être contrôlé·es. </p>



<p>Pour rappel, cet algorithme, construit à partir de l’analyse des centaines de données que la CAF détient sur chaque allocataire<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_3');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_3');" ><sup id="footnote_plugin_tooltip_22126_1_3" class="footnote_plugin_tooltip_text">3</sup></a><span id="footnote_plugin_tooltip_text_22126_1_3" class="footnote_tooltip">Si l&rsquo;algorithme lui-même n&rsquo;utilise que quelques dizaines de variables pour calculer la note des allocataires, celles-ci sont sélectionnées après une phase dite d&rsquo;<em>«&nbsp;entraînement&nbsp;»</em> mobilisant plus de 1000 informations par allocataire. Pour des détails techniques voir l’article de Pierre Collinet <em>«&nbsp;Le datamining dans les caf&nbsp;: une réalité, des perspectives&nbsp;»</em>, écrit en 2013 et disponible <a href="https://www.cairn.info/revue-informations-sociales-2013-4-page-129.html">ici</a>.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_3').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_3', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>, assigne un «&nbsp;score de suspicion&nbsp;» à chaque allocataire. Ce score, mis à jour chaque premier du mois, est compris entre zéro et un. Plus il est proche de un, plus l’algorithme juge qu’un·e allocataire est suspect·e&nbsp;: un contrôle est déclenché lorsqu&rsquo;il se rapproche de sa valeur maximale<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_4');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_4');" ><sup id="footnote_plugin_tooltip_22126_1_4" class="footnote_plugin_tooltip_text">4</sup></a><span id="footnote_plugin_tooltip_text_22126_1_4" class="footnote_tooltip">Les contrôles à la CAF sont de trois types. Les contrôles automatisés sont des procédures de vérification des déclarations des allocataires (revenus, situation professionnelle..), organisés via à l’interconnexion des fichiers administratifs (impôts, pôle emploi…). Ce sont de loin les plus nombreux. Les contrôles sur pièces consistent en la demande de pièces justificatives supplémentaires à l’allocataire. Enfin les contrôles sur place sont les moins nombreux mais les plus intrusifs. Réalisé par un.e contrôleur.se de la CAF, ils consistent en un contrôle approfondi de la situation de l’allocataire. Ce sont ces derniers qui sont aujourd’hui en très grande majorité déclenchés par l’algorithme suite à une dégradation de la note d’un allocataire (Voir Vincent Dubois, <i>«&nbsp;Contrôler les assistés&nbsp;»</i>, p.258).<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_4').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_4', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>



<h2 class="wp-block-heading" id="lever-lopacité-pour-mettre-fin-à-la-bataille-médiatique">Lever l&rsquo;opacité pour mettre fin à la bataille médiatique</h2>



<p>Nos critiques portent tant sur la nature de cette surveillance <em>prédictive</em> aux accents dystopiques que sur le fait que l&rsquo;algorithme cible délibérément les plus précaires<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_5');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_5');" ><sup id="footnote_plugin_tooltip_22126_1_5" class="footnote_plugin_tooltip_text">5</sup></a><span id="footnote_plugin_tooltip_text_22126_1_5" class="footnote_tooltip">Voir avant tout le livre de Vincent Dubois publié en 2021. <em>«&nbsp;Contrôler les assistés. Genèses et usage d’un mot d’ordre&nbsp;».</em> Sur le sur-contrôle des populations les plus précaires, voir le chapitre 10. Sur l’histoire politique de la <em>«&nbsp;lutte contre l’assistanat&nbsp;»</em>, et le rôle majeur que joua en France Nicolas Sarkozy, voir le chapitre 2. Sur l’évolution des politiques de contrôles, leur centralisation suite à l’introduction de l’algorithme et la définition des cibles, voir pages 177 et 258. Sur la contestation des plans nationaux de ciblages par les directeurs de CAF locales, voir page 250.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_5').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_5', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Face à la montée de la contestation, les dirigeant·es de la CAF se sont réfugié·es derrière l&rsquo;opacité entourant l&rsquo;algorithme pour minimiser tant cet état de fait que leur responsabilité dans l&rsquo;établissement d&rsquo;une politique de contrôle délibérément discriminatoire. <strong>Un directeur de la CAF est allé jusqu&rsquo;à avancer que <em>«&nbsp;l&rsquo;algorithme est neutre&nbsp;»</em> et serait même <em>«&nbsp;l&rsquo;inverse d&rsquo;une discrimination&nbsp;»</em> puisque <em>«&nbsp;nul ne peut expliquer pourquoi un dossier est ciblé&nbsp;»</em></strong><span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_6');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_6');" ><sup id="footnote_plugin_tooltip_22126_1_6" class="footnote_plugin_tooltip_text">6</sup></a><span id="footnote_plugin_tooltip_text_22126_1_6" class="footnote_tooltip">Extrait de la réponse d&rsquo;un directeur de la CAF aux critiques opposées par le Défenseur des Droits à l&rsquo;utilisation de cet algorithme.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_6').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_6', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>



<p>C&rsquo;est pourquoi nous avons <a href="https://www.laquadrature.net/2022/12/23/notation-des-allocataires-febrile-la-caf-senferme-dans-lopacite/">bataillé de longs mois</a> pour que la CAF nous donne accès au code source de l&rsquo;algorithme, c&rsquo;est à dire la «&nbsp;formule&nbsp;» utilisée par ses dirigeant·es pour noter les allocataires<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_7');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_7');" ><sup id="footnote_plugin_tooltip_22126_1_7" class="footnote_plugin_tooltip_text">7</sup></a><span id="footnote_plugin_tooltip_text_22126_1_7" class="footnote_tooltip">La CAF nous <a href="https://www.laquadrature.net/2022/12/23/notation-des-allocataires-febrile-la-caf-senferme-dans-lopacite/">avait initialement communiqué</a> un code source <em>«&nbsp;caviardé&nbsp;»</em> dans lequel la quasi-totalité des noms de variables étaient masqués. Nous avons finalement obtenu le code de deux versions de l&rsquo;algorithme. La première a été utilisée entre 2010 et 2014. La seconde entre 2014 et 2018. Six variables ont tout de même été occultées du modèle «&nbsp;2010&nbsp;» et 3 du modèle «&nbsp;2014&nbsp;».<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_7').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_7', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Nous espérons que sa publication mette un terme à ces contre-vérités afin, qu&rsquo;enfin, puisse s&rsquo;installer un débat autour des dérives politiques ayant amené une institution sociale à recourir à de telles pratiques.</p>



<h2 class="wp-block-heading" id="lalgorithme-de-la-honte">L&rsquo;algorithme de la honte&#8230;</h2>



<p>La lecture du code source des deux modèles utilisés entre 2010 et 2018 — la CAF a refusé de nous transmettre la version actuelle de son algorithme — confirme tout d&rsquo;abord <strong>l&rsquo;ampleur du système de surveillance de détection des allocataires «&nbsp;suspect·es&nbsp;»</strong> mis en place par la CAF. </p>



<p>Situation familiale, professionnelle, financière, lieu de résidence, type et montants des prestations reçues, fréquence des connexions à l&rsquo;espace web, délai depuis le dernier déplacement à l&rsquo;accueil, nombre de mails échangés, délai depuis le dernier contrôle, nombre et types de déclarations&nbsp;: la liste de la quarantaine de paramètres pris en compte par l&rsquo;algorithme, disponible <a href=https://git.laquadrature.net/la-quadrature-du-net/algo-et-controle/caf>ici</a>, révèle le degré d’intrusion de la surveillance à l’oeuvre. </p>



<p>Elle s&rsquo;attache à la fois aux données déclarées par un·e allocataire, à celles liées à la gestion de son dossier et celles concernant ses interactions, au  sens large, avec la CAF. Chaque paramètre est enfin analysé selon un historique dont la durée est variable. <strong>Visant tant les allocataires que leurs proches, elle porte sur les plus de 32 millions de personnes, dont 13 millions d&rsquo;enfants,</strong> vivant dans un foyer bénéficiant d&rsquo;une prestation de la CAF. </p>



<p>Quant à la question du ciblage des plus précaires, <strong>la publication du code source vient donner la preuve définitive du caractère discriminant des critères retenus</strong>. Ainsi, parmi les variables augmentant le «&nbsp;score de suspicion&nbsp;», on trouve notamment&nbsp;:</p>



<ul>
<li>Le fait de disposer de revenus faibles,</li>



<li>Le fait d&rsquo;être au chômage,</li>



<li>Le fait d&rsquo;être allocataire du RSA,</li>



<li>Le fait d&rsquo;habiter dans un quartier «&nbsp;défavorisé&nbsp;»<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_8');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_8');" ><sup id="footnote_plugin_tooltip_22126_1_8" class="footnote_plugin_tooltip_text">8</sup></a><span id="footnote_plugin_tooltip_text_22126_1_8" class="footnote_tooltip">Concernant la variable liée au lieu de résidence, cette dernière fait a priori partie des variables masquées dans le code reçu. Elle est toute fois mentionnées dans la réponse de la CAF à la CADA, ce pourquoi il nous paraît raisonnable de l&rsquo;inclure ici. Voir notre <a href="https://git.laquadrature.net/la-quadrature-du-net/algo-et-controle/caf">annexe méthodologique</a> pour une discussion détaillée de la formule.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_8').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_8', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>,</li>



<li>Le fait de consacrer une partie importante de ses revenus à son loyer,</li>



<li>Le fait de ne pas avoir de travail ou de revenus stables.</li>
</ul>



<p><strong>Comble du cynisme, l&rsquo;algorithme vise délibérément les personnes en situation de handicap&nbsp;:</strong> le fait de bénéficier de l&rsquo;Allocation Adulte Handicapé (AAH) tout en travaillant est un des paramètres impactant le plus fortement, et à la hausse, le score d&rsquo;un·e allocataire.</p>



<h2 class="wp-block-heading" id="en-un-graphique">En un graphique</h2>



<p>Bien entendu, <strong>ces facteurs sont corrélés et ne peuvent être considérés indépendamment les uns des autres</strong>. Il est ainsi probable qu&rsquo;une personne aux faibles revenus ait connu des périodes de chômage ou bénéficie de minima sociaux etc&#8230; </p>



<p>Disposant tant des paramètres que de leurs pondérations, nous avons pu construire différents profils-types d&rsquo;allocataires pour lesquels nous avons calculé les scores de suspicion<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_9');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_9');" ><sup id="footnote_plugin_tooltip_22126_1_9" class="footnote_plugin_tooltip_text">9</sup></a><span id="footnote_plugin_tooltip_text_22126_1_9" class="footnote_tooltip">Pour ce faire, nous avons simulé les données nécessaires &#8211; une trentaine de variables &#8211; pour chaque <em>«&nbsp;profil-type&nbsp;»</em> puis utilisé l&rsquo;algorithme pour calculer leur note. Mettre un lien vers nos simulations.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_9').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_9', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Entre les différents profils-types, nous avons seulement fait varier les paramètres liées à la situation professionnelle, aux revenus, aux prestations reçues, à la situation maritale ou de handicap. </p>



<p>Nous tenons à préciser que pour réaliser ces simulations, nous devons faire de nombreuses hypothèses dont il est parfois difficile de savoir si elles sont justes ou non. <strong>Ainsi, les scores simulés ci-dessous sont donnés à titre indicatif seulement. Nos résultats sont toutefois cohérents avec les analyses de Vincent Dubois basées sur des statistiques agrégées</strong><span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_10');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_10');" ><sup id="footnote_plugin_tooltip_22126_1_10" class="footnote_plugin_tooltip_text">10</sup></a><span id="footnote_plugin_tooltip_text_22126_1_10" class="footnote_tooltip">Le sur-ciblage des personnes en situation de handicap &#8211; bénéficiaires de l&rsquo;AAH &#8211; ne concerne que celles disposant d&rsquo;un travail. C&rsquo;est ainsi que ces résultats sont compatibles avec les analyses du chapitre 10 du livre <em>Contrôler les assistés</em> de Vincent Dubois qui regroupent l&rsquo;ensemble des personnes en situation de handicap. Voir notre <a href=https://git.laquadrature.net/la-quadrature-du-net/algo-et-controle/caf>annexe méthodologique</a> pour une discussion détaillée de ce point.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_10').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_10', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Dans un souci de transparence, nous détaillons leur construction — et ses limites — dans une <a href="https://git.laquadrature.net/la-quadrature-du-net/algo-et-controle/caf">annexe méthodologique</a><span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_11');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_11');" ><sup id="footnote_plugin_tooltip_22126_1_11" class="footnote_plugin_tooltip_text">11</sup></a><span id="footnote_plugin_tooltip_text_22126_1_11" class="footnote_tooltip">Voir notamment une méthodologie alternative utilisée par LightHouse Reports dans son article sur Rotterdam pour lequel les journalistes disposaient non seulement de la formule mais aussi de données sur les personnes visées. Elle est disponible <a href="https://www.lighthousereports.com/methodology/suspicion-machine/">ici</a>.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_11').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_11', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>



<p>Les profils-types correspondent tous à des foyers comprenant deux enfants à charge et sont censés correspondre à&nbsp;:</p>



<ol>
<li>Une famille «&nbsp;aisée&nbsp;» aux revenus stables et élevés,</li>



<li>Une famille «&nbsp;modeste&nbsp;» dont les deux parents gagnent le SMIC,</li>



<li>Un parent isolé gagnant aussi le SMIC,</li>



<li>Une famille dont les deux parents sont bénéficiaires des minima sociaux,</li>



<li>Une famille dont un des parents est travailleur·se en situation de handicap&nbsp;: pour ce profil, nous simulons le score de la personne bénéficiant de l&rsquo;AAH trimestrialisée.</li>
</ol>



<p><strong>Les résultats sont éclairants comme le montre le graphique ci-dessous.</strong> Les «&nbsp;scores de suspicion&nbsp;» des foyers les plus aisés sont bien plus faibles que ceux des foyers bénéficiant des minima sociaux ou de l&rsquo;AAH trimestrialisée. </p>



<p>On observe également <strong>le ciblage des familles monoparentales</strong>, dont 80% sont des femmes<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_12');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_12');" ><sup id="footnote_plugin_tooltip_22126_1_12" class="footnote_plugin_tooltip_text">12</sup></a><span id="footnote_plugin_tooltip_text_22126_1_12" class="footnote_tooltip">Voir la note de l’Insee disponible <a href="https://www.insee.fr/fr/statistiques/3714737">ici</a>.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_12').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_12', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Nos simulations indiquent que ce ciblage se fait indirectement — la CAF ayant peut-être jugé que l&rsquo;inclusion d&rsquo;une variable «&nbsp;mère célibataire&nbsp;» était trop risquée politiquement — en intégrant des variables comme le revenu total du foyer et le nombre de mois en activité cumulés sur un an des responsables du foyer, dont la nature vient mécaniquement défavoriser les foyers ne comprenant pas deux parents<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_13');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_13');" ><sup id="footnote_plugin_tooltip_22126_1_13" class="footnote_plugin_tooltip_text">13</sup></a><span id="footnote_plugin_tooltip_text_22126_1_13" class="footnote_tooltip">A revenus égaux, un parent seul gagne moins que deux parents. Quant au nombre de mois d&rsquo;activité sur une année, il ne dépassera jamais 12 par an pour une famille monoparentale mais peut aller jusqu’à 24 pour un couple. Ce ciblage est particulièrement fort dans les mois qui suivent une séparation, ce type d&rsquo;évènement dégradant fortement le score d&rsquo;un·e allocataire. Voir nos analyses additionnelles en annexe méthodologique.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_13').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_13', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>



<figure class="wp-block-image"><img decoding="async" src="media/745efa08.f2d6ba07-3b82-4dfa-afff-ef47f101cb39.png" data-original-source="https://md.lqdn.fr/uploads/f2d6ba07-3b82-4dfa-afff-ef47f101cb39.png" alt=""/></figure>



<h2 class="wp-block-heading" id="effets-de-seuil-discriminations-et-double-peine">Effets de seuil, discriminations et double peine</h2>



<p>Il y a quelques mois, la CAF cherchait à minimiser la stigmatisation des plus précaires engendrée par son algorithme en expliquant que <em>«&nbsp;les scores de risques les plus élevés&nbsp;»</em> ne concernent pas <em>«&nbsp;toujours les personnes les plus pauvres&nbsp;»</em> car <em>«&nbsp;le score de risque n’intègre pas comme seule donnée la situation financière&nbsp;»</em><span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_14');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_14');" ><sup id="footnote_plugin_tooltip_22126_1_14" class="footnote_plugin_tooltip_text">14</sup></a><span id="footnote_plugin_tooltip_text_22126_1_14" class="footnote_tooltip">C&rsquo;est ce qu&rsquo;elle a déjà fait dans son <a href="media/3443f599.Controles20et20datamining.pdf" data-original-source="https://www.caf.fr/sites/default/files/medias/371/CNAF%20Supports/Controles%20et%20datamining.pdf">«&nbsp;Vrai/Faux&nbsp;» sur le datamining</a> où elle expliquait que <em>«&nbsp;les scores de risques les plus élevés&nbsp;»</em> ne concernent pas <em>«&nbsp;toujours les personnes les plus pauvres&nbsp;»</em> car <em>«&nbsp;le score de risque n’intègre pas comme seule donnée la situation financière&nbsp;»</em>.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_14').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_14', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Nos analyses viennent démontrer à quel point ce raisonnement est fallacieux.</p>



<p><strong>Ce que montre notre graphique c&rsquo;est justement que les variables socio-économiques ont un poids prépondérant dans le calcul du score</strong>, désavantageant structurellement les personnes en situation de précarité. Ainsi, le risque d’être contrôlé suite à un événement considéré comme «&nbsp;facteur de risque&nbsp;» par l’algorithme &#8211; déménagement, séparation, décès &#8211; se révèle inexistant pour un allocataire aisé puisque son score est initialement proche de zéro. A l&rsquo;inverse, pour un allocataire du RSA dont le score est déjà particulièrement élevé, le moindre de ces évènements risque de faire basculer son score au-delà du seuil à partir duquel un contrôle est déclenché.</p>



<p>Pire, la plupart des variables non financières sont en fait liées à des situations d&rsquo;instabilité et d&rsquo;écart à la norme &#8211; séparation récente, déménagements, changements de loyers multiples, modification répétée de l&rsquo;activité professionnelle, perte de revenus, erreurs déclaratives, faible nombre de connexions web&#8230; &#8211; dont tout laisse à penser qu&rsquo;elles sont elles-mêmes liées à des situations de précarité. <strong>A l&rsquo;opposé de ce que veut faire croire la CAF, tout indique que cet algorithme fonctionne plutôt comme une «&nbsp;double peine&nbsp;»&nbsp;: il cible celles et et ceux qui, parmi les plus précaires, traversent une période particulièrement compliquée.</strong></p>



<h2 class="wp-block-heading" id="clore-le-faux-débat-technique">Clore le (faux) débat technique</h2>



<p>La CAF ayant refusé de nous communiquer la version la plus récente de son algorithme, nous nous attendons à ce que ses dirigeant·es réagissent en avançant qu&rsquo;iels disposent d&rsquo;un nouveau modèle plus «&nbsp;équitable&nbsp;». En anticipation, nous tenons à clarifier un point fondamental&nbsp;: <strong>il ne peut exister de modèle de l&rsquo;algorithme qui ne cible pas les plus défavorisé·es, et plus largement celles et ceux qui s&rsquo;écartent de la norme définie par ses concepteurs</strong>. </p>



<p>Comme nous l&rsquo;expliquions <a href="https://www.laquadrature.net/2022/10/19/caf-le-numerique-au-service-de-lexclusion-et-du-harcelement-des-plus-precaires/">ici</a> de manière détaillée, si l&rsquo;algorithme de la CAF a été promu au nom de la «&nbsp;lutte contre la fraude&nbsp;», il a en réalité été conçu pour détecter les «&nbsp;indus&nbsp;» (trop-perçus). Ce choix a été fait pour des questions de rentabilité&nbsp;: les indus sont plus nombreux et plus faciles à détecter que des cas de fraude dont la caractérisation nécessite, en théorie, de prouver une intention<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_15');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_15');" ><sup id="footnote_plugin_tooltip_22126_1_15" class="footnote_plugin_tooltip_text">15</sup></a><span id="footnote_plugin_tooltip_text_22126_1_15" class="footnote_tooltip">Les témoignages collectés par Stop Contrôles ou Changer de Cap montrent que la nécessité de prouver l&rsquo;intentionnalité pour qualifier un indu de fraude &#8211; dont les conséquences pour un•e allocataire sont plus lourdes &#8211; est très régulièrement bafouée.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_15').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_15', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>



<p>Or, <strong>ces indus ont pour cause principale des erreurs déclaratives involontaires</strong>, dont toutes les études montrent qu&rsquo;elles se concentrent principalement sur les personnes aux minima sociaux et de manière plus générale sur les allocataires en difficulté. Cette concentration s&rsquo;explique d&rsquo;abord par le fait que ces prestations sont encadrées par des règles complexes — fruit des politiques successives de  «&nbsp;lutte contre l&rsquo;assistanat&nbsp;» — multipliant le risque d&rsquo;erreurs possibles. Pour reprendre les termes d&rsquo;un directeur de la lutte contre la fraude de la CNAF&nbsp;: <em>«&nbsp;ce sont les prestations sociales elles-mêmes qui génèrent le risque [&#8230;] ceci est d’autant plus vrai pour les prestations liées à la précarité [&#8230;], très tributaires de la situation familiale, financière et professionnelle des bénéficiaires.&nbsp;»</em><span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_16');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_16');" ><sup id="footnote_plugin_tooltip_22126_1_16" class="footnote_plugin_tooltip_text">16</sup></a><span id="footnote_plugin_tooltip_text_22126_1_16" class="footnote_tooltip">Voir Daniel Buchet. 2006. <em>«&nbsp;Du contrôle des risques à la maitrise des risques&nbsp;»</em>. Disponible <a href="https://www.cairn.info/revue-informations-sociales-2005-6-page-40.htm">ici</a>.<br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_16').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_16', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>



<p><strong>Nul besoin donc de connaître le détail de la formule de l&rsquo;algorithme pour prédire quelles populations seront ciblées car c&rsquo;est l&rsquo;objectif <em>politique</em> de l&rsquo;algorithme — détecter les trop-perçus — qui le détermine</strong>. C&rsquo;est pourquoi laisser s&rsquo;installer un débat autour de l&rsquo;inclusion de telle ou telle variable est un jeu de dupes statistiques. La CAF pourra toujours substituer à une variable jugée politiquement «&nbsp;sensible&nbsp;» d&rsquo;autres critères jugés «&nbsp;acceptables&nbsp;» permettant d&rsquo;aboutir au même résultat, comme elle semble déjà le faire pour les mères célibataires<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_17');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_17');" ><sup id="footnote_plugin_tooltip_22126_1_17" class="footnote_plugin_tooltip_text">17</sup></a><span id="footnote_plugin_tooltip_text_22126_1_17" class="footnote_tooltip">Il serait ainsi relativement facile pour la CAF de supprimer la référence directe aux minima sociaux ou à l&rsquo;AAH dans son algorithme en se limitant à l&rsquo;utilisation de la variable <em>«&nbsp;faits générateurs trimestriels&nbsp;»</em>. Cette dernière ne concerne que les allocations nécessitant une déclaration de ressources trimestrielles&nbsp;: AAH trimestrielle, APL, RSA et prime d&rsquo;activité. S’agissant du ciblage des allocataires du RSA et de l’AAH, la CAF pourrait ainsi prétendre, sans trop perdre de précision, avoir modifié son algorithme en ne retenant dans le calcul que cette variable <em>«&nbsp;faits générateurs trimestriels&nbsp;»</em> tout en continuant à cibler les personnes aux minima sociaux. <br /></span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_17').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_17', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>



<h2 class="wp-block-heading" id="logiques-policières-logiques-gestionnaires">Logiques policières, logiques gestionnaires</h2>



<p>Dire cela, c&rsquo;est enfin dépasser le débat technique et reconnaître que cet algorithme n&rsquo;est que le <strong>reflet de la diffusion de logiques gestionnaires et policières au sein de nos administrations sociales au nom des politiques de «&nbsp;lutte contre la fraude&nbsp;»</strong>. </p>



<p>C&rsquo;est en transformant les allocataires en «&nbsp;assisté·es&nbsp;», puis en risques pour la survie de notre système social que <strong>le discours de «&nbsp;lutte contre l’assistanat&nbsp;» a fait de leur contrôle un impératif de «&nbsp;bonne gestion&nbsp;»</strong><span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_18');" onkeypress="footnote_moveToReference_22126_1('footnote_plugin_reference_22126_1_18');" ><sup id="footnote_plugin_tooltip_22126_1_18" class="footnote_plugin_tooltip_text">18</sup></a><span id="footnote_plugin_tooltip_text_22126_1_18" class="footnote_tooltip">Voir avant tout le livre de Vincent Dubois publié en 2021. <i>«&nbsp;Contrôler les assistés. Genèses et usage d’un mot d’ordre&nbsp;».</i> Sur le sur-contrôle des populations les plus précaires, voir le chapitre 10. Sur l’histoire politique de la «&nbsp;lutte contre l’assistanat&nbsp;», et le rôle majeur que joua en France Nicolas Sarkozy, voir le chapitre 2. Sur l’évolution des politiques de contrôles, leur centralisation suite à l’introduction de l’algorithme et la définition des cibles, voir pages 177 et 258. Sur la contestation des plans nationaux de ciblages par les directeurs de CAF locales, voir page 250.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22126_1_18').tooltip({ tip: '#footnote_plugin_tooltip_text_22126_1_18', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. Qu&rsquo;importe que toutes les estimations montrent que la «&nbsp;fraude sociale&nbsp;» est marginale et que c&rsquo;est au contraire le non-recours aux aides qui se révèle être un phénomène massif.</p>



<p>Devenu objectif institutionnel, le contrôle doit être rationalisé. Le numérique devient alors l&rsquo;outil privilégié de «&nbsp;la lutte contre la fraude sociale&nbsp;» par la capacité qu’il offre aux dirigeant·es de répondre aux injonctions de résultats tout en offrant un alibi technique quant aux pratiques de discrimination généralisée que leur tenue impose.</p>



<p>Ces logiques sont saillantes dans la réponse écrite par la CAF pour s&rsquo;opposer à la transmission du code de son algorithme, avant d&rsquo;y être contrainte par la Commission d&rsquo;Accès aux Documents Administratifs (CADA). <strong>Elle assume ouvertement un discours policier en avançant comme principal argument que cette communication consisterait en une <em>«&nbsp;atteinte à la sécurité publique&nbsp;»</em></strong> car <em>«&nbsp;en identifiant les critères constituant des facteurs de ciblage, des fraudeurs pourraient organiser et monter des dossiers frauduleux&nbsp;»</em>. </p>




<p>Enfin, un chiffre transmis dans la même réponse témoigne de l&#8217;emballement gestionnaire à l’œuvre et vient souligner la disproportion entre les moyens techniques déployés et les enjeux financiers. L&rsquo;algorithme est entraîné pour détecter des trop-perçus s&rsquo;élevant à 600 euros sur deux ans. Soit donc, <strong>32 millions d&rsquo;intimités violées par un algorithme à la recherche de&#8230; 25 euros par mois.</strong></p>



<h2 class="wp-block-heading" id="lutter">Lutter</h2>



<p><strong>L&rsquo;Assurance maladie, l&rsquo;Assurance vieillesse, les Mutualités Sociales Agricoles ou dans une moindre mesure Pôle Emploi&nbsp;: toutes utilisent ou développent des algorithmes en tout point similaires.</strong> À l&rsquo;heure où ces pratiques de notation se généralisent, il apparaît nécessaire de penser une lutte à grande échelle.</p>



<p>C&rsquo;est pourquoi nous avons décidé de faire de ces pratiques de contrôle algorithmique une priorité pour l&rsquo;année à venir. Vous trouverez <a href="https://www.laquadrature.net/lutter-contre-les-algos-de-controle/">ici</a> notre page dédiée à ce sujet, que nous alimenterons  régulièrement. </p>



<div class="speaker-mute footnotes_reference_container"> <div class="footnote_container_prepare"><p><span role="button" tabindex="0" class="footnote_reference_container_label pointer" onclick="footnote_expand_collapse_reference_container_22126_1();">References</span><span role="button" tabindex="0" class="footnote_reference_container_collapse_button" style="display: none;" onclick="footnote_expand_collapse_reference_container_22126_1();">[<a id="footnote_reference_container_collapse_button_22126_1">+</a>]</span></p></div> <div id="footnote_references_container_22126_1" style=""><table class="footnotes_table footnote-reference-container"><caption class="accessibility">References</caption> <tbody> 

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_1');"><a id="footnote_plugin_reference_22126_1_1" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>1</a></th> <td class="footnote_plugin_text">Vous pouvez les contacter à <a href="mailto:stop.controles@protonmail.com">stop.controles@protonmail.com</a> et <a href="mailto:contact@changerdecap.net">contact@changerdecap.net</a>.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_2');"><a id="footnote_plugin_reference_22126_1_2" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>2</a></th> <td class="footnote_plugin_text">La CAF n&rsquo;est pas la seule administration à utiliser ce type d&rsquo;algorithmes, mais elle fut la première à le faire. Nous reviendrons bientôt sur une vision plus globale de l&rsquo;utilisation de ce type d&rsquo;algorithmes par les administrations sociales dans leur ensemble.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_3');"><a id="footnote_plugin_reference_22126_1_3" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>3</a></th> <td class="footnote_plugin_text">Si l&rsquo;algorithme lui-même n&rsquo;utilise que quelques dizaines de variables pour calculer la note des allocataires, celles-ci sont sélectionnées après une phase dite d&rsquo;<em>«&nbsp;entraînement&nbsp;»</em> mobilisant plus de 1000 informations par allocataire. Pour des détails techniques voir l’article de Pierre Collinet <em>«&nbsp;Le datamining dans les caf&nbsp;: une réalité, des perspectives&nbsp;»</em>, écrit en 2013 et disponible <a href="https://www.cairn.info/revue-informations-sociales-2013-4-page-129.html">ici</a>.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_4');"><a id="footnote_plugin_reference_22126_1_4" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>4</a></th> <td class="footnote_plugin_text">Les contrôles à la CAF sont de trois types. Les contrôles automatisés sont des procédures de vérification des déclarations des allocataires (revenus, situation professionnelle..), organisés via à l’interconnexion des fichiers administratifs (impôts, pôle emploi…). Ce sont de loin les plus nombreux. Les contrôles sur pièces consistent en la demande de pièces justificatives supplémentaires à l’allocataire. Enfin les contrôles sur place sont les moins nombreux mais les plus intrusifs. Réalisé par un.e contrôleur.se de la CAF, ils consistent en un contrôle approfondi de la situation de l’allocataire. Ce sont ces derniers qui sont aujourd’hui en très grande majorité déclenchés par l’algorithme suite à une dégradation de la note d’un allocataire (Voir Vincent Dubois, <i>«&nbsp;Contrôler les assistés&nbsp;»</i>, p.258).</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_5');"><a id="footnote_plugin_reference_22126_1_5" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>5</a></th> <td class="footnote_plugin_text">Voir avant tout le livre de Vincent Dubois publié en 2021. <em>«&nbsp;Contrôler les assistés. Genèses et usage d’un mot d’ordre&nbsp;».</em> Sur le sur-contrôle des populations les plus précaires, voir le chapitre 10. Sur l’histoire politique de la <em>«&nbsp;lutte contre l’assistanat&nbsp;»</em>, et le rôle majeur que joua en France Nicolas Sarkozy, voir le chapitre 2. Sur l’évolution des politiques de contrôles, leur centralisation suite à l’introduction de l’algorithme et la définition des cibles, voir pages 177 et 258. Sur la contestation des plans nationaux de ciblages par les directeurs de CAF locales, voir page 250.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_6');"><a id="footnote_plugin_reference_22126_1_6" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>6</a></th> <td class="footnote_plugin_text">Extrait de la réponse d&rsquo;un directeur de la CAF aux critiques opposées par le Défenseur des Droits à l&rsquo;utilisation de cet algorithme.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_7');"><a id="footnote_plugin_reference_22126_1_7" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>7</a></th> <td class="footnote_plugin_text">La CAF nous <a href="https://www.laquadrature.net/2022/12/23/notation-des-allocataires-febrile-la-caf-senferme-dans-lopacite/">avait initialement communiqué</a> un code source <em>«&nbsp;caviardé&nbsp;»</em> dans lequel la quasi-totalité des noms de variables étaient masqués. Nous avons finalement obtenu le code de deux versions de l&rsquo;algorithme. La première a été utilisée entre 2010 et 2014. La seconde entre 2014 et 2018. Six variables ont tout de même été occultées du modèle «&nbsp;2010&nbsp;» et 3 du modèle «&nbsp;2014&nbsp;».</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_8');"><a id="footnote_plugin_reference_22126_1_8" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>8</a></th> <td class="footnote_plugin_text">Concernant la variable liée au lieu de résidence, cette dernière fait a priori partie des variables masquées dans le code reçu. Elle est toute fois mentionnées dans la réponse de la CAF à la CADA, ce pourquoi il nous paraît raisonnable de l&rsquo;inclure ici. Voir notre <a href="https://git.laquadrature.net/la-quadrature-du-net/algo-et-controle/caf">annexe méthodologique</a> pour une discussion détaillée de la formule.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_9');"><a id="footnote_plugin_reference_22126_1_9" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>9</a></th> <td class="footnote_plugin_text">Pour ce faire, nous avons simulé les données nécessaires &#8211; une trentaine de variables &#8211; pour chaque <em>«&nbsp;profil-type&nbsp;»</em> puis utilisé l&rsquo;algorithme pour calculer leur note. Mettre un lien vers nos simulations.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_10');"><a id="footnote_plugin_reference_22126_1_10" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>10</a></th> <td class="footnote_plugin_text">Le sur-ciblage des personnes en situation de handicap &#8211; bénéficiaires de l&rsquo;AAH &#8211; ne concerne que celles disposant d&rsquo;un travail. C&rsquo;est ainsi que ces résultats sont compatibles avec les analyses du chapitre 10 du livre <em>Contrôler les assistés</em> de Vincent Dubois qui regroupent l&rsquo;ensemble des personnes en situation de handicap. Voir notre <a href=https://git.laquadrature.net/la-quadrature-du-net/algo-et-controle/caf>annexe méthodologique</a> pour une discussion détaillée de ce point.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_11');"><a id="footnote_plugin_reference_22126_1_11" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>11</a></th> <td class="footnote_plugin_text">Voir notamment une méthodologie alternative utilisée par LightHouse Reports dans son article sur Rotterdam pour lequel les journalistes disposaient non seulement de la formule mais aussi de données sur les personnes visées. Elle est disponible <a href="https://www.lighthousereports.com/methodology/suspicion-machine/">ici</a>.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_12');"><a id="footnote_plugin_reference_22126_1_12" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>12</a></th> <td class="footnote_plugin_text">Voir la note de l’Insee disponible <a href="https://www.insee.fr/fr/statistiques/3714737">ici</a>.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_13');"><a id="footnote_plugin_reference_22126_1_13" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>13</a></th> <td class="footnote_plugin_text">A revenus égaux, un parent seul gagne moins que deux parents. Quant au nombre de mois d&rsquo;activité sur une année, il ne dépassera jamais 12 par an pour une famille monoparentale mais peut aller jusqu’à 24 pour un couple. Ce ciblage est particulièrement fort dans les mois qui suivent une séparation, ce type d&rsquo;évènement dégradant fortement le score d&rsquo;un·e allocataire. Voir nos analyses additionnelles en annexe méthodologique.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_14');"><a id="footnote_plugin_reference_22126_1_14" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>14</a></th> <td class="footnote_plugin_text">C&rsquo;est ce qu&rsquo;elle a déjà fait dans son <a href="media/3443f599.Controles20et20datamining.pdf" data-original-source="https://www.caf.fr/sites/default/files/medias/371/CNAF%20Supports/Controles%20et%20datamining.pdf">«&nbsp;Vrai/Faux&nbsp;» sur le datamining</a> où elle expliquait que <em>«&nbsp;les scores de risques les plus élevés&nbsp;»</em> ne concernent pas <em>«&nbsp;toujours les personnes les plus pauvres&nbsp;»</em> car <em>«&nbsp;le score de risque n’intègre pas comme seule donnée la situation financière&nbsp;»</em>.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_15');"><a id="footnote_plugin_reference_22126_1_15" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>15</a></th> <td class="footnote_plugin_text">Les témoignages collectés par Stop Contrôles ou Changer de Cap montrent que la nécessité de prouver l&rsquo;intentionnalité pour qualifier un indu de fraude &#8211; dont les conséquences pour un•e allocataire sont plus lourdes &#8211; est très régulièrement bafouée.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_16');"><a id="footnote_plugin_reference_22126_1_16" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>16</a></th> <td class="footnote_plugin_text">Voir Daniel Buchet. 2006. <em>«&nbsp;Du contrôle des risques à la maitrise des risques&nbsp;»</em>. Disponible <a href="https://www.cairn.info/revue-informations-sociales-2005-6-page-40.htm">ici</a>.</p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_17');"><a id="footnote_plugin_reference_22126_1_17" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>17</a></th> <td class="footnote_plugin_text">Il serait ainsi relativement facile pour la CAF de supprimer la référence directe aux minima sociaux ou à l&rsquo;AAH dans son algorithme en se limitant à l&rsquo;utilisation de la variable <em>«&nbsp;faits générateurs trimestriels&nbsp;»</em>. Cette dernière ne concerne que les allocations nécessitant une déclaration de ressources trimestrielles&nbsp;: AAH trimestrielle, APL, RSA et prime d&rsquo;activité. S’agissant du ciblage des allocataires du RSA et de l’AAH, la CAF pourrait ainsi prétendre, sans trop perdre de précision, avoir modifié son algorithme en ne retenant dans le calcul que cette variable <em>«&nbsp;faits générateurs trimestriels&nbsp;»</em> tout en continuant à cibler les personnes aux minima sociaux. </p></td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22126_1('footnote_plugin_tooltip_22126_1_18');"><a id="footnote_plugin_reference_22126_1_18" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>18</a></th> <td class="footnote_plugin_text">Voir avant tout le livre de Vincent Dubois publié en 2021. <i>«&nbsp;Contrôler les assistés. Genèses et usage d’un mot d’ordre&nbsp;».</i> Sur le sur-contrôle des populations les plus précaires, voir le chapitre 10. Sur l’histoire politique de la «&nbsp;lutte contre l’assistanat&nbsp;», et le rôle majeur que joua en France Nicolas Sarkozy, voir le chapitre 2. Sur l’évolution des politiques de contrôles, leur centralisation suite à l’introduction de l’algorithme et la définition des cibles, voir pages 177 et 258. Sur la contestation des plans nationaux de ciblages par les directeurs de CAF locales, voir page 250.</td></tr>

 </tbody> </table> </div></div><script type="text/javascript"> function footnote_expand_reference_container_22126_1() { jQuery('#footnote_references_container_22126_1').show(); jQuery('#footnote_reference_container_collapse_button_22126_1').text('−'); } function footnote_collapse_reference_container_22126_1() { jQuery('#footnote_references_container_22126_1').hide(); jQuery('#footnote_reference_container_collapse_button_22126_1').text('+'); } function footnote_expand_collapse_reference_container_22126_1() { if (jQuery('#footnote_references_container_22126_1').is(':hidden')) { footnote_expand_reference_container_22126_1(); } else { footnote_collapse_reference_container_22126_1(); } } function footnote_moveToReference_22126_1(p_str_TargetID) { footnote_expand_reference_container_22126_1(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } } function footnote_moveToAnchor_22126_1(p_str_TargetID) { footnote_expand_reference_container_22126_1(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } }</script>


feed_id: https://www.laquadrature.net/?p=22359
title: QSPTAG #299 — 1 décembre 2023
uri: QSPTAG-299-1-décembre-2023
url: https://www.laquadrature.net/2023/12/01/qsptag-299-1-decembre-2023/
content:
<h2 id="Algorithmes de suspicion de la CAF&nbsp;: la preuve par les faits">Algorithmes de suspicion de la CAF&nbsp;: la preuve par les faits</h2>
<p>C&rsquo;est une enquête qui a duré 18 mois. <a href="https://www.laquadrature.net/2022/04/06/controles-discriminatoires-nous-demandons-le-demantelement-des-pratiques-illegales-des-caf/">Dès avril 2022</a>, conjointement avec le collectif <a href="https://changerdecap.net/caf-controle-social/"><i>Changer de Cap</i></a>, nous demandions l&rsquo;arrêt des pratiques discriminatoires de la Caisse d&rsquo;allocations familiales (CAF), qui utilise un algorithme pour attribuer un «&nbsp;score de suspicion&nbsp;» aux bénéficiaires des aides sociales, pour détecter les personnes les plus susceptibles de percevoir des sommes indues. Sous prétexte de lutter contre la «&nbsp;fraude sociale&nbsp;» —&nbsp;une ambition très populaire dans l&rsquo;idéologie de la chasse à «&nbsp;l&rsquo;assistanat&nbsp;»&nbsp;— fraude réelle dont toutes les études au sein même des agences de l’État ont depuis longtemps démontré qu&rsquo;elle est majoritairement une fraude aux cotisations de la part des employeurs notamment, il s&rsquo;agit avec cet algorithme de débusquer plutôt les bénéficiaires qui, du fait de la complexité des règles relatives aux minima sociaux, auraient touché des sommes plus importantes que celles à quoi ils et elles auraient droit.</p>
<p>Le «&nbsp;bon sens&nbsp;» tel qu&rsquo;il s&rsquo;exprime sur les réseaux sociaux, et nous avons pu le constater à chaque publication de nos articles, ne trouve pas d&rsquo;inconvénient à ce procédé&nbsp;: «&nbsp;Il faut bien attraper les fraudeurs&nbsp;! Vous préférez  ne rien faire&nbsp;?&nbsp;». On peut discuter le principe, mais ce n&rsquo;est pas le sujet. Le problème, comme souvent, est dans la manière de faire.</p>
<p>En pratique, la CAF dispose d&rsquo;environ 1 000 types de données différents sur les allocataires et en utilise une quarantaine pour passer au crible la vie d&rsquo;environ 13 millions de personnes. Leur vie personnelle et intime, sous prétexte de leur donner ou non de l&rsquo;argent public, devient l&rsquo;objet d&rsquo;une analyse et d&rsquo;un jugement, de fond en comble. Le logiciel mouline cette masse d&rsquo;informations avec son petit mécanisme et sort à la fin pour chaque bénéficiaire un «&nbsp;score de suspicion&nbsp;» compris entre 0 et 1. S&rsquo;il se rapproche de 1, le risque de fraude est considéré comme étant plus grand, et la personne concernée fera l&rsquo;objet d&rsquo;un contrôle humain <a href="https://www.laquadrature.net/2022/10/19/caf-le-numerique-au-service-de-lexclusion-et-du-harcelement-des-plus-precaires/">par des agents soumis à une pression de rentabilité</a>. En pratique, la sanction algorithmique touche d&rsquo;abord les personnes les plus pauvres, soit que l&rsquo;allocation retirée ou réduite représente une partie importante de leurs revenus de survie, soit qu&rsquo;elle en représente la totalité.</p>
<p>Plus grave encore&nbsp;: <a href="https://www.laquadrature.net/2022/10/19/caf-le-numerique-au-service-de-lexclusion-et-du-harcelement-des-plus-precaires/">nous avions l&rsquo;intuition</a>, après l&rsquo;étude de plusieurs cas particuliers, que les critères qui faisaient augmenter le score de suspicion incluaient le fait d&rsquo;être d&rsquo;origine étrangère, de toucher le RSA, ou d&rsquo;être une femme seule qui élève des enfants. Pour en avoir le cœur net, nous avions demandé à la CAF, par l&rsquo;intermédiaire d&rsquo;une «&nbsp;demande Cada&nbsp;», de publier son algorithme de calcul. <a href="https://www.laquadrature.net/2022/12/23/notation-des-allocataires-febrile-la-caf-senferme-dans-lopacite/">La CAF a refusé autant qu&rsquo;elle a pu de fournir le code-source logiciel</a>, sous prétexte que sa publication permettrait aux «&nbsp;fraudeurs&nbsp;» de le contourner —&nbsp;peut-être en arrêtant fourbement d&rsquo;être une femme noire au RSA, par exemple&nbsp;?</p>
<p>Mais, faute d&rsquo;avoir accès à la version actuelle, nous avons enfin obtenu la communication d&rsquo;une ancienne version de cet algorithme de «&nbsp;scoring&nbsp;», et <a href="https://www.laquadrature.net/2023/11/27/notation-des-allocataires-lindecence-des-pratiques-de-la-caf-desormais-indeniable/">notre analyse est sans appel</a>&nbsp;: oui, l&rsquo;algo de flicage de la CAF pénalise, dans sa structure même et dans le poids qu&rsquo;il donne aux critères d&rsquo;évaluation, les personnes à l&#8217;emploi précaire, qui doivent changer de logement souvent et, de manière générale, qui ont des parcours de vie compliqués. Autrement dit, les personnes les plus précaires se retrouvent traquées et sanctionnées par une administration sociale. Nous demandons par conséquent l&rsquo;interdiction de cette technologie numérique de contrôle social, qui cache sous la prétendue neutralité de la technique une politique sociale discriminatoire, dégradante et injuste.</p>
<p><strong>Notre analyse complète de l&rsquo;algorithme de la CAF&nbsp;: <a href="https://www.laquadrature.net/2023/11/27/notation-des-allocataires-lindecence-des-pratiques-de-la-caf-desormais-indeniable/">https://www.laquadrature.net/2023/11/27/notation-des-allocataires-lindecence-des-pratiques-de-la-caf-desormais-indeniable/</a></strong></p>
<h2 id="Soutenez La Quadrature en 2024">Soutenez La Quadrature en 2024</h2>
<p>Comme bon nombre d’associations, nous avons lancé il y a quinze jours notre campagne de soutien pour l’année qui vient. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent en 2024, principalement la promotion de l’interopérabilité des services Web, la lutte contre les algorithmes de contrôle social dans les administrations, la réflexion nécessaire autour du numérique dans le contexte de la crise écologique, et la défense du droit au chiffrement des communications.</p>
<p>Cette semaine, nos publications ont mis l’accent sur la question des algorithmes administratifs, dont notre travail sur l’algo de suspicion de la CAF était le point culminant. Vous pouvez retrouver l’ensemble de nos «&nbsp;fils&nbsp;» sur nos réseaux sociaux&nbsp;: la présentation de <a href="https://mamot.fr/@LaQuadrature/111482494553934285">notre travail sur la CAF</a>, une invitation à <a href="https://mamot.fr/@LaQuadrature/111493559447646231">rejoindre la lutte contre les algos administratifs</a> en demandant votre propre «&nbsp;score de risque&nbsp;», et <a href="https://mamot.fr/@LaQuadrature/111499944216856564">un panorama du travail mené par ou avec nos partenaires européens</a>.</p>
<p>Nous avons besoin de vous pour travailler en 2024&nbsp;! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide&nbsp;!</p>
<p><strong>Présentation des grands chantiers de 2024&nbsp;: <a href="https://www.laquadrature.net/donner/">https://www.laquadrature.net/donner/</a> et <a href="https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/">https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/</a></strong><br />
<strong>Faire un don pour soutenir La Quadrature&nbsp;: <a href="https://don.laquadrature.net/">https://don.laquadrature.net/</a></strong></p>
<h2 id="La Quadrature dans les médias">La Quadrature dans les médias</h2>
<p><strong>Algo de la CAF</strong></p>
<ul>
<li><a href="https://www.francetvinfo.fr/economie/emploi/carriere/entreprendre/aides/fraude-sociale-selon-la-quadrature-du-net-l-algorithme-de-la-cnaf-a-un-fonctionnement-deliberement-discriminatoire_6211305.html">Fraude sociale&nbsp;: selon la Quadrature du net, l&rsquo;algorithme de la Cnaf a un « fonctionnement délibérément discriminatoire »</a> [France Info TV]</li>
<li><a href="https://www.leparisien.fr/economie/quest-ce-que-le-score-de-suspicion-de-la-caf-accusee-de-discriminer-les-plus-precaires-29-11-2023-B47VLXSW5REURHFAYB7TLW4FNA.php">Qu’est-ce que le «&nbsp;score de suspicion&nbsp;» de la CAF, accusée de discriminer les plus précaires&nbsp;?</a> [Le Parisien]</li>
<li><a href="https://www.rtl.fr/actu/sciences-tech/allocations-familiales-un-score-de-suspicion-antifraude-accuse-de-discriminer-les-plus-precaires-a-la-caf-7900325667">Allocations familiales&nbsp;: un « score de suspicion » antifraude accusé de discriminer les plus précaires à la CAF</a> [RTL]</li>
<li><a href="https://www.lefigaro.fr/social/allocations-familiales-un-algorithme-anti-fraude-critique-par-des-associations-20231127">Allocations familiales&nbsp;: un algorithme anti-fraude critiqué par des associations</a> [Le Figaro]</li>
<li><a href="https://www.clubic.com/actualite-510592-l-algorithme-de-la-caf-un-systeme-de-surveillance-de-masse-particulierement-pernicieux-selon-la-quadrature-du-net.html">L&rsquo;algorithme de la CAF, « un système de surveillance de masse particulièrement pernicieux » selon la Quadrature du Net</a> [Clubic]</li>
<li><a href=" https://www.01net.com/actualites/fraude-aux-allocations-familiales-la-caf-utilise-bien-des-algorithmes-qui-ciblent-les-plus-precaires-selon-la-quadrature-du-net.html">Fraude aux allocations familiales&nbsp;: la CAF utilise bien des algorithmes qui ciblent les plus précaires, selon la Quadrature du Net</a> [01Net]</li>
<li><a href="https://lepavenumerique.substack.com/p/lalgorithme-qui-naimait-pas-les-pauvres">L&rsquo;algorithme qui n&rsquo;aimait pas les pauvres</a> [Le Pavé numérique]</li>
<li><a href="https://siecledigital.fr/2023/11/28/pour-la-quadrature-du-net-la-caf-utilise-un-algorithme-de-la-honte/">La Quadrature du Net dénonce un «&nbsp;algorithme de la honte&nbsp;» utilisé par la CAF</a> [Siècle Digital]</li>
</ul>
<p><strong>Divers</strong></p>
<ul>
<li><a href="https://www.mediapart.fr/journal/france/291123/reconnaissance-faciale-le-logiciel-de-briefcam-devant-le-conseil-d-etat">Reconnaissance faciale&nbsp;: le logiciel de BriefCam devant le Conseil d’État</a> [Mediapart]</li>
<li><a href="https://www.radiofrance.fr/franceculture/podcasts/la-science-cqfd/videosurveillance-algorithmique-mais-que-fait-la-police-2987911">Vidéosurveillance algorithmique&nbsp;: mais que fait la police&nbsp;?</a> [France Culture]</li>
<li><a href="https://www.journaldugeek.com/2023/11/30/controle-de-la-majorite-cyberharcelement-pourquoi-la-loi-sren-inquiete-autant/">Contrôle de la majorité, cyberharcèlement… pourquoi la loi SREN inquiète autant&nbsp;?</a> [Journal du Geek]</li>
</ul>
<h2 id="Agenda">Agenda</h2>
<ul>
<li><strong>2 décembre 2023</strong>&nbsp;: le groupe Saccage 2024 appelle à une journée d&rsquo;action contre les Jeux Olympiques de Paris 2024, notamment en raison des mesures de surveillance numérique prévues par la loi JO. Plus d&rsquo;informations&nbsp;: <a href="https://saccage2024.noblogs.org/archives/2480">https://saccage2024.noblogs.org/archives/2480</a>.</li>
<li><strong>8 décembre 2023</strong>&nbsp;: Réunion d&rsquo;information Technopolice à Rouen — à partir de 18h30, Maison des associations et la solidarité, 22 bis rue Dumont d&rsquo;Urville, Rouen.</li>
<li><strong>14 décembre 2023</strong>&nbsp;: Causerie mensuelle du groupe Technopolice Marseille — à partir de 19h, Manifesten, 59 Rue Adolphe Thiers, Marseille.</li>
<li><strong>14 décembre 2023</strong>&nbsp;: Table ronde au festival OSINT à La Gaité Lyrique &#8211; à 11h, à La Gaité Lyrique, 259 rue Saint-Martin 75003 Paris. Plus d&rsquo;informations sur https://www.gaite-lyrique.net/evenement/festival-osint</li>
<li><strong>27-30 décembre 2023</strong>&nbsp;: La Quadrature sera au 37e Chaos Communication Congress à Hambourg&nbsp;: <a href="https://events.ccc.de/category/37c3/">https://events.ccc.de/category/37c3/</a>.</li>
</ul>


feed_id: https://www.laquadrature.net/?p=22424
title: Pour l’interopérabilité des réseaux sociaux
uri: Pour-l-interopérabilité-des-réseaux-sociaux
url: https://www.laquadrature.net/2023/12/04/pour-linteroperabilite-des-reseaux-sociaux/
content:
<p><strong>L&rsquo;interopérabilité, c&rsquo;est-à-dire la capacité pour différents systèmes de communiquer entre eux</strong>, est omniprésente dans notre quotidien. Partout où sont établis <strong>des standards</strong> – dans la langue et l&rsquo;écriture, dans la circulation routière, dans les pièces mécaniques de nos machines, dans la connectique de nos appareils électroniques, dans les formats de nos fichiers numériques –, <strong>un certain nombre de règles permettent à deux systèmes distincts de fonctionner comme un seul</strong>, formant un <strong>écosystème</strong>.</p>
<p><strong>Le monde informatique est fait de ces règles que l&rsquo;on appelle «&nbsp;protocoles&nbsp;»</strong>. Certaines entreprises font le choix de concevoir plutôt des <strong>protocoles propriétaires, c&rsquo;est-à-dire de poser des barrière pour bloquer la communication avec d&rsquo;autres systèmes</strong> qui ne seraient pas sous leur contrôle. Cela leur permet de s&rsquo;assurer que les personnes qui utilisent leurs logiciels ou leurs matériels soient dépendantes de l&rsquo;entreprise. L&rsquo;entreprise Apple, par exemple, est connue pour fonder l&rsquo;ensemble de son modèle économique sur ces stratégies de fermeture&nbsp;: si la communication entre les différents appareils et logiciels Apple est possible, elle est rendue difficile voire impossible avec d&rsquo;autres appareils et logiciels n&rsquo;appartenant pas à la marque. Posséder un ordinateur Apple implique d&rsquo;utiliser le système d&rsquo;exploitation d&rsquo;Apple, d&rsquo;utiliser la connectique Apple et d&rsquo;intégrer des logiques d&rsquo;utilisation souvent très différentes, rendant les utilisateur·rices captif·ves de leur écosystème.</p>
<p><img decoding="async" alt="Schéma de l'écosystème privateur de l'entreprise Apple" src="media/8953f559.ecosystemeprivateurapple.png" data-original-source="https://cdn.lqdn.fr/ecosystemeprivateurapple.png"></p>
<p>Les réseaux sociaux commerciaux comme Facebook, Twitter, Instagram, Youtube, TikTok et bien d&rsquo;autres reposent sur l&rsquo;absence de protocole pour communiquer vers l&rsquo;extérieur&nbsp;: <strong>ils empêchent leurs utilisateur·rices d&rsquo;opter pour d&rsquo;autres moyens de communiquer</strong> et d&rsquo;échanger des informations. Les contenus publiés sur l&rsquo;un de ces réseaux sociaux ne sont accessibles qu&rsquo;en passant par celui-ci. Toute communication vers l&rsquo;extérieur est volontairement bloquée et il est parfois même nécessaire de se créer un compte pour consulter un contenu <i>via</i> une interface imposée (interface web ou application).</p>
<p>La stratégie des réseaux sociaux commerciaux fonctionne sur une <strong>logique de régie publicitaire</strong>. Pour être rentables, il leur faut rassembler un public auquel exposer la publicité de leurs annonceurs. Dans un premier temps, ces entreprises s&#8217;emploient à créer un logiciel de réseau social désirable, en <strong>mettant l&rsquo;accent sur des fonctionnalités innovantes pour attirer des utilisateur·rices</strong>. L&rsquo;usage de protocoles fermés n&rsquo;est alors pas encore une nécessité. On se rappelle par exemple de Facebook, qui, entre <a href="https://www.clubic.com/actualite-324782-messagerie-instantanee-facebook-aim-jabber-xmpp.html">2008</a> et <a href="https://linuxfr.org/users/davenull/journaux/facebook-sauce-xmpp-est-mort">2015</a>, supportait le protocole XMPP dans sa messagerie privée, ce qui permettait à ses utilisateur·rices d&rsquo;échanger avec les personnes ayant un compte AIM, ou utilisant d&rsquo;autres messageries basées sur ce protocole. <strong>Ils constituent de cette manière une grosse base d&rsquo;utilisateur·rices afin de renforcer ce qu&rsquo;on appelle l&rsquo;«&nbsp;effet réseau&nbsp;»</strong> de leur logiciel&nbsp;: plus il y a des personnes présentes sur le réseau social, plus cela en attire de nouvelles.</p>
<p>Une fois un certain seuil d&rsquo;utilisateur·rices atteint, pour avoir une stratégie publicitaire plus offensive, les réseaux sociaux commerciaux investissent l&rsquo;ensemble de leurs ressources pour servir la publicité. Cela a pour effet de dégrader le service, notamment en réorganisant les contenus créés sans but commercial en les diluant dans ceux «&nbsp;sponsorisés&nbsp;». Le réseau social commercial n&rsquo;est alors plus aussi attrayant pour le service qu&rsquo;il offre, mais seulement en ce qu&rsquo;il permet de communiquer avec les gens qui y ont un compte. <strong>La stratégie de mise en captivité devient alors une nécessité</strong>. Les techniques utilisées pour empêcher les utilisateur·rices de partir et en attirer d&rsquo;autres malgré la dégradation du service passent alors par la <strong>fermeture des protocoles</strong> – voire l&rsquo;impossibilité stricte de communiquer vers l&rsquo;extérieur –, la <strong>complexification de l&rsquo;accès au contenu</strong> pour les personnes non connectées, et bien d&rsquo;autres obstacles.</p>
<p>Ce fonctionnement en silos semble être la norme aujourd&rsquo;hui car cette méthode de captivité est efficace&nbsp;: alors qu&rsquo;une grande partie des utilisateur·rices d&rsquo;un réseau social commercial comme Facebook sont très critiques de ses méthodes de surveillance commerciale, de ses méthodes de modération, de son volontarisme à appliquer la censure réclamée par les États, de sa manière d&rsquo;afficher en priorité des contenus publicitaires, iels continuent de l&rsquo;utiliser car tous·tes leurs ami·es y sont.</p>
<div class="plan">
<h2 id="Table des matières">Table des matières</h2>
<p><a href="#partA">Le caractère commercial à l&rsquo;origine de la nécessité de centralisation</a></p>
<ul>
<li><a href="#partA1">Dissection d&rsquo;un GAFAM, analyse technique de la logique de centralisation</a></li>
<li><a href="#partA2">Centraliser et enfermer pour mieux surveiller</a></li>
</ul>
<p><a href="#partB">Modération, censure, espaces d&rsquo;expression</a></p>
<ul>
<li><a href="#partB1">Centralisation&nbsp;: régime de modération unique</a></li>
<li><a href="#partB2">Censure passive due au modèle économique</a></li>
<ul>
<li><a href="#partB2a">La place privilégiée des contenus publicitaires</a></li>
<li><a href="#partB2b">Économie de l&rsquo;attention, viralité boostée et censure par enterrement</a></li>
</ul>
<li><a href="##partB3">Censure active</a></li>
<ul>
<li><a href="#partB3a">Le pouvoir des annonceurs</a></li>
<li><a href="#partB3b">Le pouvoir des États</a></li>
<li><a href="#partB3c">Le pouvoir de l&rsquo;industrie culturelle</a></li>
</ul>
<li><a href="#partB4">Centralisation et censure par algorithme</a></li>
</ul>
<p><a href="#partC">L&rsquo;obligation d’interopérabilité des réseaux sociaux comme outil de leur régulation</a></p>
<ul>
<li><a href="#partC1">Casser les silos&nbsp;: ouvrir de nouveaux possibles</a></li>
<ul>
<li><a href="#partC1a">Comment cela fonctionne&nbsp;? L&rsquo;exemple du fédivers</a></li>
<li><a href="#partC1b">Régulation de l&rsquo;expression par la décentralisation</a></li>
<li><a href="#partC1c">De nouveaux usages possibles grâce à l&rsquo;interopérabilité</a></li>
</ul>
<li><a href="#partC2">Forcer l&rsquo;interopérabilité&nbsp;: stratégies politiques et juridiques</a></li>
<ul>
<li><a href="#partC2a">Le refus du législateur jusqu&rsquo;à présent d&rsquo;instaurer une obligation d&rsquo;interopérabilité</a></li>
<li><a href="#partC2b">Un rapport de force entre grandes plateformes et États d&rsquo;une part, et société civile d&rsquo;autre part</a></li>
<li><a href="#partC2c">L&rsquo;urgence à obliger les réseaux sociaux commerciaux à être interopérables</a></li>
<li><a href="#partC2d">La proposition législative de La Quadrature</a></li>
</ul>
<li><a href="#partC3">Prévoir les impacts de l&rsquo;interopérabilité</a></li>
<ul>
<li><a href="#partC3a">Protocole ouvert = accès massif aux données&nbsp;?</a></li>
<li><a href="#partC3b">Décentraliser les espaces de discussions, c’est enlever du pouvoir aux États</a></li>
</ul>
</ul>
<p><a href="#conclu">Conclusion</a>
</div>
<p><img decoding="async" alt="Schéma de l'origine de la surveillance et de la censure sur les réseaux sociaux et solutions apportées par l'interopérabilité" src="media/eb3c95fb.schC3A9mars.png" data-original-source="https://cdn.lqdn.fr/sch%C3%A9mars.png"></p>
<h2 id="partA">Le caractère commercial à l&rsquo;origine de la nécessité de centralisation</h2>
<h3 id="partA1">Dissection d&rsquo;un GAFAM, analyse technique de la logique de centralisation</h3>
<p>Pour mieux comprendre comment les réseaux sociaux commerciaux concentrent autant de pouvoir, commençons par analyser ce qui les compose. Nous prendrons ici l&rsquo;exemple de Facebook, mais il en est de même pour Youtube, Tiktok et les autres&nbsp;: </p>
<p><img decoding="async" alt="Schéma d'un réseaux social centralisé" src="media/bb6838cc.centralisation.png" data-original-source="https://cdn.lqdn.fr/centralisation.png"> </p>
<p>Lorsque l&rsquo;on parle de Facebook, on parle en réalité de plusieurs choses différentes. Premièrement, pendant longtemps, Facebook était le nom de l&rsquo;entreprise qui commercialise le réseau social (depuis 2021, cette entreprise s&rsquo;appelle Meta). Deuxièmement, c&rsquo;est le nom du <strong>logiciel</strong> de réseau social. Ce logiciel détermine les règles applicables au service&nbsp;: il prévoit non seulement les fonctionnalités (l&rsquo;échange de contenus privés, publics, d&rsquo;images, etc.), mais aussi les conditions à respecter pour en bénéficier. Ce logiciel de réseau social détermine ainsi les restrictions, comme le fait d&#8217;empêcher de pouvoir communiquer avec d&rsquo;autres logiciels que ceux de l&rsquo;entreprise, <i>via</i> l&rsquo;obligation d&rsquo;utiliser des protocoles propriétaires. Ce logiciel est hébergé uniquement sur les <strong>serveurs</strong> de l&rsquo;entreprise, ce qui garantit à cette dernière d&rsquo;être la seule à pouvoir administrer le réseau social (c&rsquo;est aussi ce qui lui confère une responsabilité juridique particulière). Troisièmement, Facebook est aussi le nom des interfaces qui permettent d&rsquo;accéder au réseau social, que l&rsquo;on appelle «&nbsp;clients&nbsp;». Il s&rsquo;agit à la fois de l&rsquo;interface web accessible depuis un navigateur que des applications mobiles que l&rsquo;internaute installe sur son smartphone.</p>
<p>Les stratégies de protocoles fermés sont appliquées à tous les étages techniques, ce qui confère au réseau social cette nature centralisée&nbsp;:</p>
<ul>
<li>il n&rsquo;est pas possible d&rsquo;héberger les contenus que l&rsquo;on poste sur le réseau social ailleurs que sur les serveurs de l&rsquo;entreprise&nbsp;;</li>
<li>le logiciel est construit de manière à ce qu&rsquo;il ne soit pas possible d&rsquo;accéder directement à des contenus publiés sur un autre réseau social&nbsp;;</li>
<li>la connexion au logiciel de réseau social ne peut se faire que via des clients développés et proposés par le réseau social, il est impossible d&rsquo;utiliser des clients alternatifs (ou alors de manière très difficile en raison du manque de documentation des API pour les développeurs·euses tiers·ces ou de leurs restrictions d&rsquo;usages).</li>
</ul>
<p>Le principe d&rsquo;interopérabilité veut précisément briser  <strong>ces stratégies de centralisation technique qui sont à l&rsquo;origine de la concentration du pouvoir des réseaux sociaux sur leurs utilisateur·rices</strong>. L&rsquo;interopérabilité rendrait au contraire toutes ces choses possibles&nbsp;: héberger ses contenus où l&rsquo;on veut, employer le logiciel de réseau social que l&rsquo;on veut pour communiquer avec qui on veut, ou encore utiliser un client de son choix.</p>
<h3 id="partA2">Centraliser et enfermer pour mieux surveiller</h3>
<p>Le fonctionnement en silo des réseaux sociaux commerciaux maintient leurs utilisateur·rices captif·ves et leur permet d&rsquo;imposer leurs conditions. Leur modèle économique étant basé sur la publicité ciblée, <strong>ils traitent un très grand nombre d&rsquo;informations</strong>. Premièrement, les réseaux sociaux collectent les données fournies directement par l&rsquo;utilisateur·rice. Cela varie d&rsquo;un réseau social à un autre (en fonction de la politique propre à chaque service), mais on retrouve souvent l&rsquo;âge, le nom, la nationalité, les centres d&rsquo;intérêts, etc. Deuxièmement, les réseaux sociaux déduisent des informations à partir de l&rsquo;usage fait par l&rsquo;internaute. Ils peuvent recréer le graphe social (c&rsquo;est-à-dire avec qui l&rsquo;internaute interagit et à quelle fréquence), mais ils peuvent également traiter les métadonnées, c&rsquo;est-à-dire ce qui entoure une communication&nbsp;: heure, fréquence et lieu de connexion, type de matériels et de logiciels utilisés, temps passé sur un contenu, etc.</p>
<p><strong>Le but de cette collecte d&rsquo;information est de dresser des profils types d&rsquo;utilisateur·rices afin de leur adresser la publicité la plus ciblée possible – donc la plus «&nbsp;efficace&nbsp;» possible commercialement parlant</strong>. Par exemple, si vous êtes abonné·e à une page ou un compte d&rsquo;un bar LGBT et que vous «&nbsp;likez&nbsp;» des posts de la Marche des Fiertés, le réseau social pourra commencer à déduire votre orientation sexuelle. Les réseaux sociaux commerciaux investissent beaucoup d&rsquo;énergie, de recherche et développement dans ce domaine car c&rsquo;est ce qui leur permet de satisfaire leurs vrais clients et sources de revenus&nbsp;: les annonceurs.</p>
<p>En théorie, <strong>en Europe, le règlement général sur la protection des données (RGPD) interdit de récupérer ces données sans le consentement libre de l&rsquo;utilisateur·rice</strong>. En vertu ce de texte, un consentement est «&nbsp;libre&nbsp;» s&rsquo;il est donné sans la menace d&rsquo;être exposé·e à des «&nbsp;conséquences&nbsp;» négatives, comme de ne pas pouvoir accéder au service ou devoir payer pour y accéder. Ce règlement n&rsquo;est pas respecté par la plupart des réseaux sociaux commerciaux. La grande majorité des utilisateur·rices, s&rsquo;iels avaient le choix, refuseraient de donner les informations sur lesquelles reposent l&rsquo;économie entière des entreprises concernées. C&rsquo;est sur cette base qu&rsquo;en 2018 La Quadrature du Net a déposé, avec 12 000 utilisateur·rices, des plaintes collectives contre les réseaux sociaux commerciaux Facebook et Linkedin. La procédure est encore en cours devant la CNIL irlandaise.</p>
<p><strong>Le RGPD et la nécessité du consentement individuel ne sont donc pas suffisant·es en pratique pour lutter contre la surveillance commerciale</strong>. Ce règlement est très peu appliqué et ne propose qu&rsquo;une solution individuelle, qui place l&rsquo;utlisateur·rice devant un choix sans liberté&nbsp;: consentir à la publicité ou renoncer à utiliser le réseau social (donc se couper de ses contacts). Nous pensons, à l&rsquo;inverse, que les réseaux sociaux et leur politique de modération et de fonctionnement doivent être gérés collectivement par les utilisateur·rices iels-mêmes. Autrement dit, il ne sert à rien d&rsquo;essayer de réparer les réseaux sociaux commerciaux, il est préférable de s&rsquo;organiser directement pour reprendre le pouvoir des communautés.</p>
<p>Si les réseaux sociaux étaient interopérables, les internautes pourraient déménager vers des réseaux sociaux non commerciaux, qui n&rsquo;imposent pas de surveillance à leurs utilisateur·rices, sans pour autant perdre le contact avec leurs proches qui ont toujours un compte sur un réseau social commercial.</p>
<h2 id="partB">Modération, censure, espaces d&rsquo;expression</h2>
<h3 id="partB1">Centralisation&nbsp;: régime de modération unique</h3>
<p>Il existe de nombreux régimes de modération qui répondent à des besoins différents. Tout le monde est confronté au quotidien, en dehors des réseaux sociaux, à une multitude de régimes. Par exemple, en présence d&rsquo;enfants, il est souvent d&rsquo;usage de surveiller son langage et de ne pas employer de vocabulaire grossier. En fonction du contexte professionnel ou amical dans lequel on se trouve, on adaptera son registre de mots. <strong>Cela ne représenterait donc aucun intérêt de vouloir unifier ces régimes d&rsquo;expression</strong> et impliquerait même, au contraire, une perte de diversité culturelle et un blocage des perspectives d&rsquo;évolution de la langue. La langue est interopérable dans le sens où elle fournit à la fois un certain nombre de standards permettant aux gens d&rsquo;être compris entre eux sans empêcher pour autant que puissent exister des règles plus spécifiques dans certains groupes. Il peut s&rsquo;agir de règles tacites ou de règles verbalisées par le groupe. Cette diversité de régimes d&rsquo;expression coexiste sans que l&rsquo;un d&rsquo;entre eux soit intrinsèquement meilleur.</p>
<p>Nous avons expliqué plus haut comment le fonctionnement en silo des réseaux sociaux commerciaux leur permet de concentrer tous les pouvoirs et d&rsquo;imposer unilatéralement un certain nombre de règles à l&rsquo;ensemble de leurs utilisateur·rices. <strong>En pratique, cela revient à déposséder en partie les espaces de discussion de leur pouvoir de choisir un régime d&rsquo;expression donné</strong>. Cette dépossession n&rsquo;est, certes, pas entière, car un certain nombre de régimes d&rsquo;expressions sont compatibles avec les règles fixées par le réseau social. En revanche, dès qu&rsquo;il s&rsquo;agit de vouloir publier un contenu interdit par le réseau social, même lorsque ce contenu n&rsquo;est pas illégal, les utilisateur·rices se retrouvent bloqué·es dans leur expression, ou censuré·es.</p>
<p>Les questions de pouvoir d&rsquo;expression ne sont pas spécifiques à l&rsquo;usage des outils numériques mais générales à l&rsquo;ensemble de la société. La liberté d&rsquo;expression, la liberté d&rsquo;opinion, la liberté de recevoir ou de communiquer des informations, la liberté de la presse ainsi que les limites de ces droits que sont la diffamation, l&rsquo;injure ou le dénigrement entendent encadrer nos échanges. Ces droits et leurs limites sont souvent invoqués pour formuler deux critiques à l&rsquo;égard de ces réseaux. La première provient d&rsquo;utilisateur·rices frustré·es d&rsquo;avoir vu des contenus légaux modérés, iels sont attaché·es à voir leur liberté d&rsquo;expression assurée et voudraient que les réseaux sociaux commerciaux n&rsquo;aient pas le droit de supprimer des contenus qui ne soient pas illégaux. La seconde provient d&rsquo;utilisateur·rices sont confronté·es à des contenus qui les offensent et aimeraient ne plus l&rsquo;être, même si ces contenus ne sont pas manifestement illégaux.</p>
<p><strong>Ces deux critiques quant à l&rsquo;excès ou au manque de censure de la part des réseaux sociaux sont caractéristiques du problème central&nbsp;: celui d&rsquo;un régime de modération unique imposé par les plateformes.</strong></p>
<p>Le choix d&rsquo;une organisation centralisée, qui impose les même règles à une grande quantité de groupes et de personnes différentes, est assez absurde et insatisfaisant pour les utilisateur·rices des réseaux sociaux. Mais la centralisation engendre d&rsquo;autres problèmes, que nous évoquons par la suite, davantage dus à la concentration des pouvoirs.</p>
<h3 id="partB2">Censure passive due au modèle économique</h3>
<h4 id="partB2a">La place privilégiée des contenus publicitaires</h4>
<p>Les réseaux sociaux commerciaux ont cette particularité de ne pas seulement héberger le contenu de leurs utilisateur·rices, mais également celui de leurs clients&nbsp;: les annonceurs. <strong>Honneur aux payeurs, l&rsquo;ensemble du réseau social est façonné dans un seul but&nbsp;: maximiser l&rsquo;exposition au contenu publicitaire et renforcer son efficacité</strong>, c&rsquo;est-à-dire conduire les utilisateur·rices à cliquer sur la publicité. Les données personnelles recueillies servent donc à dresser des profils d&rsquo;utilisateur·rices pour leur adresser la publicité à laquelle iels seraient le plus sensibles, mais tout le reste du réseau social sert également cet objectif. Les algorithmes ont donc pour but de donner plus ou moins d&rsquo;importance à tel ou tel contenu afin de le sur-visibiliser ou le sous-visibiliser, dans l&rsquo;optique de pousser l&rsquo;utilisateur·rice à rester le plus longtemps sur le réseau, et à être la ou le plus receptif·ve possible à la publicité.</p>
<h4 id="partB2b">Économie de l&rsquo;attention, viralité boostée et censure par enterrement</h4>
<p>L&rsquo;ensemble de ces stratégies visant à pousser l&rsquo;utilisateur·rice à rester longtemps sur la plateforme est couramment appelé «&nbsp;économie de l&rsquo;attention&nbsp;». En pratique, <strong>les algorithmes d&rsquo;organisation des contenus repèrent ceux qui font polémique</strong> et qui provoquent un engagement spontané de la part des utilisateur·rices, <strong>afin de leur donner une place privilégiée</strong> en les faisant apparaître plus haut dans le flux de l&rsquo;internaute ou dans les résultats de recherche, voire en envoyant une notification à l&rsquo;utilisateur·rice. L&rsquo;espace d&rsquo;expression étant limité, cette mise en avant de certains contenus conduit également à sous-visibiliser les autres&nbsp;: les contenus plus complexes, plus étayés, nécessitant plus d’investissement de la part du public et n&rsquo;obéissant pas aux critères de création de contenus valorisés par les réseaux sociaux commerciaux sont moins souvent mis en avant et proposés à la lecture. Ils subissent alors une censure invisible, dite <strong>«&nbsp;censure par enterrement&nbsp;»</strong>.</p>
<p>Ces mécanismes <strong>renforcent l&rsquo;addiction au réseau social</strong> et sont <strong>à l&rsquo;origine de la viralité mondiale</strong> de certains contenus. Ils sont également à l&rsquo;origine de la grande propagation de contenus problématiques. Les contenus qui entraînent beaucoup d&rsquo;engagement de la part des internautes sont souvent des contenus clivants et choquants. C&rsquo;est le cas des <strong>contenus racistes, du harcèlement, des fausses informations, des images d&rsquo;actes de violence</strong>.</p>
<p>Ces contenus suscitent de l&rsquo;engagement de toute part&nbsp;: celleux qui les soutiennent les partagent en masse, et celleux qui s&rsquo;y opposent sont offusqué·es et les partagent en masse pour les dénoncer. En 2019, la tuerie de l&rsquo;église de Christchurch en Nouvelle-Zélande a été filmée et diffusée en direct par son auteur sur Facebook. Elle a été massivement partagée par des personnes d&rsquo;extrême droite. Facebook n&rsquo;a pas bloqué ces images et, pire, leur a donné une viralité supplémentaire car, étant choquantes, elles ont suscité beaucoup d&rsquo;engagement.</p>
<p>Malheureusement, quand il s&rsquo;agit de lutter contre les effets délétères des stratégies commerciales des réseaux sociaux, le réflexe des États n&rsquo;est jamais de remonter aux causes du problème. La solution proposée est toujours d&rsquo;en passer par une loi de censure, imposant aux réseaux sociaux de supprimer tel ou tel type de contenus, validant ainsi la giga-structure centralisée des réseaux sociaux commerciaux, pourtant à la base du problème. </p>
<h3 id="partB3">Censure active</h3>
<p>Les réseaux sociaux commerciaux ayant un grand pouvoir sur leurs utilisateur·rices, il est intéressant de voir et de critiquer les décisions prises par les entreprises qui les possèdent. On peut penser par exemple à la volonté de Mark Zuckerberg de mener une politique «  antisuicide&nbsp;» sur son réseau social (Facebook) reposant sur l&rsquo;analyse automatisée des contenus et non un accompagnement humain, ou encore aux transformations qu&rsquo;a subies Twitter après son rachat par Elon Musk en novembre 2022. On voit alors comment la volonté d&rsquo;un seul homme ou d&rsquo;une seule entreprise peut avoir des conséquences sur des millions de personnes. Mais il est plus intéressant encore de voir que la majorité des décisions qui sont prises viennent surtout d&rsquo;autres forces extérieures à l&rsquo;entreprise, et auxquelles les réseaux sociaux commerciaux doivent se plier pour conserver leur place hégémonique.</p>
<h4 id="partB3a">Le pouvoir des annonceurs</h4>
<p>Le modèle économique basé sur la publicité motive les réseaux sociaux commerciaux à se modeler en fonction de celle-ci. Nous avons qualifié cette dynamique de «&nbsp;censure passive&nbsp;» car la censure n&rsquo;en est qu&rsquo;un effet secondaire. Mais il existe aussi une demande active de censure de la part des annonceurs, en particulier pour que leur publicité ne soit pas affichée à côté de certaines catégories de contenus. Récemment avec Twitter, des annonceurs se sont retirés en raison de la recrudescence de contenus d&rsquo;extrême-droite. Cette pression possible des annonceurs sur les plateformes explique aussi pourquoi on retrouve souvent des règles de censure proscrivant la nudité. Cette influence n&rsquo;est pas spécifique aux réseaux sociaux&nbsp;: partout où il y a un financement publicitaire, les annonceurs ont le pouvoir de retirer leur publicité (et donc leur financement) si leurs exigences en matière de censure ne sont pas respectées (la presse papier, également, est souvent tributaire du pouvoir de ses annonceurs).</p>
<h4 id="partB3b">Le pouvoir des États</h4>
<p>Le pouvoir centralisé des réseaux sociaux commerciaux représente aussi une opportunité de pouvoir pour les États. Nous l&rsquo;avons particulièrement vu durant ces cinq dernières années. Les volontés de censure des États viennent du constat d&rsquo;un changement dans les dynamiques d&rsquo;expression en ligne dont nous avons expliqué les causes (le caractère commercial des réseaux sociaux et leur caractère centralisé). Pour autant, le biais d&rsquo;administration centralisée de l&rsquo;État ou le manque de temps nécessaire à cette compréhension n&rsquo;ont pas conduit les représentant·es politiques à vouloir remonter à la racine des problèmes. À chaque «&nbsp;problème&nbsp;» identifié — haine et harcèlement, contenus violents, fausses informations, etc — l&rsquo;urgence les a toujours conduit à valider le pouvoir de l&rsquo;instance centralisée des réseaux sociaux commerciaux en leur imposant de durcir leur modération, souvent dans des délais courts qui ne peuvent être respectés que par l&rsquo;usage d&rsquo;algorithmes de filtrage des contenus.</p>
<h4 id="partB3c">Le pouvoir de l&rsquo;industrie culturelle</h4>
<p>La création de contenus sur les réseaux sociaux est très prolifique et a apporté un renouveau dans les moyens d&rsquo;expression et la production de contenus créatifs. Le vieux modèle de production d&rsquo;œuvres culturelles, façonné lui aussi pour obéir à des impératifs économiques au détriment de l&rsquo;écosystème créatif et des populations nécessitant un accès à la culture, n&rsquo;a pas disparu pour autant. Sous la pression de l&rsquo;industrie culturelle, les réseaux sociaux commerciaux — c&rsquo;est particulièrement le cas de Youtube — ont mis en place des algorithmes pour <a href=" https://www.20minutes.fr/web/1911647-20160823-content-id-robot-enerve-youtubeurs">censurer </a> certains contenus qui ne respecteraient pas le droit d&rsquo;auteur. L&rsquo;industrie culturelle a par la suite, <a href="https://www.laquadrature.net/2018/09/12/droit_auteur_12_sept/">avec l&rsquo;aide du législateur</a>, réussi à imposer cette idée qu&rsquo;il faudrait surveiller l&rsquo;ensemble des contenus en ligne afin de repérer les œuvres «&nbsp;illégalement&nbsp;» partagées. Le fonctionnement de l&rsquo;outil Content ID de Youtube, qui consiste à comparer les condensas (<i>hash</i>) de musiques et vidéos à une base de données de contenus protégés et, en cas de similitude, à bloquer le contenu a donc depuis été mis en place sur tous les grands réseaux sociaux commerciaux.</p>
<h3 id="partB4">Centralisation et censure par algorithme</h3>
<p>La très grande quantité de contenus que les réseaux sociaux commerciaux hébergent demande un lourd travail de modération. La motivation économique étant la raison première de leur existence, ils ont rapidement cherché à «&nbsp;rationaliser&nbsp;» la  modération, à l&rsquo;aide de la sous-traitance de ce travail à des «&nbsp;fermes de modérateurs&nbsp;» et à l&rsquo;usage d&rsquo;algorithmes de filtrage.</p>
<p>Les «&nbsp;fermes de modérateurs&nbsp;» sont des entreprises, souvent implantées dans des pays où les salaires sont très bas. Les conditions de travail y sont généralement très dures et les salarié·es sont exposé·es à une quantité phénoménale de contenus violents (aux conséquences psychiques lourdes sur les personnes) sortis de leur contexte (le contexte culturel variant d&rsquo;un pays à l&rsquo;autre, le contexte d&rsquo;une publication serait de toute manière très difficile à appréhender). Leur travail sert à modérer les contenus des réseaux sociaux commerciaux et à entraîner des algorithmes dans le but d&rsquo;automatiser la modération<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22424_2('footnote_plugin_reference_22424_2_1');" onkeypress="footnote_moveToReference_22424_2('footnote_plugin_reference_22424_2_1');" ><sup id="footnote_plugin_tooltip_22424_2_1" class="footnote_plugin_tooltip_text">1</sup></a><span id="footnote_plugin_tooltip_text_22424_2_1" class="footnote_tooltip">Lire les travaux du sociologue Antonio Casilli sur les «&nbsp;travailleurs du clic&nbsp;» et la déconstruction du fantasme selon lequel l&rsquo;intelligence artificielle remplacerait le travail humain. Casilli, Antonio. <a href="https://www.seuil.com/ouvrage/en-attendant-les-robots-antonio-a-casilli/9782021401882"><i>En attendant les robots &#8211; Enquête sur le travail du clic</i></a>, Seuil, 2019</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22424_2_1').tooltip({ tip: '#footnote_plugin_tooltip_text_22424_2_1', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>
<p>Pour ces raisons, la modération par algorithme n&rsquo;est pas souhaitable. Elle est en plus de cela largement fantasmée. Comme en témoigne l’exemple de la tuerie de Christchurch que nous présentions plus tôt&nbsp;: les algorithmes remplissent mal l&rsquo;objectif de censure qui leur est donné et laissent passer des contenus qu&rsquo;ils étaient censés censurer. Ces erreurs fonctionnent aussi dans l&rsquo;autre sens&nbsp;: certains contenus qui ne devraient pas être censurés par l&rsquo;algorithme le sont quand même. Diverses représentations d’œuvres d&rsquo;art se sont ainsi <a href="https://www.lefigaro.fr/culture/2016/01/05/03004-20160105ARTFIG00047-facebook-censure-la-petite-sirene-de-copenhague.php">retrouvées censurées</a>, suscitant de vives polémique.</p>
<p>Le législateur, valide, encourage et va parfois jusqu&rsquo;à imposer l&rsquo;<a href="https://www.laquadrature.net/2019/02/22/vers-lautomatisation-de-la-censure-politique/">usage des algorithmes de filtrage</a> en exigeant des délais très court aux retraits de contenus. La directive européenne sur le droit d&rsquo;auteur et le règlement européen relatif à la prévention de la diffusion de «&nbsp;contenus à caractère terroriste&nbsp;» en ligne qui imposent l&rsquo;usage de ces algorithmes semblent passer totalement à côté de la réalité de comment sont entraînés ces algorithmes et de leur soi-disant «&nbsp;efficacité&nbsp;».</p>
<p>L&rsquo;interopérabilité, et son objectif de décentralisation, permettrait de remettre en avant la modération humaine effectuée par des personnes concernées ayant un regard plus juste et contextualisé sur les contenus à modérer.</p>
<h2 id="partC">L&rsquo;obligation d’interopérabilité des réseaux sociaux comme outil de leur régulation</h2>
<p>L’interopérabilité des réseaux sociaux consiste à permettre à un·e utilisateur·rice inscrit·e sur une plateforme A de pouvoir communiquer avec celleux inscrit·es sur une plateforme B, et inversement, sans pour autant avoir besoin de compte sur cette deuxième plateforme. Un·e utilisateur·rice pourrait écrire à des personnes qui sont sur une autre plateforme et s&rsquo;abonner à leurs fils d&rsquo;actualités ou pages sans avoir besoin de compte chez les autres réseaux sociaux, donc sans accepter non plus leurs conditions générales d&rsquo;utilisation et leur surveillance.</p>
<p>L’objectif principal de La Quadrature du Net lorsqu&rsquo;elle demande au législateur de contraindre les plus gros réseaux commerciaux de devenir interopérables est de briser leurs silos afin que leurs utilisateur·rices puisse échapper à leur captivité et rejoindre d&rsquo;autres réseaux. Le fait de briser ces silos a de nombreuses conséquences possibles, dont certaines nous semblent particulièrement désirables.</p>
<h3 id="partC1">Casser les silos&nbsp;: ouvrir de nouveaux possibles</h3>
<h4 id="partC1a">Comment cela fonctionne&nbsp;? L&rsquo;exemple du fédivers</h4>
<p>Le fédivers (de l’anglais <i>fediverse</i>, mot-valise entre «&nbsp;fédération&nbsp;» et «&nbsp;univers&nbsp;») est un grand réseau social permettant d&rsquo;échanger des informations, des photos, des vidéos, de la musique, &#8230; Il est très différent des réseaux sociaux commerciaux dans sa conception, mais s&rsquo;utilise de manière similaire au quotidien. Nous prenons cet exemple car il a connu un essor ces dernières années (notamment avec le logiciel Mastodon), mais il ne s&rsquo;agit pas forcément pour autant de la meilleure solution technique&nbsp;: plusieurs voies sont en cours de développement et les choix techniques et standards choisis ont toujours des conséquences sur l&rsquo;organisation des réseaux et sur les utilisateur·rices. L&rsquo;avantage des protocoles ouverts comme ActivityPub (sur lequel se fonde le fédivers), ou encore Matrix, Solid, XMPP, Diaspora, etc., est qu&rsquo;ils rendent possibles de créer des ponts entre eux, de «&nbsp;traduire&nbsp;» un protocole vers un autre<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22424_2('footnote_plugin_reference_22424_2_2');" onkeypress="footnote_moveToReference_22424_2('footnote_plugin_reference_22424_2_2');" ><sup id="footnote_plugin_tooltip_22424_2_2" class="footnote_plugin_tooltip_text">2</sup></a><span id="footnote_plugin_tooltip_text_22424_2_2" class="footnote_tooltip">Souvent la mise en place de tel «&nbsp;bridge&nbsp;» n&rsquo;est pas aussi efficace et fonctionnel que si le protocole utilisé était le même, mais cela permet tout de même de maintenir un lien entre eux.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22424_2_2').tooltip({ tip: '#footnote_plugin_tooltip_text_22424_2_2', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>. <strong>Ces protocoles ont donc l&rsquo;intérêt de faire fonctionner plusieurs réseaux sociaux comme un seul.</strong></p>
<p>Dans le fédivers, tous les rôles que nous avons décrit <a href="#partA1">plus haut</a> sont gérés par des acteurs différents qui ont des noms différents&nbsp;: le réseau social s&rsquo;appelle «&nbsp;fédivers&nbsp;», le protocole «&nbsp;ActivityPub&nbsp;», et <i>les</i> logiciels sont très nombreux (on vous en présente quelques uns plus bas). Cela peut donner une sensation de complexité pour les utilisateur·rices, mais <strong>c&rsquo;est ce qui garantit l&rsquo;ouverture du réseau, la possibilité d&rsquo;en créer de nouvelles parties, et permet surtout la déconcentration des pouvoirs</strong>.</p>
<p>Dans le fédivers, on trouve par exemple des alternatives à Twitter&nbsp;: <a href="https://joinmastodon.org/fr">Mastodon</a> est la plus connue, mais il existe aussi <a href="https://www.gnusocial.rocks/ ">GNU social</a>, <a href="https://pleroma.social/ ">Pleroma</a>, <a href="https://join.misskey.page/ ">Misskey</a> et d&rsquo;autres. Il y a <a href="https://joinpeertube.org/fr/">Peertube</a>, une alternative à Youtube, <a href="https://joinplu.me/">Plume</a>, une alternative à Medium, <a href="https://joinmobilizon.org/fr/">Mobilizon</a> qui permet d&rsquo;organiser des événements (et remplace les événements Facebook), <a href="https://pixelfed.org/">Pixelfed</a>, qui permet de partager des images et se propose comme alternative à Instagram, <a href="https://join-lemmy.org/">Lemmy</a>, une alternative aux sites-forums d’agrégation d&rsquo;actualité comme Reddit, ou encore <a href="https://funkwhale.audio/">Funkwhale</a> qui permet d&rsquo;héberger et partager des fichiers audio et se propose en alternative à Deezer ou Spotify.</p>
<p>Notons la place importante de nos ami·es de <a href="https://framasoft.org/">Framasoft</a> dans le développement de cet écosystème de logiciels libres, notamment à travers leur travail sur Mobilizon et Peertube ainsi que le rôle des <a href="https://www.chatons.org/">CHATONS</a>, collectif d&rsquo;hébergeurs alternatifs qui hébergent et administrent de nombreuses instances de réseaux sociaux décentralisés<span class="footnote_referrer"><a role="button" tabindex="0" onclick="footnote_moveToReference_22424_2('footnote_plugin_reference_22424_2_3');" onkeypress="footnote_moveToReference_22424_2('footnote_plugin_reference_22424_2_3');" ><sup id="footnote_plugin_tooltip_22424_2_3" class="footnote_plugin_tooltip_text">3</sup></a><span id="footnote_plugin_tooltip_text_22424_2_3" class="footnote_tooltip">Cette liste de logiciels du fédivers est loin d&rsquo;être exhaustive&nbsp;: il en existe bien d&rsquo;autres, d&rsquo;autant plus si on ajoute les logiciels utilisant d&rsquo;autres protocoles interopérable qu&rsquo;ActivityPub. Ces logiciels libres sont plus ou moins proches des logiciels privateurs desquels ils sont l&rsquo;alternative et sont dans des états de développement plus moins avancés.</span></span><script type="text/javascript"> jQuery('#footnote_plugin_tooltip_22424_2_3').tooltip({ tip: '#footnote_plugin_tooltip_text_22424_2_3', tipClass: 'footnote_tooltip', effect: 'fade', predelay: 0, fadeInSpeed: 200, delay: 400, fadeOutSpeed: 200, position: 'top right', relative: true, offset: [10, 10], });</script>.</p>
<p>Le fédivers fonctionne sur le principe de fédération&nbsp;: pour faire partie du réseau, il faut créer ou rejoindre une instance. Une instance est une version installée sur un serveur d&rsquo;un logiciel qui communique avec ActivityPub. N&rsquo;importe qui peut donc créer une instance. La Quadrature du Net a par exemple une instance Mastodon, <a href="https://mamot.fr">mamot.fr</a>.</p>
<p>Voici un schéma d&rsquo;une instance Mastodon.<br />
<strong>Contrairement aux réseaux sociaux commerciaux, on peut y accéder via des clients différents&nbsp;:</strong><br />
<img decoding="async" alt="Schéma d'une instance Mastodon" src="media/3b29f70e.instance-mastodon.png" data-original-source="https://cdn.lqdn.fr/instance-mastodon.png"></p>
<p><strong>Contrairement aux réseaux sociaux commerciaux, plusieurs instances Mastodon peuvent se fédérer et permettre à leurs utilisateur·rices de communiquer entre elles tout en ayant des règles de modération différentes.</strong> Mais il y a également une nouveauté supplémentaire&nbsp;: différents logiciels, à partir du moment où ils sont basés sur ActivityPub, peuvent communiquer entre eux <strong>même si leurs usages sont différents</strong>. Ainsi, une personne avec un compte sur une instance Mastodon (dont l&rsquo;usage est du micro-blogging) peut s&rsquo;abonner à un compte PixelFed (partage d&rsquo;images) ou bien commenter des vidéos hébergées sur une instance Peertube (partage de vidéos).</p>
<p><img decoding="async" alt="Schéma de plusieurs instances du Fédivers utilisant différents logiciels" src="media/c271c6c8.interop-interservice.png" data-original-source="https://cdn.lqdn.fr/interop-interservice.png"></p>
<p>Nombreux·ses sont les utilisateur·rices qui souffrent de la démultiplication des comptes sur les messageries et les réseaux sociaux. L&rsquo;interopérabilité pourrait devenir une solution permettant à chaque utilisateur·rices d&rsquo;avoir des comptes uniquement sur les services qui l’intéressent tout en ayant la possibilité de communiquer avec quelqu&rsquo;un ayant un compte sur n&rsquo;importe quel autre service interopérable.</p>
<h4 id="partC1b">Régulation de l&rsquo;expression par la décentralisation</h4>
<p>La première étape pour transformer l’écosystème des réseaux sociaux passe donc par la possibilité pour les utilisateur·rices de se diriger vers les alternatives existantes, qui leur montreront ce que donnent des logiques de modération différentes de celles des réseaux sociaux commerciaux. Les logiciels de réseaux sociaux existants utilisant des protocoles interopérables proposent déjà des services qui permettent aux utilisateur·rices de <strong>s&rsquo;extraire de la surveillance et de l&rsquo;organisation des contenus au service de la publicité, de choisir parmi une multitude de régimes de modération différents, et même d&rsquo;en créer de nouveaux</strong>.</p>
<p>On peut d&rsquo;ores et déjà observer la différence, en termes de diffusion des contenus, qu&rsquo;apporte le caractère décentralisé des politiques de modération, <i>via</i> une comparaison entre Mastodon et Twitter. Sur Mastodon, la modération est effectuée à l&rsquo;échelle des instances (et donc de chaque serveur sur lequel est installée le logiciel Mastodon). Elle est faite par des personnes humaines, se référant aux règles de modération établies par l&rsquo;instance en question. <strong>Les contenus problématiques ne bénéficient pas d&rsquo;une viralité boostée comme sur Twitter&nbsp;; au contraire, leur viralité est même plutôt freinée par les décisions de modération de chaque instance</strong> au fur et à mesure que les contenus atteignent différentes instances en étant partagés par des utilisateur·rices. </p>
<p><img decoding="async" alt="Schéma de trois instances Mastodon ayant chacune leurs règles de modération" src="media/5cb01f78.regulatoin-moderation-multiples.png" data-original-source="https://cdn.lqdn.fr/regulatoin-moderation-multiples.png"></p>
<p>Ce système de modération est bien plus fin que la modération par algorithmes car les personnes humaines qui modèrent chaque instance ont une meilleure compréhension du contexte et se réfèrent à des règles collectives correspondant à l&rsquo;espace d&rsquo;expression dont elles sont les actrices. Par ailleurs, la décision de modérer ou non un contenu est beaucoup moins lourde de conséquences car elle n’entraîne pas pour tout le monde une interdiction d&rsquo;accès au contenu&nbsp;: seule l&rsquo;instance hébergeant le compte qui a posté le contenu peut le supprimer complètement. Une instance peut donc modérer un contenu chez elle, sans que cela n&rsquo;impacte la manière dont le contenu sera vu sur les autres instances. <strong>Il n&rsquo;y a donc pas de censure hégémonique.</strong> De cette manière, la logique décentralisée prend bien plus en compte la complexité du monde des espaces d&rsquo;expression&nbsp;: elle accepte que la validité d&rsquo;un propos ne soit pas binaire et dépende de l&rsquo;espace où il est exprimé et des règles que celui-ci s&rsquo;est données. </p>
<h4 id="partC1c">De nouveaux usages possibles grâce à l&rsquo;interopérabilité</h4>
<p>Ces initiatives sont pour la plupart en cours de développement et beaucoup de critiques peuvent leur être faites. Pour reprendre l&rsquo;exemple précédent de la comparaison entre Mastodon et Twitter, de nombreux problèmes subsistent&nbsp;: Mastodon étant très largement inspiré de Twitter, il en copie le fonctionnement en favorisant par défaut les contenus publics, en étant construit comme une grande arène uniquement constituée de comptes d&rsquo;individus, en valorisant le sentiment de récompense rattaché aux outils de mesure de la «&nbsp;performance d&rsquo;un contenu&nbsp;» (les partages et les favoris), etc. Le fonctionnement par instance maintient corrélées les décisions de modération et la question de l&rsquo;hébergement&nbsp;: les personnes ayant la capacité technique d&rsquo;héberger une instance ont plus de pouvoir que les personnes qui n&rsquo;ont pas cette capacité technique puisqu&rsquo;elles en seront la plupart du temps administratrices.</p>
<p>Les critiques et pistes d&rsquo;amélioration sont nombreuses et déjà très investies par l’écosystème de développeur·euses et d&rsquo;utilisateur·rices des réseaux sociaux décentralisés. Parmi les réflexions en cours, celles s&rsquo;intéressant aux modes de décisions collectives sont particulièrement intéressantes. Il y a un fort enjeu pour les groupes à avoir des outils en ligne qui leur permettent de s&rsquo;organiser aussi librement qu&rsquo;ils le souhaitent.</p>
<p>Ainsi, le protocole <a href="https://scuttlebutt.nz/">Scuttlebut</a> propose un fonctionnement entièrement basé sur l&rsquo;auto-hébergement et le pair-à-pair&nbsp;: les contenus sont hébergés directement par les utilisateur·rices et circulent de manière chiffrée au sein du réseau sur la logique du bouche-à-oreilles. Comme dans des discussions entre ami·es&nbsp;: on ne peut savoir ce qu&rsquo;a dit quelqu&rsquo;un que si quelqu&rsquo;un d&rsquo;autre nous le répète, le tout restant privé.</p>
<p>De même, <a href="https://bonfirenetworks.org/">Bonfire</a> est un logiciel de réseau social basé sur ActivityPub qui permet de faire du microblogging. Il permet de reproduire les usages de type «&nbsp;Twitter&nbsp;», comme les alternatives que nous avons précédemment mentionnées, mais tente aussi de proposer de nouvelles fonctionnalités comme la possibilité de faire exister des <a href="https://bonfirenetworks.org/posts/introducing_boundaries/">logiques de groupes</a> ou encore d&rsquo;avoir une <a href="https://bonfirenetworks.org/posts/bonfire_ui_social/">interface adaptable</a> à différents usages.</p>
<p>Enfin, on soulignera les travaux de l&rsquo;association Technostructures, qui formule plusieurs critiques à l&rsquo;égard du protocole ActivityPub&nbsp;: le lien indissociable entre hébergement de l&rsquo;instance et pouvoir de modération et le caractère public par défaut des contenus. C&rsquo;est sur ce constat qu&rsquo;elle développe <a href="https://technostructures.org/projects/posca/">Posca</a>, un réseau social qui n&rsquo;est pas basé sur le protocole ActivityPub mais sur le protocole Matrix (tout en proposant tout de même la fédération avec le fédivers via un pont). L’usage du protocole Matrix apporte aussi l&rsquo;avantage que les échanges sont chiffrés.</p>
<p>Un autre enjeu est celui de l&rsquo;avenir des réseaux sociaux. Les vieux réseaux sociaux commerciaux semblent depuis longtemps s&rsquo;être figés. Parce qu&rsquo;ils n&rsquo;ont plus besoin d&rsquo;attirer les utilisateur·rices avec de nouveaux usages intéressants depuis qu&rsquo;ils les ont rendus captif·ves, on n&rsquo;y voit quasiment plus rien de nouveau. Les quelques nouveautés ne servent que l&rsquo;objectif économique des entreprises, comme la mise en avant par Meta de la réalité virtuelle à travers son idée de Metaverse qui répondait à une logique de création d&rsquo;un nouveau marché (sur lequel Meta aurait eu un monopole grâce à son fonctionnement en silo) et s&rsquo;est écroulée car ne répondant à aucun usage des utilisateur·rices. Il y a pourtant de nombreuses pistes à explorer pour proposer des usages réellement utiles aux groupes et aux personnes qui cherchent le bon moyen de communiquer. Promouvoir l&rsquo;interopérabilité, c&rsquo;est aussi rouvrir la question des usages médiatiques du Web et de leur devenir.</p>
<h3 id="partC2">Forcer l&rsquo;interopérabilité&nbsp;: stratégies politiques et juridiques</h3>
<p>Il ne faut bien évidemment pas compter sur les réseaux sociaux commerciaux pour être interopérables de leur plein gré. La Quadrature du Net demande donc, depuis 2019, que soit instaurée dans le droit une obligation d&rsquo;interopérabilité des grands réseaux sociaux.</p>
<h4 id="partC2a">Le refus du législateur jusqu&rsquo;à présent d&rsquo;instaurer une obligation d&rsquo;interopérabilité</h4>
<p>En France, la députée Laetitia Avia (LREM) a fait voté en 2020 une proposition de loi qui, sous couvert de lutte contre la haine en ligne, instaurait un gigantesque dispositif de censure obligatoire et arbitraire. Lors des débats parlementaires, La Quadrature a rappelé qu&rsquo;il existe une autre manière de réguler les plateformes et de lutter contre la haine en ligne, sans passer par la censure, grâce à l&rsquo;obligation d&rsquo;interopérabilité afin de permettre aux internautes de quitter une plateforme toxique. Ainsi, en 2019, plus soixante-dix organisations, aux côtés de La Quadrature, <a href="https://www.laquadrature.net/2019/05/21/pour-linteroperabilite-des-geants-du-web-lettre-commune-de-45-organisations/">demandaient</a> au législateur d&rsquo;obliger les grands réseaux sociaux commerciaux à être interopérables. Le choix du législateur a été d&rsquo;ignorer cet appel, de rester dans une vision de régulation par la censure, et cette loi est aujourd&rsquo;hui tombée dans les oubliettes de la République depuis que le Conseil constitutionnel l&rsquo;a quasiment intégralement <a href="https://www.laquadrature.net/2020/06/18/loi-haine-le-conseil-constitutionnel-refuse-la-censure-sans-juge/">déclarée contraire à la Constitution</a>.</p>
<p>Lorsque l&rsquo;Union européenne a voulu réformer son cadre juridique sur le numérique avec le <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32022R2065&#038;from=FR"><i>Digital Services Act</i></a> (règlement sur les services numériques, ou DSA) et le <a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32022R1925&#038;qid=1676556838459&#038;from=FR"><i>Digital Markets Act</i></a> (règlement sur les marchés numériques, ou DMA), de nombreuses associations de défense des libertés, dont <a href="https://www.laquadrature.net/2020/09/08/lunion-europeenne-doit-imposer-linteroperabilite-aux-geants-du-web/">La Quadrature</a>, <a href="https://edri.org/our-work/interoperability-way-to-escape-toxic-online-environments/">EDRi</a>, <a href="https://www.article19.org/resources/open-letter-eu-commissioners-interoperability/">ARTICLE 19</a>, ou encore l&rsquo;<a href="https://www.eff.org/deeplinks/2020/06/our-eu-policy-principles-interoperability">Electronic Frontier Foundation</a> ont demandé à ce qu&rsquo;une obligation d&rsquo;interopérabilité des réseaux sociaux soit inscrite dans ces textes législatifs&nbsp;: l&rsquo;Union européenne avait enfin l&rsquo;occasion d&rsquo;innover dans sa manière de réguler les géants du net. Le Parlement européen a été réceptif à cet appel&nbsp;: la version du DMA <a href="https://www.europarl.europa.eu/doceo/document/TA-9-2021-0499_FR.html">votée</a> par le Parlement européen comportait une obligation d&rsquo;interopérabilité des grands réseaux sociaux. Mais c&rsquo;était sans compter sur les efforts de la France et de Cédric O, alors secrétaire d&rsquo;État au numérique. Lors des négociations sur le DMA, la France, alors présidente du Conseil (l&rsquo;autre organe législatif de l&rsquo;UE à côté du Parlement européen), a obtenu, à la toute fin des négociations, le retrait de cette obligation d&rsquo;interopérabilité.</p>
<p>Enfin, récemment, le gouvernement français a présenté en mai 2023 un projet de loi visant à sécuriser et réguler l’espace numérique (aussi appelé «&nbsp;SREN&nbsp;») dont l&rsquo;objectif est, entre autres, de réguler les plateformes en ligne. Là encore, de la même manière que la loi Avia, le gouvernement a préféré la solution de la censure à celle de l&rsquo;interopérabilité des réseaux sociaux, <a href="https://www.laquadrature.net/2023/09/12/projet-de-loi-sren-le-gouvernement-sourd-a-la-realite-dinternet/#Une%20grande%20absente%C2%A0:%20l%E2%80%99obligation%20d%E2%80%99interop%C3%A9rabilit%C3%A9%20des%20r%C3%A9seaux%20sociaux">grande absente</a>. Et ici encore, alors que des <a href="https://www.assemblee-nationale.fr/dyn/16/amendements/1674/AN/559">député·es</a> de <a href="https://www.assemblee-nationale.fr/dyn/16/amendements/1674/AN/500">gauche</a> et du <a href="https://www.assemblee-nationale.fr/dyn/16/amendements/1674/AN/182">centre</a> avaient proposé d&rsquo;instaurer une forme d&rsquo;obligation d&rsquo;interopérabilité, le gouvernement s&rsquo;y opposa. La raison de son refus&nbsp;? Nous ne la connaîtrons pas&nbsp;: le ministre du numérique Jean-Noël Barraut n&rsquo;a pas pris la parole pour s&rsquo;expliquer, se contentant d&rsquo;un lapidaire «&nbsp;<a href="https://www.assemblee-nationale.fr/dyn/16/comptes-rendus/seance/session-ordinaire-de-2023-2024/deuxieme-seance-du-vendredi-13-octobre-2023#3255877"><i>Défavorable</i></a>&nbsp;», et la majorité présidentielle suivit sagement l&rsquo;avis négatif du ministre pour rejeter les amendements proposés.</p>
<h4 id="partC2b">Un rapport de force entre grandes plateformes et États d&rsquo;une part, et société civile d&rsquo;autre part</h4>
<p>Alors que l&rsquo;obligation d&rsquo;interopérabilité des réseaux sociaux aurait pu devenir une réalité si la France et Cédric O n&rsquo;avaient pas autant bataillé contre, les déclarations de ce dernier éclairent assez bien le rapport de force qui se joue aujourd&rsquo;hui.</p>
<p>Dès 2019 en effet, Cédric O se montrait très <a href="https://next.ink/6820/107951-imposer-linteroperabilite-aux-plateformes-les-doutes-et-prudence-cedric-o/">réticent</a> à l&rsquo;idée d&rsquo;obliger les grands réseaux sociaux à être interopérables. Devant la commissions des lois de l&rsquo;Assemblée nationale, il regrettait le caractère «&nbsp;<i>excessivement agressif pour le modèle économique des grandes plateformes</i>&nbsp;» d&rsquo;une obligation d&rsquo;interopérabilité. Autrement dit, le secrétaire d&rsquo;État a préféré sacrifier les libertés publiques et la possibilité d&rsquo;explorer de nouvelles manières de s&rsquo;exprimer en ligne sur l&rsquo;autel des intérêts économiques des grandes plateformes.</p>
<p>Il y a donc un véritable rapport de force aujourd&rsquo;hui autour de la question de l&rsquo;obligation d&rsquo;interopérabilité des réseaux sociaux, où grandes plateformes et États travaillent de concert. Meta, notamment, n&rsquo;a pas hésité à critiquer l&rsquo;interopérabilité pour ses risques – exagérés, nous revenons dessus plus bas – en termes de vie privée. Or, <a href="https://www.weezevent.com/table-ronde-sur-l-interoperabilite-des-reseaux-sociaux">en juillet 2020</a>, Facebook et Snapchat réussissaient à s&rsquo;afficher aux côtés du Conseil national du numérique (CNNum) à l&rsquo;occasion d&rsquo;une table-ronde sur l&rsquo;interopérabilité des réseaux sociaux et de la publication d&rsquo;un rapport de l&rsquo;institution très critique sur l&rsquo;interopérabilité.</p>
<h4 id="partC2c">L&rsquo;urgence à obliger les réseaux sociaux commerciaux à être interopérables</h4>
<p>Il est particulièrement important d&rsquo;agir et de faire en sorte que cette obligation d&rsquo;interopérabilité des réseaux sociaux arrive vite, parce que de leur côté, les grands réseaux sociaux n&rsquo;attendent pas. Reconnaissons un point à Cédric O lorsqu&rsquo;il s&rsquo;opposait pendant les débats sur la loi Avia à une telle obligation&nbsp;: elle remettra drastiquement en cause le modèle économique actuel des grands réseaux sociaux qui n&rsquo;est possible, nous l&rsquo;expliquions plus haut, que grâce à leur position hégémonique. Ces derniers n&rsquo;investiront le champ de l&rsquo;interopérabilité que s&rsquo;ils y ont quelque chose à gagner.</p>
<p>Or, c&rsquo;est précisément ce que voudrait faire Meta&nbsp;: lancer un réseau social interopérable sans attendre d&rsquo;y être contraint par le législateur. L&rsquo;entreprise a en effet annoncé à l&rsquo;été 2023 que son nouveau réseau de microblogging, Threads, serait interopérable avec le reste du fédivers grâce au support du protocole ActivityPub. Bonne nouvelle&nbsp;? Non, comme nous l&rsquo;<a href="https://www.laquadrature.net/2023/08/09/larrivee-de-meta-sur-le-fedivers-est-elle-une-bonne-nouvelle/">expliquions</a> à l&rsquo;époque. Meta profite de l&rsquo;absence d&rsquo;obligation d&rsquo;être interopérable, donc de <strong>l&rsquo;absence de régulation de ce domaine</strong>, pour devenir le plus gros acteur et ainsi, pouvoir peser sur les choix techniques du fédivers et du protocole ActivityPub.</p>
<p>En effet, aujourd&rsquo;hui, parce qu&rsquo;aucun réseau social n&rsquo;a l&rsquo;obligation d&rsquo;être interopérable, le domaine de l&rsquo;interopérabilité des réseaux sociaux n&rsquo;est pas régulé. Cela fonctionne à peu près correctement lorsque l&rsquo;écosystème des réseaux sociaux interopérables est composé de petits acteurs, qui ne cherchent pas le profit, donc qui ne voient pas le fédivers comme un marché à conquérir et qui ne cherchent pas à le canibaliser. Mais cet équilibre serait radicalement modifié avec l&rsquo;arrivée d&rsquo;une entreprise comme Meta&nbsp;: non seulement en raison de l&rsquo;objectif commercial de Meta, mais également en raison du nombre d&rsquo;utilisateur·rices qu&rsquo;elles représenterait et du pouvoir d&rsquo;influence que cela lui conférerait (les plus grosses instances Mastodon ont quelques centaines de milliers d&rsquo;utilisateur·rices quand Facebook en a plusieurs milliards).</p>
<p>C&rsquo;est pour cette raison qu&rsquo;il est nécessaire que l&rsquo;obligation d&rsquo;interopérabilité s&rsquo;accompagne d&rsquo;une régulation de ce secteur. Aujourd&rsquo;hui, même si la question de la nature de la régulation est ouverte, La Quadrature du Net estime, à défaut de meilleure solution, que celle-ci devrait prendre la forme d&rsquo;un régulateur indépendant étatique, comme c&rsquo;est le cas avec la régulation des télécoms et l&rsquo;obligation de neutralité du net. En France, ce serait l&rsquo;ARCEP, déjà chargée de réguler les télécoms. Ce régulateur aurait non seulement le pouvoir d&rsquo;imposer aux géants les protocoles à implémenter (afin qu&rsquo;un Meta ne puisse pas inventer son propre protocole fermé et ne l&rsquo;ouvrir que partiellement pour garder le contrôle sur son évolution), mais pourrait également, avec des sanctions dissuasives, punir les réseaux sociaux commerciaux qui ne se plieraient pas à cette obligation (par exemple si un réseau social voulait se refermer après avoir capté une partie de la communauté, comme ce qu&rsquo;il s&rsquo;est passé avec <a href="https://www.laquadrature.net/2023/08/09/larrivee-de-meta-sur-le-fedivers-est-elle-une-bonne-nouvelle/">Google et GTalk</a>).</p>
<h4 id="partC2d">La proposition législative de La Quadrature</h4>
<p>La Quadrature du Net a proposé à des député·es, à l&rsquo;occasion du projet de loi SREN, d&rsquo;instaurer une obligation d&rsquo;interopérabilité par voie d&rsquo;amendement. Deux amendements leur ont été proposés, qui peuvent être redéposés clé-en-main à l&rsquo;occasion d&rsquo;un futur véhicule législatif, voire être transformés en proposition de loi.</p>
<p>Le <a href="https://www.assemblee-nationale.fr/dyn/16/amendements/1674/AN/140">premier</a> amendement vise à instaurer une véritable obligation d&rsquo;interopérabilité. Il repose sur les définitions et seuils européen·nes et s&rsquo;inspire de la proposition du Parlement européen d&rsquo;instaurer une telle obligation dans le DMA. Lorsqu&rsquo;un réseau social est un «&nbsp;contrôleur d&rsquo;accès&nbsp;» (c&rsquo;est-à-dire une grande plateforme) au sens de l&rsquo;<a href="https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32022R1925#d1e1547-1-1">article 3 du DMA</a>, il devra être interopérable. Cette obligation est contrôlée par l&rsquo;ARCEP, qui voit ses pouvoirs de régulation et de sanction étendus à la question de l&rsquo;interopérabilité.</p>
<p>Le <a href="https://www.assemblee-nationale.fr/dyn/16/amendements/1674/AN/559">deuxième amendement</a> est un amendement de repli. Il n&rsquo;instaure pas d&rsquo;obligation d&rsquo;interopérabilité, mais régule les plateformes qui, comme Meta, voudraient cannibaliser le fédivers. Cet amendement de repli repose sur les mêmes définitions du DMA, mais ne prévoit d&rsquo;obligation de respecter les règles de l&rsquo;ARCEP que si le réseau social commercial appartient à un «&nbsp;contrôleur d&rsquo;accès&nbsp;» <i>et</i> est interopérable.</p>
<h3 id="partC3">Prévoir les impacts de l&rsquo;interopérabilité</h3>
<p>Nous avons évoqué de nombreuses formes que peuvent prendre les réseaux sociaux grâce à l&rsquo;interopérabilité, à travers les initiatives existantes&nbsp;: en reprenant certaines logiques des réseaux sociaux dominants dans une version décentralisée ou en proposant de nouvelles logiques de diffusion de l&rsquo;information. On ne peut pas prévoir de manière certaine les dynamiques que provoqueraient une obligation d&rsquo;interopérabilité. Toutefois, il est important d&rsquo;envisager que cette obligation (ou la menace de la création d&rsquo;une telle obligation) va provoquer des tentatives de «&nbsp;prise de marché&nbsp;» de la part du monde commercial.</p>
<h4 id="partC3a">Protocole ouvert = accès massif aux données&nbsp;?</h4>
<p>Pouvoir acceder aux informations et publications de nos proches sur les réseaux sociaux commerciaux, c&rsquo;est aussi permettre aux personnes sur les réseaux sociaux commerciaux d&rsquo;accèder aux informations et aux publications des personnes sur les réseaux sociaux non commerciaux qui ont une politique de gestions des données personnelles protectrice. Cela soulève donc la question suivante&nbsp;: <strong>l&rsquo;interopérabilité risque-t-elle de donner une opportunité technique au réseaux sociaux commerciaux de récupérer également les informations issues des autres réseaux sociaux&nbsp;?</strong> Bien sûr, cela serait parfaitement illégal, mais on ne peut pas faire confiance aux réseaux sociaux commerciaux pour respecter la loi, ils ne le font déjà pas.</p>
<p>Il est aujourd&rsquo;hui déjà possible de collecter les informations publiquement accessibles sur un réseau social, en collectant les pages web qui contiennent les informations recherchées. Il est techniquement possible de faire une copie de toutes les pages publiques d&rsquo;un réseau social pour analyser leur structure HTML et extraire le contenu (on appelle cela du <i><a href="https://fr.wikipedia.org/wiki/Web_scraping">scraping</a></i>). Mais cette manière de faire est compliquée&nbsp;: <strong>il faut passer d&rsquo;un contenu non-structuré</strong> (une page HTML) <strong>à un contenu structuré</strong> (l&rsquo;information intéressante dans cette page HTML), ce qui n&rsquo;est possible que par une analyse fine de la structure de la page HTML. Cette analyse est complexe mais les outils existent déjà&nbsp;; c&rsquo;est ce que fait par exemple l&rsquo;<a href="https://www.laquadrature.net/2019/12/30/le-conseil-constitutionnel-autorise-le-fisc-a-la-surveillance-de-masse/">administration fiscale française</a>.</p>
<p>Or, l&rsquo;intéropérabilité facilite la collecte par un acteur malveillant de données puisque le protocole servant à différentes instances pour communiquer entre elles (ActivityPub pour le fédivers) vise, précisément, à structurer les données. Mais <strong>cette facilitation technique de la collecte de données n&rsquo;est pas le propre de l&rsquo;interopérabilité</strong>&nbsp;: certains réseaux sociaux commerciaux proposent, parfois moyennant finances ou à des conditions strictes d&rsquo;utilisation, des <a href="https://fr.wikipedia.org/wiki/Interface_de_programmation">API</a> («&nbsp;application programming interface&nbsp;», ou «&nbsp;interface de programmation d’application&nbsp;») qui permettent de structurer les données. Pour reprendre le cas de l&rsquo;administration fiscale, celle-ci utilise ces API lorsqu&rsquo;elle en a la possibilité et ne procède à du <i>scraping</i> que dans le cas où ces API ne sont pas disponibles.</p>
<p>Il est donc vrai que l&rsquo;interopérabilité facilite le travail d&rsquo;un acteur malveillant qui voudrait collecter des données. Mais il ne crée pas de nouveau risque à proprement parler, d&rsquo;autant que ces outils de <i>scraping</i> sont largement à la portée des géants du Web.</p>
<p>Toutefois, ce débat – éminemment légitime – a pris de la place sur le fédivers lorsque <a href="https://www.laquadrature.net/2023/08/09/larrivee-de-meta-sur-le-fedivers-est-elle-une-bonne-nouvelle/">l&rsquo;entreprise Meta a annoncé la sortie de Threads</a>, à terme basé sur le protocole ActivityPub donc pouvant communiquer avec d&rsquo;autres instances du fédivers. Certain·es utilisateur·rices du fédivers ont notamment eu peur de voir leur données récupérées par Meta et de nombreuses instances ont même signé le «&nbsp;<a href="https://fedipact.online/">Fedipact</a>&nbsp;», s&rsquo;engageant à bloquer Threads. </p>
<p>En effet, une grande partie des utilisateur·rices du fédivers est particulièrement soucieuse aux questions de collecte de leur données personnelles. Nous ne pensons pas pour autant que cette crainte doive bloquer la possibilité de permettre aux personnes toujours captives des réseaux sociaux commerciaux de s&rsquo;en echapper.</p>
<h4 id="partC3b">Décentraliser les espaces de discussions, c’est enlever du pouvoir aux États</h4>
<p>Comme on l&rsquo;a expliqué plus haut, l&rsquo;interopérabilité a beaucoup d&rsquo;avantages&nbsp;: pourquoi, alors, les États persistent-ils à vouloir maintenir des espaces de discussions centralisés au sein de quelques acteurs commerciaux&nbsp;? Parce que cela répond à leur logique de recherche de pouvoir.</p>
<p>La régulation de l&rsquo;expression en ligne est parsemé d&rsquo;exemples où les États ont voulu accroître leur pouvoir. Il y a tout d&rsquo;abord la question de la censure des expressions&nbsp;: avec le <a href="https://www.laquadrature.net/censureterro/">règlement européen «&nbsp;terroriste&nbsp;»</a>, il est possible pour une police de n&rsquo;importe quel État de l&rsquo;UE d&rsquo;obliger le retrait d&rsquo;un contenu, sans passer par un juge, qu&rsquo;elle estimerait être à caractère terroriste. Avant les contenus terroristes, au début des années 2010, ce sont les contenus d&rsquo;abus sur enfant qui ont, les premiers, été le prétexte pour ouvrir la boîte de Pandore de la censure administrative.</p>
<p>Or, il est beaucoup plus facile pour un État de discuter avec quelques acteurs commerciaux qui suivent des logiques de marchés et qui seront sensibles aux menaces économiques, qu&rsquo;avec des collectifs informels, mouvants et difficilement palpables comme le fédivers en comporte. Les États ont donc intérêt à maintenir l&rsquo;hégémonie des géants, puisqu&rsquo;ils auront face à eux un petit nombre d&rsquo;acteurs clairement identifiés.</p>
<p>Cette centralisation des réseaux sociaux permet de plus facilement faire pression sur eux pour censurer, y compris en dehors de tout cadre légal. Ainsi, à l&rsquo;été 2023, lorsque des révoltes ont éclaté en France suite au meurtre par un policier d&rsquo;un adolescent, la classe politique a ignoré les causes sociales de cette colère, et a préféré ressortir le vieux bouc émissaire des <a href="https://www.laquadrature.net/2023/07/28/revoltes-et-reseaux-sociaux-le-retour-du-coupable-ideal/">réseaux sociaux</a>. Certains parlementaires et ministres, ainsi qu&rsquo;Emannuel Macron, ont suggéré d&rsquo;accentuer les obligations de censure s&rsquo;imposant aux plateformes. Or, sans attendre une évolution législative, les réseaux sociaux commerciaux se sont s&rsquo;exécuté. Ainsi, après une «&nbsp;<a href="https://www.interieur.gouv.fr/actualites/actualites-du-ministere/lutte-contre-appels-a-violence-et-a-haine-en-ligne-gerald">convocation</a>&nbsp;» par le ministère de l&rsquo;intérieur, la responsable des affaires publiques de Snapchat, Sarah Bouchahoua (<a href="https://www.contexte.com/actualite/pouvoirs/snap-recrute-en-france-une-ancienne-collaboratrice-de-laetitia-avia_133886.html">ancienne collaboratrice de Laetitia Avia</a>), n&rsquo;hésitait à <a href="https://videos.assemblee-nationale.fr/video.13721092_64ac1af9ee359?timecode=2893000">révéler</a> devant l&rsquo;Assemblée nationale que, sur demande du gouvernement, le réseau social avait procédé au retrait de certains contenus. Une censure extralégale, qui repose sur une interprétation arbitraire et <i>a maxima</i> des conditions générales d&rsquo;utilisation de la plateforme.</p>
<p>On voit bien le problème pour les États d&rsquo;une généralisation des réseaux sociaux interopérables. Le ministre de l&rsquo;intérieur ne pourra pas «&nbsp;convoquer&nbsp;» le fédivers. Ses décisions de censures, si elles sont illégitimes, seront d&rsquo;un effet beaucoup plus réduit. Si une instance se voyait bloquée arbitrairement, ses utilisateur·rices pourraient migrer ailleurs.</p>
<h3 id="conclu">Conclusion</h3>
<p>Depuis 2019, date où nous avons commencé à expliquer aux parlementaires la nécessité de prévoir dans la loi une obligation d&rsquo;interopérabilité, nos constats sur les dangers des pratiques hégémoniques des réseaux sociaux commerciaux n&rsquo;ont pas bougé. Ce qui a évolué en revanche, c&rsquo;est la volonté croissante des internautes de s&rsquo;en libérer. Nous avons ainsi vu s&rsquo;enchaîner les vagues de migration d&rsquo;utilisateur·rices vers les alternatives. L&rsquo;Internet libre aussi a bougé et foisonne de nouvelles initiatives porteuses d&rsquo;idées à même de réellement réinventer le monde des réseaux sociaux. Nous avons également vu apparaître des stratégies d&rsquo;interopérabilité adversarielle, c&rsquo;est-à-dire des stratégies pour libérer de force les contenus présents sur les réseaux sociaux commerciaux et les rendre accessibles depuis d&rsquo;autres services.</p>
<p>Malheureusement, nous avons aussi assisté à un enchaînement de lois de censure, cherchant à «&nbsp;réparer&nbsp;» les problèmes des réseaux sociaux tout en les confortant dans leur centralisation et leur hégémonie. L&rsquo;interopérabilité devient une urgence.</p>
<p>Ce n&rsquo;est pas la première fois que nos droits à communiquer et à partager des informations sont remis en question par la position hégémonique d&rsquo;intermédiaires techniques à des fins commerciales. Dans les années 2010, les fournisseurs d&rsquo;accès Internet ont cherché à tirer plus de profit de leur position en tentant de filtrer ou de ralentir l&rsquo;accès à certains sites. Pour assurer un accès à Internet sans restriction de leur part, nous avons érigé la neutralité du net en principe fondamental d&rsquo;Internet. Aujourd&rsquo;hui face à la surveillance, la censure, les régimes de modération uniques et unilatéraux nous devons tous·tes ensemble pousser le principe d&rsquo;interopérabilité et le rendre obligatoire pour les réseaux sociaux hégémoniques.</p>
<p>Nous plaçons la promotion l&rsquo;interopérabilité des réseaux sociaux dans nos principaux combats pour l&rsquo;année 2024. Ce principe est encore bien trop méconnu du grand public et une adhésion massives des populations faciliterait son insertion dans un texte de loi. Parlez donc de l&rsquo;interopérabilité autour de vous&nbsp;!</p>
<p>Et pour soutenir La Quadrature du Net, n&rsquo;hésitez pas à nous faire un don.</p>
<p><a class="btndon23" href="https://don.laquadrature.net">Faire un don</a></p>
<div class="speaker-mute footnotes_reference_container"> <div class="footnote_container_prepare"><p><span role="button" tabindex="0" class="footnote_reference_container_label pointer" onclick="footnote_expand_collapse_reference_container_22424_2();">References</span><span role="button" tabindex="0" class="footnote_reference_container_collapse_button" style="display: none;" onclick="footnote_expand_collapse_reference_container_22424_2();">[<a id="footnote_reference_container_collapse_button_22424_2">+</a>]</span></p></div> <div id="footnote_references_container_22424_2" style=""><table class="footnotes_table footnote-reference-container"><caption class="accessibility">References</caption> <tbody> 

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22424_2('footnote_plugin_tooltip_22424_2_1');"><a id="footnote_plugin_reference_22424_2_1" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>1</a></th> <td class="footnote_plugin_text">Lire les travaux du sociologue Antonio Casilli sur les «&nbsp;travailleurs du clic&nbsp;» et la déconstruction du fantasme selon lequel l&rsquo;intelligence artificielle remplacerait le travail humain. Casilli, Antonio. <a href="https://www.seuil.com/ouvrage/en-attendant-les-robots-antonio-a-casilli/9782021401882"><i>En attendant les robots &#8211; Enquête sur le travail du clic</i></a>, Seuil, 2019</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22424_2('footnote_plugin_tooltip_22424_2_2');"><a id="footnote_plugin_reference_22424_2_2" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>2</a></th> <td class="footnote_plugin_text">Souvent la mise en place de tel «&nbsp;bridge&nbsp;» n&rsquo;est pas aussi efficace et fonctionnel que si le protocole utilisé était le même, mais cela permet tout de même de maintenir un lien entre eux.</td></tr>

<tr class="footnotes_plugin_reference_row"> <th scope="row" class="footnote_plugin_index_combi pointer"  onclick="footnote_moveToAnchor_22424_2('footnote_plugin_tooltip_22424_2_3');"><a id="footnote_plugin_reference_22424_2_3" class="footnote_backlink"><span class="footnote_index_arrow">&#8593;</span>3</a></th> <td class="footnote_plugin_text">Cette liste de logiciels du fédivers est loin d&rsquo;être exhaustive&nbsp;: il en existe bien d&rsquo;autres, d&rsquo;autant plus si on ajoute les logiciels utilisant d&rsquo;autres protocoles interopérable qu&rsquo;ActivityPub. Ces logiciels libres sont plus ou moins proches des logiciels privateurs desquels ils sont l&rsquo;alternative et sont dans des états de développement plus moins avancés.</td></tr>

 </tbody> </table> </div></div><script type="text/javascript"> function footnote_expand_reference_container_22424_2() { jQuery('#footnote_references_container_22424_2').show(); jQuery('#footnote_reference_container_collapse_button_22424_2').text('−'); } function footnote_collapse_reference_container_22424_2() { jQuery('#footnote_references_container_22424_2').hide(); jQuery('#footnote_reference_container_collapse_button_22424_2').text('+'); } function footnote_expand_collapse_reference_container_22424_2() { if (jQuery('#footnote_references_container_22424_2').is(':hidden')) { footnote_expand_reference_container_22424_2(); } else { footnote_collapse_reference_container_22424_2(); } } function footnote_moveToReference_22424_2(p_str_TargetID) { footnote_expand_reference_container_22424_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } } function footnote_moveToAnchor_22424_2(p_str_TargetID) { footnote_expand_reference_container_22424_2(); var l_obj_Target = jQuery('#' + p_str_TargetID); if (l_obj_Target.length) { jQuery( 'html, body' ).delay( 0 ); jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight * 0.2 }, 380); } }</script>


feed_id: https://www.laquadrature.net/?p=22521
title: QSPTAG #300 — 8 décembre 2023
uri: QSPTAG-300-8-décembre-2023
url: https://www.laquadrature.net/2023/12/08/qsptag-300-8-decembre-2023/
content:
<h2 id="Interopérabilité&nbsp;: la voie à ouvrir pour le Web en 2024">Interopérabilité&nbsp;: la voie à ouvrir pour le Web en 2024</h2>
<p>L&rsquo;interopérabilité des services Web, on vous en parle depuis un bail&nbsp;: en mai 2019, on signait <a href="https://www.laquadrature.net/2019/05/21/pour-linteroperabilite-des-geants-du-web-lettre-commune-de-45-organisations/">une lettre commune avec 75 autres organisations européennes</a> pour que l&rsquo;idée soit inscrite dans les lois au niveau de l&rsquo;Union, en juin 2019 on expliquait comment cette ouverture des réseaux sociaux <a href="https://www.laquadrature.net/2019/06/12/interoperabilite-contre-haine/">permettrait d&rsquo;échapper à l&rsquo;algorithmisation des contenus haineux</a>, et on republiait <a href="https://www.laquadrature.net/2019/06/13/cest-quoi-linteroperabilite-et-pourquoi-est-ce-beau-et-bien/">l&rsquo;article de Stéphane Bortzmeyer</a> qui vulgarisait excellemment bien la notion technique et politique d&rsquo;interopérabilité.<br />
En septembre 2020, nous <a href="https://www.laquadrature.net/2020/09/08/lunion-europeenne-doit-imposer-linteroperabilite-aux-geants-du-web/">saisissions l&rsquo;opportunité d&rsquo;une consultation</a> en vue du Digital Service Act (DSA) pour pousser cette idée au sein de la Commission européenne.</p>
<p>Depuis lors, l&rsquo;idée a fait son chemin. Nous n&rsquo;avons cessé de l&rsquo;affiner et de la proposer, sous forme d&rsquo;élément d&rsquo;analyse du débat et d&rsquo;amendements législatifs, lors des débats parlementaires qui ont eu lieu à l&rsquo;occasion de <a href="https://www.laquadrature.net/2019/12/09/tout-le-monde-deteste-la-loi-contre-la-haine/">la loi Avia «&nbsp;contre la haine en ligne&nbsp;»</a> ou de bien d&rsquo;autres, à chaque fois en vérité que le gouvernement a préféré confier aux GAFAM et aux grands réseaux sociaux privés un pouvoir de censure et de surveillance supplémentaire, sans réfléchir aux mécanismes qui donnent à ces plateformes géantes une responsabilité démesurée dans le pourrissement du débat démocratique.</p>
<p>L&rsquo;idée est mûre et doit maintenant s&rsquo;inscrire dans la loi française et européenne. Mais c&rsquo;est quoi l&rsquo;interopérabilité&nbsp;? Un principe tout simple, qui est à la racine d&rsquo;Internet et à permis son essor incroyable&nbsp;: les services similaires utilisent les mêmes protocoles, ou les mêmes standards techniques, pour communiquer entre eux. L&rsquo;exemple classique est celui de l&rsquo;e-mail&nbsp;: sans un protocole commun, les utilisateurs de GMail ne pourraient pas écrire à ceux de Microsoft Outlook ou de ProtonMail. Or, à l&rsquo;heure actuelle, les utilisateurs de Twitter, de Facebook, d&rsquo;Instagram ou de BlueSky ne peuvent pas échanger entre eux. Chacun est captif chez soi, enfermé dans son «&nbsp;silo&nbsp;», à l&rsquo;encontre de l&rsquo;idée même du réseau ouvert et décentralisé d&rsquo;Internet.</p>
<p>Les conséquences de cet enfermement sont innombrables et toutes sont toxiques. D&rsquo;abord, ce public captif est soumis à une exploitation débridée (et illégale) de ses données personnelles, pour être ensuite gavé de publicités soi-disant «&nbsp;ciblées&nbsp;». Ensuite, chaque personne étant enfermée avec des personnes qu&rsquo;elle n&rsquo;a pas forcément envie de fréquenter, des adversaires politiques radicaux par exemple, la plateforme en tire un avantage cynique&nbsp;: les algorithmes promeuvent en priorité les messages qui suscitent le plus «&nbsp;d&rsquo;engagement&nbsp;», c&rsquo;est-à-dire d&rsquo;hostilité et de réactions outrées, afin de retenir les gens collés à l&rsquo;écran, et de leur infliger encore plus de publicité&#8230; Enfin, quand on veut quitter cet enfer de polémiques stériles, de consumérisme abyssal et de conflictualité exacerbée, on doit laisser derrière soi tous ses contacts, «&nbsp;amis&nbsp;» ou «&nbsp;followers&nbsp;», c&rsquo;est-à-dire renoncer à tout un pan de sa sociabilité, qui n&rsquo;a rien de «&nbsp;virtuel&nbsp;» ou d&rsquo;inférieur, dans son degré de réalité et d&rsquo;importance, avec la sociabilité quotidienne ordinaire.</p>
<p>Imposer à ces plateformes toxiques une obligation d&rsquo;être interopérables, c&rsquo;est mettre fin à ces trois poisons que sont la surveillance publicitaire, l&rsquo;antagonisation de la société, et la confiscation des liens amicaux. Quand on pourra s&rsquo;inscrire à un réseau social libre, Mastodon par exemple, avec la garantie de ne pas y subir de publicité, d&rsquo;y suivre des règles de modération auxquelles on adhère et auxquelles on peut même participer, et qu&rsquo;on pourra y retrouver ses contacts qui utilisent d&rsquo;autres services, alors la tyrannie de Twitter, de Facebook ou d&rsquo;Instagram aura cessé d&rsquo;exister.</p>
<p>Pour poser et expliquer très finement les mécanismes un peu expédiés ici, nous avons écrit <a href="https://www.laquadrature.net/interop/">un article exhaustif</a>, qui sera notre référence dans les mois qui viennent et pour tous nos plaidoyers en faveur de l&rsquo;interopérabilité. Une lecture solide à garder dans vos signets&nbsp;!</p>
<p><strong>Notre argumentaire complet sur l&rsquo;interopérabilité&nbsp;: <a href="https://www.laquadrature.net/interop/">https://www.laquadrature.net/interop/</a></strong></p>
<h2 id="Soutenez La Quadrature en 2024">Soutenez La Quadrature en 2024</h2>
<p>Comme bon nombre d’associations, nous avons lancé fin novembre notre campagne de soutien pour l’année qui vient. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent en 2024, principalement la lutte contre les algorithmes de contrôle social dans les administrations, la réflexion nécessaire autour du numérique dans le contexte de la crise écologique, la défense du droit au chiffrement des communications, et la promotion de l’interopérabilité des services Web.</p>
<p>Cette semaine, nos publications ont mis l’accent sur les enjeux de l&rsquo;interopérabilité, seule à même de briser le carcan des GAFAM et de nuire à l&rsquo;envahissement de la publicité. Vous pouvez retrouver l’ensemble de nos «&nbsp;fils&nbsp;» sur nos réseaux sociaux&nbsp;: comment les grandes plateformes <a href="https://mamot.fr/@LaQuadrature/111527975773468771">sont fermées grâce à leur structure technique</a>, comment la fermeture des plateformes <a href="https://mamot.fr/@LaQuadrature/111533775776510027">convient à leur nature de régies publicitaires géantes</a>, comment la centralisation dans les grands réseaux sociaux privés <a href="https://mamot.fr/@LaQuadrature/111539464205941504">favorise la censure d’État</a>, et comment on peut <a href="https://mamot.fr/@LaQuadrature/111545179935658880">imaginer les services alternatifs et interopérables</a> de demain, et même d&rsquo;aujourd&rsquo;hui.</p>
<p>Nous avons besoin de vous pour travailler en 2024&nbsp;! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide&nbsp;!</p>
<p><strong>Présentation des grands chantiers de 2024&nbsp;: <a href="">https://www.laquadrature.net/donner/</a> et <a href="https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/">https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/</a></strong><br />
<strong>Faire un don pour soutenir La Quadrature&nbsp;: <a href="https://don.laquadrature.net/">https://don.laquadrature.net/</a></strong></p>
<h2 id="La Quadrature dans les médias">La Quadrature dans les médias</h2>
<p><strong>Algo de la CAF</strong></p>
<ul>
<li><a href="https://www.causette.fr/feminismes/au-lance-flammes/lalgorithme-de-la-caf-automatise-et-amplifie-les-discriminations-selon-la-quadrature-du-net/">L&rsquo;algorithme de la CAF « automatise et amplifie les discriminations », selon La Quadrature du Net</a> [Causette]</li>
<li><a href="https://www.humanite.fr/societe/algorithmes/lalgorithme-de-la-caf-profile-et-discrimine-ses-allocataires">L’algorithme de la CAF profile et discrimine ses allocataires</a> [L&rsquo;Humanité]</li>
<li><a href="https://www.mediapart.fr/journal/france/031223/plus-est-pauvre-plus-est-controle-la-revelation-des-methodes-de-la-cnaf-interroge">Plus on est pauvre, plus on est contrôlé&nbsp;: la révélation des méthodes de la Cnaf interroge</a> [Mediapart]</li>
<li><a href="https://www.lemonde.fr/les-decodeurs/article/2023/12/04/l-opacite-des-algorithmes-favorise-les-derives-au-sein-des-etablissements-publics_6203804_4355770.html">L’opacité des algorithmes favorise les dérives au sein des établissements publics</a> [Le Monde]</li>
<li><a href="https://www.lemonde.fr/les-decodeurs/article/2023/12/05/atd-quart-monde-demande-aux-caf-d-abandonner-leur-algorithme-discriminatoire-et-pauvrophobe_6204007_4355770.html">ATD Quart Monde demande aux CAF d’abandonner leur algorithme «&nbsp;discriminatoire et pauvrophobe&nbsp;»</a> [Le Monde]</li>
<li><a href="https://www.lemonde.fr/les-decodeurs/article/2023/12/06/algorithme-des-caf-le-departement-de-seine-saint-denis-saisit-la-defenseure-des-droits_6204180_4355770.html">Algorithme des CAF&nbsp;: le département de Seine-Saint-Denis saisit la Défenseure des droits</a> [Le Monde]</li>
<li><a href="https://www.nouvelobs.com/societe/20231208.OBS81831/controles-de-la-caf-en-tant-que-mere-celibataire-j-ai-ete-ciblee-par-l-algorithme.html">Contrôles de la CAF&nbsp;: «&nbsp;En tant que mère célibataire, j’ai été ciblée par l’algorithme&nbsp;»</a> [L&rsquo;Obs]</li>
<li><a href="https://informations.handicap.fr/a-la-caf-surveille-t-elle-plus-ses-allocataires-handicapes-36003.php">La CAF surveille-t-elle plus ses allocataires handicapés&nbsp;?</a> [Handicap.fr]</li>
<li><a href="https://www.strategies.fr/actualites/culture-tech/LQ2685767C/un-projet-dia-peut-en-cacher-un-autre-moins-ethique.html">Un projet d’IA peut en cacher un autre… moins éthique</a> [Stratégies]</li>
</ul>
<p><strong>Divers</strong></p>
<ul>
<li><a href="https://www.cairn.info/revue-deliberee-2023-3-page-69.htm?tap=99r2gd6x5ierp&#038;wt.mc_id=crn-tap-a-118294">De l’Internet libre à la dérive techno-autoritaire</a> [Cairn]</li>
<li><a href="https://www.la-croix.com/france/Reconnaissance-faciale-recours-multiplient-2023-12-03-1201293189">Reconnaissance faciale, les recours se multiplient</a> [La Croix]</li>
<li><a href="https://www.mediapart.fr/journal/france/031223/comment-le-conseil-d-etat-est-devenu-l-omnipresent-arbitre-des-libertes">Comment le Conseil d’État est devenu l’omniprésent arbitre des libertés</a> [Mediapart]</li>
<li><a href="https://www.ritimo.org/Le-chiffrement-un-droit-fondamental-a-defendre">Le chiffrement, un droit fondamental à défendre</a> [Ritimo]</li>
</ul>
<h2 id="Agenda">Agenda</h2>
<ul>
<li><strong>8 décembre 2023</strong>&nbsp;: Réunion d&rsquo;information Technopolice à Rouen — à partir de 18h30, Maison des associations et la solidarité, 22 bis rue Dumont d&rsquo;Urville, Rouen.</li>
<li><strong>14 décembre 2023</strong>&nbsp;: Causerie mensuelle du groupe Technopolice Marseille — à partir de 19h, Manifesten, 59 Rue Adolphe Thiers, Marseille.</li>
<li><strong>14 décembre 2023</strong>&nbsp;: Table ronde au festival OSINT à La Gaité Lyrique &#8211; à 11h, à La Gaité Lyrique, 259 rue Saint-Martin 75003 Paris. Plus d&rsquo;informations <a href="https://www.gaite-lyrique.net/evenement/festival-osint">sur cette page</a>.</li>
<li><strong>27-30 décembre 2023</strong>&nbsp;: La Quadrature sera au <a href="https://events.ccc.de/category/37c3/">37e Chaos Communication Congress</a> à Hambourg.</li>
</ul>


