Sous couvert de lutte contre le terrorisme, les services secrets français collectent et partagent leurs informations, en l’absence de cadre juridique. La Quadrature du Net vient de saisir le Conseil d’État concernant l’existence de cet « entrepôt » ultraconfidentiel. […]

La prophétie s’est finalement réalisée mardi 25 juin. La Quadrature du Net (LQDN), une association qui défend les droits numériques et n’en est pas à son coup d’essai, a déposé un recours devant le Conseil d’État. Le motif : « les activités illégales de partage de données entre services de renseignement ». […]

https://www.01net.com/actualites/quand-le-renseignement-francais-collecte-des-informations-en-toute-illegalite-1724035.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

Sous ses atours attrayants, la 5G pose des problèmes de sécurité du réseau, de confidentialité des conversations, de neutralité d’internet et de surveillance des populations. Sans débat démocratique autour de son déploiement, ces questions demeurent sans réponse. […]

Pour la Quadrature du Net, une association de défense des droits et libertés des citoyens sur internet, il ne s’agit que de considérations commerciales. « Les opérateurs estiment que certains sites, comme Netflix ou YouTube, se font de l’argent sur leur dos en utilisant leurs infrastructures. Ils aimeraient proposer une connexion internet de base et faire payer plus cher l’accès à certains services. Dans ce cas, qui va décider des choses à prioriser ? Ce n’est pas aux fournisseurs d’accès à internet de dire qui peut s’exprimer en ligne, d’estimer le volume de données raisonnables. Vous vous rendez compte du pouvoir que cela leur donnerait ? Il y a ici un fort enjeu de liberté », explique Alexis O Cobhthaigh, avocat et membre de la Quadrature du Net […]

https://reporterre.net/Avec-la-5G-demain-tous-surveilles

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

Ce lundi 29 juillet, comme annoncé, nous avons déposé devant le Conseil d’État, avec l’association Caliopen, un recours contre la décision de la CNIL d’autoriser la « poursuite de la navigation » comme mode d’expression du consentement en matière de cookies et de traceurs en ligne jusqu’à mi-2020.

Sur le fond, nous avions déjà présenté les principaux points de contexte de ce recours dans notre article du 28 juin 2019.

Pour rappel, le 28 juin 2019, la CNIL publie un article sur son site où elle annonce l’adoption de futures lignes directrices en matière de cookies et de traceurs en ligne. Elle précise que « la CNIL laissera aux acteurs une période transitoire de 12 mois » durant laquelle « la poursuite de la navigation comme expression du consentement sera donc considérée par la CNIL comme acceptable ». Le 4 juillet, la CNIL adopte les lignes directrices annoncées. Le 18 juillet, elle publie un second article dans laquelle elle déclare que les lignes directrices seront suivies d’une nouvelle recommandation au premier trimestre 2020 (venant préciser ces lignes directrices) et qu’ « une période d’adaptation, s’achevant six mois après la publication de la future recommandation, sera laissée aux acteurs afin de leur donner le temps d’intégrer les nouvelles règles ».

C’est cette décision que nous attaquons. Non pas les nouvelles lignes directrices ou les futures recommandations, mais celle, qui nous a été confirmé directement par la CNIL, d’autoriser la « poursuite de la navigation » comme mode d’expression du consentement en matière de cookies et de traceurs en ligne jusqu’à mi-2020.

Pourquoi nous attaquons cette décision ?

Parce que, comme nous l’expliquions déjà, elle est totalement illégale. Vous pouvez lire l’avant-propos de notre recours qui reprend tous nos arguments.

Reprenons rapidement : la directive 2002/58 (dite « directive ePrivacy ») prévoit que les «  Les États membres garantissent que le stockage d’informations, ou l’obtention de l’accès à des informations déjà stockées, dans l’équipement terminal d’un abonné ou d’un utilisateur n’est permis qu’à condition que l’abonné ou l’utilisateur ait donné son accord », c’est à dire : l’utilisation de cookies n’est possible qu’avec le consentement de chaque personne concernée. Cette directive ePrivacy prévoit que ce consentement doit respecter les mêmes garanties que celles définies dans l’ancienne directive 95/46 (cette directive 95/46 a depuis été remplacée par Règlement général sur la protection de données, dit « RGPD »). Or, la directive de 95 acceptait qu’un consentement puisse être implicite. Et cela avait ainsi permis à la CNIL, dans une recommandation de 2013, de dire que, sur un site Internet, « la poursuite de sa navigation vaut accord au dépôt de cookies ».

Mais, depuis l’entrée en vigueur du RGPD, cela a totalement changé. Maintenant, le consentement doit être explicite et cette modification est d’effet immédiat sur la directive ePrivacy : la recommandation de 2013 de la CNIL est alors devenue caduque. D’ailleurs, en avril 2018, un mois avant l’entrée en vigueur du RGPD, le « groupe de l’article 29 » (G29, devenu depuis « Comité européen de protection des données », ou EDPB) a ainsi publié des lignes directrices sur le consentement dans lequel il précise que « faire défiler une page ou naviguer sur un site Internet ne satisfait pas à l’exigence d’un acte positif clair ».

Cela veut donc dire que dès l’entrée en vigueur du RGPD, c’est-à-dire mai 2018, il avait déjà clairement été énoncé que la « poursuite de la navigation » ne valait pas comme mode d’expression du consentement. La justification avancée par la CNIL d’ « exigence juridique de prévisibilité » ne tient donc aucunement : les acteurs de l’Internet ont eu plus de deux ans pour se conformer à ces nouvelles obligations. La lettre du RGPD est parfaitement claire, déjà expliquée en long, en large et en travers : la protection de nos libertés fondamentales ne peut connaître aucun nouveau sursis.

Le choix du référé-suspension

Nous avons cette fois choisi d’agir en urgence en utilisant la procédure du référé-suspension. Il s’agit, quand on demande l’annulation d’une décision administrative, de demander en plus au juge de suspendre cette décision le plus rapidement possible, avant qu’il fasse droit, ou non, à la demande d’annulation. En effet, il se passe plusieurs mois et parfois plusieurs années avant que le juge ait pu statuer sur la demande d’annulation. Le référé permet ainsi de suspendre temporairement une décision. Deux conditions pour cela : prouver l’urgence et le doute sérieux sur la légalité de la décision.

Sur l’urgence : en disant que personne ne sera sanctionné sur ce fondement jusqu’à l’année prochaine, nous avons souligné que la décision de la CNIL produisait déjà des effets préjudiciables car elle encourageait dès maintenant l’utilisation illicite de cookies et traceurs sans notre consentement explicite. Il est donc important de la suspendre au plus vite.

Quant au doute sérieux sur la légalité : nous avons expliqué, en lien avec les arguments précisés ci-dessus, que la CNIL n’avait aucun pouvoir pour prendre une telle décision qui revient, encore une fois, à encourager la surveillance des personnes en ligne sans leur consentement explicite. Une telle décision constitue une atteinte grave à notre droit à la vie privée et à la protection des données personnelles et ne peut en aucun être justifiée par le principe de prévisibilité. Elle rentre en totale contradiction avec le RGPD que la CNIL est justement censée faire respecter.

Il reste maintenant à attendre la décision du Conseil d’État. L’audience de référé se tiendra le 14 août. Il devra ensuite se prononcer rapidement (normalement dans quelques semaines) sur notre référé-suspension puis se prononcer sur notre recours au fond. Considérer la poursuite de la navigation comme une expression valable du consentement constitue un dévoiement de nos libertés extrêmement décevant de la part de la CNIL. Cette décision doit donc être urgemment suspendue, puis annulée au plus vite.

Pour l’association la Quadrature du Net, la régulation des contenus haineux par les géants du Web est vouée à l’échec.

La proposition de loi de la députée LRM Laetitia Avia, qui impose le retrait sous 24 heures des contenus haineux signalés aux réseaux sociaux, sous peine de lourdes sanctions, n’est autre qu’une « privatisation de la justice » au profit de Facebook, Google et Twitter, qui décideront ce qu’on a le droit de dire sur Internet, critique Arthur Messaud, juriste de la Quadrature du Net […]

https://www.lemonde.fr/economie/article/2019/06/22/il-ne-faut-pas-reguler-facebook-ou-google-mais-s-en-liberer_5480100_3234.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

Le sujet fleurit dans tous les espaces. Les GAFAM demandent à cors et à cris des règles de modération qu’ils pourraient appliquer, se contentant pour le moment de leurs « règles communautaires » qui ne sont au final ni des règles — dans le sens où elles ne sont appliquées que partialement — ni communautaires — car personne d’autre que les GAFAM n’a été impliqué dans leur processus de rédaction. À la dernière RightsCon à Tunis, de nombreuses discussions tournaient autour des problèmes liés à la gestion de la haine en ligne et à la modération de contenu, et autour du rôle que les plateformes devraient tenir vis-à-vis de leurs utilisatrices. Les systèmes fédératifs se jettent aussi dans la discussion : Mastodon a instauré un critère de Safe Space¹https://joinmastodon.org/covenant<script type="text/javascript"> jQuery("#footnote_plugin_tooltip_1146_1").tooltip({ tip: "#footnote_plugin_tooltip_text_1146_1", tipClass: "footnote_tooltip", effect: "fade", fadeOutSpeed: 100, predelay: 400, position: "top right", relative: true, offset: [10, 10] });, demandant à chaque instance voulant être listée sur https://joinmastodon.org de mettre en place des mesures de modération active dans le but de lutter contre les discriminations. Nous-même, au sein de La Quadrature, sommes en pleines discussions, parfois houleuses, vis-à-vis de la modération de notre instance Mamot.fr (qui n’est donc, pour l’instant, pas listée sur https://joinmastodon.org). Les gouvernements veulent, encore une fois, combattre la haine en ligne (voir par exemple, la proposition de loi de la députée Avia pour combattre la haine en ligne) et la radicalisation et cherchent à s’en remettre aux pouvoirs privés des GAFAM.

Le débat s’est centré sur la régulation de la parole en ligne. S’appuyant sur le fait qu’il faut bien faire quelque chose, et suite à l’attaque terroriste commise par un militant identitaire contre deux mosquées à Christchurch en Nouvelle-Zélande, les États et les plateformes géantes se sont alliées dans un vibrant appel de Christchurch²https://www.appeldechristchurch.com/<script type="text/javascript"> jQuery("#footnote_plugin_tooltip_1146_2").tooltip({ tip: "#footnote_plugin_tooltip_text_1146_2", tipClass: "footnote_tooltip", effect: "fade", fadeOutSpeed: 100, predelay: 400, position: "top right", relative: true, offset: [10, 10] });. Cet appel se contente de promouvoir la solution magique de la suppression de contenu en ligne, sans se poser la question de ce qui a poussé nos sociétés vers cette violence extrême. En refusant de voir les menaces posées par la coordination des groupes promouvant la culture de la haine de l’autre et de les considérer dans leur globalité, en les réduisant aux seuls espaces des médias sociaux, les États et plateformes montrent que leur intérêt n’est pas de combattre la haine, mais de réguler la pensée. Car se reposer sur les systèmes mis en place par les plateformes pour filtrer le débat, leur déléguer la tâche de déterminer ce qui est une parole haineuse c’est établir que, d’une part, les États abandonnent totalement leur rôle de protection des personnes minorisées, et que, d’autre part, ce qui est publié sur les plateformes, et qui reste en ligne, n’est pas une parole de haine.

La marginalisation des minorités

Réduire l’émergence d’une culture de la haine à un simple problème pouvant être résolu par des maths, à un problème spécifique aux médias sociaux, c’est nier l’implication des différents gouvernants et autres personnes publiques et politiques dans la propagation et la tolérance des idées de cette culture de la haine. C’est considérer qu’il ne s’agit que d’un phénomène marginal, qui peut se régler avec un filtre, faisant magiquement disparaître cette culture. Le débat sur le contrôle de la parole en ligne n’est pas, au final, celui de la lutte contre les discriminations et la haine. C’est certes une tendance inquiétante de nos sociétés, et ces cultures de la haine doivent être combattues, en ligne comme hors ligne, mais la régulation de la parole sur des plateformes monolithiques et hégémoniques ne fait que renforcer les cultures mises en avant par ces plateformes, au détriment des personnes et cultures minorisées. Que ce soit en démonétisant le contenu produit par les membres de ces communautés (comme le fait YouTube), en bannissant les personnes répondant à leurs agresseurs (comme le fait Twitter) ou par la suppression massive du contenu non-conforme (comme l’a fait Tumblr), les principales personnes victimes de cette suppression de la parole sont toujours les personnes censées être protégées par ces mesures. Ce sont les activistes, journalistes et chercheurs qui pâtissent le plus de la suppression du contenu « faisant l’apologie du terrorisme », pas les organisations terroristes.

Les termes du débat ne sont pas ceux de la modération ou de la protection des personnes victimes de violences. Ce sont ceux de l’abandon de la diversité culturelle au profit d’une méga-culture dominante et prédatrice, promue par quelques intérêts privés ; de la consécration par les plateformes du modèle culturel des identitaires, des suprémacistes et des conservateurs, reléguant quiconque refuse leur vision du monde dans les marges. Mais c’est aussi l’entretien de la confusion entre publier et promouvoir. Confusion derrière laquelle les GAFAM se cachent pour continuer leurs opérations d’éradication des cultures non-voulues et de monétisation de la haine. Il y a pourtant une différence importante qui, dans la loi Française, est la différence entre le statut d’hébergeur et celui d’éditeur. La différence est sur l’intentionnalité. Publier un contenu, c’est à dire le mettre à disposition du public, est fondamentalement différent de promouvoir ce contenu. La promotion ce n’est pas mettre à disposition du public. C’est prioriser un contenu, pour le mettre en avant et le diffuser activement au plus grand nombre de personnes possibles. Laisser les GAFAM faire croire qu’ils ne font que publier du contenu c’est leur permettre de faire pencher le débat en leur faveur, car ce n’est alors pas de leur faute si des identitaires s’en vont tuer des personnes à l’arme automatique, vu qu’elles n’ont pas promu le contenu.

La modération, en tant que pratique culturelle

Mais qu’est-ce que la modération ? Il s’agît d’un ensemble de pratiques, plus ou moins informelles, permettant à chacune de participer au développement culturel des communautés — choisies ou non — auxquelles elle appartient tout en réduisant les violences en son sein. Son but n’est pas la suppression des contenus ou des personnes, mais la réduction des violences. Elle s’inscrit dans le cadre d’une culture et est donc nécessairement liée aux contextes dans lequel elle prend place, faisant de la modération une pratique nécessairement interprétative. Ce n’est pas du « tone policing » ou de la censure. La modération reconnaît que l’on puisse être énervé, virulent ou maladroit. Au cœur de toute interaction sociale, elle reconnaît nos imperfections, nos sentiments mais aussi nos capacités de raisonnement et cherche activement à réduire les comportements violents, blessants et destructeurs. Elle nous permet de faire ensemble, de créer des communautés. Dans un contexte de destruction et de réduction culturelle au profit d’une hégémonie, il paraît impossible de parler de modération. Une pratique renforçant et soutenant les violences commises au nom d’une culture ne saurait être de la modération. Comme la modération, c’est une forme de contrôle social. Mais utilisée dans le but de détruire et blesser un ou plusieurs groupes culturels ou communautés.

Oui c’est une pratique active qui nécessite une implication forte dans les communautés concernées, et donc une compréhension de celles-ci. Et une communauté, ça se cultive, ça se travaille. Un peu comme un jardin : Il faut parfois favoriser une plante un peu faible vis à vis d’autres envahissantes, mais la plupart du temps, il suffit de laisser faire et de s’assurer que chacune dispose des ressources nécessaires à son développement. Vouloir modérer les plateformes des GAFAM, selon les termes qu’ils nous proposent, c’est faire de l’agriculture industrielle : destruction de la diversité, destruction des sols, maximisation des profits et uniformisations des semences.

Les gardiens de la morale

Les GAFAM cherchent d’ailleurs à se positionner en garants de la morale, de la bonne tenue des débats et s’octroient le droit de déterminer ce qui est autorisé à exister. Ils prétendent pouvoir accomplir la titanesque tâche de comprendre l’intégralité du contexte associé à chaque morceau d’information entreposé dans leurs silos étanches. Le tout dans la plus grande opacité, sans aucun contre-pouvoir ni processus d’appel effectif et dans des conditions de travail difficiles et précaires pour les personnes chargées de valider les contenus. Ce modèle n’est pas celui de la modération. C’est celui de la domination, de la promotion d’une seule et unique culture et de la suppression de toutes les autres. Maintenir l’illusion que cette domination est une modération met en danger toutes les personnes qui s’opposeraient à cette domination.

Un tweet peut être légal aux États Unis, et illégal en France. Ou, plus exactement, la promotion du contenu d’un tweet faisant « l’apologie du terrorisme » est illégale en France. Charge aux plateformes de se débrouiller avec ces codes pénaux incompatibles entre eux, quitte à faire du zèle (une grande partie des contenus supprimés dans le cadre de la lutte anti-terroriste sont, en fait, des contenus postés par des activistes cherchant à documenter ce qu’il se passe sur le terrain ³https://www.wired.com/story/facebooks-hate-speech-policies-censor-marginalized-users/<script type="text/javascript"> jQuery("#footnote_plugin_tooltip_1146_3").tooltip({ tip: "#footnote_plugin_tooltip_text_1146_3", tipClass: "footnote_tooltip", effect: "fade", fadeOutSpeed: 100, predelay: 400, position: "top right", relative: true, offset: [10, 10] }); ou à rejeter leurs responsabilité sur les algorithmes fermés et opaques, structures mathématiques quasi-divines auxquelles les GAFAM vouent un culte dogmatique. Ou alors, elles vont magouiller pour ne pas être tenues responsables, tout en continuant impunément de promouvoir les contenus qui rapportent à leurs clients publicitaires. Et donc les contenus dépourvus de complexité et de nuances. Et c’est ce qui est en réalité au cœur des débats en ce moment : le modèle d’affaire, basé sur la mesure de l’engagement de ces entreprises.

Un Internet des polémistes ?

En utilisant la mobilisation, ou l’engagement, des utilisateurs (et donc, en comptant le nombre de vues, de repartage, de réponses) comme mesure du capital et de la richesse des personnes, on met en avant les interactions avec le contenu, quel que soit le contenu ou l’interaction. Comme de nombreux polémistes en font régulièrement la preuve, il est bien plus facile de mobiliser massivement en tenant un discours polarisant, émotionnel, simplificateur et clivant que de le faire en faisant preuve de démonstrations rigoureuses, en s’appuyant sur des faisceaux de faits, ou en usant de subtilité et de nuance. Les mesures d’engagement ont donc pour but de créer des comportements agressifs et haineux afin de maximiser le profit des GAFAM.

Proposer une métrique différente pourrait favoriser les contenus qui rendent les utilisateurs heureux — du moins pour une certaine définition de heureux, mais on se retrouverait alors à n’avoir que du contenu « mignon » et des plateformes sur lesquelles il serait impossible de demander de l’aide psychologique ou médicale par exemple. C’est le modèle au cœur de Facebook et basé sur le « like » supposé encourager les comportements vertueux. Et, en cas de conflit, les utilisatrices se retrouvent à la merci du dieu tout puissant qui administre la plateforme et décide seul et sans aucune transparence de ce qui est considéré comme du contenu acceptable, sans processus d’appel. Changer la métrique et le modèle d’affaire n’est pas suffisant. Le problème est qu’il existe des dieux, des entités ayant tout pouvoir sur le contenu existant sur leurs machines, décidant de ce qu’ils acceptent de publier et de promouvoir et imposant leurs décisions aux membres de leurs plateformes.

Pour stopper la propagation de propos haineux, il faut cesser d’en faire la promotion. C’est évident pour quiconque critique les chaînes d’information en continu qui invitent ad nauseam les mêmes polémistes « ne pouvant s’exprimer nulle part ». Les techniques de harcèlement en ligne sont basées sur la promotion de contenu spécifique à destination d’une personne, ou de ses cercles d’amis. Que ce soit en le partageant et en le repartageant ou en mobilisant une armée de bots pour inonder les mentions d’une personne de contenu haineux, les médias sociaux servent d’amplificateurs. Ils sont conçus pour amplifier votre voix, votre message, quel qu’il soit mais à condition qu’il puisse être monétisé. Si vous atteignez un certain volume de messages, vous pouvez créer une tendance, tendance qui générera encore plus d’engagement. Comme dans le système du capitalisme financier, plus vous avez d’engagement, plus vous avez d’engagement. Tant que le modèle d’affaire de ces entreprises sera basé sur la promotion — la mise en avant — de contenu, alors elles n’ont aucun intérêt à donner aux communautés les moyens de décider elles-mêmes de comment elles souhaitent gérer le contenu.

Un Internet des protocoles : libre, décentralisé et ouvert

C’est pourtant la seule solution pour construire un Internet permettant à tout le monde de pouvoir exister et d’être ce qu’elles ont envie d’être, d’échapper à une certaine forme de déterminisme. En fournissant des outils aux communautés d’utilisatrices et en acceptant que plusieurs cultures doivent coexister sur une même plateforme, alors il devient possible d’envisager une modération de contenu convenant aux communautés. Ce n’est pas pour autant que chacune de ces communautés deviendra un havre de paix, et qu’il n’y aura plus aucun conflit en ligne, mais chacune disposera de moyens pour réduire les violences infligées par celles qui abusent du système. Chacune de ces communautés pourra améliorer les systèmes qui lui semblent imparfaits, décider des règles qu’elles veulent suivre, sans pouvoir les imposer aux autres. Chacune d’entre elle pourra contribuer au fragile édifice qu’est Internet, et bénéficier des contributions des autres.

Et pour que ces outils existent, il faut séparer les rôles techniques (administratrices système, développeuses) de ceux de la gestion du contenu (éditrices, modératrices, contributrices). Il faut que le transit de données, et leur stockage, soit fonctionnellement séparés de la gestion de contenu, de la promotion de celui-ci et des éventuels filtrages. Il faut des outils permettant de pouvoir communiquer avec les plateformes, existantes et à venir, d’interagir avec leur contenu, sans nécessiter une intervention d’une administratrice technique. Des outils interopérables, permettant à chacune de contribuer, de construire, de forker et d’améliorer cet Internet, non plus basé sur des silos de données étanches, des apps ou des plateformes hégémoniques, mais basés sur des protocoles servant de substrat à de multiples cultures. La bonne nouvelle, c’est que ces outils existent. Le partage de fichier en pair à pair en est un bon exemple. Des messageries qui fonctionnent par-dessus des systèmes de distribution de trafic réseau tels que Tor ou GNUNet apparaissent un peu partout. En se concentrant sur l’interopérabilité, ainsi qu’en utilisant des systèmes ne reposant pas sur une identification centralisée, tout en retirant aux administratrices les capacités de promotion ou de suppression de contenu, alors il devient possible de créer des filtres, des agrégateurs collectifs, ou toute autre solution qu’une communauté pourra juger pertinente pour son cas d’usage. Il devient possible de construire des systèmes multi-culturels et réduisant les violences, et donc d’effectuer une modération pertinente et nécessaire à la vie saine des groupes de personnes partageant au moins une part de ces cultures.

Non, il n’est pas possible de modérer les plateformes hégémoniques monoculturelles. Mais ce n’est pas pour autant qu’il n’est pas possible de créer des espaces modérés en ligne, choisis et définis par leurs membres et non par des dieux techniciens jugeant de ce qu’ils doivent promouvoir ou publier.

<script type="text/javascript"> function footnote_expand_reference_container() { jQuery("#footnote_references_container").show(); jQuery("#footnote_reference_container_collapse_button").text("-"); } function footnote_collapse_reference_container() { jQuery("#footnote_references_container").hide(); jQuery("#footnote_reference_container_collapse_button").text("+"); } function footnote_expand_collapse_reference_container() { if (jQuery("#footnote_references_container").is(":hidden")) { footnote_expand_reference_container(); } else { footnote_collapse_reference_container(); } } function footnote_moveToAnchor(p_str_TargetID) { footnote_expand_reference_container(); var l_obj_Target = jQuery("#" + p_str_TargetID); if(l_obj_Target.length) { jQuery('html, body').animate({ scrollTop: l_obj_Target.offset().top - window.innerHeight/2 }, 1000); } }