« Au moins, dans un système totalitaire, on sait à quoi on a affaire »
dimanche 29 mars 2015 à 11:19Escales internautiques 29/03/2015
(Permalink)
GuiGui's Show - Liens 29/03/2015
« Antoinette Rouvroy est l’une des premières intellectuelles à s’être penchée sur la question du pouvoir et des données. Elaborant le concept de « gouvernementalité algorithmique », cette chercheuse en droit de l’université de Namur s’interroge sur les changements amorcés par l’adhésion de la société à un monde de chiffres bruts.
[...]
L’idée qu’il y a des trajectoires normales sur Internet et d’autres, anormales. C’est ce qu’on appelle le « nominalisme dynamique » : les individus, à partir du moment où ils savent qu’ils sont classifiés, même s’ils ne savent pas quels sont les critères de classification, vont adapter leur comportement à ce qu’ils pensent qu’on attend d’eux.
Il y a aussi, peut-être, la fin de la curiosité. Saine ou malsaine. Or, la curiosité malsaine n’est pas quelque chose d’illégal : on peut très bien avoir la curiosité malsaine d’aller voir ce qu’est un site djihadiste, sans pour autant se préparer à commettre un acte terroriste ou adhérer à des actes commis par d’autres…
[...]
Les droits de l’homme jouent le rôle d’auto-subversion de la norme juridique par elle-même.
J’ai un peu peur que ce type de projet de loi érode progressivement, sans qu’on s’en rende compte, cette signification fondamentalement anti-totalitaire des droits et libertés fondamentaux.
C’est un risque d’autant plus grand que c’est quelque chose de non directement perceptible. Que les comportements risquent progressivement de s’adapter, sans douleur, à cette forme de bien-pensance, de bien-dire, d’auto-censure de nos propos et de nos trajectoires sur Internet.
[...]
Dans les temps idéaux de l’Etat-providence, la mauvaise santé était perçue comme un coup du sort, qui se distribuait de façon moralement neutre et devait donc être compensée par la solidarité et la collectivité. Désormais, avec tous ces systèmes de « quantified-self », on hyper-responsabilise les individus de ce point de vue.
[...]
On entend la critique selon laquelle ce projet de loi fait de la France une sorte de Chine. Est-ce qu’on a raison de prendre comme comparaison des régimes totalitaires ? De faire référence à « 1984 » ?
Ah non, pas du tout. C’est exactement l’inverse. C’est un gouvernement par les libertés. Pour que ces données puissent être interprétées de manière intéressante, il faut nécessairement que vous vous sentiez libre de les émettre.
Ce sera ressenti d’autant plus comme ça que la norme est sentie comme immanente, comme collant à vos comportements mêmes. Ne pas vouloir être profilé, c’est presque ne pas se vouloir soi-même.
C’est très différent de « 1984 » aussi : il n’y a pas de Big Brother, c’est très diffus, peu centralisé, on a besoin d’acteurs privés… Et la définition des critères va être sous-traitée aux machines, diffusée dans le réseau.
Ce serait presque plus facile si c’était un système totalitaire : au moins, dans un tel système, on sait à quoi on a affaire.
[...]
Comment expliquez-vous que les hommes politiques, eux, ne voient absolument pas le problème ? Alors même que cela les vide de leurs compétences et change le paradigme de l’exercice du pouvoir ?
Je pense qu’ils n’ont pas trop envie de comprendre parce que ça leur sert aussi. C’est très généralisateur, mais j’ai l’impression que beaucoup d’hommes politiques ont très envie de la fonction, mais pas vraiment de l’exercer réellement : de décider et de prendre en charge la responsabilité politique.
Il est plus facile de s’en remettre à des indicateurs quantifiés. Et ça dure depuis quelques années déjà : « Les statistiques nous disent que… », « C’est l’Europe qui nous oblige à… » On est dans un régime d’irresponsabilité croissante dans laquelle on a une inflation incroyable du langage politique qui ne veut absolument plus rien dire, puisqu’il n’est que dans la réaction aux stimuli.
Ils sont, comme nous tous, soumis à cet empire numérique.
[...]
On a l’impression que ce régime, difficile à définir, flou, que l’on ne peut presque pas nier si on ne veut pas se nier en tant qu’individu, est impossible à combattre. Qu’il n’y a pas d’alternatives.
Je pense qu’il y a des alternatives. Mais elles demanderaient un certain nombre de sacrifices. Parce que tout ça, c’est très confortable aussi. Cette automatisation, cette préemption, le fait de ne pas avoir à décider...
Mais les alternatives pourraient par exemple passer par l’exigence de justification : toute décision qui doit être prise, et qui a des impacts sur autrui, doit être justifiée par celui qui prend la décision. Que cette dernière lui soit dictée par des algorithmes ou pas. »
(Permalink)
(Permalink)
GuiGui's Show - Liens 29/03/2015
« Antoinette Rouvroy est l’une des premières intellectuelles à s’être penchée sur la question du pouvoir et des données. Elaborant le concept de « gouvernementalité algorithmique », cette chercheuse en droit de l’université de Namur s’interroge sur les changements amorcés par l’adhésion de la société à un monde de chiffres bruts.
[...]
L’idée qu’il y a des trajectoires normales sur Internet et d’autres, anormales. C’est ce qu’on appelle le « nominalisme dynamique » : les individus, à partir du moment où ils savent qu’ils sont classifiés, même s’ils ne savent pas quels sont les critères de classification, vont adapter leur comportement à ce qu’ils pensent qu’on attend d’eux.
Il y a aussi, peut-être, la fin de la curiosité. Saine ou malsaine. Or, la curiosité malsaine n’est pas quelque chose d’illégal : on peut très bien avoir la curiosité malsaine d’aller voir ce qu’est un site djihadiste, sans pour autant se préparer à commettre un acte terroriste ou adhérer à des actes commis par d’autres…
[...]
Les droits de l’homme jouent le rôle d’auto-subversion de la norme juridique par elle-même.
J’ai un peu peur que ce type de projet de loi érode progressivement, sans qu’on s’en rende compte, cette signification fondamentalement anti-totalitaire des droits et libertés fondamentaux.
C’est un risque d’autant plus grand que c’est quelque chose de non directement perceptible. Que les comportements risquent progressivement de s’adapter, sans douleur, à cette forme de bien-pensance, de bien-dire, d’auto-censure de nos propos et de nos trajectoires sur Internet.
[...]
Dans les temps idéaux de l’Etat-providence, la mauvaise santé était perçue comme un coup du sort, qui se distribuait de façon moralement neutre et devait donc être compensée par la solidarité et la collectivité. Désormais, avec tous ces systèmes de « quantified-self », on hyper-responsabilise les individus de ce point de vue.
[...]
On entend la critique selon laquelle ce projet de loi fait de la France une sorte de Chine. Est-ce qu’on a raison de prendre comme comparaison des régimes totalitaires ? De faire référence à « 1984 » ?
Ah non, pas du tout. C’est exactement l’inverse. C’est un gouvernement par les libertés. Pour que ces données puissent être interprétées de manière intéressante, il faut nécessairement que vous vous sentiez libre de les émettre.
Ce sera ressenti d’autant plus comme ça que la norme est sentie comme immanente, comme collant à vos comportements mêmes. Ne pas vouloir être profilé, c’est presque ne pas se vouloir soi-même.
C’est très différent de « 1984 » aussi : il n’y a pas de Big Brother, c’est très diffus, peu centralisé, on a besoin d’acteurs privés… Et la définition des critères va être sous-traitée aux machines, diffusée dans le réseau.
Ce serait presque plus facile si c’était un système totalitaire : au moins, dans un tel système, on sait à quoi on a affaire.
[...]
Comment expliquez-vous que les hommes politiques, eux, ne voient absolument pas le problème ? Alors même que cela les vide de leurs compétences et change le paradigme de l’exercice du pouvoir ?
Je pense qu’ils n’ont pas trop envie de comprendre parce que ça leur sert aussi. C’est très généralisateur, mais j’ai l’impression que beaucoup d’hommes politiques ont très envie de la fonction, mais pas vraiment de l’exercer réellement : de décider et de prendre en charge la responsabilité politique.
Il est plus facile de s’en remettre à des indicateurs quantifiés. Et ça dure depuis quelques années déjà : « Les statistiques nous disent que… », « C’est l’Europe qui nous oblige à… » On est dans un régime d’irresponsabilité croissante dans laquelle on a une inflation incroyable du langage politique qui ne veut absolument plus rien dire, puisqu’il n’est que dans la réaction aux stimuli.
Ils sont, comme nous tous, soumis à cet empire numérique.
[...]
On a l’impression que ce régime, difficile à définir, flou, que l’on ne peut presque pas nier si on ne veut pas se nier en tant qu’individu, est impossible à combattre. Qu’il n’y a pas d’alternatives.
Je pense qu’il y a des alternatives. Mais elles demanderaient un certain nombre de sacrifices. Parce que tout ça, c’est très confortable aussi. Cette automatisation, cette préemption, le fait de ne pas avoir à décider...
Mais les alternatives pourraient par exemple passer par l’exigence de justification : toute décision qui doit être prise, et qui a des impacts sur autrui, doit être justifiée par celui qui prend la décision. Que cette dernière lui soit dictée par des algorithmes ou pas. »
(Permalink)