---

Morpho-Safran — comme cet article de Reflets l’expliquait il y a peu — est une entreprise de high-tech excessivement pointue dans le domaine de la biométrie, et qui depuis plusieurs années travaille sur des outils de « détection du crime » à base d’IA prédictives. Une première tentative de réalisation d’un logiciel en partenariat avec le Teralab de Mines Télécom et nommé Anticrime/Horizon a été effectuée. Selon les informations de l’époque, ce logiciel semblait destiné avant tout à concurrencer Predpol, le fameux logiciel de détection du crime américain.

Mais la spécificité de Morpho-Safran, axée sur le traitement de données biométrique, et proche des services de l’Etat (rappel : Morpho réalise la première version du fichier monstre français TES), en fait une entreprise aux possibilités très importantes en termes d’algopolitique et d’algogouvernance. Et si Morpho-Safran participait déjà à organiser la société dystopique de la surveillance automatisée et du contrôle des populations par reconnaissance visuelle d’intelligences artificielles ?

1 milliards d’Indiens fichés par Morpho : et moi, et moi, et moi ?

La volonté des États de ficher et identifier leurs populations de façon numérique existe depuis longtemps. En 2017, elle est en cours de réalisation. Safran-Morpho explique avec simplicité cette « nécessité » de fichage biométrique sur son site :

« L’utilisation de la biométrie est la contribution la plus efficace aux registres de population. Elle garantit l’unicité et la viabilité de l’identité d’un individu.

Les solutions d’enregistrement de population de Safran Identity & Security utilisent les trois principales biométries – l’empreinte digitale, le visage et l’iris -, sélectionnées en fonction des contraintes culturelles, budgétaires et sécuritaires de chaque pays. Elles reposent sur notre savoir faire technologique et leur robustesse éprouvée. »

Cette technologie d’enregistrement biométrique a de nombreuses déclinaisons, pour autant de produits Safran différents dans le catalogue. L’une d’elles se nomme Morpho Argus  et peut servir à :

Comparer des portraits à une liste prédéfinie de personnes. Lorsqu’il y a correspondance, une alarme est générée. Elle peut être envoyée soit au personnel de sécurité, soit à un autre système ou peut être revue par un agent en faisant une comparaison d’images côte à côte. Créer une base de données en ligne qui pourra être utilisée plus tard pour localiser une personne dans l’espace comme dans le temps.

Dans ce cas, son portrait sera comparé à la base de données en ligne et une liste de candidats sera communiquée à l’agent pour revue. Ces cas d’utilisation ne sont pas exclusifs, Morpho Argus est capable de faire les deux en même temps et sur le même flux vidéo. Morpho Argus peut analyser simultanément des flux vidéo provenant de plusieurs caméras IP sur un même réseau. Il utilise un moteur biométrique et une base de données centralisés pour réaliser des comparaisons faciales et les stocker. Morpho Argus peut gérer plusieurs listes de recherche et inclut un logiciel permettant de les modifier et de les gérer globalement..

L’Inde a sauté le pas depuis 2009 dans le cadre de son programme Aadhaar de fichage biométrique de ses 1,2 milliard d’habitants. Le but affiché du gouvernement indien — comme dans le cas français — est de limiter la fraude, l’usurpation d’identité, et d’arriver sous peu à pouvoir identifier de façon formelle et informatique n’importe quel citoyen indien. Mais quelle entreprise est capable de réaliser une chose pareille ? Plusieurs ? Non. Une seule. Et quelle est cette entreprise qui a remporté ce marché ? (ceux qui savent se taisent…) : Safran-Morpho.

Un fichier méga monstrueux de plus d’un milliard d’individus est donc en cours de réalisation. Fichier biométrique et certifié French-tech et  Morpho-Safran conforme. Avec les visages des personnes, leurs empreintes numériques digitales, leur iris. Le même fichier qui arrive en France, mais à l’échelle du sous-continent. Bien entendu, comme dans le cas français, ces fiches informatiques très précises ne doivent pas [normalement, et pour l’heure] être utilisées dans d’autres cas que le contrôle de l’identité des personnes. L’objectif affiché de ce fichier est donc, de façon officielle, de simplement permettre aux administration d’être certaines que la personne demandeuse ou contrôlée est bien celle qu’elle prétend être. Pour l’heure.

Quand Morpho vend ses IA de détection/investigation faciale aux policiers 3.0

Depuis 2016, Morpho-Safran se vante d’avoir vendu deux systèmes de reconnaissance faciale « intelligents » aux forces de police néerlandaises et française. Le premier se nomme Morpho Argus/ Morpho Bis, et est utilisé en Hollande.

« Le système, déployé au niveau national et doté de fonctions de recherche, de comparaison et d’analyse, a été récemment installé au Centre national de la police judiciaire du pays. Les policiers hollandais peuvent désormais comparer la photo d’un visage avec celles de leurs bases de données et ainsi gagner un temps précieux. »

Ce logiciel capture en temps réel les visages humains et les compare avec un fichier de personnes recherchées ou non-autorisées. Une sorte de « comparateur de visages numérique automatisé », mais qui permet quand même de créer « des listes de surveillance à partir des visages détectés dans un flux vidéo » : automatisation de la création de fichiers de visages ? Pour constituer à la volée des bases de données de visages ? La question mérite d’être posée et la publicité de Morpho-Safran mériterait d’être éclaircie à ce niveau là…

Petite vidéo promotionnelle pour le Morpho-Argus :

Cette technologie ciblée de détection et comparaison de visages été étendue à des outils plus élaborés, permettant de suivre à la trace des suspects. L’un d’eux est nommé MVI (Morpho Vidéo Investigator) et c’est lui a qui a été vendu en 2016 à la police nationale française. C’est un « détecteur de suspects », un enquêteur et investigateur numérique. Une IA flic. Cette intelligence logicielle qui se connecte aux caméras de surveillance, aux réseaux sociaux, à Google images, etc., est donc capable de repérer des personnes suspectés d’actes criminels dans une foule, d’établir des correspondances d’identification à travers tout type de fichiers publics ou non, et de suivre ces personnes à la trace. Repérage des véhicules empruntés, plaques d’immatriculation, trajets, tout est enregistré et traité par l’IA. Jusqu’à, par exemple, « prédire » le lieu de rencontre de deux suspect, comme la vidéo promotionnelle suivante le démontre :

Changement de société ou simple amélioration des outils ?

L’exemple de la « détection du crime », d’identification et d’investigation par des logiciels spécialisés, semi-autonomes, pur produit des recherches en intelligence artificielle, est symptomatique du basculement en cours. De la mutation très discrète, mais profonde de la société. Ou plus précisément, de la gestion politique de la société française. Pour de nombreux observateurs, et le plus souvent pour le public en général, des logiciel comme MVI et Argus ne sont rien d’autre qu’une « évolution logique » et technologique des outils mis à la disposition des fonctionnaires, dans le cas d’espèce de la police nationale. Un peu comme ce que serait le passage du portrait robot dessiné à la main à Photoshop.

En réalité, il n’en est rien, puisque l’arrivée de ces IA est un profond changement de paradigme, la porte ouverte à une nouvelle forme de société, où l’Etat aidé d’acteurs économiques privés établirait un contrôle sur les corps et les esprits, délégués à des agents numériques aux fins d’empêcher ou prévenir toute possibilité de transgression des citoyens. Nous sommes là dans la définition d’une société totalitaire. Une dystopie basée sur la surveillance des machines intelligentes. Qui s’installe, sans un bruit, sans concertation. Pour la sécurité, et contre les libertés. Mais qui s’en précoccupe un tant soit peu aujourd’hui dans la classe politique ?

[Full disclosure : l’auteur de cet article était cité comme témoin par la défense dans ce procès] Dans son jugement du 26 janvier, la chambre spécialisée dans les délits de presse a savamment assaisonné Qosmos qui poursuivait pour diffamation James Dunne, un de ses anciens salariés, et une journaliste de France 24. Alexandra Renard avait signé un reportage intitulé « Des logiciels français vendus aux dictateurs ? » dans lequel était interviewé James Dunne.

Qosmos estimait être diffamée par les propos suivants :

« Il travaillait pour QOSMOS, une société française d’informatique qui a créé une technologie hyper-perfectionnée, une technologie capable de surveiller de d’analyser avec précision des nations entières via Internet, le tout en temps réel. C’est ce bijou de surveillance massive qu’a vendu leur partenaire français AMESYS au colonel Kadhafi, une arme numérique idéale pour traquer les opposants du régime ».

« A l’époque je ne savais pas qu’on avait livré à la Libye, je ne savais pas qu’on était en train de livrer à la Syrie ».

« Ce que je souhaite, c’est qu’on ne puisse plus vendre impunément de tels logiciels, de telles technologies à des dictatures tout simplement ».

Il n’est pas inintéressant de noter que Qosmos n’a pas poursuivi les dizaines de media qui ont relayé le même type d’analyses. L’auteur des propos, James Dunne, était sans doute l’homme à faire taire, lui qui avait alerté la presse par ses écrits sur son blog à propos des activités peu recommandables, sur un plan éthique notamment, de Qosmos et d’Amesys.

La 17ème chambre a donc jugé que ces propos n’étaient pas diffamatoires. Mais c’est l’argumentation de la cour qui est intéressante. Elle s’est appuyée sur les arguments habituels de Qosmos (ou d’Amesys d’ailleurs) pour débouter la société.

La Cour souligne ainsi :

 » […] force est de constater :

Qu’il n’est pas imputé à la société la commission d’une infraction pénale, le fait que des opposants soient arrêtés étant à l’évidence en lien avec l’action des dirigeants des États mis en cause et ne résultant pas d’une action directe de la société QOSMOS, dont le rôle se limite à avoir fourni une technologie ».

Sur ce point, la cour utilise l’argument récurrent de Qosmos : nous vendons des briques technologies, pas à des États mais à des intégrateurs, l’utilisation qui en est faite nous n’en sommes pas responsables…

« Que le fait de fournir une technologie, certes sensible, à des régimes autoritaires ne contrevenait en outre à aucune règle légale, […] à tout le moins jusqu’à la fin de l’année 2014 »

Le PDG de Qosmos, Thibaut Bechetoille a toujours dit que le commerce du DPI n’était pas assez encadré, y compris dans la mémorable interview qu’il avait accordée en 2011 à des contributeurs de Reflets sur Techtoc.tv :

Dans cette interview, Thibaut Bechetoille explique : « Je crois que l’utilisation de la technologie de DPI doit être…. Doit être encadrée bien sûr ».

Devant les juges du Pôle Crimes contre l’humanité du Tribunal de Grande Instance de Paris, il estimait que « Qosmos milite pour une réglementation internationale concernant la vente des produits de surveillance électronique ».

« Que livrer du matériel technologique sensible à des régimes autoritaires ne peut non plus être considéré comme un comportement moralement condamnable, le commerce international justifiant de travailler avec nombre d’États, dont certains non démocratiques ; qu’il n’en résulte pas un manquement évident à la morale commune, sauf à considérer des pans entiers de l’industrie française, notamment l’industrie d’armement ou le secteur des hautes technologies, comme étant objectivement et par nature condamnables.

Ainsi, s’il est fait état, dans les propos en voix off et dans l’interview, d’un fait précis pouvant faire l’objet d’un débat probatoire, il n’en résulte pas, pour autant, une atteinte à l’honneur et à la considération de la société QOSMOS »

Les propos poursuivis ne représentent donc pas un caractère diffamatoire au sens du droit de la presse.

Ainsi, sans qu’il y ait lieu de se prononcer sur les autres moyens soulevés, les prévenus seront renvoyés des fins de la poursuite.

La cour met ici sur le même plan les vendeurs de DPI et les vendeurs d’armes en disant qu’il arrive que ce type d’industrie vende à des pays peu démocratiques. Un euphémisme… Il n’est donc pas diffamatoire de le dire.

Qosmos n’a pas fait appel de cette décision. De fait, elle aurait dû, le cas échéant, se battre contre ses propres arguments, ce qui aurait été assez cocasse.

Ce procès est le troisième que Qosmos perd contre James Dunne (4 procédures). Les deux premiers étant liés à son départ de l’entreprise. Thibaut Bechetoille avait une relation très particulière avec son ancien employé devenu lanceur d’alerte. Dans un café où il recevait des journalistes avec une agence spécialisée dans la communication de crise (Clai), il s’était emporté, criant que James Dune était fou, qu’il fallait l’enfermer. En 2013, réagissant à un article de Mediapart, Thibaut Bechetoille indiquait :

« Nous restons confiants dans l’issue de la procédure, tant les faits qui nous sont reprochés par cet ancien salarié sont faux et calomnieux. Nous rappelons que nous avons porté plainte pour diffamation contre cet ancien salarié. »

Des faits faux et calomnieux… Ce n’est pas du tout l’avis de la 17ème chambre. On imagine mal Thibaut Bechetoille présenter des excuses à James Dunne. Mais on peut s’interroger sur deux points.

Le premier concerne les particuliers qui sont attaqués par des entreprises. Ils doivent faire face avec des moyens très faibles au rouleau compresseur du service juridique de l’entreprise qui les attaque avec, généralement, de gros moyens financiers. Le temps et l’argent jouent pour les entreprises. Le combat est inégal. Avis aux candidats à la présidentielle…

Le second concerne la presse. Elle a rarement le réflexe de consacrer de la place au résultat final. Et c’est fort dommage. Car dans le cas de James Dunne, par exemple, le particulier attaqué est accusé de tous les maux et cela laisse des traces, dans quantité d’articles. James Dunne a donc été accusé par Qosmos d’être un diffamateur pendant des années. Or in fine, il se trouve qu’il ne l’est pas. Doit-on en conclure , au contraire, que ce sont Thibaut Bechetoille et Qosmos qui se sont rendus coupables de diffamation en affirmant aux journalistes, de manière répétée, que James Dunne était un diffamateur ?

Premiers tests de notre formidable outil, le Chamboule-Touite, qui permet de mesurer la « popularité » des mentions sur Twitter d’un candidat à la présidentielle avec un mot-clé ou un hashtag. Par un hasard tout à fait fortuitement aléatoire, nous choisissons le hashtag — pardon, le mot-croisillon — « #menteur ». Sans surprise, twittas et twittos font une association d’idées avec un certain François Fillon.

Apostrophé à 49 reprises, le vertueux châtelain met tout le monde d’accord. Il caracole largement en tête du Chamboule-Touite, avec un score de 96 %, dopé par le PenelopeGate. Loin derrière, Benoit Hamon et Emmanuel Macron font pâle figure et se partagent à égalité les 4% restants.

Nous bougeons les potards et lançons un second test avec le mot-croisillon « #escroc ». Nous nous attendions à retrouver encore une fois le bon François en pole position.

Ô surprise, si l’ancien premier ministre est le plus mentionné (50 tweets), au nombre de retweets et de favoris, c’est Emmanuel Macron qui termine au finish. Ses 31 mentions lui permettent de réaliser le plus gros score, avec 93% et près de 900 retweets.

À gauche comme à droite (surtout très à droite), on lui reproche son passé de banquier et d’énarque, ses orientations libérales, d’être le fils spirituel de François Hollande ou le « candidat du système » (oui, c’est très original). Une chose est sûre, le gendre idéal inquiète ses opposants.

Cette vidéo de 26 minutes — très pédagogique et amusante à la fois — est idéale pour comprendre de nombreuses choses en lien avec : l’opinion, l’information, les sondages, les emballements populaires électoraux, le populisme, la droite, la gauche, le lobbying… et finalement, le fonctionnement de la démocratie française actuelle.

Bon visionnage :