L'utilisation par l'État d'instruments algorithmiques dans le cadre de ses fonctions régaliennes fait partie de la transformation digitale qui emporte actuellement notre société. Un groupe de chercheurs orchestrés par le réseau OPTIC a récemment publié un petit livre blanc à ce sujet, que nous présentons ici dans ses points essentiels.
En amont de la rencontre Optic Talks 2018 (dont nous parlons ici), trois groupes de recherche OPTIC ont publié leurs travaux à propos de l’impact sur la société de la révolution technologique actuelle. J’ai lu celui consacré à l’algocratie (téléchargeable ici).
Par ce néologisme est désigné un pouvoir fondant sa légitimité sur une optimisation digitale de la gestion de l’information sociale, susceptible de concurrencer celle réalisée par la démocratie. Un exemple parlant d’algocratie serait la constitution d’un score social individuel à partir des données collectées par une plateforme digitale, comme cela est expérimenté en Chine actuellement.
Résumons d’abord le propos de ce « court livre blanc », écrit sous la direction de Pierre Gueydier, Directeur de la recherche à OPTIC : décrire concrètement où en est l’instrumentation digitale des fonctions régaliennes de l’État (armée, police, justice), en la replaçant dans le contexte historique du processus de bureaucratisation des États modernes, et en interrogeant les enjeux éthiques qu’elle suscite.
En inscrivant leur objet dans le cadre du processus de bureaucratisation, les auteurs reconduisent la nouveauté de la révolution technologique à la continuité d’une évolution étatique entamée de très longue date, dont les défauts ont l’avantage d’apparaître comme étant déjà bien identifiés : la déresponsabilisation et la dépolitisation. Leur démarche consiste ainsi à cerner en quoi la digitalisation accentue ces défauts, et à prescrire des dispositions permettant de les corriger. Ainsi les armes autonomes doivent, selon les conclusions des auteurs, toujours demeurer sous le contrôle effectif d’opérateurs disposant d’un jugement humain.
Il est remarquable que ce texte commence par affirmer que la réflexion sur la question de l’État régalien a lieu sur fond de « panne intellectuelle » et de domination d’un discours managérialiste, dont le propos se résume à transposer les méthodes de gestion du secteur privé au secteur public en raison de leur présumée meilleure efficacité. Ce discours et ces méthodes ne résoudraient en rien le problème de la bureaucratisation et n’en constitueraient qu’une expression. Selon les auteurs, la « débureaucratisation » implique la « repolitisation » des enjeux collectifs. La figure vers laquelle cette repolitisation semble converger est celle du juge. Les auteurs préconisent de donner plus de pouvoir aux juges, afin qu’ils restent maîtres des outils algorithmiques et que leur fonction singulière ne soit pas résorbée dans un continuum de gestion administrative qui tendrait à les englober avec les forces de l’ordre.
Les auteurs se montrent réservés sur les vertus de l’État plateforme, dont les conceptualisations et les réalisations les plus avancées ne semblent cependant pas avoir été prises en compte.
Les travaux d’OPTIC sont, nous l’avons dit, placés sous le signe d’une anthropologie « explicitement chrétienne ». La raison de cet impératif est manifeste : la défense d’une société ouverte repose sur l’intelligence de ses conditions de fonctionnement souvent implicites, dont il est périodiquement nécessaire d’expliciter la nature afin de contrer les mauvais penchants totalitaires du pouvoir. La critique de la transformation technologique conduite par OPTIC repose en dernière analyse sur le principe de la dignité de la personne.
S’il n’y a pas lieu de mettre en question l’origine chrétienne de ce principe, il convient néanmoins de s’interroger sur son contenu actuel, qui ne semble pas à l’abri d’interprétations détachées de toute base anthropologique, chrétienne ou autre. La terrible ambiguïté de toute utopie humanitaire peut à ce titre facilement être illustrée en reprenant la discussion de la régulation des armes autonomes. Au nom de la « compassion », de « l’humanité dans les conflits », de « l’esprit de pardon » et de « fraternité », les auteurs affirment que l’on ne peut pas « admettre de machines totalement innovantes ». Mais ne faudrait-il pas envisager que l’absence d’inhibition en matière d’armes totalement innovantes puisse parfaitement emprunter sa justification à ces mêmes principes ou valeurs?
C’est du moins ce que l’histoire moderne semble suggérer.
