Third (T) : Vous venez de publier l’ouvrage « Technologies partout, démocratie nulle part », dans lequel vous dénoncez les dérives engendrées par la technologie et ses conséquences sur la gouvernance démocratique telle que nous la connaissions jusqu’à présent. En quoi l’omniprésence de la technologie annihilerait-elle la démocratie ?

 
Yaël Benayoun (YB) : Il convient, en premier lieu, de préciser ce que nous entendons par « technologie », et notre propos n’est pas de dire que celle-ci est structurellement néfaste. Aujourd’hui, la technologie est conçue et déployée d’une manière qui s’imbrique dans des logiques, des rapports sociaux et des relations de pouvoir problématiques pour la démocratie. Cette difficulté s’entrevoit à deux niveaux.

Tout d’abord, les décisions concernant les technologies sont souvent décidées à huis clos, ou « entre-soi », au sein d’une entreprise ou de consortiums industriels. Prenons l’exemple de la 5G ou de la 6G. Au sein de l’ONU, une agence est chargée de s’occuper des caractéristiques techniques de ces technologies. Elle travaille à partir des anticipations d’usage qui sont définies par des groupes de travail pilotés par des industriels et des représentants gouvernementaux (ou inter-gouvernementaux), sans qu’aucune place ne soit accordée, du moins aujourd’hui, à la société civile ou à des tiers acteurs, comme le secteur associatif. Les décisions et les caractéristiques techniques qui sont arrêtées sont ainsi biaisées, en raison des acteurs qui prennent ou ne prennent pas part aux décisions.

Ensuite, certaines technologies ne sont pas neutres pour la démocratie et peuvent avoir une influence néfaste sur elle, à l’instar de la reconnaissance faciale, ou des caméras de surveillance. Les études sur le sujet nous montrent qu’une fois déployées, elles ne règlent absolument pas les problèmes pour lesquels elles ont été installées, et contribuent bien plutôt à renforcer le « sentiment d’insécurité ».

Irénée Régnauld (IR) : Nous évoluons dans un environnement technologique que nous n’avons évidemment pas choisi. Et cet environnement technologique se trouve renforcé, et confirmé, par des logiques techniques ou économiques qui échappent encore au citoyen. En aucune manière il ne répond à la notion de démocratie telle que Robert Dahl la définit, soit la capacité de chacun de peser sur la décision collective. Aujourd’hui, les décisions d’adopter telle infrastructure, telle machine au travail, ou dans l’espace public, ne sont pas le reflet des besoins des premiers concernés (riverains, salariés, bénéficiaires). Dans l’exemple de la 5G, il n’existe pas de citoyenneté européenne à opposer aux consortiums industriels.

Nous avons essayé, dans cet ouvrage, de ne pas tenir un propos généralisant sur la technique. Nous avons simplement posé des sondes à certains endroits et nous avons observé ces déficits démocratiques.
 

T : Pourriez-vous expliquer en quoi la reconnaissance faciale abîmerait la démocratie ?

 
IR : Aujourd’hui, la filiation entre la reconnaissance faciale et les anciennes techniques d’étude de traits physiques humains comme la craniologie ou la phrénologie est bien documentée (à l’instar de la création de typologies de gangsters à partir de photos de bagnards). La reconnaissance faciale s’inscrit dans cette idéologie. Ce sont ses racines. Il n’y a rien de fondamentalement différent puisqu’elle prétend répondre aux mêmes promesses, du moins dans leurs aspects sécuritaires, en anticipant notamment le futur.

Le propos critique que nous développons porte sur les technologies de surveillance. Pour que la démocratie soit exercée librement, il faut un espace public qui soit réellement « public » : se savoir non surveillé, avec la possibilité d’exercer son droit d’association ou son droit de réunion. Aujourd’hui, si les technologies n’ont pas directement pour vocation d’interdire de se réunir, elles émergent néanmoins dans un contexte sécuritaire. On observe ce que cela donne en Chine et, bien qu’aucun bilan ne puisse encore être tiré en France, il est possible de raisonner par analogie, avec des technologies existantes, comme par exemple les caméras de surveillance. Plutôt que de résoudre le problème, elles créent un sentiment d’insécurité délétère pour la démocratie. Un sondage réalisé par la ville de Londres et sa police a démontré que si les jeunes se savaient identifiés lorsqu’ils manifestent dans la rue, ils seraient 34% à ne pas prendre part à une manifestation. Dans ce contexte, la reconnaissance faciale, n’aide pas à récupérer l’espace public perdu, en France, ces dernières années, et ce quelle que soit sa dimension éthique ou d’anonymat.

YB : On observe, à propos de l’effet dissuasif, qu’il y a une inversion de la charge de la preuve. Dans les systèmes juridiques comme celui que l’on trouve en France, vous bénéficiez de la présomption d’innocence et votre culpabilité doit être prouvée. Avec la massification des dispositifs de surveillance, vous êtes dans une situation où vous devez prouver votre innocence. Il y a une modification du contrat social puisque, dans ces systèmes, d’un point de vue politique, le statut diffère, et le droit à la défense est abordé différemment. Cela inverse le rapport à l’autre dans la société et participe à cette croyance que, lorsqu’un problème existe, les dispositifs de reconnaissance faciale le font disparaître. C’est du techno-solutionisme primaire. Or, ce n’est pas en déployant davantage de policiers à un endroit que la délinquance disparaît, constat confirmé par toutes les études que nous avons lues sur le sujet. Nous gagnerions bien plus à remonter aux causes des phénomènes de délinquance et à attaquer de front les situations d’inégalités et de discriminations sociales qui les alimentent (inégalités dans le parcours scolaire et professionnel, inégalités de santé, inégalités d’accès au logement ou à des prêts bancaires, inégalités environnementales, etc.).

IR : Il y aussi une délégation de la prise de décision vers l’objet. C’est un abandon, un refus de faire de la politique. C’est aussi cela le solutionisme technologique. L’exemple le plus concret est illustré par les feux rouges, dont la mise en place permet de ne pas avoir à réguler la circulation. Le feu rouge constitue un processus de délégation. Attention, je n’ai pas dit qu’il fallait procéder à leur retrait !
 

T : Vous avez fondé ensemble l’association « Le Mouton Numérique » avec l’objectif d’organiser « des débats pour éclairer la société qui innove ». Pourriez-vous nous préciser la démarche de votre association ?

 
YB : Nous avons fondé l’association il y a quatre ans, avec l’objectif d’interroger notre rapport aux technologies, en mettant en lumière leurs conséquences et leurs enjeux environnementaux, sociaux et politiques. C’est pour cela que nous assumons le terme de « techno-critique ». Les réflexions du livre sont issues de réflexions nées au sein de l’association. Il y a une filiation entre les deux.

Le Mouton Numérique a un recul critique sur la manière dont le numérique et les nouvelles technologies se développent. Nous essayons, à notre échelle, d’apporter des pistes de réflexion. Nous donnons de la visibilité à ces enjeux et nous menons un travail d’animation du débat public pour que les personnes en aient une meilleure connaissance et puissent se faire leur propre opinion, ou plus simplement qu’elles considèrent que ces sujets sont des sujets de société et pas seulement des sujets techniques.
Nous prenons le temps, dans le livre, de déconstruire des poncifs encore très présents aujourd’hui dans le débat public (tels que « la technique est neutre », « elle n’est ni bonne, ni mauvaise », « on n’arrête pas le progrès », « la technologie est inéluctable »). Ces poncifs laissent entendre qu’il n’y a pas d’autre choix que d’accepter le développement technologique et que nous n’avons pas la mainmise dessus.

IR : L’association a été créée en 2017, à une époque où la qualité du débat était mauvaise. Il y a eu depuis, et de notre point de vue, une amélioration. L’année 2016-2017, a favorisé une prise de conscience. Les grands sujets climatiques, environnementaux et numériques sont aujourd’hui davantage présents dans la presse, ce qui nous incite à être en avance sur les sujets technologiques en nous penchant sur des thématiques qui n’ont pas encore été étudiées. C’est pour cette raison que notre association est organisée en groupes de travail. En ce moment, plusieurs groupes se constituent. Ils travaillent sur la démocratie technique, sur la surveillance, sur les imaginaires technologiques, sur les problématiques d’intersectionnalité liées aux technologies (il s’agit de l’étude de la manière dont les inégalités et les discriminations s’enchevêtrent les unes dans les autres), sur l’écologie¹ .
 

T : Votre ouvrage est riche d’exemples. Vous citez notamment les vertus du projet du HubCité de Lomé, cette expérience de démocratie technique entre villageois et hackers, et vous évoquez aussi l’échec d’un quartier intelligent dans la ville de Toronto. En quoi le projet de Hubcité de Lomé et celui d’une ville intelligente à Toronto sont révélateurs, pour l’un des vertus que la technologie peut apporter et, pour l’autre, des dérives qu’elle engendre ?

 
YB : Dans les deux cas, il s’agit de rénover ou réhabiliter un quartier (le quartier de Quayside à Toronto et les quartiers frontaliers du Ghana, à Lomé). Le point de départ de notre réflexion repose sur le constat que la technologie ne peut pas être absente des réhabilitations : la réalisation d’un projet implique nécessairement des techniques et des technologies.

À Toronto, un acteur dénommé Sidewalk, société filiale de Google, s’est positionné pour proposer la réhabilitation du quartier Quayside. Toronto était leur premier chantier, et ils voulaient en faire une vitrine.

IR : Dès le début du projet de Sidewalk à Toronto, Bianca Wylie, une diplômée en sciences politiques qui a travaillé dans le monde de la tech, a lancé le mouvement « Block Sidewalk ». Il ne s’agit pas d’un mouvement de refus mais plutôt d’un mouvement en demande de transparence. Le collectif a posé de nombreuses questions : Pourquoi Google fait ça ? Quel est le business model ? Quel est le projet technologique ? Pourquoi personne ne nous tient informés ?

Cette mobilisation citoyenne a forcé les maîtres d’ouvrage à organiser des consultations avec la population, consultations qui s’apparentaient, en réalité, à des séances d’explications. Plutôt que de faire participer les Torontois, l’idée était de leur expliquer le déroulement du projet, de façon très descendante. Un effort a certes été fait vis-à-vis de la transparence. Toutefois, il a été inutile dans la mesure où il n’y a pas eu de « participation retour » possible pour les Torontois. Les informations communiquées sur le plan directeur étaient illisibles : l’objectif était de noyer les habitants et non de les faire participer. Cet exemple nous intéressait parce qu’il permettait de voir comment des espaces démocratiques sont mis en place, non pas pour éteindre la contestation, mais pour lui donner un « espace d’expression sans conséquence », pour reprendre la sociologue Sara Aguiton. Le collectif mené par Bianca Wylie a fini par obtenir gain de cause, après deux ans de contestation, en raison d’une mobilisation très forte et de nombreux soutiens. La Covid-19 a aussi contribué à cette victoire. L’exemple de Toronto montre qu’un pouvoir citoyen peut être efficace.

YB : Le projet de Hubcité à Lomé relève d’une initiative associative. C’est une association dénommée « African Architecture » qui a lancé le projet. Pour la première édition, trois dispositifs ont été mis en place :

– Le premier était une plateforme participative qui a permis aux habitants d’identifier les lieux où mener des expérimentations et envisager des projets de réhabilitation.

– Puis, des ateliers participatifs ont été mis en place, dans lesquels les organisateurs ont fait venir d’un peu partout dans le monde des hackers et des scientifiques. Il y a eu une immersion avec les intervenants et les habitants dans des villages proches pour apprendre le savoir local, en matière de maçonnerie et d’architecture.

– Enfin, à partir de là, les habitants ont établi des schémas directeurs pour chacun des trois sites qui avaient été retenus pour faire l’objet d’une expérimentation. Ils ont clôturé cette première phase forts de ces schémas directeurs lesquels ont ensuite permis de concevoir des lieux ressources (aussi appelés fablabs) ad hoc et de les concrétiser.

Ce sont des réalisations tangibles qui se sont échelonnées sur trois ans, avec l’assentiment et la participation de la population locale. Elles ont abouti à la création de lieux ressources, tels que, des recycleries ou des lieux de production d’énergie. Chaque fablab a une fonction urbaine bien précise, dotée d’une réelle utilité sociale.
 

T : Le citoyen de 2021 consomme le numérique (biens du quotidien). Il est aussi dépendant des technologies dans son quotidien (ubérisation, IOT, automatisation de ses outils de travail) et il est le produit intellectuel des géants du secteur qui le façonnent (médias, notations de services en ligne, fake news). Faut-il considérer que l’on ne peut pas y remédier sans envisager un changement de paradigme économique, à rebours de la mondialisation ?

 
IR : Nous ne pensons pas que nous sommes dépendants de l’internet des objets ou de l’ubérisation. On veut nous faire croire que cette dépendance existe. On nous dit qu’on ne peut pas revenir en arrière. C’est faux. Nous pouvons faire autrement, ou sans, nous l’avons déjà fait et nous le faisons déjà.

Dans les schémas d’évolutions technologiques que nous observons et critiquons, le capitalisme n’est pas toujours à incriminer. Sous l’ère communiste, des logiques industrielles tout à fait similaires, antisociales et extractivistes existaient. Cependant, ces évolutions sont aujourd’hui liées au besoin de conquérir et de renouveler des marchés. Oui, nous remettons en cause l’économie capitaliste dans sa version néo-libérale. Oui, nous remettons en cause une forme de mondialisation, eu égard à son effet d’accélérateur de flux, en ajoutant des couches technologiques les unes aux autres. Le numérique ne remplace pas les couches précédentes : il s’y ajoute pour encore accélérer ces flux. Les schémas dans lesquels la croyance veut que le futur remplace le présent et le passé perdurent, alors que le présent côtoie le passé. Si le numérique est en plein développement, reste que le charbon est encore utilisé partout.

Notre aspiration démocratique achoppe nécessairement sur la mondialisation. Elle bute sur le capitalisme parce qu’elle va buter sur la plateformisation et sur la surveillance. Elle va buter sur le néo-libéralisme parce qu’elle va buter sur la casse des collectifs de travail, sur l’affaiblissement du droit du travail, sur le dumping social et sur l’extractivisme. Elle va buter sur la mondialisation en raison de l’achoppement sur l’accélération des flux. Questionner la technologie revient nécessairement à questionner tout cela.
 

T : Votre livre dénonce l’omniprésence des géants des technologies et le monopole que ceux-ci ont acquis en quelques années. Que peuvent les citoyens, à leur niveau, pour se défendre contre cette omniprésence des big tech et récupérer une parcelle de pouvoir (pouvoir de décision, pouvoir de contestation, pouvoir de réflexion) ?

 
IR : Nous mettons en exergue des déficits de démocratie, lesquels sont évidemment liés aux limites du système capitaliste. Il y a, dans une économie néo-libérale, des contradictions entre le pouvoir du marché et le pouvoir des citoyens. Aujourd’hui, la principale caractéristique du néo-libéralisme repose sur ce constat que l’État n’est plus capable d’opposer la puissance publique au capitalisme puisque l’État participe pleinement au capitalisme et en devient, en quelque sorte, complice. Le point final de notre livre consiste à dire qu’il y a, dans la démocratie, dans les formes délibératives modernes, plus ou moins institutionnalisées (conventions citoyennes, débats publics) une vivacité et du savoir. Il est possible d’envisager une technologie moins pire, en collaboration avec les citoyens, en laissant les choses venir « du bas ».

YB : Laisser les initiatives venir « du bas » demande aussi de repenser des espaces (temporels et physiques) qui rendent possibles ces initiatives citoyennes, pour que leurs projets soient entendus. Ces mobilisations requièrent du temps et des ressources financières. Tout le monde ne peut pas se permettre, sur son temps libre, de s’engager dans une association ou de mener des actions de lobbying citoyen auprès des élus ou des représentants pour faire entendre sa voix. Au Mouton Numérique, nous suivons de près certaines mobilisations citoyennes sur des enjeux technologiques. Certaines des personnes que nous rencontrons ont été « cassées » par des mobilisations qui se sont inscrites dans la durée (sur parfois plus de 10 ans), en raison du temps et de l’énergie qu’il leur a fallu prendre. Ces citoyens – qui pour beaucoup sont des citoyennes – se retrouvent à devoir faire face à des entreprises qui disposent de temps et d’argent à cette fin. Le combat est inégal. Il existe donc des freins structurels à l’émergence d’initiatives citoyennes.
 

T : Quelle est l’efficacité de ces projets alternatifs citoyens qui viennent « du bas » et qui tentent d’organiser un contre-pouvoir ?

 
YB : Il est important de rappeler que de nombreux contre-projets alternatifs et citoyens existent malgré leur bien faible visibilité. Les projets ascendants peinent à émerger faute de soutiens financiers et politiques.

IR : Des formats de démocratie alternative émergent dans les villes. Il y a une vitalité démocratique dont les expériences menées à Rio et à Barcelone sont les exemples les plus frappants. En France, des mouvements similaires se déploient. Des conventions citoyennes locales sont mises en place pour discuter du déploiement de la 5G. Si leur impact est limité, elles révèlent une prise de conscience, très liée à la défiance démocratique qui existe à un niveau plus élevé qui est celui de l’État.
 

T : Que pourraient faire le législateur et les États pour contrer, voire endiguer, ce monopole des géants du secteur ? Pourquoi, selon vous, la régulation ne peut pas, à elle seule, suffire, à démocratiser l’espace numérique ?

 
YB : Aujourd’hui, les grandes entreprises technologiques s’appuient sur des forces de lobbying colossales, lesquelles permettent d’influer sur les lois. Aux États-Unis, le comportement de Microsoft au moment de l’adoption de la première loi américaine encadrant la reconnaissance faciale en est une illustration typique. Dans l’État de Washington, Microsoft a exercé un lobbying pendant plus de deux ans pour qu’une loi, qualifiée d’historique, soit adoptée. Or, cette loi n’oblige en réalité les sociétés déployant la reconnaissance faciale qu’à s’assurer que celle-ci ne renferme pas de biais techniques. Il s’agissait en réalité du meilleur moyen d’échapper aux interdictions, de légitimer et légaliser ce type de dispositif.

Aujourd’hui, les autorités publiques ne disposent pas de tous les moyens pour adopter des décisions de manière totalement indépendante et éclairée. C’est dans ce contexte que nous prônons un retour à des dispositifs de démocratie participative appliqués aux enjeux technologiques. Il faut veiller à ce que de tels dispositifs soient raccrochés aux instances de décision, pour qu’ils ne soient pas de simples instances délibératives sans influence. Les solutions qui se dégagent de ces types de dispositifs, garantissent, en raison de leur nature même, une certaine indépendance dans leurs résultats et recommandations et permettraient d’interroger la pertinence même des dispositifs considérés.

IR : Ce n’est pas tant la place de l’État que nous interrogeons mais la manière dont les décisions sont adoptées en démocratie. Il peut s’agir de la manière dont nos gouvernants sont élus ou de la manière dont les grandes décisions techniques sont prises. En France, les grands choix d’infrastructures ou de stratégies industrielles sont décidés selon des modalités trop peu démocratiques.

Les conventions citoyennes existent parce qu’on croit qu’en mobilisant des acteurs et en apportant de l’information, on ajoute de la qualité à la délibération. Aujourd’hui cette qualité est relative en raison d’un système qui est mal fait. Non seulement la démocratie est « myope », pour reprendre la formule de Jürgen Habermas (le concept de myopie démocratique désigne l’incapacité de la démocratie à voir à long terme), mais les élus représentent mal les citoyens dans la diversité de leurs situations et réalités sociales.
 

T : Est-ce à dire que la démocratie aurait besoin de s’exercer à plusieurs niveaux différents pour réguler le numérique d’une manière efficace ?

 
IR : Oui. La démocratie requiert des réflexions à des niveaux d’échelles différents : prenons d’une part le niveau d’une ville et d’autre part le niveau du continent. Peut-on réguler Google à l’échelle de la ville de Lille ? Oui, s’il s’agit de réguler un projet local. Mais réguler la manière dont fonctionne un moteur de recherche se joue au niveau européen. Cela pose directement la question de la qualité démocratique du « niveau européen ». Si l’on change encore d’échelle, il est intéressant de réfléchir à la manière de permettre aux citoyens de se prononcer sur ces sujets. Est-ce qu’on rémunèrerait un « jour citoyen », par exemple tous les vendredis, pour permettre à tout le monde de s’impliquer au niveau local, près de chez soi ? Si tous les projets locaux sont bloqués au niveau local, un Google réfléchira à la manière de revoir ses priorités.

YB : La réflexion menée à l’échelle locale permet d’ancrer les questions technologiques dans la réalité et le vécu de ce que les gens vivent. C’est le problème aujourd’hui. Prenons l’exemple des livres blancs consacrés à l’intelligence artificielle ou au numérique : il est difficile de savoir ce dont il est question. C’est toujours un gloubi boulga de nombreuses informations qui ne permettent pas aux citoyens de se sentir concernés. Comment se sentir concernés par l’intelligence artificielle ? Le sujet est trop vaste, trop grand. Pourtant, à un niveau local, on parle de capteurs, de politiques de la ville, de reconnaissance faciale… de sujets très concrets en somme qui nous concernent toutes et tous directement.

IR : Il faut accepter qu’il y ait, en ce qui concerne la technologie, une certaine « techno-diversité », avec des solutions différentes qui émergent, à l’instar de ce que la comparaison entre Lomé et Toronto permet de constater. Le mélange entre l’éthique hacker et terreau culturel local, fait l’intérêt des low tech. Une technologie est avant tout adaptée à un lieu. C’est ce que le numérique des géants technologiques est en train d’oublier et qui menace la démocratie.