Après une longue bataille, le chiffrement a été libéralisé à la fin des années 1990. D’abord une technologie militaire contrôlée par les États, il est devenu un outil accessible à toutes et tous. Les protocoles de chiffrement sont partout : dans la sécurisation des transactions bancaires, dans nos connexions à des sites internet, dans les services de stockage en ligne ou encore dans les messageries instantanées comme Signal ou même la messagerie privée propriété de Facebook WhatsApp. De nombreuses institutions, telles que l’ONU, l’ANSSI, le NIST ou la CNIL promeuvent cette technologie qui garantit la sécurité de notre vie en ligne.

Pourtant, depuis une dizaine d’années, la classe politique dirigeante critique de façon régulière cette technologie, en avançant qu’elle les empêcherait d’avoir accès au contenu d’informations nécessaires aux pour les enquêtes policières. Et ces derniers temps, ces attaques se sont intensifiées. Ainsi, dans la droite ligne de ses prédécesseurs, le ministre de l’intérieur prétend que les messageries chiffrées seraient un des principaux obstacles à l’arrestation des terroristes ou à la surveillance des militants écologistes. Selon lui, il faudrait donc créer une « porte dérobée » dans ces applications. Nous le répétons depuis toujours : introduire un accès, une « backdoor », affaiblirait le niveau de protection de l’ensemble des communications. Si une faille est créée pour les autorités d’un État, elle sera alors disponible pour tous les autres acteurs (autres États, organisations criminelles, hackers…). Le chiffrement est une mesure de sécurité, le casser rendrait le monde numérique vulnérable et personne n’y a intérêt.

De son coté, la Commission européenne a proposé un règlement « Chat Control » ou « CSAR » qui imposerait la surveillance de masse de nos communications et le contournement du chiffrement dans le but affiché de détecter des contenus d’abus sexuels d’enfants. Pour cette institution, ainsi que pour les nombreuses associations et entreprises faisant pression pour l’adoption de ce texte, une telle analyse généralisée de nos échanges serait la seule solution pour protéger les enfants d’abus. Afin de contrer ce discours faussé et empêcher d’ouvrir la porte à cette nouvelle forme de surveillance, une campagne intensive contre ce texte est en cours à Bruxelles, menée par une coalition d’associations dont nous faisons partie.

Enfin, dans le cadre de l’affaire du « 8 décembre » la justice française antiterroriste a mobilisé ce vieux raccourci entre chiffrement et clandestinité. Selon les services de renseignement et les magistrats, le fait que les inculpées utilisaient des outils comme Signal seraient la preuve d’une volonté de dissimuler des actions criminelles, ils ont donc inclut ces éléments parmi les motifs de poursuite.

On le voit, le discours dominant tend à faire de la technique de chiffrement autre chose que ce qu’elle est en réalité  : une simple modalité du droit à protéger sa vie privée. Pour que nous puissions affronter ces batailles et défendre le droit au chiffrement, n’hésitez pas à nous faire un don !

Pionnière dans ces pratiques que nous dénonçons, la CAF fuit rapidement suivie par d’autres administrations à mesure que se répandait le discours d’extrême droite de « lutte contre l’assistanat ». Sous l’impulsion de la Cour des Comptes ou de la Direction Nationale de Lutte contre le Fraude, ces pratiques de notation algorithmique ont peu à peu été adoptées par Pôle Emploi, l’Assurance maladie, l’Assurance vieillesse ou encore les impôts.

Le développement de ces algorithmes se fait en toute opacité, porté par un discours d’« efficacité », de « rationalisation » et de « lutte contre la fraude et le non-recours ». Pourtant, ces algorithmes automatisent et amplifient des discriminations déjà existantes et insupportables. Ils renforcent aussi les difficultés de recours en cas de contrôle et de sanction, et participent d’une déshumanisation des relations entre les administrations publiques et les bénéficiaires de leurs services. Sans compter que pour développer, alimenter et perfectionner ces algorithmes, ce sont toujours plus de nos données personnelles qui sont exploitées, dans un processus de mise à nu numérique de tout un chacun.

Dès 2021 nous avons été alerté·es par divers collectifs, d’abord sur certaines pratiques et conséquences de la « dématérialisation » à Pôle Emploi. De là, nous avons commencé à enquêter sur la CAF, pionnière en la matière, et ce travail est d’ailleurs toujours en cours, tant l’opacité autour de ces algorithmes est grande.

Pour plus d’informations, vous pouvez consulter notre page sur les algorithmes de contrôle social, notre page sur l’algorithme de la CAF, ou l’article que nous avons publié concernant le code source de cet algorithme de la CAF.

Ces systèmes n’ont qu’un seul but : nous trier pour mieux nous contrôler. Alors pour nous aider à mettre fin à ces pratiques de surveillance généralisée discriminantes et déshumanisantes, aidez-nous à continuez le travail et faites un don à La Quadrature !

Ces dernières années, nous avons vu s’enchaîner de nombreuses lois visant à réguler Internet et plus particulièrement les réseaux sociaux : loi « Haine », loi « Fake news », règlement « Terro »… La motivation à faire de telles lois était la viralité de « fausses informations », « de propos haineux » ou encore « de contenus à caractère terroriste » sur les réseaux sociaux. Dans l’ensemble de ces lois la solution proposée est la même : l’obligation faite aux réseaux sociaux de censurer les contenus « illicites » qu’ils hébergent. Dans certains cas, cette obligation de retrait est imposée sous un délai tellement court que des solutions de filtrage algorithmique — c’est-à-dire où un algorithme scanne les contenus et identifie (souvent en se trompant complètement) ceux qui doivent être bloqués — devient obligatoire. En plus de ne pas être une solution envisageable pour des acteurs non-commerciaux qui n’en ont pas les moyens, ces algorithmes ne sont pas souhaitables lorsqu’ils sont entraînés par des personnes très peu payées, exposées à de très gros volumes de contenus violents — c’est le cas chez Facebook par exemple.

La majorité de ces problèmes vient de la façon dont les réseaux sociaux commerciaux sont façonnés pour être addictifs et obsédants, afin de s’assurer que l’on y reste le plus longtemps possible et que l’on y voie le plus de publicité possible. Toutes ces choses ne sont pas propres au principe du réseau social, elles sont propres au principe d’un réseau social commercial financé par la publicité.

À chacune de ces lois, nous avons tenté d’initier une autre manière de réguler les contenus sur Internet : en demandant l’obligation d’interopérabilité pour les gros réseaux sociaux commerciaux.

En redistribuant à de plus petites échelles le pouvoir de décision des règles d’un espace et le travail de modération, la viralité s’en trouverait diminuée à son fonctionnement naturel sans être boostée artificiellement via des algorithmes.

L’interopérabilité impliquerait aussi une décentralisation de la modération, davantage faite par des humains ayant une bien meilleure compréhension des interactions qu’un algorithme générique. Les messages de haine, le harcèlement, les messages violents seraient plus facilement bloqués dans leur viralité.
De cette manière, il pourrait exister en même temps une grande diversité de régimes de modération : du plus strict, pour les communautés ayant besoin d’accéder à un espace « safe » tout en discutant avec des personnes extérieures, au régime de modération le plus permissif.

L’interopérabilité ne rendrait pas les échanges sur Internet parfaits en un claquement de doigts, mais elle rendrait cela possible au fur et à mesure que les gens choisiraient de s’extraire des réseaux sociaux commerciaux pour aller vers des réseaux sociaux dont les règles de fonctionnement leur conviennent mieux.

Pour en savoir plus sur l’interopérabilité des réseaux sociaux, consultez la page qui résume nos réflexions sur le sujet. Et pour aider La Quadrature à lutter contre la censure des réseaux sociaux et à promouvoir l’Interopérabilité, n’hésitez pas à faire un don !

Ces questionnements sur les liens entre écologie et numérique peuvent prendre de nombreuses formes :
– qu’il s’agisse de rendre visible ce que le numérique cherche à invisibiliser, ses infrastructures très concrètes, imposant une lourde extraction de ressources, détériorant les territoires et les populations où elles sont implantées en imposant une échelle d’exploitation industrielle,
– qu’il s’agisse de lutter contre la dématérialisation forcée qui génère du traçage supplémentaire de données, n’ayant généralement aucune utilité puisqu’elle ne servent que la surveillance et la publicité, qui à leur tour polluent notre monde et nos vies,
– qu’il s’agisse de réfléchir à ce qu’il faudrait démanteler/détruire, ce qu’il faudrait hacker, récupérer, réemployer, et surtout à ce qu’il faudrait créer et inventer comme moyens de communication désirables,
– ou encore qu’il s’agisse de mettre en lumière et de soutenir les alternatives libres, décentralisées et auto-gérées, la culture du partage et du faire-ensemble pour construire et entretenir des biens communs numériques, et de lutter contre ce qui les freine (brevets, DRM, licences privatrices) ; voici quelques sujets sur lesquels nous aimerions nous pencher dès maintenant et dans l’année qui vient.

Au fond, le numérique ne diffère pas des autres techniques : de la mécanique à l’électronique, de la chimie à l’algorithmique, il nous faut certainement réinventer des modes de production et de maintenance des outils corrélés à nos besoins réels, en prenant en compte les forces et moyens existants mais aussi les limites planétaires. Et si on oubliait notre réflexe d’exploitation des êtres vivants et de la nature ainsi que le sacro-saint « droit d’entreprendre », et si on rendait le fantasme de l’innovation comme fin en soi – celle qui résoudrait spontanément tous les problèmes du monde – obsolète ?

On pourrait alors aller voir du côté des low-tech (et si on faisait avec moins, avec moins d’innovations et moins de high-tech, mais aussi moins de surveillance et de fichage par exemple ?), de la slow-tech (a-t-on vraiment besoin d’être connecté-e en permanence ?), de la désobéissance technologique et de la dé-tech (et si on démantelait les infrastructures les plus nuisibles, celles qui nous rendent accros mais finalement pas heureuses ?). On pourrait aussi aller à la rencontre des réseaux auto-gérés, des hackerspaces, de ces collectifs qui réduisent/s’évertuent à réduire l’empreinte écologique du numérique, et en tirer l’inspiration de modes d’action concrets pour réinventer des technologies et des usages numériques soucieux des enjeux écologiques

C’est en tout cas l’envie que nous avons à La Quadrature pour les mois et années qui viennent, et une chose est sûre : on y fera de belles rencontres, et on y gagnera en intelligence collective.

Alors, prêt-es à nous suivre sur ces chemins pour, comme le disent les zapatistes, « cheminer en interrogeant » ?
Si oui, n’hésitez pas à nous rejoindre sur notre canal, et si vous le pouvez à nous soutenir !