C’est une idée évidemment remarquable qu’ont eu les organisateurs du colloque de Metz que de le faire porter sur « les algorithmes publics ». Nous voici dans le concret et dans les problèmes les plus contemporains de l’action publique. Dans le droit administratif en action.

Le thème des « smart cities » présente des vertus analogues. Il nous invite à nous confronter aux évolutions actuelles du fonctionnement urbain, qui importent grandement à notre droit administratif, dans lequel la Ville a toujours occupé une place importante et prend une place de plus en plus importante.

L’objet de ce texte est le suivant. On commence maintenant à cerner les problèmes juridiques que soulève d’ores et déjà et pourrait soulever dans l’avenir l’utilisation d’algorithmes comme instruments de l’action administrative (IV). Notre objectif est de soumettre ici quelques idées sur les dimensions propres que ces problèmes présentent et pourraient présenter dans les « smart cities » (V).

Il nous faudra d’abord expliquer ce que nous entendons par « smart cities » (I), quel rôle y jouent aujourd’hui et potentiellement les algorithmes (II) et plus précisément quelle place y occupe ce que l’on peut appeler la « gouvernance algorithmique » (III).

I. Qu’entendre par « smart cities » ?

Les expressions « smart cities » ou « villes intelligentes » agacent souvent, à la fois parce qu’elles suggèrent que les villes étaient jusqu’à maintenant stupides et parce que l’on ne sait souvent pas trop à quelles réalités précises se réfère celui qui les utilise. Pourtant elles correspondent bien à une vocabulaire international qui désigne toute une série d’évolutions actuelles dans le fonctionnement concret des villes qui rayonnent autour du numérique et de ce que celui-ci apporte à l’amélioration de ce fonctionnement. La vérité est qu’elles désignent un groupe de mutations dans les fonctionnements urbains qui les révolutionnent petit à petit de manière inéluctable : « smart city » est en fait une autre façon de dire « ville de demain ».

On peut présenter ces mutations de diverses façons. Celle qui nous convainc le plus consiste à dire qu’elles sont le produit d’une triple transformation dans le fonctionnement concret des villes1: sont en cause une transformation des infrastructures, une importance croissante des données et du numérique et des modifications dans la gouvernance.

1. Une transformation de l’infrastructure urbaine

On n’insiste jamais assez sur le rôle des infrastructures dans le fonctionnement urbain. Les villes sont d’abord ce que sont leurs infrastructures : viaires, de transport, d’assainissement, d’aération et de récréation (espaces verts), etc…

Or, ce qui se passe dans les « smart cities », c’est que de nouvelles technologies, empruntant très largement au numérique, réussissent aujourd’hui à potentialiser, à rendre plus efficaces un certain nombre de ces infrastructures. Des capteurs placés sur l’éclairage public permettent de le moduler en fonction des passages, le stationnement est de plus en plus régulé par des systèmes d’information qui indiquent là où des places libres peuvent être trouvées, les conteneurs à ordures peuvent être équipés de dispositifs qui en vérifient le contenu, signalent qu’il est temps de les vider, etc…

Le mouvement « smart cities » est porteur d’un renforcement -plus ou moins sensible, plus ou moins rapide- de l’efficacité des fonctions et des services urbains, grâce aux nouvelles technologies, qui, au moins dans certains cas, améliorent la solution de problèmes constituant des plaies de la vie urbaine moderne : la congestion automobile, la pollution atmosphérique, l’insécurité, etc…

Les technologies de la “ville intelligente” parviennent –parfois- à alléger ces fardeaux en modernisant les services urbains existants et en en suscitant de nouveaux : comme la mobilité partagée et de nouveaux types de communication par exemple.

Elles le font en enrichissant l’infrastructure urbaine de nouveaux éléments, nouvelles technologies physiques comme nouveaux outils de communication et en suscitant une interconnexion croissante entre ses composantes : l’infrastructure de la distribution d’eau fournit des données utiles pour la prévention des inondations, le mobilier urbain joue un rôle essentiel dans la diffusion de l’information, etc…

Un phénomène lié à ce qui précède est le fait que l’infrastructure urbaine se trouve dorénavant surmontée par une « méta-infrastructure » numérique, qui est essentielle à son interconnexion et à sa coordination : elle est constituée à la fois de dispositifs de collecte, de conservation, d’utilisation de données et d’outils de communication qui permettent de les faire circuler par câble, par satellite ou autrement. En pratique, cette « méta-infrastructure » numérique tend à devenir plus importante que l’infrastructure physique dans le fonctionnement de la ville.

2. L’omniprésence du numérique et des données

Les données sont le carburant des « smart cities » : celles-ci n’émergent qu’installées sur des monceaux de données chaque jour exponentiellement accrus et sur la valorisation de ces données par transformation en services rendus par l’infrastructure urbaine.  .

Dans les « villes intelligentes », tout d’abord, une énorme quantité de données est constamment créée ou collectée. Certaines d’entre elles sont élaborées d’une manière sophistiquée par les différents éléments de l’infrastructure urbaine -elles peuvent être le produit d’une analyse complexe des flux de transport, des habitudes de vie…-, d’autres sont des traces laissées sur des capteurs : tout simplement, par exemple, les traces que nos téléphones mobiles laissent sur les serveurs des opérateurs téléphoniques chaque fois que nous passons à proximité de l’un de leurs relais.

Une fois collectées, les données urbaines vont se trouver assemblées, interconnectées de façon à contribuer au fonctionnement des services urbains. Ceux-ci, en effet, deviennent de plus en plus tributaires de moteurs numériques, de dispositifs techniques reposant sur l’utilisation massive de données. Les services de mobilité sont dans ce cas  – la coordination des déplacements comme l’information des citoyens concernés-, les services énergétiques sont dans ce cas -des compteurs intelligents aux mécanismes d’ajustement entre les productions locales d’énergie et les grands réseaux-.

Avec les “open data”2, que la loi rend aujourd’hui obligatoires dans les collectivités dépassant un certain seul d’importance -actuellement 3500 habitants-, les données urbaines sont rendues publiques et peuvent être réutilisées par les citoyens et les entreprises pour créer de nouveaux services et en particulier des applications pour smartphones destinées à faciliter la mobilité, la recherche de logements, la connaissance du niveau de sécurité des différents quartiers, etc…

3. Une évolution des équilibres de la gouvernance

Les évolutions “smart cities” induisent également des transformations dans les relations entre les autorités publiques et la société civile.

Il s’agit d’abord de changements dans les relations entre autorités publiques et entités du secteur privé. Notamment  dans la distribution des fonctions entre les uns et les autres, ces changements résultent du fait que certaines infrastructures privées –c’est le cas des infrastructures de communication et notamment des réseaux de téléphonie mobile– deviennent essentielles au fonctionnement urbain global.

Ceci conduit nécessairement à rechercher des formes nouvelles de partenariat public-privé qui ne sont pas toujours faciles à construire, ne serait-ce que parce qu’elles exigent un partage des données, sur lesquelles tous les partenaires veillent jalousement car elles constituent pour eux des richesses et des instruments de pouvoir.

Ces nouveaux positionnements respectifs des autorités publiques et du secteur privé poseront en vérité rapidement la question de savoir “qui gouverne les “smart cities?”.Qui, des promoteurs construisant d’entiers quartiers « intelligents », des opérateurs de télécommunications, des gestionnaires de réseaux d’énergie…et des autorités publiques, imposera sa maîtrise sur le nouveau fonctionnement urbain ? On peut penser qu’un  rôle de coordination important reviendra aux autorités publiques, mais ce rôle n’est pas encore apparent dans le droit : la législation française en tous les cas s’est abstenue pour le moment de le consacrer.

Par ailleurs, il est clair que les évolutions “smart cities” sont de nature à transformer significativement les rapports entre les gouvernements locaux et les citoyens. La principale raison en est que les citoyens des « smart cities » sont et seront, au travers des open data, de plus en plus complètement informés sur tous les aspects de la vie locale et de plus en plus en position de créer eux-mêmes des services urbains. Un nouvel équilibre politique se prépare.

II. Les algorithmes et la gouvernance algorithmique

Il est nécessaire de dire un mot de ce que sont les algorithmes (1°) et un mot des raisons qui expliquent le développement explosif de leur utilisation contemporaine (2°) avant d’évoquer leur utilisation au service des processus décisionnels, ce que l’on peut appeler la gouvernance algorithmique (3°).

1.  Qu’est-ce qu’un algorithme ?

C’est à Alan Turing, le mathématicien qui, au cours de la Seconde Guerre Mondiale, découvrit pour le compte du gouvernement britannique le secret du principal code utilisé par l’armée allemande, que l’on doit la mise en évidence du procédé des algorithmes. Il établit que, si tous les axiomes des mathématiques ne peuvent pas être démontrés dans les termes des mathématiques, en revanche toutes les questions peuvent être décomposées en opérations de calcul simple qu’on peut décrire en termes mathématiques ou logiques. D’où l’algorithmique, qui ne questionne plus les fondations logiques des propositions, mais les rend calculables à partir d’opérations logiques élémentaires3.

Concrètement, les algorithmes se présentent sous la forme de séries d’instructions logiques qui, nourries de certaines données, fourniront une réponse à une question déterminée. Ils peuvent être simples, comme le suivant, qui permet de décider si l’on fait ou non une tarte aux pommes :

Ils peuvent être plus compliqués, comme celui-ci – de l’espèce « algorithme Boucle Tant Que »-, qui permet de résoudre un petit problème de thésaurisation :

Ils peuvent être encore beaucoup plus compliqués, et consister dans une collection importante d’équations mathématiques complexes. Ils peuvent être appliqués à des séries relativement simples de données, ou bien être utilisés pour éclairer des choix qui doivent être fondés sur de grandes quantités de données très variées. C’est dans cette dernière hypothèse que leur utilité est la plus manifeste.

2. Pourquoi le développement des algorithmes ?

Le développement soudain et exponentiel des algorithmes et de la science des algorithmes4 est dû, semble-t-il, à trois séries de facteurs qui s’enchainent.

Le premier est la complexité croissante de nos sociétés. La situation des personnes comme la réalité des choses deviennent de plus en plus difficiles à faire entrer dans des cases simples : ne serait-ce que parce que les savoirs scientifiques comme administratifs raffinent constamment, individualisent constamment. Moyennant quoi, est survenue, à l’époque contemporaine, ce que Dominique Cardon appelle une « crise des régularités statistiques ordonnant un système stable de catégories entretenant entre elles des liens de dépendance »5. Il en découle un besoin croissant de calculs mathématiques pour mettre de l’ordre dans les données et les rapporter à une personne ou une situation déterminée.

On rejoint le deuxième phénomène, qui tient à ce que les acteurs privés comme publics baignent de plus en plus dans des océans de données. Dont la quantité s’accroit constamment à des vitesses qui sont absolument stupéfiantes. Les difficultés de traitement ne font qu’augmenter de ce fait.

La troisième série de facteurs, liée aux deux précédentes, tient au fait que les acteurs, privés comme publics, sont de plus en plus conduits à prendre des décisions multifactorielles, des décisions qui doivent prendre en compte une multitude de paramètres divers. Dans les sociétés contemporaines, la complexité des situations, celle de l’information et celle des objectifs à poursuivre comme des valeurs à servir dans les décisions se répondent comme dans un ballet : les algorithmes sont un moyen d’y introduire des figures de rationalité.

3. La gouvernance algorithmique

Dans l’état actuel des choses, c’est certainement le secteur privé qui est le plus avancé dans l’utilisation d’algorithmes comme outils de la prise de décision. Les grandes entreprises commerciales, par exemple, valorisent leurs stocks de données -qui peuvent être facilement considérables : que l’on songe à ce que contiennent les tickets de caisse d’un réseau de supermarchés à la fin d’une année- en les faisant traiter par des algorithmes pour éclairer leurs stratégies. Si elles pensent ne pas avoir assez de données, d’ailleurs, elles en achètent.

Les collectivités publiques, qui disposent aussi d’importants stocks de données constituées parfois de très longue date -les premiers recensement systématiques à des fins fiscales datent du Moyen Age-, sont un peu à la traîne dans leur utilisation algorithmique, partiellement pour des raisons de coût , aussi pour des raisons de culture. Mais elles y viennent : les remous ayant entouré certains algorithmes utilisés dans l’éducation nationale -comme le fameux « Admission Post-Bac »-  l’ont révélé au grand public.

Nous aborderons plus loin la question des difficultés juridiques que soulève l’utilisation d’algorithmes comme supports de décisions publiques. Mais ces difficultés procèdent largement de caractéristiques générale que présentent ces outils particuliers et dont il faut dire un mot ici.

Il y a le fait, tout simplement, que les algorithmes véhiculent une rationalité extrêmement complexe et formulée dans un langage qui n’est pas celui du quotidien, privé comme administratif. Il arrive que les justifications avancées pour une décision publique soient sophistiquées, le langage de la décision publique est même toujours un peu englué dans une nécessaire abstraction, mais tout ceci reste en général dans les limites du compréhensible par une personne moyennement éduquée : il n’en va autrement que lorsque la décision publique s’appuie sur un rapport technique, scientifique, économique…d’une certaine complexité. L’algorithme, lui, celui dont nous parlons ici en tous les cas, s’exprime complètement dans un langage mathématique que ne maîtrise pas la culture commune.

Il y a un deuxième élément, assez troublant, qui est le fait que les algorithmes, s’ils s’appuient sur des chaînes logiques, ne les font pas du tout nécessairement reposer sur des bases de causalité. En fait, leur fonction propre n’est pas de cet ordre. Les liens qu’ils établissent entre telle donnée et telle autre sont des corrélations statistiques : comme l’écrivent des auteurs,  ils ne se préoccupent pas de connaitre le pourquoi, mais le quoi6. On voit tout de suite ce que cette caractéristique a de perturbateur dans la systémique de la décision publique, que l’on va toujours s’efforcer de justifier par un lien causal : le maire qui interdit le stationnement dans une rue le fait parce qu’il a constaté que des dangers existaient, ces dangers constituent la cause de sa décision, qu’il explique d’ailleurs ouvertement ainsi.

Une troisième élément, peut-être plus troublant encore est l’existence d’algorithmes « auto-apprenants », qui présentent la particularité d’être capables d’adapter la rationalité sur laquelle ils reposent aux réactions du milieu dans lequel ils sont déployés et produisent leurs effets. Par exemple, un moteur de recherche, ou un algorithme de détection de données aberrantes, peut s’enrichir de ce qu’il découvre dans les contextes dans lesquels on l’applique. Dans ce genre d’hypothèses, non seulement l’algorithme véhiculera une rationalité difficile à cerner pour un observateur moyen, mais cette rationalité ne sera qui plus est pas constante, elle bougera au fil du temps.

III. La gouvernance algorithmique des smart cities

Le fonctionnement particulier des « villes intelligentes », royaumes du numérique, repose, comme on l’a dit, puissamment sur l’utilisation de montagnes de données transformées en outils des fonctions urbaines. Cela suppose de plus en plus le recours à des algorithmes. On peut assortir cette affirmation de trois séries de précisions.

1°. Il y a un aspect du fonctionnement des « villes intelligentes », tel qu’il se révèle à nous aujourd’hui, qui est assez déconcertant et auquel, pourtant, il semble que nous devions nous habituer. C’est le fait que les acteurs de la dynamique « ville intelligente », ceux qui créent chaque jour ces nouveaux services urbains qui permettent la rationalisation de l’arrosage des espaces verts ou le guidage vers les places de stationnement, sont publics ou privés : en vérité, ils ne sont pas plus souvent publics que privés.

Il en va ainsi pour des raisons simples et matérielles qui tiennent au fait que certains acteurs privés détiennent à la fois des moyens financiers, une aptitude à l’innovation et une expertise numérique rivalisant facilement avec ceux dont disposent les collectivités publiques. L’argent public est de plus en plus rare, les collectivités publiques ne sont pas naturellement des creusets d’innovation -ce n’est peut-être pas ce qu’on leur demande essentiellement-  et aujourd’hui, certaines entreprises privés détiennent des stocks considérables de données locales qui n’ont rien à envier avec le contenu des fichiers publics correspondants. Carrefour et Auchan en savent autant sinon plus que les services municipaux sur les habitudes de consommation des habitants de la commune.

En quantités d’informations accumulées, les collectivités publiques avaient certainement un avantage historique, car elles ont commencé à constituer leurs fichiers il y a longtemps. Mais, dans l’univers du numérique, elles se font rattraper à grandes foulées par le secteur privé.

Cela a pour conséquence que les acteurs privés deviennent plus aptes que les collectivités publiques à définir des stratégies urbaines fondées sur le traitement algorithmique de grandes quantités de données. Cela implique aussi que, dans les « smart cities », une part significative des données utiles au fonctionnement collectif sont entre des mains privées, non dans celles des autorités publiques. Et il s’agit parfois de données qui en certaines circonstances pourraient se révéler précieuses pour la prise de décisions publiques : géologiques, sanitaires, climatiques, relatives à des risques divers.

Cette question des « données d’intérêt général » à maîtrise privée  a bien été repérée, mais le Droit a du mal à l’aborder. On sait que, pour le moment, elle n’a été que marginalement appréhendée par des dispositions issues de la loi du 7 octobre 2016 sur la République numérique imposant, lorsqu’un service public est délégué, que le concessionnaire fournisse à l’autorité concédante toutes les données collectées ou produites à l’occasion de l’exploitation du service public délégué qui sont indispensables à son exécution (ord. du 29 janv. 2016 sur les concessions, art. 53-1).

Pour utiles qu’elles soient, ces règles ne concernent que les relations avec les acteurs privés délégataires de services publics. Pour aller plus loin, dans la pratique, les autorités en charge des villes concluent parfois des arrangements avec d’autres acteurs locaux, dans lesquels un partage de certaines données publiques et de certains données privées est recherché.

2°. La gouvernance algorithmique se développe concrètement dans le fonctionnement des « smart cities « . De manière il est vrai un peu discrète : comme si les gouvernants ne voulaient pas trop se vanter de ce qu’ils laissent faire aux équations et aux machines. Mais elle se développe réellement dans certains secteurs, dont notamment les suivants.

Des expériences assez anciennes ont été faites aux Etats-Unis de l’utilisation d’algorithmes à des fins de sécurité, et notamment pour repérer des zones ou des personnes porteurs d’un risque de délinquance. La Ville de Marseille s’est récemment équipée aux mêmes fins7.  Les algorithmes sont également utilisés dans la prévention et la gestion d’autres risques, comme la pollution atmosphérique, les inondations…

Données et algorithmes nourrissent de plus en plus le fonctionnement des services de mobilité, comme celui des services énergétiques8. Ils sont de plus en plus présents dans celui de nombreux autres services publics, comme le traitement des déchets, la distribution d’eau, l’assainissement..

La vie politique -nationale, mais aussi locale- est affectée, données et algorithmes nourrissant de plus en plus les stratégies électorales.

3°. Les fonctions que remplissent les algorithmes semblent assez variées. Laissons aux spécialistes le soin d’en décrire de façon systématique les types et contentons-nous de repérer quelques variétés.

Il existe des algorithmes dits « de tri », qui permettent d’identifier une situation répondant à une pluralité de critères : l’algorithme « Admission Post-Bac » est vraisemblablement de ce type. D’autres sont conçus pour permettre le fonctionnement d’objets connectés – poubelles « intelligentes », véhicules autonomes…- : ils peuvent interagir avec l’environnement dans lequel ils sont déployés.

Les algorithmes de calcul permettent d’évaluer un élément en fonction d’un complexe de facteurs. Les algorithmes d’aide à la décision aident à prendre des décisions qui doivent intégrer une variété de paramètres plus ou moins complexes. Voici, glanés sur Internet, des exemples de ces deux variétés : le premier concerne un algorithme permettant de calculer le « potentiel foncier » d’un terrain, le second un algorithme fournissant une aide au dessin des réseaux de voirie.

On doit se dire que les autorités en charge des villes, qui sont malgré tout détentrices de grandes quantités de données concernant les réalités locales, souhaiteront de plus en plus fonder leurs décisions sur l’utilisation efficace, en profondeur, de leurs données. Il n’y a pas de raison pour que les stratégies locales, qu’elles concernent des questions très matérielles -l’immobilier de la collectivité, ses infrastructures- ou des choix de nature plus politiques -l’urbanisme, le social…- ne soient pas de plus en plus nourries par des traitements algorithmiques de gisements de données détenues par la collectivité.

Cela n’ira pas sans poser quelques problèmes juridiques, qu’il nous faut évoquer maintenant.

IV. Les problèmes juridiques que pose l’utilisation des algorithmes comme instruments de l’action administrative en général

On peut dresser un tableau – succinct, ne serait-ce que parce que nous sommes encore en phase de découverte- des problèmes juridiques concrets qui découlent de l’utilisation d’algorithmes dans l’action publique (2°) en prenant tout d’abord conscience de ce que cette évolution provoque ce que l’on peut qualifier d’une nouvelle construction de la décision publique (1°). Face à ces problèmes, qui se révèlent peu à peu, un droit des algorithmes publics fait ses premiers pas (3°).

1. Une nouvelle construction de la décision publique

On découvre progressivement que l’utilisation d’algorithmes comme instruments des choix publics est de nature à provoquer des changements profonds dans les processus de la décision publique. On perçoit au moins les moteurs d’évolution suivants.

En premier lieu, le recours à des algorithmes est clairement de nature à modifier la motivation des décisions publiques, à la fois dans la forme et dans la rationalité qu’elle véhicule. Dans la forme, en ce qu’elle introduit un étage mathématique dans quelque chose qui traditionnellement ne s’éloigne qu’exceptionnellement d’un registre, disons, « littéraire ». Sur le fond, dans la rationalité véhiculée, qui est à la fois plus complexe, voire en partie non intelligible pour un non-expert, fondée sur des logiques qui ne sont pas nécessairement causales, le cas échéant glissante si l’on a affaire à un algorithme « auto-apprenant »…

En second lieu, nous avons vite réalisé que, pour objectif qu’il soit -il est toujours une suite d’instructions logiques-, un algorithme peut, par conception, recéler des biais, avoir été conçu d’une manière telle qu’il pousse la décision publique dans une direction non désirable, discriminatoire, contre-performante…

Il y a quelque temps, on découvre par exemple que le système informatique utilisé pour affecter les jeunes gens dans les lycées parisiens aboutit au résultat inacceptable qu’un lycée se voit attribuer 83% de boursiers9.

Dans un ouvrage très critique à l’égard de la gouvernance algorithmique10, Cathy O’Neil rapporte l’expérience suivante11. Il y a quelques années, ayant réalisé que son système scolaire était d’un niveau très médiocre, la Ville de Washington a décidé de mettre en place un mécanisme très rigoureux d’évaluation des professeurs à partir des résultats de leurs élèves et de licencier ceux des enseignants qui seraient au-dessous de certains seuils. Un algorithme complexe –et maintenu confidentiel- a été conçu par une entreprise pour la Ville. Une enseignante, jugée par ailleurs excellente, s’est vue imputer des performances médiocres et fût licenciée. Elle a finalement découvert qu’elle était victime du biais suivant. Le système incitait les enseignants des années précédentes à surévaluer les performances de leurs élèves. L’enseignante licenciée, elle, jouait le jeu et la conséquence est que les progrès qu’elle faisait faire à ses élèves étaient minorés!

En troisième lieu, un autre attribut important des processus décisionnels fondés sur des algorithmes découle du fait qu’ils seront souvent fondés sur une individualisation extrême des situations auxquelles ils s’adressent12.

Cela résulte du fait que les décisions fondées sur l’application d’algorithmes à de grandes quantités de données reposent finalement sur un profilage extrême des situations et des personnes.

On peut craindre que cette individualisation extrême rompe avec la traditionnelle universalité de la décision administrative – laquelle, même lorsqu’elle s’applique à une situation particulière, se réfère nécessairement à l’universel en ce que les normes qu’elle applique ne doivent pas être créées spécialement pour régler le cas qu’elle aborde. Ou à l’inverse – c’est le risque de la décision « automatique », qui est identifié depuis les origines de la législation Informatique et Libertés- que la décision soit entièrement enfermée dans le « profil » de son destinataire, sans que son auteur prenne le temps de vérifier qu’elle est réellement adaptée aux circonstances dans lesquelles elle est prise.

2. Les problèmes juridique concrets qui en découlent13

Nous ne nous étendrons pas ici sur les problèmes de protection de la vie privée que recèle la gouvernance numérique. Ils ne sont en effet pas en eux-mêmes liés aux algorithmes : ils tiennent à la constitution, à la conservation, à la protection, à la diffusion…des stocks de données publiques ayant un caractère personnel14. Notons tout de même que la gouvernance algorithmique ne se développe que pour traiter mes masses de données, dont celles qui ont un caractère personnel. Il y a donc tout de même une corrélation.

Le premier phénomène évoqué ci-dessus, celui des transformations introduites dans la motivation des décisions administratives va à l’encontre de toute l’évolution contemporaine vers une plus grande transparence des motifs des décisions publiques. Comment le combiner avec les règles qui imposent de façon croissante la motivation de ces décisions ?

On voit immédiatement que des difficultés corollaires sont de nature à apparaitre dans le contrôle juridictionnel de la légalité des actes administratifs fondés sur un algorithme. Non seulement, le juge ne sera en général pas plus armé que le citoyen moyen pour comprendre les algorithmes, mais on peut douter que les instruments qu’il utilise habituellement pour contrôler les motifs des décisions administratives et la relation de ces décisions à leurs motifs conservent leur efficacité habituelle. Ces instruments – qu’il s’agisse du contrôle de la rationalité, de la proportionnalité, de l’erreur manifeste d’appréciation, etc…- ont pour cibles des rationalités classiques, causales : par exemple, la décision du maire d’interdire totalement le stationnement dans une rue donnée n’est-elle pas disproportionnée ? Ils risquent d’être de peu de secours face à des motivations qui s’appuient sur des corrélations statistiques.

Ces questions en induisent immédiatement une autre, qui est de savoir si les tribunaux seront conduits à admettre des recours dirigés contre les algorithmes eux-mêmes. Dans le passé récent, les juges administratifs ont eu à s’interroger sur la possibilité de recours contre les circulaires, directives, guidelines…Ils ont admis des solutions variables, consistant en général soit dans un recours direct, soit dans la possibilité de contester ces documents dans le cadre de recours dirigés contre des décisions individuelles fondées sur eux. Mais il faut comprendre que c’est leur caractère interne qui a suscité les hésitations des juges. Leur lisibilité n’était pas en cause, alors qu’elle est au cœur du problème d’un éventuel recours dans le cas des algorithmes.

Le second phénomène, celui des « biais » que peuvent recéler les algorithmes rejoint le précédent en ceci que les distorsions correspondantes sont rendues possibles par l’opacité de la rationalité que véhicule l’algorithme.

Il pose naturellement un problème de contrôle de l’ »objectivité » des algorithmes. Il faudra peut-être imaginer des formes de contrôle préalable sur les algorithmes : c’est la piste que la Commission Informatique et Libertés propose de suivre dans un rapport de 201715. Quid du contrôle juridictionnel ? Une décision fondée sur un algorithme recélant un biais devrait être entachée d’une erreur de droit -les conséquences de la législation appliquée ne sont pas correctement tirées- ou d’une violation de la loi -une discrimination contraire au principe d’égalité est créée, par exemple-. Mais pour l’apprécier, le juge devra en général s’entourer d’experts capables de tester pour lui les logiques à l’œuvre dans l’algorithme.

Le troisième problème, celui de l’hyper-individualisation et des décisions automatiques se dédouble quant à ses conséquences juridiques, mais les deux risques qu’il recèle tiennent au face-à-face entre les citoyens et les données personnelles que les administrations détiennent à leur sujet16. Le trop-plein de données peut se heurter à une certain droit au secret vis-à-vis de l’administration : peut-on imaginer que les autorités à qui nous demandons un avantage fiscal, social, économique, déduisent leur réponse de la montagne de données qu’elles détiennent sur nous ? La décision automatiquement fondée sur un profil dans lequel le numérique administratif nous a enfermés ignore le principe d’un examen particulier des circonstances, c’est-à-dire la chance donnée d’établir que votre situation ne rentre pas exactement dans les cases dans lesquelles le fichier public l’a placée.

3. Les premiers pas d’un droit des algorithmes publics

Les réponses que les questions précédentes ont reçues dans le droit positif demeurent assez succinctes. L’essentiel réside dans les éléments suivants.

La question de la transparence des algorithmes a fini par susciter une intervention législative, venue de la loi du 7 octobre 2016 sur la République numérique. Ce texte a, comme on le sait, introduit dans le code des relations entre le public et l’administration, deux dispositions tendant à la publicité des algorithmes. La première prévoit qu’ »une décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande » -article  L. 311-3-1.-.

Selon la seconde, « les administrations …, à l’exception des personnes morales dont le nombre d’agents ou de salariés est inférieur à un seuil fixé par décret, publient en ligne les règles définissant les principaux traitements algorithmiques utilisés dans l’accomplissement de leurs missions lorsqu’ils fondent des décisions individuelles. » -article L.312-1-3-.

Le second problème, celui des « biais » contenus dans les algorithmes, n’a pour le moment été abordé ni par le législateur ni par le juge.

La question des décisions automatiquement fondées sur des profils individuels a, par contre été aperçue dès les origines de la législation « Informatique et Libertés. La loi du 6 janvier 1978 lui consacrait son article 10, qui, tel que modifié récemment la loi du 20 juin 2018, prévoit qu’ »aucune décision produisant des effets juridiques à l’égard d’une personne ou l’affectant de manière significative ne peut être prise sur le seul fondement d’un traitement automatisé de données à caractère personnel, y compris le profilage, à l’exception…. ».  Le règlement européen sur la protection des données personnelles de 2016 conforte ce texte en disposant : « La personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire. »

V. Dimensions propres à l’administration des smart cities

Les problèmes qui viennent d’être évoqués, qui sont associés de manière générale à la gouvernance algorithmique, connaitront certainement, dans l’univers des smart cities, des inflexions, des dimensions particulières, qu’il n’est pas facile de cerner dans la phase encore première de la croissance du phénomène dans laquelle nous nous trouvons. Hasardons tout de même quelques hypothèses.

a) Il faut dire d’abord que le fonctionnement des smart cities pousse vers leur paroxysme la dimension numérique et la gouvernance algorithmique et que, donc, les problèmes juridiques qui leur sont liés y sont eux-mêmes mécaniquement augmentés.

b) Les problèmes touchant au respect de la vie privée y sont nécessairement exponentiellement accentués, et ce pour deux raisons. La première est tout simplement la quantité de données personnelles qui sont collectées dans les smart cities – au travers notamment des forêts de capteurs qui y sont installées-.

La seconde est dans le caractère de plus en plus interconnecté de l’infrastructure. Lequel implique une interconnexion croissante des stocks de données. L’interconnexion des fichiers de données personnelles est l’un des périls les mieux identifiés de rapport de l’informatique et des libertés. Au point qu’il constitue l’une des questions les plus sensibles dans la mise en œuvre de la loi de 1978. Dans le régime issu de la modification de ce texte par la loi du 20 juin 2018, il est prévu que les demandes d’autorisation et d’avis de la CNIL -dans les hypothèses où ces formalités demeurent applicables- doivent indiquer «  le cas échéant, les interconnexions, les rapprochements ou toutes autres formes de mise en relation avec d’autres traitements » -article 30-.

A défaut d’interconnexion régulière, il faut rappeler que l’usage des traitements de données personnelles est enfermé dans les finalités qui leur ont été décidées pour les traitements. Comme le dit l’article 6 de la loi de 1978,« Un traitement ne peut porter que sur des données à caractère personnel qui satisfont aux conditions suivantes :…2° Elles sont collectées pour des finalités déterminées, explicites et légitimes et ne sont pas traitées ultérieurement de manière incompatible avec ces finalités. «

On peut penser que le fonctionnement numérique des smart cities aura de plus en plus de mal à s’accommoder de ce principe de spécialité des fichiers.

c) La même dimension de fonctionnement interconnecté des smart cities devrait avoir un impact sur les processus décisionnels et contribuer à en éprouver les mécanismes juridiques.

Potentiellement, elle permet en effet d’aller vers des processus plus complexes et plus synthétiques. Plus les autorités en charge des villes auront entre les mains des stocks considérables de données interconnectées comme le seront de plus en plus les infrastructures physiques, plus elles seront en position de prendre des décisions, d’arrêter des politiques intégrant un maximum de ces éléments grâce à l’utilisation d’algorithmes.

Prenons l’exemple de décisions d’urbanisme. Comment ne chercherait-on pas, demain, à les éclairer en s’appuyant sur un maximum de données et en demandant à des algorithmes de les traiter ? Si une municipalité, demain, souhaite développer le logement pour les personnes âgées, ne va-t-elle pas prendre conscience de ce qu’elle dispose d’innombrables gisements de données susceptible d’éclairer ses décisions -elles se trouvent dans les fichiers fiscaux, sociaux, sanitaires, de transport, et quelques autres- et se faire concevoir des algorithmes qui moulineront ces données pour en déduire des propositions de choix politiques ?

On voit ici que, dans la smart city, le fonctionnement algorithmique est susceptible de s’étendre aux décisions publiques de caractère général, règlementaires ou planificatrices. Les problèmes d’opacité des motivations et de contrôle de celles-ci qui ont été évoqués ci-avant, ne pourront que s’en trouver fortement accrus.

d) Par contrôle, il faut d’ailleurs entendre ici non seulement contrôle juridictionnel mais aussi contrôle politique, contrôle démocratique. La complexité inhérente à la gouvernance algorithmique qui devrait être puissamment développée dans les smart cities risque d’installer un écran entre certaines décisions publiques et les citoyens.

Pour autant qu’on appréhende le futur de son fonctionnement politique, la smart city devrait être une réalité assez paradoxale, combinant des promesses de réflexivité et des risques d’opacité. Baignant dans un univers de données publiques ouvertes, le citoyen devrait y être largement plus informé, mais il aura sans doute davantage de mal à contrôler des processus de décision publique qui tendront plutôt vers quelque opacité.

Il faudra trouver des solutions. Faute de pouvoir imposer à tous les citoyens l’apprentissage de la science algorithmique, elles seront nécessairement dans des mécanismes d’appui, des relais institutionnels secourables. De même que la fracture numérique d’aujourd’hui impose que l’on fasse bénéficier d’une assistance les personnes qui ont du mal à entrer dans les procédures administratives électroniques, de même la smart city de demain devra mettre à notre disposition des systèmes experts et peut-être des personnes ressources nous aidant à décoder les décisions prises sur la base d’algorithmes.

1. Anthony Townsend, Smart Cities, Norton & Company, 2013 ; Ville intelligente, ville démocratique ?, colloque organisé par Berger-Levrault et la Chaire « Mutations de l’Action Publique et du Droit Public » de Sciences Po, Berger-Levrault, 2014. [↩]
2. Jean-Bernard. Auby, La réutilisation des données publiques, Droit administratif,  2011, repère 8 ; Données publiques. Publication. Réutilisation, Juris-Classeur Administratif, fasc. 108-30 – Danièle Bourcier, Primavera de Filippi, L’Open Data : universalité du principe et diversité des expériences ¤ JCP A 2013, 2260 – S. Chignard, Open Data. Comprendre l’ouverture des données publiques,  Éd. FYP, 2012 -Bénédicte Delaunay, L’open data dans les collectivités territoriales, JCP éd.A, 2018-2286 [↩]
3. Dominique Boullier, Sociologue du numérique, Armand Colin, 2016, pp.37 s. [↩]
4. Depuis une dizaine d’années, il existe une nouvelle génération d’algorithmes, qui permettent de gérer des données, des centaines voire des milliers de fois plus vite qu’auparavant : Gilles Babinet, Big Data, penser l’homme et le monde autrement, Le Passeur, 2015, p. 165 [↩]
5. Dominique Cardon, A quoi rêvent les algorithmes ? Nos vies à l’heure des big data, Le Seuil, 2015 [↩]
6. Kennneth Cukier et Viktor Mayer-Schoenberger, Big Data. La révolution des données est en marche, Robert Laffont, 2014 [↩]
7. https://www.20minutes.fr/marseille/2180687-20171204-video-marseille-veut-utiliser-donnees-informatiques-ville-plus-sure-big-brother-prouesse-technologique [↩]
8. Par exemple : Lyon entre avec Enedis dans l’ère des réseaux électriques intelligents, Les Echos, 6 déc. 2017 [↩]
9. « Paris amende le système d’affectation des lycées », Le Monde, 25 mars 2017, p. 11. [↩]
10. C. O’NIEL, Weapons of Mass Destruction. How Big Data increases Inequality and threatens Democracy, Penguin Books, 2017. [↩]
11. p. 3 et s. [↩]
12. S. Chignard, Open Data. Comprendre l’ouverture des données publiques, précité, pp.133 s. [↩]
13. Jean-Bernard Auby, Contrôle de la puissance publique et gouvernance par algorithme (contribution au colloque de la SIPE, Milan, 27 mai 2017), in Diana-Urnai Galetta et Jacques Ziller (dir.), Le droit public au défi des technologies de l’information et de la communication, au-delà de la protection des données, Nomos, 2018, p.155 [↩]
14. Voir par exemple : Matthieu Bourgeois, Droit de la donnée, Lexis Nexis, 2018 [↩]
15. CNIL, Comment permettre à l’homme de gardera la main ?,  Les enjeux éthiques des algorithmes et de l’intelligence artificielle, rapport décembre 2017 [↩]
16. Hazan Malekian, Régime juridique de la prise de décision par les algorithmes à l’égard de l’être humain, in François Jouen, Catherine Puigelier et Charles Tijus (sous la direction de), Décision et prise de décision, Mare & Martin,2017, p.68 [↩]