Personne ne peut ignorer l’importance prise par l’intelligence artificielle dans le débat public. Toutefois, les pratiques administratives, et le contentieux qui les entoure, continuent essentiellement à se focaliser sur l’automatisation des « procédures de masse » à l’aide d’algorithmes dits « procéduraux », qui associent une sortie donnée à chaque entrée possible. Alors qu’en France c’est le cas notamment des algorithmes d’affectation des bacheliers aux universités, en Italie c’est le cas de la mise en œuvre des plans extraordinaires de recrutement et de mobilité des enseignants, lancés sur le fondement de la loi n° 107 du 13 juillet 2015, portant réforme de l’Éducation nationale. Dans les deux cas le logiciel en cause est chargé d’automatiser des procédures dont la complexité réside notamment dans le nombre et dans la variété de demandes à gérer et de critères à appliquer.
Or, les enjeux des actes pris sur la base d’algorithmes procéduraux se situent au croisement de l’informatique juridique (à savoir l’adoption de solutions informatiques pour répondre aux exigences de rationalisation soulevées par le droit) et du droit de l’informatique (à savoir l’adoption de solutions juridiques pour répondre aux exigences de régulation soulevées par la dématérialisation des échanges). En effet, la production automatisée d’un acte individuel s’articule essentiellement en deux macro phases : la conception du logiciel (marquée par les mesures techno-juridiques affectant l’articulation entre les règles juridiques et le code informatique) et le traitement des dossiers en entrée afin d’aboutir aux actes individuels (avec les mesures techno-juridiques affectant l’automatisation de la procédure administrative non contentieuse).
L’année dernière, lors de la première rencontre « Printemps Droit et numérique », on a abordé surtout la première macro-phase (celle tenant à l’informatique juridique), et on a constaté la difficulté pour les administrations italiennes à maitriser l’articulation entre la règle juridique et le code informatique. Pour y parvenir, on a dû passer, au préalable, par le Tribunal administratif de Rome, ayant reconnu au code source le caractère d’acte administratif communicable (T.A.R., Rome, sect. III-bis, 22 mars 2017, n° 3769), en s’inscrivant dans un courant académique minoritaire. À ce sujet, il faut savoir qu’en Italie, contrairement à la France, ni les codes source ni la prise de décision administrative au moyen d’algorithmes ne font l’objet d’un encadrement législatif spécifique, en dépit d’un débat académique qui remonte aux années 90.
S’agissant de la deuxième macro-phase de l’automatisation (celle tenant au droit de l’informatique), la jurisprudence que l’on s’apprête à analyser témoigne de la difficulté pour les administrations d’articuler les garanties procédurales en fonction des spécificités de l’automatisation, ce qui retombe sur la justiciabilité, d’abord, et sur la légalité, ensuite, des décisions issues du logiciel.
En s’appuyant à nouveau sur la doctrine académique, la jurisprudence vient de se pencher cette fois sur l’automatisation, considérée dans son ensemble, par rapport au droit de la procédure administrative non contentieuse et aux principes constitutionnels de référence. Toutefois, les juges se bornent à systématiser le cadre problématique sans indiquer aux administrations les solutions envisageables, même à droit constant.
C’est pourquoi, après avoir illustré, dans un premier temps, le cadre problématique posé par la jurisprudence administrative la plus récente (I), on essayera, dans un deuxième temps, de prendre position dans ce dialogue entre les tribunaux et l’académie, afin d’identifier des pistes d’évolution possibles (II).
I. L’opacité de l’algorithme, source d’illégalité
La réflexion jurisprudentielle sur les algorithmes publics trouve son point d’orgue dans deux décisions du Conseil d’État, mais elle a bénéficié aussi de l’apport précieux des tribunaux administratifs.
Premièrement, par une série d’arrêts au contenu identique (dont la dernière date du 19 mars 2018)1, le Conseil d’Etat vient de trancher une question de compétence juridictionnelle dans le but exprès d’assurer la justiciabilité du processus décisionnel algorithmique sous-jacent à l’adoption d’actes automatisés relevant de la compétence du juge judiciaire (A).
Deuxièmement, avec l’arrêt n° 2270 du 8 avril 2019, la haute magistrature a eu pour la première fois l’occasion de préciser, de façon systématique, sa doctrine sur l’algorithmisation de l’action publique (B).
A. L’illégalité des actes administratifs réglementaires imposant, en amont, le recours à l’automatisation
Il est important de noter qu’en Italie la suppression presque intégrale du statut de la fonction publique fait que les procédures de recrutement et de mobilité de personnel public relèvent respectivement de la compétence du juge administratif et du juge judiciaire (cfr. les articles 2, al. 2 et 63, al. 1 du décret législatif n° 165 du 30 mars 2001). Et c’est justement en tranchant une question de compétence juridictionnelle que le Conseil d’Etat a posé la première pierre de sa doctrine sur les algorithmes publics.
Le tribunal administratif de Rome fut saisi d’un recours visant l’annulation du décret du Ministère de l’éducation nationale, de l’université et de la recherche n° 241 du 8 avril 2016 confiant à un logiciel la gestion de la procédure de mobilité des enseignants sur la base de critères établis par une convention nationale de travail. Les requérants reprochaient notamment au ministère de ne pas avoir dévoilé le mode de fonctionnement de l’algorithme d’affectation utilisé, ce qui les empêchait d’attaquer les failles du logiciel responsables de l’illégalité des actes individuels issus de la procédure. Il ne leur restait alors que d’attaquer la légalité interne du décret ministériel, sous l’angle notamment de la violation de l’art. 1 de la loi n° 241 de 1990 et de l’excès de pouvoir, tiré du caractère manifestement illogique et irraisonné et du défaut de motivation. S’agissant d’une procédure de mobilité, le tribunal administratif se bornait en peu de lignes à décliner sa compétence en faveur du juge judiciaire (jugement n° 2512 du 16 février 2017). En fait, plusieurs enseignants avaient jusque-là saisi fructueusement les juges judiciaires, même si ces derniers n’ont pu que sommer le ministère de réviser au cas par cas les actes issus du logiciel, échappant à leur compétence la mise en cause de la légalité de la procédure adoptée par le ministère.
C’est dans ce contexte qu’intervient la série d’arrêts du Conseil d’État, appelé à trancher la question de compétence. On peut résumer comme suit le raisonnement de la haute juridiction. Le choix de demander à un logiciel spécifique l’accomplissement de la procédure de mobilité relève du pouvoir d’auto-organisation du ministère. Ainsi, le décret adopté à cet effet est qualifiable d’acte administratif de macro-organisation. Le logiciel choisi par le ministère fait partie intégrante du décret ministériel et participe de la même nature d’acte administratif règlementaire. Ces actes administratifs s’interposent entre les critères à appliquer (conformément à la convention nationale de travail) et les actes individuels de micro-organisation. Le fait que ces derniers relèvent de la compétence du juge judiciaire n’empêche pas le juge administratif de vérifier la légalité des actes administratifs préalables à leur adoption. Le ministère n’ayant dévoilé ni l’algorithme ni le code source, les destinataires des actes individuels ne pouvaient qu’attaquer la légalité du décret imposant, en amont, le recours au processus automatisé. Or, selon la jurisprudence constante du Conseil d’Etat2, l’effet erga omnes de l’annulation par le juge administratif d’un acte de portée générale (comme c’est le cas du décret ministériel) réalise le principe fondamental d’égalité de traitement consacré à l’article 3 de la Constitution ; il en va différemment lorsque les juges judiciaires écartent au cas par cas l’application des actes administratifs préalables estimés illégaux. Or, face à l’échec manifeste du logiciel, serait-il conforme à l’article 3 de la Constitution que seulement les enseignants ayant saisi les juges judiciaires bénéficient de la rectification des résultats auxquels le logiciel a abouti ?
Le Conseil d’Etat en conclut, donc, qu’il appartient au juge administratif de contrôler la légalité du décret ministériel imposant le recours au processus automatisé, notamment lorsque l’algorithme demeure inconnu, ce qui empêche les destinataires des actes individuels de porter des contestations ponctuelles sur son fonctionnement. La haute magistrature observe que « cette solution s’impose pour assurer une protection juridictionnelle pleine et effective ; il en serait autrement si l’acte de macro-organisation en cause était exclus du recours pour excès de pouvoir, compte tenu que les actes individuels ne constituent dans ce cas que le résultat mécanique d’un processus automatisé prescrit par celui-ci ».
Il faut signaler que le Conseil d’Etat, statuant en référé sur la demande de suspension du jugement appelé (ordonnance n° 3088 du 21 juillet 2017), avait déjà sommé le ministère « de réexaminer avec rigueur la position des requérants, au-delà de tout automatisme informatique ». On voit donc bien comment les algorithmes procéduraux brouillent en pratique la répartition de compétence entre les juridictions. En effet, dans la mesure où ces algorithmes incorporent le projet de tout acte individuel possible par rapport aux données en entrée, la mise en cause de leur légalité par le juge administratif influence directement le sort des actes individuels concrètement adoptés, en dépit de la compétence du juge judiciaire sur ces derniers.
Une fois la question de compétence tranchée, l’affaire est revenue devant le tribunal administratif de Rome appelé à statuer sur le fond. Ainsi, à chaque renvoi de l’affaire par le Conseil d’Etat, le tribunal aussi en a profité pour donner sa leçon3, à partir d’un état des lieux de ses précédents en la matière. Enfin, ça sera le Conseil d’Etat à prendre le relais quelques mois plus tard et à forger des véritables lignes directrices à l’intention des administrations.
B. L’illégalité des actes administratifs individuels issus du logiciel
Ce n’est qu’en avril 2019 que le Conseil d’Etat a eu l’occasion de faire le point sur l’automatisation de la prise de décision publique, en mettant en valeur la réflexion menée jusque-là par la doctrine et par les tribunaux administratifs.
L’objet du litige était l’irrationalité présumée des résultats produits par le logiciel chargé de la procédure de recrutement des enseignants, dont la compétence du juge administratif n’était donc pas en question. Le tribunal administratif de Rome, saisi en première instance, avait rejeté le recours au motif de la formulation trop générale des moyens invoqués à l’encontre des actes réglementaires contestés4, ce qui a conduit les requérants à former appel. En accueillant l’appel, le Conseil d’Etat a estimé que les spécificités du litige lui imposaient de s’attarder sur des considérations d’ordre général.
D’après le juge, lorsqu’il s’agit d’appliquer des critères objectifs, sans aucune marge d’appréciation laissée à l’administration, l’automatisation des procédures s’avère une mesure non seulement souhaitable mais technologiquement et constitutionnellement nécessaire, au sens de l’article 97 de la Constitution. D’une part, le gain d’efficience apporté dans l’accomplissement de tâches répétitives et parfois très complexes s’accorde parfaitement au principe de bonne gestion (cfr aussi l’article 1 de la loi n° 241 de 1990). D’autre part, l’élimination des interférences possibles dues à la négligence ou aux intérêts des fonctionnaires chargés des procédures assure l’impartialité des actes adoptés.
Cela étant, insiste le juge, le caractère technique des lignes de code sous-jacentes au logiciel ne saurait occulter leur valeur juridique, en ce qu’elles constituent la simple traduction informatique des sources de droit applicables en l’espèce. Le logiciel incarne donc la procédure et incorpore non seulement les règles de droit mais aussi, le cas échéant, les choix opérés par l’administration dans le cadre de sa marge discrétionnaire d’appréciation. En ce sens, le logiciel est qualifiable « d’acte administratif informatique » et sa mise en œuvre ne peut pas échapper aux principes généraux de la procédure administrative non contentieuse, déclinés notamment par la loi n° 241 de 1990.
Or, ceci entraîne deux conséquences majeures, que le juge tient à expliquer en détail.
Premièrement, il appartient à l’administration responsable de la procédure de mettre en balance, en amont (c’est-à-dire avant l’exécution du logiciel), tous les intérêts en cause, conformément à la loi n° 241 de 1990. Ce qui impose des mises à jour, des améliorations et des test réguliers de l’algorithme sous-jacent, surtout, précise le juge, lorsqu’il s’agit d’algorithmes d’apprentissage automatique et de deep learning.
Deuxièmement, la justiciabilité de l’algorithme demande avant tout qu’il soit compréhensible par le juge et par les citoyens « selon une déclinaison renforcée du principe de transparence », ce qui implique que tous ses aspects soient connus : les auteurs, la procédure d’élaboration, le mécanisme de décision, y compris l’ordre de priorité retenu dans l’évaluation des données en entrée. À ce sujet il faut signaler, comme l’expliquent Danièle Bourcier et Primavera De Filippi5, que : « [certains] algorithmes présentent des caractéristiques particulières qui en rendent impossible la compréhension par une simple observation du code. C’est le cas notamment des réseaux de neurones (neural networks) et des algorithmes d’apprentissage automatique (machine learning) qui s’appuient sur des grands jeux de données afin de développer leur propre réseau de neurones et leur propre système de raisonnement, deux éléments déterminants pour toute prise de décision algorithmique ». Elles en concluent que « le principe de transparence des algorithmes doit donc être appliqué à toutes les données opérationnelles ou intermédiaires (et non plus seulement descriptives) qui sous-tendent ces algorithmes ». Une nuance qui n’échappe pas au juge administratif italien, qui insiste sur la nécessité pour l’administration de rendre accessibles (et, donc, auditables) toutes les données exploitées par l’algorithme.
Après cette longue dissertation, le juge en tire ce lourd constat : « l’impossibilité de comprendre le fonctionnement de l’algorithme constitue un vice susceptible par soi-même d’affecter la légalité de la procédure », au titre de la violation des principes de transparence et d’impartialité de l’action publique.
II. La valorisation du cadre juridique en vigueur à l’appui de la légalité des projets d’automatisation
Or, face au mouvement d’algorithmisation croissante de l’action publique, la jurisprudence administrative italienne a fait preuve de réactivité, notamment pour contrebalancer le silence du législateur.
Mais, à y bien regarder, « un droit des algorithmes publics », bien que souhaitable, n’est pas indispensable6, dans la mesure où les principes constitutionnels et législatifs régissant l’action publique sont par nature technologiquement neutres. En d’autres termes, qu’il s’agisse de la conception du logiciel (A) ou du traitement automatisé des dossiers en entrée (B), il n’est pas seulement question de remettre en cause le cadre juridique existant mais surtout d’adapter sa mise en œuvre aux spécificités de l’automatisation.
A. La conception du logiciel en charge de la procédure automatisée
L’année dernière on a observé que « le fait que les décisions individuelles soient « calculées » par l’ordinateur, au lieu d’être prises au cas par cas par un fonctionnaire-personne physique, signifie tout simplement que l’expression de la volonté administrative a été anticipée au moment de la conception de l’algorithme. Il s’ensuit que la procédure destinée à la conception de l’algorithme devrait bénéficier des mêmes garanties de participation et de transparence auxquelles la procédure pour l’adoption des décisions individuelles est soumise ». On a donc envisagé la mise en place, en amont, de systèmes de validation et de suivi de l’algorithme, impliquant la participation des représentants des parties prenantes et, en aval, l’obligation de diffusion des codes source et de la documentation qui en accompagne la réalisation, afin d’en faciliter la justiciabilité. Cela serait susceptible, d’une part, de limiter le risque de contentieux à l’encontre des administrations et, d’autre part, de déclencher des projets participatifs d’amélioration des logiciels publics. S’agissant de la mise en débat de l’algorithme dès sa conception, on pourrait envisager la généralisation du paradigme des consultations publiques lancées régulièrement par les autorités administratives indépendantes sur les projets d’actes administratifs règlementaires. Quant à l’appel du Conseil d’Etat à une « déclinaison renforcée du principe de transparence », il faut noter que les administrations sont tenues d’ores et déjà de se conformer à la stratégie nationale visant la rationalisation de leur parc logiciel sous l’égide du paradigme de l’Open Source. Cette stratégie, placée par le Code de l’administration électronique (CAD) sous la responsabilité de l’Agence pour l’Italie digitale7, oblige en principe les administrations, d’une part, à réutiliser, en tout ou en partie, les logiciels créés par d’autres administration ou disponibles en Open Source et, d’autre part, à publier en accès libre les codes source et la documentation technique et fonctionnelle des logiciels réalisés sur mesure pour leur compte. À cet effet, l’Agence pour l’Italie digitale a publié le 9 mai 2019 des lignes directrices contraignantes, en application des articles 68 et 69 du CAD. Or, le paradigme de l’Open Source n’est pas seulement une question économique, mais aussi de « souveraineté et indépendance numérique » des administrations, ce qui rejoint les vœux du Conseil d’Etat à ce que les administrations maitrisent toujours leurs algorithmes, en assurant des mises à jour et des test réguliers.
B. Le traitement automatisé des dossiers en entrée
Concernant la deuxième macro-phase de l’automatisation, à savoir le démarrage de la procédure au moyen d’un logiciel spécifiquement paramétré, il faut noter que les administrations sont tenues depuis longtemps d’avoir recours au « dossier électronique ». Le CAD, en organisant ce dispositif (à l’article 41), ne vise pas seulement l’optimisation des flux des données de procédure, mais aussi la création d’un espace web consacré aux échanges procéduraux, y compris l’exercice du droit des parties prenantes d’avoir toujours accès au dossier, de l’alimenter et d’interagir avec le responsable de la procédure. Ce qui nous amène au devoir pour les administrations d’assurer, au sens de l’article 6 de la loi n° 241 de 1990 et malgré l’impératif de dématérialisation, qu’un fonctionnaire personne physique maîtrise la procédure (et le logiciel sous-jacent), en gardant la souplesse nécessaire à prendre en compte les spécificités des demandes et à faire face aux lacunes et aux disfonctionnements éventuels du logiciel, même sur sollicitation des parties prenantes.
Enfin, les juges administratifs n’ont jamais manqué de rappeler que l’automatisation ne saurait écarter l’obligation de motivation de toute décision administrative individuelle, notamment en fonction de sa justiciabilité (au sens de l’art. 3 de la loi n° 241 de 1990). À ce sujet, on peut signaler que des études et des expériences ont déjà montré la pertinence du recours, par exemple, à l’« acte administratif hypertextuel »8 pour mieux remplir l’impératif de transparence, tout en profitant de l’automatisation des procédures ainsi que de la dématérialisation des actes.
Conclusions
Les juges administratifs ont le mérite d’avoir relancé l’ancien débat autour des algorithmes publics, dans un moment historique où il peut s’appuyer sur un cadre technologique et juridique qui a beaucoup évolué.
Pablo Picasso disait que « Les ordinateurs sont inutiles car ils ne donnent que les réponses ». Or, sans être aussi tranchant que Picasso, le contentieux des actes pris sur la base d’algorithmes démontre que le devoir pour les administrations de garder le lien entre l’humain (citoyen, juge, fonctionnaire) et la machine ne relève pas seulement d’un impératif philosophique ou éthique mais surtout d’un principe de droit, dont dépend la légalité de tout projet d’automatisation.
- Les arrêts ont été rendus par la section VI du Conseil d’Etat, du 2 octobre 2017 (n° 4559) au 19 mars 2018 (n° 1710). [↩]
- Sect. VI, arrêts du 7 octobre 2016 n° 4143, du 16 septembre 2016 n° 3899 et du 30 novembre 2015 n° 5418. [↩]
- Les jugements ont été rendus par la section III bis du Tribunal administratif de Rome, du 10 septembre 2018 (n° 9224) au 28 mai 2019 (n° 6688). [↩]
- Cfr. ex plurimis, Tribunal administratif de Rome, sect. III bis, n° 12026 du 1er décembre 2016. [↩]
- Danièle Bourcier et Primavera De Filippi, Transparence des algorithmes face à l’Open Data : quel statut pour les données d’apprentissage ? Revue française d’administration publique, 2018/3 N° 167, pp. 525 à 537. [↩]
- Même si le manque en Italie d’une base légale se heurte à l’article 22 du Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données), interdisant par principe la prise d’une décision fondée exclusivement sur un traitement automatisé de données personnelles. Parmi les exceptions à cette interdiction figure la décision autorisée par le droit de l’Union ou le droit de l’État membre auquel le responsable du traitement est soumis et qui prévoit également des mesures appropriées pour la sauvegarde des droits et libertés et des intérêts légitimes de la personne concernée (article 22, lettre b). Or, cette exception offre aux États une marge de manœuvre dont le législateur italien, contrairement au législateur français, ne s’est pas saisi. [↩]
- Une mission gouvernementale chargée de la mise en œuvre de la stratégie numérique italienne (www.agid.gov.it/). [↩]
- A. VACCA, La motivazione degli atti nell’amministrazione digitale, thèse de doctorat, Università degli Studi di Cagliari, a.a. 2009-2010. [↩]
Table des matières