1. Introduction

Il ne fait aucun doute que ce sont les algorithmes auto-apprenants (et les mégadonnées1 dont ils se nourrissent) qui suscitent à présent le plus d’intérêt auprès de la communauté internationale2, pour leur capacité d’extraire du savoir à partir de vastes ensembles de données : une intelligence artificielle capable d’ « augmenter » l’humain, voire de le dépasser. En revanche, l’actualité nous montre que les législateurs nationaux, en amont, et les administrations publiques, en aval, ont parfois encore du mal à se débrouiller avec des algorithmes bien plus élémentaires, visant tout simplement à « accélérer » l’humain : ce sont les algorithmes déterministes ou procéduraux, associant une sortie donnée à chaque entrée possible3. Ces derniers constituent des outils incontournables de l’administration électronique, dans la mesure où ils permettent de déléguer à l’ordinateur l’accomplissement d’une multitude de tâches répétitives, selon des critères prédéterminés et parfois très complexes, et de dégager du temps pour l’appréciation fine des cas particuliers.

Or, avant de projeter les administrations dans la quatrième révolution industrielle poussée par les algorithmes auto-apprenants4, il reste encore à régler les questions relatives à la « programmation impérative » des processus décisionnels, qui impactent déjà le quotidien des relations entre le public et l’administration.

Pour l’Italie, un exemple parlant a été fourni en 2016 par le portail POLIS (Presentazione On Line delle IStanze)5, chargé, entre autres, de gérer la mobilité des enseignants de l’Éducation Nationale pour l’année scolaire 2016-2017 au moyen d’un algorithme d’affectation du genre de celui sous-jacent au portail français d’admission post-bac (APB)6. Or, bien que les actes automatisés en question relèvent en Italie du droit privé, étant donné que le statut de la fonction publique a été presque entièrement supprimé7, les tensions engendrées par l’affaire POLIS (par. 2) nous aiderons à cerner les enjeux transversaux de l’automatisation, avant d’aborder les spécificités de la prise de décisions administratives. Enfin, on s’attachera à évaluer la portée des réformes des années 2016 et 2017, visant à installer dans le secteur public le paradigme Open Source8 et la « transparence intégrale » (par. 3).

2. Les tribunaux font office de dernier rempart contre un algorithme qui échappe à l’administration ainsi qu’au cadre légal

La sensibilité du sujet, l’ampleur du public concerné et la complexité des règles à appliquer, voilà les facteurs qui ont transformé l’automatisation de la mobilité des enseignants en un véritable « test de résistance » pour la machine administrative. Il est revenu donc au juge judiciaire (par. 2.1) et au juge administratif (par. 2.2) de démonter « l’usine à gaz ».

2.1. Le juge judiciaire « redresse » l’algorithme

Les mutations des enseignants recouvrent une multitude d’enjeux : fractures géographiques, continuité pédagogique, attractivité des écoles, etc. En plus, un nombre considérable de personnels se trouve concerné : selon un recensement daté de septembre 20179, l’Éducation nationale occupe en Italie plus de 800.000 enseignants, répartis dans près de 40.000 établissements. La réforme de 2015, appelée pompeusement « La bonne école »10, a ouvert un plan extraordinaire de mobilité territoriale et professionnelle pour pourvoir11 les postes vacants sur tout le territoire national12, selon des critères établis l’année suivante par un accord collectif national de travail et précisés par un arrêté ministériel. Dans le but d’assurer une gestion efficace et égalitaire des plus de 200.000 dossiers, eu égard à la complexification récente des critères d’affectation, le ministère a décidé de commander à une entreprise privée, au coût d’environ 400.000 euros, la création d’une nouvelle fonctionnalité du portail POLIS pour le traitement automatisé des candidatures13. L’algorithme en cause était censé apparier les candidats aux postes vacants, en tenant compte des demandes, exprimées sous forme de vœux classés, et des priorités établies par l’accord collectif susmentionné.

Or, il n’a pas fallu attendre longtemps après le lancement de la nouvelle application pour que le contentieux submerge le ministère, d’abord, et les tribunaux, ensuite, jusqu’à provoquer la chute du gouvernement Renzi. Du nord au sud de l’Italie, les enseignants ont déposé des centaines de plaintes réclamant la rectification des actes issus de l’algorithme ministériel. C’est ainsi que le contentieux judiciaire a rapidement dévoilé non seulement les failles du logiciel mais surtout la position du ministère, qui s’en était tenu à acheter une solution clé en main, sans s’impliquer ni dans l’analyse et dans la spécification des exigences, ni dans la conception de l’algorithme, ni dans la vérification du logiciel. D’où l’incapacité de justifier, dans les quelques cas où il a choisi de comparaître, l’écart entre la description sommaire de l’algorithme délivrée par le prestataire et les actes de gestion des carrières faisant l’objet des litiges. Face à un ministère se retranchant derrière la prétendue objectivité de l’algorithme, ce sont les juges qui, au fur et à mesure que les actions en justice se multipliaient, ont fait une sorte de rétro-ingénierie, en découvrant les bugs de l’algorithme à partir des actes attaqués14.

Eh bien, en dépit d’une vague de litiges sans précédent et de la résonnance médiatique de l’affaire, un élément essentiel restait pourtant à dévoiler : le code source du logiciel. Pour tenter d’y parvenir, le dossier a dû franchir le seuil du tribunal administratif.

2.2. Le juge administratif confère au code source « le rang » de document administratif

L’initiative a été prise par un syndicat national des enseignants, qui a intenté une action en justice devant le Tribunal Administratif Régional (TAR) de Rome.

En vertu de la loi n° 241 du 7 août 1990, le syndicat demande au Ministère de l’Éducation, de l’Université et de la Recherche l’accès au code source du logiciel gérant la mobilité des enseignants pour l’année scolaire 2016/2017. Le ministère rejette la demande du syndicat et se borne à délivrer un extrait de l’algorithme à caractère didactique, simplifiant son fonctionnement. En plus, il s’agissait d’un document établi par le prestataire sous format papier, ce qui le rendait inexploitable. C’est pourquoi le syndicat s’est vu contraint de saisir le juge administratif, afin d’obtenir l’annulation de la décision de refus du Ministère, mais également en vue de l’obtention d’une injonction de communiquer les fichiers litigieux.

Le rejet du Ministère se fondait sur deux arguments majeurs : primo, le fait que le code source d’un logiciel ne revêt pas le caractère de document administratif communicable, au sens de la loi n° 241 de 1990 ; secundo, la protection du logiciel en tant qu’œuvre de l’esprit au sens du droit d’auteur, qui en empêche la communication.

Concernant le premier argument, il faut savoir que, aux termes de l’art. 22, al. 1 sous d) de la loi n° 241, on entend par document administratif (communicable) « toute représentation graphique, photo-cinématographique, électromagnétique ou de toute autre espèce, du contenu d’actes, même internes ou n’affectant pas une procédure administrative particulière, détenus par les administrations publiques dans le cadre de leur mission de service public, indépendamment du fait que leur régime juridique relève du droit public ou du droit privé ». Il s’ensuit qu’en Italie le caractère communicable des codes source relève d’un exercice interprétatif15. À ce sujet, deux thèses se confrontent : d’une part, celle majoritaire qui qualifie les logiciels de simples artéfacts techniques, en ce que leurs développeurs (dans la plupart des cas, externes à l’administration) se bornent à exécuter les instructions du pouvoir adjudicateur figurant dans des actes administratifs établis à cette fin16 ; d’autre part, celle qui qualifie les logiciels eux-mêmes d’actes administratifs, en ce qu’ils expriment une volonté de l’administration conditionnée à la survenance de faits précisément identifiés17.

L’arrêt du TAR Lazio Roma, sect. III-bis, 22 mars 2017, n° 3769, prend soin de revitaliser la deuxième thèse à l’aune de l’automatisation croissante de l’action publique. D’après le juge administratif, l’adoption de technologies innovantes appelle à une approche interprétative plus ouverte, dépassant les logiques traditionnelles. Dans le cas examiné, l’algorithme incarne la procédure : c’est le logiciel qui accompli, pour chaque dossier déposé en ligne, toutes les étapes procédurales, au lieu du responsable-personne physique. L’automatisation, insiste le juge, ne saurait appauvrir le droit à l’information des destinataires des décisions concrètes. Autrement dit, les autorités administratives ne sont pas fondées à créer de nouvelles zones d’ombre sur l’action publique en se cachant derrière l’impénétrabilité des logiciels. D’après le juge, lorsqu’il est question d’analyser le fonctionnement d’un logiciel et d’en détecter les failles éventuelles, la description de l’algorithme délivrée par son éditeur n’est pas tout à fait comparable à l’acquisition de son code source18.

Quant au deuxième argument soulevé par le Ministère, il ne saurait faire obstacle à la communicabilité du code source au sens de la loi n° 241, tout simplement parce que, comme le tribunal n’a pas manqué de préciser, la protection de la propriété intellectuelle ne figure pas au nombre des exceptions au droit d’accès énumérées à l’art. 24. En revanche, cette communication ne dispense pas le demandeur du respect, dans l’usage qu’il entend faire du code source ainsi obtenu, des droits de propriété intellectuelle qui leur sont attachés19.

En conclusion, il est enjoint au ministère de l’Éducation, de l’Université et de la Recherche de communiquer au syndicat le code source du logiciel gérant la mobilité des enseignants pour l’année scolaire 2016/2017, dans un délai d’un mois à compter de la notification du jugement.

Or, le jugement aussi bien que l’analyse technique du code source20, enfin partiellement dévoilé, s’avèrent assez éclairant sur la dynamique qui s’est cachée derrière la réalisation du logiciel ministériel.  En plus de juger le code inefficient et peu fiable, les experts ont constaté des restrictions apportées par le prestataire pour prévenir l’exécution d’outils d’analyse automatique du code. Les experts ont aussi signalé que le Ministère n’a pas fourni le cahier des charges du traitement, ce qui a empêché un réel contrôle sur les chaînes de décisions et de responsabilités qui ont concouru à la réalisation du logiciel, d’abord, et à l’obtention des résultats imparfaits, ensuite.

3. Le cas de la mobilité des enseignants illustre bien les enjeux de l’automatisation, qui se complexifient lorsqu’il s’agit de la prise de décisions administratives. À l’aide d’un cadre juridique récemment renouvelé, l’Italie semble aujourd’hui plus armée pour y faire face

Le d.lgs. n° 82 du 7 mars 2005, portant Code de l’administration électronique (CAD), dispose que : « Les autorités administratives sont tenues de gérer les procédures relevant de leur compétence à l’aide des technologies de l’information et de la communication » (art. 41, al. 1), « afin de permettre la réalisation des objectifs d’efficience, économicité, impartialité, transparence, simplification et participation, dans le cadre des principes d’égalité et non-discrimination, et d’assurer la reconnaissance effective des droits des citoyens et des entreprises énoncés au présent Code » (art. 12, al. 1). La stratégie nationale pour la prévention de la corruption dans le secteur public, encadrée par la loi n° 190 de 2012, prône l’automatisation en tant que mesure susceptible d’améliorer la traçabilité et l’impartialité de l’action publique21. Il s’ensuit que l’automatisation des procédures administratives s’avère désormais un passage obligé, même si les solutions techniques et organisationnelles pour sa mise en œuvre continuent à relever du pouvoir discrétionnaire de chaque administration.

L’automatisation de la mobilité des enseignants a représenté pour l’Italie un véritable cas d’école. De la même manière que le portail français d’APB, le naufrage du projet ministériel a mis en évidence les insuffisances aussi bien des autorités administratives que du cadre juridique. Cet exemple nous aidera, dans un premier temps, à esquisser les enjeux de la mise en œuvre d’algorithmes publics déterministes (par. 3.1). Sur cette base, on s’attachera, dans un second temps, à évaluer la portée des récents développements du cadre légal italien (par. 3.2).

3.1. Les algorithmes déterministes étant assez élémentaires, leur fonctionnement dans l’espace administratif dépend plus de variables organisationnelles et juridiques que de variables informatiques

En croisant les rapports sur le portail d’APB émanant de plusieurs institutions françaises22, le florilège d’arrêts rendus en Italie sur l’algorithme d’affectation des enseignants et les analyses techniques qui ont suivi le dévoilement des codes source dans les deux pays23, on obtient un portrait assez complet des enjeux soulevés par l’automatisation de la prise de décision par l’intermédiaire d’algorithmes déterministes. Ces enjeux concernent l’articulation entre les règles juridiques et le code informatique, d’une part, et la relation entre l’administration et les parties prenantes, d’autre part.

Quant au premier point, « s’il est vrai que c’est à l’ordinateur de s’adapter aux exigences d’expression de la loi [et non l’inverse] … Il faut admettre que plus un texte est formulé de manière systématique, complète, cohérente et compréhensible, plus il est traduisible en algorithmes »24. De ce fait, l’articulation entre la règle juridique et le code informatique relève tout d’abord de la légistique25 et de la légimatique rédactionnelle (à savoir la légistique assistée par ordinateur)26. Une fois les textes adoptés, il appartient à l’administration de normaliser les dispositions juridiques applicables, de préciser les concepts indéterminés, de trancher les questions interprétatives et d’exploiter à l’avance, pour tous les cas admis, la marge d’appréciation éventuellement laissée par la loi27. Il s’agit d’une étape incontournable, puisque les échecs résultent souvent d’une réflexion insuffisante à ce stade. Pendant cette phase l’administration devra aussi s’interroger sur la légitimité28 et la faisabilité technique de l’automatisation et, dans l’affirmative, recueillir les éléments nécessaires pour établir un cahier des charges pertinent lorsqu’elle envisage l’externalisation du développement logiciel. Ce qui nous amène aux acteurs et à la médiation jouée par les informaticiens. La nécessité de mettre en cohérence le cadre juridique et le code informatique fait que la réussite du processus dépend au premier chef de la relation entre les fonctionnaires et les informaticiens, très souvent externes à l’administration. Il est impératif que l’administration et les prestataires jouent leur rôle respectif et que le passage de la volonté administrative aux lignes de code soit formalisé, en vue d’assurer à posteriori une pleine transparence du processus décisionnel. Il incombe notamment à l’autorité administrative d’accompagner les informaticiens dans l’analyse du problème, la spécification des exigences, le paramétrage de l’algorithme, le choix et la pondération des critères et la détermination des jeux de données à prendre en compte29.

Lorsqu’il est question d’automatiser l’exercice du pouvoir public, aux enjeux transversaux de l’automatisation, s’ajoute la nécessité de faire pleinement droit aux exigences d’implication des parties prenantes et de motivation des décisions adoptées, en fonction aussi de leur justiciabilité30. Or, l’automatisation du processus décisionnel s’articule essentiellement en deux phases : la première débouchant sur la réalisation d’un logiciel qui contient en soi le projet de toute décision possible par rapport à une série de cas de figures ; la deuxième débouchant sur une multitude de décisions individuelles issues des traitements algorithmiques mis en œuvre. En y regardant bien, dans ce cas on peut considérer les logiciels publics comme un faisceau de décisions potentielles et pourtant ponctuelles. Comme on l’a vu plus haut, certains auteurs ont qualifié ces logiciels d’« actes-logiciel » ou « actes-programme », c’est-à-dire d’actes administratifs à la fois généraux, en ce qu’ils s’appliquent à un nombre indéterminé de personnes, et concrets, en ce qu’ils régissent en détail une ou plusieurs situations déterminées31. En effet, si le programme a été correctement conçu, il fournira une décision donnée pour toute combinaison possible d’éléments de fait pris en compte par le cadre juridique de référence. Comme on l’a vu plus haut, loin d’être « la bouche de la loi », les algorithmes incorporent les interprétations des textes et les appréciations discrétionnaires des administrations qui en commandent la réalisation. Le fait que les décisions individuelles soient « calculées » par l’ordinateur, au lieu d’être prises au cas par cas par un fonctionnaire-personne physique, signifie tout simplement que l’expression de la volonté administrative a été anticipée au moment de la conception de l’algorithme. Il s’ensuit que la procédure destinée à la conception de l’algorithme devrait bénéficier des mêmes garanties de participation et de transparence auxquelles la procédure pour l’adoption des décisions individuelles est soumise32. Autrement dit, les questions de la participation et de la transparence se posent non seulement à l’égard des personnes (physiques et morales) visées, en aval, par les traitements algorithmiques, mais aussi à l’égard des collectifs visés, en amont, par l’algorithme33. Par ailleurs, ces deux dimensions de l’automatisation, individuelle et collective (ou civique), s’avèrent complémentaires : le fait de porter dans le débat public les projets d’automatisation, jusqu’à associer le public à leur développement ou à leur vérification, est susceptible non seulement de prévenir les vices dont pourraient se trouver entachées les décisions individuelles, mais aussi de déclencher des projets participatifs d’amélioration des logiciels publics.

3.2. Les paradigmes Open Source et Open Data à l’aide d’une transparence renforcée sur les systèmes algorithmiques publics

C’est précisément la « dimension civique » de l’automatisation qui se trouve affectée par les réformes des années 2016 et 2017, dans la mesure où elles sont susceptibles d’appuyer l’auditabilité des algorithmes et des logiciels publics. Premièrement, il faut mentionner les modifications apportées au CAD sous l’égide du paradigme Open Source. Deuxièmement, il convient de considérer l’essor de la transparence publique fortifiée par le paradigme Open Data, au biais des nouveautés législatives de portée sectorielle (touchant au Code des marchés publics – d.lgs. n° 50 du 18 avril 2016) et générale (touchant au « Code de la transparence » – d.lgs. n° 33 du 14 mars 2013).

Concernant le CAD, il organise, entre autres, l’approvisionnement des logiciels publics, selon qu’il s’agit d’une solution standardisée (art. 68) ou de la commande d’une solution sur mesure (art. 69).

L’approvisionnement de logiciels doit être précédé d’une analyse comparative, technique et économique qui doit répondre aux critères généraux établis à l’art. 68.1-bis34, tels qu’ils sont détaillés par des lignes directrices de l’AgID, mises à jour début avril 201835. À nos fins, il est intéressant de noter que cette démarche contraint les administrations à s’interroger sur la légitimité et la faisabilité technique de l’automatisation et à spécifier les exigences par rapport aux procédures visées, ce qui apporte de la rationalité et de la transparence au processus décisionnel préalable à la mise en œuvre des traitements algorithmiques36. En 2012 s’affirme le principe de préférence des logiciels Open Source, en ce que l’achat de solutions propriétaires n’est autorisé que dans le seul cas où l’analyse comparative démontre l’impossibilité d’adopter des solutions Open Source ou de réutiliser des logiciels déjà développés au sein du secteur public37. Il s’agit, là aussi, d’une disposition bénéficiant à la transparence des traitements automatisés des données, au moyen de l’auditabilité des sources.

Or, l’automatisation de la prise de décision administrative nécessite le plus souvent la commande d’une solution sur mesure. Dans ce cas, les pouvoirs adjudicateurs sont tenus, d’une part, de se faire céder par voie contractuelle tous les droits sur les applications commandées, sauf si cela entraîne des coûts démesurés pour des raisons dûment motivées d’ordre technique et économique, et, d’autre part, de publier les codes source et la documentation technique et fonctionnelle de ces logiciels, à moins que des raisons relevant de l’ordre et de la sécurité publics, de la défense nationale et du domaine électoral ne s’y opposent38. Ainsi, une fois diffusés en ligne, les codes source et la documentation pourront aisément passer au crible de n’importe quel observateur indépendant, avant même que les traitements algorithmiques soient mis en œuvre. Il s’agit là d’un point capital, car lorsque les codes source sont communiqués pour donner suite à une demande d’accès les droits de propriété intellectuelle appartenant aux prestataires s’opposent en principe à leur diffusion. On l’a vu dans le cas examiné ci-dessus : seulement les experts engagés par le demandeur ont eu enfin le droit d’analyser les fichiers litigieux.

Or, l’exigence de transparence ne saurait se limiter aux codes source, mais s’étend aux étapes préalables à sa conception, à savoir la passation et l’exécution des marchés publics pour l’édition des logiciels. Le but est d’éclairer les chaînes de décisions et de responsabilités qui ont concouru à la réalisation des applications. En d’autres termes, il s’agit d’éclairer le passage de la volonté administrative aux lignes de code.

Quant aux documents relatifs à la passation des marchés, ils tombent dès 2016 sous le coup de l’art. 29 du Code des marchés publics, exigeant que tous ceux qui émanent des pouvoirs adjudicateurs ou des entités adjudicatrices soient publiés (sous réserve des secrets des offres, des secrets techniques et des affaires – art. 53 – et des marchés qualifiés de secrets – art. 162) sur le site web des mêmes sujets, dans une section labellisée « Amministrazione trasparente », conformément au d.lgs. n ° 33 du 14 mars 201339.

Ce qui nous amène justement au régime juridique Open Data auquel toutes les obligations légales de diffusion (y compris celles ayant pour objet les codes source et les documents des marchés) sont en principe assujetties, conformément au d.lgs. n° 33 de 201340. Toute mise à disposition est effectuée sous forme électronique dans un standard ouvert et doit satisfaire aux conditions de qualité imposées par le décret (art. 6)41.  La réutilisation, à quelque fin que ce soit, est gratuite et ne peut être soumise qu’à la condition que la source de l’information soit mentionnée et que son intégrité soit préservée (art. 7). Tout manquement aux obligations légales de diffusion peut être contesté par une demande d’« accès civique » adressée au « responsable de la transparence » interne à chaque administration (art. 5, al. 1) et faire l’objet d’un recours devant le tribunal administratif, qui statue selon une procédure accélérée (aux termes de l’art. 116 du d.lgs. n° 104 de 2010, portant Code de la procédure administrative contentieuse).

Quant à la communication des documents relatifs à l’exécution des marchés publics, dès 2016 on peut se prévaloir d’un nouveau droit d’accès, qualifié de « généralisé » et conçu en complément du droit d’accès « classique » de 199042. Il s’agit du droit de toute personne à la communication des documents, des informations et des données détenues par l’Etat, les collectivités territoriales, les personnes morales de droit public et les organismes privés sous contrôle public, sauf si la communication porte concrètement atteinte à la protection d’intérêts privés, tels que les données personnelles, les secrets des affaires et la propriété intellectuelle (art. 5, al. 2 et 5-bis du d.lgs. n° 33 de 2013, introduits par le d.lgs. n° 97 du 25 mai 2016)43. Les contenus ainsi transmis tombent eux-aussi sous le coup de l’art. 3, al. 1 du d.lgs. n° 33 de 2013, qui proclame le droit de toute personne de les utiliser et de les réutiliser gratuitement, à quelque fin que ce soit (aux termes de l’art. 7). En dépit des exclusions fondées sur la protection d’intérêts privés, l’accès généralisé est donc susceptible d’appuyer le dévoilement au grand public des documents qui ne sont pas visés par les obligations de diffusion44.

4. Constats conclusifs

Pour conclure, l’omniprésence des algorithmes dans l’espace public pose un problème de niveaux de protection, de pertinence des dispositifs de protection et, en amont, de métriques de performance.

Quant aux niveaux de protection, les droits reconnus aux collectifs et aux personnes morales par la mosaïque juridique que l’on vient d’évoquer interviennent en complément des droits reconnus aux personnes physiques concernées par des décisions administratives individuelles fondées sur un traitement automatisé de leurs données à caractère personnel : à savoir le droit d’obtenir des informations utiles sur la logique sous-jacente au traitement, d’exprimer leur point de vue et de contester la décision45. C’est précisément au croisement du droit administratif et du droit privé que se construit aujourd’hui la « relation algorithmique » entre le public et l’administration, entre l’individu et la res publica. Il appartient au droit administratif d’entretenir notamment la dimension civique de cette relation et les droits qui lui sont attachés. Cela vaut d’autant plus à l’heure des algorithmes auto-apprenants, qui sont en mesure de s’immiscer dans les interstices du pouvoir discrétionnaire ou dans l’organisation des services publics, sans forcément traiter des données personnelles46. En ce sens, on pourrait envisager, par exemple, la généralisation de procédures de validation et de suivi des systèmes algorithmiques publics d’envergure, associant les représentants des parties prenantes. Au demeurant, il est manifeste que dans l’ « environnement algorithmique » la grammaire des relations entre le public et l’administration se complexifie et nécessite la médiation de techniciens.

Quant à la pertinence des dispositifs de protection, il est clair que les algorithmes parlent un langage universel et évoluent dans une espace globale. Par conséquent, le droit est appelé à accompagner leur évolution en forgeant ses outils à une échelle qui dépasse le contexte national, ainsi qu’en témoigne le RGPD. Concernant les droits administratifs nationaux, alors que le droit européen joue un rôle d’harmonisation des principes47, le caractère universel des questions soulevées par la numérisation de l’action administrative suggère de forger les règles de détail à l’aide du droit comparé. On peut prendre l’exemple du principe général de motivation des décisions administratives énoncé à l’article 41 de la Charte des droits fondamentaux de l’Union Européenne (CDFUE)48, par laquelle le Parlement européen a soumis à la Commission européenne la proposition d’un règlement relatif à un droit européen de la procédure administrative, afin de « garantir une administration ouverte, efficace et indépendante ainsi que l’application correcte du droit à une bonne administration » (considérant 14). Pour ce qui a trait au devoir de motivation, l’art. 19 du projet de règlement prévoit que « 1. Les actes administratifs énoncent clairement les motifs sur lesquels ils s’appuient. 2. Les actes administratifs indiquent leur base juridique, les faits pertinents et la manière dont les différents intérêts en présence ont été pris en compte. 3. Les actes administratifs contiennent un exposé individuel des motifs pertinents au regard de la situation des parties. Si cela n’est pas possible en raison du grand nombre de personnes concernées, un exposé général des motifs est suffisant. Dans ce cas, toutefois, toute partie qui demande expressément un exposé individuel des motifs doit l’obtenir ».)), qui connaît des déclinaisons nationales différentes, (en Italie, par exemple, il s’étend à toute décision administrative individuelle, aux termes de l’art. 3 de la loi n° 241 de 1990). Or, le choix du législateur français d’organiser la transparence des décisions administratives algorithmiques non sur le socle de la protection des données personnelles, mais dans le prolongement du devoir de motivation49, mériterait de faire l’objet d’une réflexion approfondie au-delà des frontières françaises.

Finalement, le succès des algorithmes ne pourra se mesurer qu’en fonction de la place faite aux humains, tant du côté des décideurs50 que des personnes visées par les décisions, mais avec un point de vigilance sur la métrique de performance choisie, en évitant la fascination que dans ce domaine pourraient exercer les géants du numérique (Google, Facebook, Amazon, etc). Alors que les algorithmes de l’internet marchand, toujours plus subtils51, sont conçus pour exploiter les asymétries informationnelles entre les clients et l’entreprise, les algorithmes publics, toujours plus ouverts, doivent, entre autres, appuyer une meilleure explicabilité du processus décisionnel public auprès des administrés. Alors que les algorithmes marchands visent la marginalisation des clients et des services peu rentables, la modélisation de l’action publique à l’aide des algorithmes doit viser l’inclusion des individus les plus fragiles, donc « les moins rentables ». Alors que le principal défi à relever pour les algorithmes marchands est la fidélisation d’acheteurs, celui des algorithmes publics est la confiance de citoyens.

1. Sur les notions de mégadonnées et d’algorithmes auto-apprenants, v. F. Pellegrini, Intelligence artificielle, mégadonnées et gouvernance, in « Revue Lamy droit de l’immatériel », 2018, n. 144 : « Il n’existe pas de notion uniforme des mégadonnées (big data). Leur plus petit dénominateur commun est couramment désigné par les xV, du fait de l’initiale v des caractéristiques qui sont supposées les définir. Quant à la valeur x, couramment égale à 3, elle peut aller jusqu’à 6 chez certains auteurs. Le premier critère en v est le volume des données considérées. La volumétrie est un phénomène déclencheur, mais n’est en fait pas discriminante. Le critère sous-jacent est l’impossibilité de traiter exhaustivement l’information considérée, qui va susciter l’emploi de méthodes heuristiques de recherche de corrélations, dont l’intelligence artificielle […]. Le deuxième critère est la vélocité. Celle-ci caractérise le fait que les stocks de données considérés sont en perpétuelle modification, au point même d’induire des incohérences au sein des données collectées. Le troisième critère est la variété, indiquant par cela que les traitements de mégadonnées opèrent sur des données non structurées, dont la sémantique dépend du contexte de collecte ». Quant aux programmes auto-apprenants « […] les résultats produits en sortie par le logiciel à un instant donné dépendent d’un calcul appliqué aux valeurs d’entrée, ce calcul dépendant de paramètres évoluant dans le temps en fonction de l’apprentissage du logiciel. Cet apprentissage consiste à renforcer les valeurs de paramétrage conduisant à des résultats conformes à l’objectif attendu, et à modifier celles ne conduisant pas à un résultat pertinent ». [↩]
2. Pour se limiter à l’Italie et à la France, on peut considérer : le livre blanc « L’intelligenza artificiale al servizio del cittadino », présenté le 21 mars 2018 par le groupe de travail sur l’intelligence artificielle de l’Agence pour l’Italie digitale (AgID), la mission gouvernementale chargée de la mise en œuvre de l’Agenda numérique italien (https://ia.italia.it/assets/librobianco.pdf) ; le rapport « Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne », présenté le 29 mars 2018 par C. Villani, dans le cadre d’une mission confiée par le Premier Ministre (https://www.aiforhumanity.fr/pdfs/9782111457089_Rapport_Villani_accessible.pdf). [↩]
3. V. G. Sartor, L’informatica giuridica e le tecnologie dell’informazione: corso d’informatica giuridica, Torino, Giappichelli, 2016, p. 98 ss. [↩]
4. Cfr. World Economic Forum, Readiness for the Future of Production Report, Cologny – Genève, 2018 (http://www3.weforum.org/docs/FOP_Readiness_Report_2018.pdf). [↩]
5. V. http://www.istruzione.it/polis/Istanzeonline.htm. [↩]
6. Parmi les rapports publiés à ce sujet. : C. Villani, Les algorithmes au service de l’action publique : le cas du portail admission post-bac. Rapport fait au nom de l’Office parlementaire d’évaluation des choix scientifiques et technologiques, Paris, 2018 (https://www.senat.fr/rap/r17-305/r17-3051.pdf); Commission nationale de l’informatique et des libertés, Comment permettre à l’homme de garder la main : les enjeux éthiques des algorithmes et de l’intelligence artificielle, Paris, 2017 (https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf); Cour des comptes, Admission post-bac et accès à l’enseignement supérieur : un dispositif contesté à réformer, Paris, 2017 (https://www.ccomptes.fr/fr/documents/40339); Etalab, Rapport de la mission Etalab sur les conditions d’ouverture du système Admission Post-Bac, Paris, 2017 (http://www.ladocumentationfrancaise.fr/rapports-publics/174000345/index.shtml). [↩]
7. Sauf que pour certaines catégories de personnels, telles que les magistrats, les avocats de l’Etat, les militaires, les professeurs des universités, etc. (conformément à l’art. 3 du décret législatif – d.lgs. – n° 165 du 30 mars 2001, portant règles générales sur l’emploi dans les administrations publiques). [↩]
8. Par « logiciels Open Source » on entend les logiciels dont le code source peut être librement étudié, copié, modifié et redistribué (au sens de l’art. 2 sous j de la directive du Ministre pour l’innovation et les technologies du 19 décembre 2003 – J.O. n° 31 du 7 février 2004 – portant sur le développement et l’utilisation des logiciels par les administrations publiques). [↩]
9. Le recensement a été élaboré par le ministère de l’Éducation, de l’Université et de la Recherche (en italien : Ministero dell’istruzione, dell’università e della ricerca, ou MIUR) : http://www.miur.gov.it/pubblicazioni/-/asset_publisher/6Ya1FS4E4QJw/content/focus-anticipazione-sui-principali-dati-della-scuola-statale-. [↩]
10. Loi n° 107 du 13 juillet 2015 portant réforme du système national de l’éducation et de la formation et habilitation pour le réaménagement des dispositions en vigueur. [↩]
11. Sur requête ou d’office, pour les surnuméraires dont la demande n’aurait pas été retenue. [↩]
12. Voir notamment l’art. 1, al. 73 et al. 108 de la loi n° 107 de 2015. [↩]
13. L’application gérant la mobilité des enseignants a été réalisée dans le cadre d’un marché public d’envergure, portant sur l’externalisation de l’intégralité des services de développement et de maintenance du système informatique du ministère (l’appel d’offres a été publié au J.O., 5ème Série Spéciale – Marchés publics -, n° 137 du 26 novembre 2010 : http://www.gazzettaufficiale.it/eli/id/2010/11/26/TC10BFC24958/s5). [↩]
14. V., ex plurimis : Trib. Lanciano, 8 mai 2017, nn° 114 et 117 ; Trib. Patti, 10 juillet 2017, n° 1177 ; Trib. Venezia, 21 juillet 2017, n° 485 ; Trib. Velletri, 26 septembre 2017, n° 1275. [↩]
15. En France, au contraire, la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique a tranché la question en plaçant les « codes sources » dans la liste de documents administratifs communicables. Cette liste figure à l’article L. 300-2 du Code des relations entre le public et l’administration (CRPA). Ainsi le législateur a consolidé un principe dégagé par la Commission d’accès aux documents administratifs dans l’avis n° 20144578 du 8 janvier 2015 et confirmé peu après par le juge administratif (Tribunal Administratif de Paris, 10 mars 2016, n° 1508951/5-2). [↩]
16. Cfr., ex plurimis: G. Duni, L’amministrazione digitale: il diritto amministrativo nella evoluzione telematica, Milano, Giuffrè, 2008; D. Marongiu, L’attività amministrativa automatizzata, Santarcangelo di Romagna, Maggioli, 2005. [↩]
17. Cfr., notamment : U. Fantigrossi, Automazione e pubblica amministrazione : profili giuridici, Bologna, Il Mulino, 1993 ; A. Masucci, L’atto amministrativo informatico : primi lineamenti di una ricostruzione, Napoli, Jovene, 1993. [↩]
18. « L’accès au code source est un préalable incontournable pour la connaissance des principes et des idées sous-jacents à un logiciel. Il s’ensuit que limiter l’accès au code source équivaut indirectement à restreindre aussi la circulation des idées et des principes sous-jacents », G. Sartor, G. Scorza, L’accesso al codice sorgente : alcune considerazioni su libertà, conoscenza e concorrenza in margine al caso Microsoft, in « Diritto dell’Internet », 2006, n. 4. [↩]
19. Concernant l’arbitrage entre le droit d’accès aux documents administratifs et les droits de la propriété intellectuelle, v. amplius, Cons. St., sect. IV, 6 mars 2017, n° 1013. [↩]
20. V. https://www.gildavenezia.it/wp-content/uploads/2017/06/Perizia-tecnica-preliminare2017.pdf. [↩]
21. V. le Programme National Anticorruption de 2016, adopté par la délibération n° 831 du 3 août 2016 (http://www.anticorruzione.it/portal/public/classic/AttivitaAutorita/AttiDellAutorita/_Atto?ca=6550). Voir aussi la grille que les responsables pour la prévention de la corruption de toute administration doivent annuellement remplir pour attester, entre autres, des « initiatives d’automatisation des procédures visant la réduction du risque de corruption » (http://www.anticorruzione.it/portal/public/classic/AttivitaAutorita/Anticorruzione/PianoNazionaleAnticorruzione/_piani?id=90f790910a778042272c3c807c1dcd86). Cfr. S. Monzani, Partecipazione e responsabilità dei dipendenti pubblici nella funzione di prevenzione della corruzione, in « Lavoro nelle Pubbliche Amministrazioni », 2016, n. 5-6. [↩]
22. V. supra la note 6. [↩]
23. Concernant le cas italien, v. supra la note 20. [↩]
24. P. Mercatali, Informatica e attività legislativa, in Nannucci R. (dir.), « Lineamenti di informatica giuridica: teoria, metodi, applicazioni », Napoli, Edizioni Scientifiche Italiane, 2002, p. 303. [↩]
25. V. R. Pagano, Introduzione alla legistica: L’arte di preparare le leggi, Milano, Giuffrè, 2004 ; F. Foschini, Interpretazione della legge e legistica, thèse de doctorat, Università degli studi di Padova, a.a. 2012-2013, in « http://paduaresearch.cab.unipd.it/5653/ ». [↩]
26. « Elle s’occupe de la modélisation du raisonnement et des procédures relatives à la production législative, mais surtout du procédé concret de rédaction (drafting) des lois : on parle à ce sujet de légimatique rédactionnelle. Elle veille donc à ce que les textes législatifs soient non seulement respectueux de l’orthographe et de la syntaxe, mais aussi des règles de style élaborées par les autorités compétentes » G. Oberto, Le rôle de l’informatique dans le processus d’élaboration des lois, in « Informatica e diritto », 1997, n. 1. [↩]
27. D. Bourcier, La décision artificielle : le droit, la machine et l’humain, Paris, Presses Universitaires de France, 1995, a traité ce sujet de façon remarquable. Elle a observé que : « […] Les règles écrites auxquelles est soumis le décideur sont loin d’être des règles comportant un degré constant et absolu de prescriptivité ou de juridicité. Il existe […] à la fois des horloges et des nuages dans le texte juridique. Ce sont ces nuages qui sont les plus justiciables d’une analyse décisionnelle : le décideur y retrouve ce moment de liberté, où la marge d’appréciation a pour seule limite une motivation acceptable » (p. 49). Ces « nuages » sont les standards (ou concepts indéterminés) : « une technique fonctionnelle d’utilisation de la norme et de répartition des pouvoirs d’interpréter » (p. 154). [↩]
28. On fait notamment référence à la question de la légitimité d’automatiser la prise de décisions administratives relevant de l’exercice d’une compétence discrétionnaire. Dans ce cas, les algorithmes incorporent les règles de droit aussi bien que les règles de conduite que l’autorité se fixe à elle-même par avance, dans le cadre de sa marge d’appréciation. Cfr., ex plurimis, A. Masucci, Procedimento amministrativo e nuove tecnologie. Il procedimento amministrativo elettronico ad istanza di parte, Torino, Giappichelli, 2011, p. 92 ss. Par ailleurs, cela renvoie au thème plus général de l’autolimitation du pouvoir discrétionnaire (ou de l’autoréglementation dans l’administration). V. A. Police, La predeterminazione delle decisioni amministrative: gradualità e trasparenza nell’esercito del potere discrezionale, Napoli, Edizioni Scientifiche Italiane, 1997; P. M. Vipiana, L’autolimite della pubblica amministrazione: l’attività amministrativa fra coerenza e flessibilità, Milano, Giuffrè, 1990. À cet égard, certains auteurs considèrent que la distinction entre le pouvoir lié et le pouvoir discrétionnaire n’est qu’une question d’étendue du caractère discrétionnaire du pouvoir. Alors que dans l’exercice d’une compétence liée le pouvoir est limité à la qualification des faits et à l’interprétation des dispositions juridiques, dans l’exercice d’une compétence discrétionnaire le pouvoir s’étend aux effets de l’acte administratif. Cfr. F. Follieri, Decisione amministrativa e atto vincolato, in « Federalismi.it », 2017, n. 7. Pour D. Bourcier, op. cit. p. 67 : « On ne voit pas alors pourquoi il faudrait distinguer avec une telle détermination pouvoir discrétionnaire et concept indéterminé. Dans le cas de l’administrateur […] l’indétermination du standard législatif peut lui permettre d’utiliser ou de créer une règle intermédiaire souvent implicite, celle qui le conduira, à partir d’une motivation donnée, au dispositif […] Le standard constitue donc l’expression explicite d’un pouvoir discrétionnaire puisque cette autorité pourra, en fonction des circonstances, relier l’énoncé d’une nouvelle règle à son fondement légal ». En fait, comme l’a bien noté le juge administratif (TAR Lazio Roma, sect. III-bis, 22 mars 2017, n° 3769), la légitimité de l’automatisation n’est pas liée au caractère discrétionnaire ou non de la compétence exercée, mais dépend de la possibilité (purement) technique d’automatiser la motivation devant accompagner toute décision concrète, en fonction de sa justiciabilité. Cfr., amplius, A. Vacca, La motivazione degli atti nell’amministrazione digitale, thèse de doctorat, Università degli Studi di Cagliari, a.a. 2009-2010, in « http://veprints.unica.it/618/ ». [↩]
29. « Étant donné que les instructions contenues dans le programme expriment l’exercice de prérogatives de puissance publique, destinées à affecter (bien qu’indirectement) les situations juridiques des particuliers, l’administration est tenue d’en vérifier la légitimité […] » A. Masucci, op. ult. cit., p. 85. D’après le Tribunal régional de justice administrative (TRGA) de Trento, sect. unique, 15 avril 2015, n° 149 : « L’informatique s’avère à l’heure actuelle un moyen incontournable de l’action publique (conformément au CAD) dans le but d’en améliorer l’efficience et l’efficacité. En revanche, il serait faux de voir dans l’administration électronique une sorte d’administration parallèle, œuvrant indépendamment des humains […] : les résultats des traitements informatiques relèvent toujours de la responsabilité objective des autorités administratives ». [↩]
30. D’après Corte Cost., 5 novembre 2010, n° 310 : « l’obligation de motiver les décisions administratives – au sens de l’art. 3, al. 1, de la loi n° 241 de 1990 – constitue un principe général, mettant en œuvre les devoirs d’impartialité et de bonne gestion (buon andamento) de l’administration publique, au sens de l’art. 97 Cost., ainsi que d’autres droits constitutionnellement protégés, tel que le droit au recours juridictionnel contre les décisions émanant de l’administration publique elle-même, au sens de l’art. 24 et 113 Cost.». Quant à la plurifonctionnalité de la motivation, v., ex plurimis, F. Aperio Bella, La motivazione del provvedimento, in Sandulli M. A. (dir.), « Principi e regole dell’azione amministrativa », Milano, Giuffrè, 2017, p. 300 ss. [↩]
31. Cfr. U. Fantigrossi, op. cit., p. 119; A. Masucci, L’atto amministrativo informatico, op. cit., p. 56. [↩]
32. Cfr. A. Masucci, op. ult. cit., p. 60. Il faut noter que, en dehors des cas régis par des dispositions législatives ou réglementaires sectorielles, l’élaboration d’actes administratifs généraux n’est pas soumise au respect du principe de contradictoire (au sens de l’art. 13 de la loi n° 241 de 1990), sous prétexte de leur portée impersonnelle. Cfr. A. Zito, G. Tinelli, Ambito di applicazione delle norme sulla partecipazione, in Sandulli M. A. (dir.), « Codice dell’azione amministrativa », Milano, Giuffrè, 2017, p. 684 ; G. Della Cananea, Gli atti amministrativi generali, Padova, Cedam, 2000. Par contre, s’agissant de l’obligation de motivation, d’après la jurisprudence majoritaire on ne peut y déroger, au sens de l’art. 3 al. 2 de la loi n° 241 de 1990, que dans les cas où la portée générale de l’acte administratif s’accompagne du caractère abstrait de ses prescriptions, ce qui n’est pas le cas des algorithmes. Cfr. F. Cardarelli La motivazione del provvedimento, in Sandulli M. A. (dir.), « Codice dell’azione amministrativa », Milano, Giuffrè, 2017, p. 479. [↩]
33. Il est manifeste que la participation des parties prenantes est utile surtout pendant le développement des algorithmes, en ce que les décisions individuelles résultent « automatiquement » des choix effectués à ce stade. Cfr. S. Puddu, Contributo ad uno studio sull’anormalità dell’atto amministrativo informatico, Napoli, Jovene, 2006, p. 208 ss. [↩]
34. Ce sont : a) le coût total de possession (Total Cost of Ownership) ; b) l’utilisation de standards ouverts favorisant l’interopérabilité ; c) les garanties données par le fournisseur quant au niveau de sécurité, de protection des données personnelles et de qualité de service. [↩]
35. V. https://lg-acquisizione-e-riuso-software-per-la-pa.readthedocs.io/it/latest/. [↩]
36. Il est opportun de noter que l’application gérant la mobilité des enseignants, dont on a parlé ci-dessus, a été réalisée dans le cadre d’un marché public portant sur l’externalisation de l’intégralité des services de développement et de maintenance du système informatique du ministère. D’après les lignes directrices susmentionnées, ce cas figure parmi les dérogations à l’obligation d’analyse comparative encadrée par l’article 68. [↩]
37. L’article 68 a été ainsi modifié par le décret-loi n° 83 du 22 juin 2012 aussi bien que par le décret-loi n° 179 du 18 octobre 2012. Dès lors, l’Italie avait anticipé les vœux du Parlement Européen, qui appelle « au remplacement systématique des logiciels propriétaires par des logiciels ouverts contrôlables et vérifiables dans toutes les institutions de l’Union, à l’introduction d’un critère de sélection open-source obligatoire dans toutes les procédures de passation de marchés dans le domaine des TIC à l’avenir […] » (résolution 2015/2635). V. F. Bravo, Software « Open Source » e Pubblica Amministrazione. L’esperienza comunitaria e quella italiana tra diritto d’autore, appalti pubblici e diritto dei contratti, in Bisi S., Di Cocco C., « Open source e proprietà intellettuale. Fondamenti filosofici, tecnologie informatiche e gestione dei diritti », Bologna, Gedit, 2008, pp. 61 – 150. V. N. F. Ruju, L’acquisizione ed il riuso del software nella pubblica amministrazione : profili giuridici, Napoli, Edizioni Scientifiche Italiane, 2009, pour une analyse soignée des avantages qu’il y aurait pour les administrations publiques à utiliser des logiciels Open Source (p. 156 ss.) ou à réutiliser des logiciels sur mesure préexistants (193 ss.). [↩]
38. Cela est prévu par l’article 69 du CAD (modifié à plusieurs reprises en 2016 et en 2017), dont la mise en œuvre vient d’être précisément encadrée par les lignes directrices de l’AgID susmentionnées. On prévoit l’utilisation d’un site d’hébergement de code, tel que GitHub (https://github.com/), et le signalement sur le portail national « Developers Italia » (https://developers.italia.it/). [↩]
39. V., amplius, R. Garofoli, G. Ferrari, Codice dei contratti pubblici: annotato con dottrina, giurisprudenza, linee guida e delibere Anac e formule : aggiornato al D.Lgs. 19 aprile 2017, n. 56 c.d. Correttivo del Codice degli Appalti, Roma, Neldiritto Editore, 2017, p. 583 ss. [↩]
40. V., ex plurimis, G. Mancosu, La transparence publique à l’ère de l’Open Data : Étude comparée Italie-France, thèse de doctorat, Università degli Studi di Cagliari et Université Panthéon-Assas (Paris 2), a.a. 2014/2015, p. 132 ss., in « http://veprints.unica.it/1382/ » ; E. Carloni, L’amministrazione aperta : regole strumenti limiti dell’open government, Santarcangelo di Romagna, Maggioli, 2014, p. 231 ss. ; B. Ponti, Il regime dei dati oggetto di pubblicazione obbligatoria: i tempi, le modalità ed i limiti della diffusione; l’accesso civico; il diritto di riutilizzo (artt. 4, 5, 7-9, 52 commi 2 e 3, 53), in Ponti B. (dir.), « La trasparenza amministrativa dopo il d.lgs. 14 marzo 2013, n. 33 », Santarcangelo di Romagna, Maggioli, 2013, p. 75 ss. [↩]
41. Les autorités administratives doivent se porter garantes d’un véritable « décalogue de la qualité » des contenus diffusés, imposant : l’intégrité, la mise à jour continue, l’exhaustivité, l’actualité, la simplicité de consultation, la compréhensibilité, l’homogénéité, la facilité d’accès, la conformité aux documents originaux, la mention de la source. [↩]
42. V., ex plurimis, B. Ponti, La trasparenza ed i suoi strumenti: dalla pubblicità all’accesso generalizzato, in Ponti B. (dir.), « Nuova trasparenza amministrativa e libertà di accesso alle informazioni : commento sistematico al D.Lgs. 33/2013 dopo le modifiche apportate dal D.Lgs. 25 maggio 2016, n. 97 », Santarcangelo di Romagna, Maggioli, 2016 ; S. Villamena, Il c.d. FOIA (o accesso civico) ed il suo coordinamento con istituti consimili, in « Federalismi.it », 2016, n. 23 ; M. Savino, Il FOIA italiano. La fine della trasparenza di Bertoldo, in « Giornale di Diritto Amministrativo », 2016, n. 5; D. U. Galetta, Accesso civico e trasparenza della Pubblica Amministrazione alla luce delle (previste) modifiche alle disposizioni del Decreto Legislativo n. 33/2013, in « Federalismi.it », 2016, n. 5. [↩]
43. V. les lignes directrices adoptées par l’Autorité Nationale Anticorruption (ANAC), en accord avec le Garant pour la protection de données personnelles, sur le fondement de l’art. 5-bis, al. 6 (délibération n° 1309 du 28 décembre 2016). V., récemment, Cons. St., sect. IV, 13 juillet 2017, n° 3461. [↩]
44. S’agissant de la communication de documents relatifs à l’exécution des marchés publics, au titre du nouveau droit d’accès, voir l’arrêt du  TAR Campania, sect. VI, 22 décembre 2017, n° 6028. [↩]
45. Ces droits découlent aujourd’hui du règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données (v. notamment, l’art. 22 et le considérant 71) et des dispositions nationales qui en font application. V. F. Pizzetti, La protezione dei dati personali e la sfida dell’Intelligenza Artificiale, in Pizzetti F. (dir.), « Intelligenza artificiale, protezione dei dati personali e regolazione », Torino, Giappichelli, 2018, p. 25 ss. À ce sujet, v. aussi Groupe de travail article 29, Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679 (wp251rev.01), Bruxelles, 2018. [↩]
46. Cfr. P. Otranto, Decisione amministrativa e digitalizzazione della p.a., in « Federalismi.it », 2018, n. 2, p. 21 ss. [↩]
47. Il est opportun de noter qu’en droit administratif italien les principes du droit de l’U.E. jouent un rôle renforcé, en raison du renvoi opéré par l’art. 1, al. 1 de la loi n° 241 de 1990. V., ex plurimis, A. Massera, I principi generali dell’azione amministrativa tra ordinamento nazionale e ordinamento comunitario, in « Diritto Amministrativo », 2005, n. 4 ; G. Della Cananea, C. Franchini, I principi dell’amministrazione europea, Torino, Giappichelli, 2017, p. 87 ss. [↩]
48. Cfr. la résolution du Parlement européen du 9 juin 2016 pour une administration de l’Union européenne ouverte, efficace et indépendante (2016/2610(RSP [↩]
49. En France la transparence algorithmique est réglée dans le CRPA. L’art. L. 312-1-3 dispose que : « Sous réserve des secrets protégés en application du 2° de l’article L. 311-5, les administrations mentionnées au premier alinéa de l’article L. 300-2, à l’exception des personnes morales dont le nombre d’agents ou de salariés est inférieur à un seuil fixé par décret, publient en ligne les règles définissant les principaux traitements algorithmiques utilisés dans l’accomplissement de leurs missions lorsqu’ils fondent des décisions individuelles ». L’art. L. 311-3-1 dispose que : « sous réserve de l’application du 2° de l’article L. 311-5, une décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande ». L’article R311-3-1-1 dispose que : « la mention explicite prévue à l’article L. 311-3-1 indique la finalité poursuivie par le traitement algorithmique. Elle rappelle le droit, garanti par cet article, d’obtenir la communication des règles définissant ce traitement et des principales caractéristiques de sa mise en œuvre, ainsi que les modalités d’exercice de ce droit à communication et de saisine, le cas échéant, de la commission d’accès aux documents administratifs, définies par le présent livre ». Enfin, l’art. R311-3-1-2 dispose que : « l’administration communique à la personne faisant l’objet d’une décision individuelle prise sur le fondement d’un traitement algorithmique, à la demande de celle-ci, sous une forme intelligible et sous réserve de ne pas porter atteinte à des secrets protégés par la loi, les informations suivantes : 1° Le degré et le mode de contribution du traitement algorithmique à la prise de décision ; 2° Les données traitées et leurs sources ; 3° Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l’intéressé ; 4° Les opérations effectuées par le traitement ». V. la délibération de la CNIL n° 2017-023 du 16 févr. 2017 portant avis sur un projet de décret relatif aux modalités de communication des règles et caractéristiques des traitements algorithmiques. Le cadre juridique susmentionné vient d’être renforcé avec l’adoption de la loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles, prise en application du RGPD. Concernant les décisions administratives prises sur le seul fondement d’un traitement automatisé de données à caractère personnel, elles comportent, à peine de nullité, la mention explicite prévue à l’article L. 311-3-1 du CRPA. Pour ces décisions, le responsable de traitement s’assure de la maîtrise du traitement algorithmique et de ses évolutions afin de pouvoir expliquer, en détail et sous une forme intelligible, à la personne concernée la manière dont le traitement a été mis en œuvre à son égard. Le recours exclusif à un algorithme est interdit lorsqu’il porte sur les données « sensibles » mentionnées au paragraphe I de l’article 8 de la loi du 6 janvier 1978 (art. 21). Par ailleurs, les dispositions de la loi du 20 juin 2018 ont été validées par le Conseil Constitutionnel, avec la décision n° 2018-765 DC du 12 juin 2018. [↩]
50. D. Bourcier, op. cit., conclut ainsi son ouvrage : « Le déterminisme des machines (machine du droit, machine bureaucratique, machine technologique) doit être interrompu par l’indétermination des choix humains, même si la liberté humaine n’est que le fruit de notre ignorance et l’indétermination de l’interprétation seulement l’effet de la multiplicité des déterminations auxquelles l’homme est soumis. Cette attention minimale, fondée sur le principe de responsabilité comme contrepartie d’un pouvoir, devra être celle de toute autorité politique ou administrative chargée de l’informatisation des pratiques décisionnelles dans les vastes projets à venir » (p. 232).    [↩]
51. V. A. Lacaze-Masmonteil, Les algorithmes subtils de l’internet marchand, in « Après-demain », 2013, n. 1. [↩]