Algorithme et orientation des bacheliers : avancée ou recul des droits fondamentaux ?

Print Friendly, PDF & Email

Qui n’a pas entendu parler de Parcoursup le système d’orientation des bacheliers ? Il a remplacé l’Admission Post Bac (ou APB), critiqué à juste titre en raison du recours au tirage au sort et de son manque de transparence. Lorsque l’on connaît l’impact de ces algorithmes sur l’orientation des bacheliers, on ne peut qu’être attentif à l’examen des dispositions encadrant le recours aux algorithmes par le Conseil constitutionnel.

La loi n°2018-493 du 20 juin 2018 sur la protection des données personnelles, qui adapte le droit français au RGDP, encadre l’article L. 311-3-1 du code des relations entre le public et l’administration. Créée par la Loi sur la République Numérique (LRN) de 2016, cette disposition oblige toute administration, qui a recours à un algorithme pour rendre une décision individuelle, à informer le destinataire et à lui permettre d’avoir des explications sur son utilisation.

La modification de l’article 10 de la LIL opérée par la loi du 20 juin 2018 (voir article 21 de la loi) a fait l’objet d’une critique devant le Conseil constitutionnel, mais ce dernier a considéré dans sa décision n° 2018-765 DC du 12 juin 2018 qu’il n’y avait pas d’atteinte aux droits et libertés fondamentaux des personnes et plus précisément à l’article 16 de la Déclaration de 1789 et à l’article 21 de la Constitution. En d’autres termes, la garantie des droits et les règles de compétence ont été respectées.

Pour parvenir à cette solution, le juge constitutionnel procède en trois temps (points 68 à 72).

Il n’y a en premier lieu pas d’abandon de compétence du pouvoir réglementaire, car les dispositions « se bornent à autoriser l’administration à procéder à l’appréciation individuelle de la situation de l’administré, par le seul truchement d’un algorithme, en fonction des règles et critères définis à l’avance par le responsable du traitement. Elles n’ont ni pour objet ni pour effet d’autoriser l’administration à adopter des décisions sans base légale, ni à appliquer d’autres règles que celles du droit en vigueur » (point 69). Ce premier argument ne convainc toutefois guère car le Conseil constitutionnel rappelle aussi que l’algorithme est effectivement « défini en fonction des règles et critères définis à l’avance par le responsable du traitement« .

En second lieu, « le  recours au seul algorithme pour fonder une décision administrative individuelle est subordonné au respect de trois conditions » (point 70) :

1/ il ne doit pas porter atteinte à l’un des secrets ou intérêts énoncés au 2° de l’article L 311-5 du code des relations entre le public et l’administration,

2/ la décision administrative individuelle fondée sur le seul algorithme « doit pouvoir faire l’objet de recours administratifs »,

3/ il ne doit pas porter sur l’une des données sensibles.

Ces trois conditions permettent de limiter l’utilisation des algorithmes pour fonder une décision administrative individuelle. Cette limitation, nouveauté de la loi de 2018, est à mettre en exergue. L’algorithme ne doit pas être un algorithme « auto-apprenant », c’est-à-dire révisable par lui-même : « le responsable du traitement doit s’assurer de la maîtrise du traitement algorithmique et de ses évolutions afin de pouvoir expliquer, en détail et sous une forme intelligible, à la personne concernée la manière dont le traitement a été mis en œuvre à son égard ».

Si l’on comprend bien que le recours à l’algorithme n’est pas systématique, qu’il est encadré, peut-on pour autant être rassuré par son utilisation ? Sans nul doute, son utilisation permet de gérer des masses importantes de dossier et d’effectuer les premières affectations. Les défenseurs de cette technique objecteront sans doute que l’esprit humain est parfois inattendu ce à quoi l’on peut répondre qu’inversement la technique dépasse parfois ce que ses concepteurs avaient envisagée… La seule limite réelle apportée est l’interdiction de l’algorithme « auto-apprenant ».

La prévisibilité de l’algorithme par une information sur les règles et critères retenus est une chose, mais il faut encore comprendre le fonctionnement de l’algorithme et permettre son adaptation à une situation nouvelle. Cela suppose des connaissances mathématiques et techniques. L’esprit humain ne s’adapte t-il pas en définitive plus facilement qu’un algorithme aussi puissant soit-il ?

@ 2018 – ISSN N°2607-5881- L. Nicolas-Vullierme

 

 

Partagez