La loi numérique exige depuis 2017 une transparence entière et sans concession de tous les algorithmes décisionnels à caractère individuel, utilisés par la fonction publique. Écrit autrement, les algorithmes qui fournissent à l’administration une décision sur un citoyen doivent être explicités publiquement. Les motivations sont justes et évidentes : ces algorithmes, qui contribuent même partiellement à la vie de la cité, doivent être disponibles à tout moment par tous les individus de notre pays. A priori, cette idée est une bonne nouvelle pour la responsabilité de l’État. Et pourtant, c’est l’archétype de la fausse bonne idée, ou plutôt c’est le chemin pour parvenir à un tel objectif qui ne va pas. La transparence des algorithmes, oui, mais pas n’importe comment et sûrement pas à n’importe quel prix !
Comprendre l’algorithme
Que ce soit dans le calcul d’impôts, l’attribution d’allocations ou encore la répartition des bourses scolaires, ces algorithmes ont des niveaux de complexité variables et des responsabilités nuancées. En effet, un bug algorithmique qui mène à une erreur de prise de rendez-vous à la PMI n’a pas les mêmes conséquences qu’un défaut dans un algorithme d’admission des élèves en études supérieures. Cela étant dit, leur transparence à tous permet en théorie de les améliorer, d’établir un lien de confiance avec le citoyen et d’innover encore davantage par l’identification de nouveaux besoins exprimés par les utilisateurs. Et pourtant, les chemins pour y parvenir sont nombreux et, pour certains, tortueux et bancals.
Il existe un grand nombre de raisons pour lesquelles un algorithme présente un défaut. Entre autres, l’erreur peut provenir des critères de l’algorithme lui-même ou encore d’une mauvaise programmation informatique de cet algorithme au sein du logiciel de l’administration. Les erreurs existent. En cela, il est nécessaire de permettre aux administrations de prendre un temps significatif à revoir, tester et reprendre leurs algorithmes décisionnels avant de leur imposer une publication non négociable. Activer trop rapidement la loi risque d’affaiblir la réputation et le fonctionnement de nos institutions.
Afin de préserver les libertés de tous, il est aujourd’hui nécessaire de fournir aux citoyens de nouvelles armes démocratiques à travers une certaine maîtrise technologique. La transparence des algorithmes est une bonne idée, mais son applicabilité floue peut finalement la rendre opaque. Un éclairage algorithmique s’impose !