De la transparence à l’explicabilité automatisée des algorithmes : comprendre les obstacles informatiques, juridiques et organisationnels
Year: 2024
Type: report
Abstract: Les algorithmes publics ou traitements informatiques opérés par les administrations sont soumis à des obligations de transparence et d'explicabilité. Ces obligations ont été mises en place pour justifier les décisions prises par ces algorithmes et garantir leur redevabilité vis-à-vis des personnes concernées. Ce rapport de recherche vise à explorer les obstacles informatiques, juridiques et organisationnels, qui entravent la mise en œuvre de la redevabilité et propose d'élargir la conception de l'explicabilité, afin de la rendre plus opérationnalisable par les administrations. Partant d'un état de l'art de l'explicabilité des décisions automatisées ajusté aux spécificités administratives, nous avons initié une enquête exploratoire sur l'algorithme de calcul des aides au logement de la Caisse nationale d'allocations familiales et conçu, à partir de ce diagnostic, trois prototypes testant la faisabilité de la production automatique d'explications de qualité. Nous montrons ainsi que l'utilité des explications est tout aussi cruciale d'un point de vue externe -- pour les citoyennes et les institutions de contrôle -- que d'un point de vue interne à l'administration -- afin d'assurer la fiabilité du système d'information au gré des évolutions. Nous recommandons que la technologie de la décision automatisée et celle de son explication partagent une infrastructure commune, s'appuyant sur la lettre du droit.
Source: HAL
Institutions: PROSECCO: Programming securely with cryptography, Lamsade
Language: English
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W4390897096