Qu’est ce qu’un algorithme en boîte noire ? Tractatus des décisions algorithmiques

Erwan Le Merrer (1) , Gilles Trédan (2)

1 WIDE - the World Is Distributed Exploring the tension between scale and coordination
2 LAAS-TSF - Équipe Tolérance aux fautes et Sûreté de Fonctionnement informatique

Les entreprises ou institutions (Divinités) désintermédient leurs relations avec les utilisateurs via des algorithmes décisionnels (Pythies) : les usagers (mortels) se voient proposer des décisions arbitraires (oracles) lors de leurs interactions. Comment appréhender ces algorithmes en boîte noire, du point de vue d’un usager ou regulateur ?

Mots clés: Audit; boites noires; décisions algorithmiques

Domaines: Algorithme et structure de données [cs.DS]; Machine Learning [stat.ML]

Erwan Le Merrer, Gilles Trédan. Qu’est ce qu’un algorithme en boîte noire ? Tractatus des décisions algorithmiques. 2022. ⟨hal-03851597⟩