R&D Intern - Fairness in Deep Learning - Paris

<p><strong>Contexte :</strong></p> <p>Offre de stage de recherche de master d’une durée de 4 à 6 mois, débutant en hiver 2026-2027. Ce document liste les possibles directions pour le stage, qui seront ajustées au fil du stage. Le stage aura lieu au sein du centre de recherche d’Artefact à Paris.</p> <p>L’objectif est d'étudier les réseaux de neurones dans un cadre où l’on souhaite garantir l'indépendance des prédictions vis-à-vis d'une variable sensible continue (telle que l'âge, le revenu, la couleur de peau, etc.).</p> <p><strong>Présentation d’Artefact :</strong></p> <p>Artefact est une société internationale de services autour de la data, spécialisée dans le conseil en transformation data, dont la mission est de transformer la donnée&nbsp; en délivrant des résultats tangibles sur l’ensemble de la chaîne de valeur des entreprises. L’approche unique d’Artefact, qui fait le pont entre la donnée et le business, permet à nos clients d’atteindre leurs objectifs business de façon dédiée et efficace. Nos 2500 employés allient leurs compétences pluridisciplinaires au profit&nbsp; de l’innovation business des entreprises. Nos technologies de pointe en Intelligence Artificielle, nos méthodes agiles garantissent le succès des projets IA de nos clients, de la conception au déploiement, jusqu’à la formation et l’accompagnement au changement.</p> <p><strong>Sujet :</strong></p> <p>Les réseaux de neurones sont aujourd'hui au cœur de nombreuses applications industrielles. Leur capacité à extraire des représentations riches à partir des données en fait des outils de choix, mais elle les rend aussi susceptibles d'encoder et d'amplifier des biais présents dans les données d'apprentissage, renforçant ainsi des discriminations chez les populations traitées par ces modèles [1]. Cet enjeu est un domaine de recherche dénommé fairness, et est particulièrement dynamique, avec la réglementation des modèles d’IA qui évolue, comme par exemple avec l’AI Act de l’Union Européenne.</p> <p><br>Pour mesurer et mitiger les biais discriminatoires dans les modèles, la littérature s'est majoritairement concentrée sur des variables sensibles binaires ou catégorielles (genre, origine ethnique, etc.), pour lesquelles les groupes sont bien définis [2-5]. Cependant de nombreuses variables sensibles sont intrinsèquement continues : l'âge, le revenu, ou encore la couleur de peau. Discrétiser ces variables en groupes est une pratique courante mais problématique : le choix des seuils est arbitraire, de l'information est perdue, et un modèle peut sembler équitable pour un découpage donné tout en restant fortement biaisé pour un autre [6]. Contrôler la dépendance entre les sorties d'un modèle et une variable continue reste un problème ouvert, notamment pour les réseaux de neurones, où il faut à la fois mesurer cette dépendance et la pénaliser de façon différentiable au cours de l'apprentissage.</p> <p><br>Durant ce stage, le/la stagiaire explorera les méthodes de réduction des biais par rapport à une variable sensible continue pour des réseaux de neurones. Le travail commencera par l'implémentation des méthodes existantes (régularisations basées sur des mesures de dépendance telles que la corrélation maximale de Hirschfeld-Gebelein-Rényi ou “Generalized Disparate Impacte”, etc.), listées dans les références [7-8], et par la mise en place d'un protocole robuste pour les comparer, en tenant compte du compromis entre performance et fairness. Dans un second temps, le stage se concentrera sur la conception et l'expérimentation de nouvelles méthodes de réduction de biais adaptées aux variables continues. Pour cela, le/la stagiaire pourra s'appuyer sur des bibliothèques open source (PyTorch, scikit-learn), afin de rester dans un cadre de code reproductible et facile à adopter.</p> <p><strong>Pré-requis</strong></p> <p>Le profil recherché pour ce poste est le suivant :<br>BAC+4/BAC+5 : Formation en mathématiques appliquées, statistiques ou machine learning au sein d’une université ou école d’ingénieur<br>Stage de césure ou stage de fin d’études<br>Date de début : Hiver 2026-2027<br>Durée : 4 à 6 mois</p> <p><strong>Références</strong></p> <ol> <li>Risser, L., Sanz, A. G., Vincenot, Q., &amp; Loubes, J. M. (2022). Tackling algorithmic bias in neural-network classifiers using wasserstein-2 regularization. <em>Journal of Mathematical Imaging and Vision</em>, <em>64</em>(6), 672-689.</li> <li>Buolamwini, J., &amp; Gebru, T. (2018, January). Gender shades: Intersectional accuracy disparities in commercial gender classification. In <em>Conference on fairness, accountability and transparency</em> (pp. 77-91). PMLR.</li> <li>Cho, J., Zala, A., &amp; Bansal, M. (2023, October). Dall-eval: Probing the reasoning skills and social biases of text-to-image generation models. In <em>2023 IEEE/CVF International Conference on Computer Vision (ICCV)</em> (pp. 3020-3031). IEEE.</li> <li>Li, X., Chen, Z., Zhang, J. M., Sarro, F., Zhang, Y., &amp; Liu, X. (2023). Dark-skin individuals are at more risk on the street: Unmasking fairness issues of autonomous driving systems. <em>CoRR abs/2308.02935</em>.</li> <li>Thong, W., Joniak, P., &amp; Xiang, A. (2023, October). Beyond skin tone: A multidimensional measure of apparent skin color. In <em>2023 IEEE/CVF International Conference on Computer Vision (ICCV)</em> (pp. 4880-4890). IEEE.</li> <li>Shilova, V., Malherbe, E., Palma, G., Risser, L., &amp; Loubes, J. M. (2025). Fairness-aware grouping for continuous sensitive variables: Application for debiasing face analysis with respect to skin tone. In <em>ECAI 2025: 28th European Conference on Artificial Intelligence 25-30 October 2025, Bologna, Italy-Including 14th Conference on Prestigious Applications of Intelligent Systems (PAIS 2025) Proceedings</em> (pp. 5344-5351).</li> <li>Mary, J., Calauzenes, C., &amp; El Karoui, N. (2019, May). Fairness-aware learning for continuous attributes and treatments. In <em>International conference on machine learning</em>(pp. 4382-4391). PMLR.</li> <li>Giuliani, L., Misino, E., &amp; Lombardi, M. (2023, July). Generalized disparate impact for configurable fairness solutions in ML. In <em>International Conference on Machine Learning</em> (pp. 11443-11458). PMLR.</li> </ol> Find Jobs in France on Arbeitnow