1. Pourquoi 80% du temps d’un projet ML est dédié aux données

Dans l’industrie comme dans la recherche, la qualité prédictive d’un modèle dépend directement de la propreté de son jeu de données (adage « Garbage in, garbage out »). Les données brutes contiennent systématiquement des incohérences, des formats hétérogènes, des doublons et des valeurs aberrantes qui perturbent les calculs statistiques.

2. Le traitement méthodique des valeurs manquantes

Lorsqu’une observation comporte des cellules vides (NaN), plusieurs stratégies doivent être évaluées avec discernement :

• Suppression d’échantillons ou de colonnes : À n’envisager que si le taux de données manquantes est marginal (< 2%) ou au contraire massif (> 60%), afin d’éviter la destruction d’informations précieuses.
• Imputation statistique : Remplacer les valeurs manquantes par la moyenne (si la distribution est gaussienne) ou par la médiane (beaucoup plus robuste face aux valeurs extrêmes). Pour les variables qualitatives, l’imputation par le mode (valeur la plus fréquente) est préconisée.
• Imputation prédictive : Utiliser des algorithmes de type k-NN (KNNImputer) ou des arbres décisionnels pour estimer la valeur la plus vraisemblable d’après les autres variables corrélées.

3. Encodage des caractéristiques catégorielles

La grande majorité des algorithmes de Machine Learning s’appuient sur des opérations matricielles d’algèbre linéaire et ne peuvent pas traiter directement des chaînes de caractères. Deux approches fondamentales s’imposent :

• Le One-Hot Encoding : Chaque modalité textuelle est transformée en une nouvelle colonne binaire (0 ou 1). Cette méthode est indispensable pour les variables nominales sans ordre afin d’éviter que le modèle n’interprète arbitrairement une relation hiérarchique.
• L’Ordinal Encoding : Affecter un nombre entier ordonné (ex. 0, 1, 2) aux modalités disposant d’une hiérarchie explicite (ex. débutant, intermédiaire, expert).

4. Mise à l’échelle numérique : Normalisation vs Standardisation

Lorsque les variables possèdent des unités et des amplitudes très divergentes (par exemple l’âge variant de 18 à 75 ans et le revenu variant de 30’000 à 250’000 CHF), les algorithmes basés sur le calcul de distances (k-NN, SVM, gradient descent) accorderont un poids artificiellement démesuré aux grandes valeurs. Deux techniques majeures permettent d’harmoniser ces échelles :

• La Standardisation (Z-score StandardScaler) : Centre les données autour d’une moyenne nulle et d’un écart-type égal à 1 : (z = rac{x – mu}{sigma}). C’est la méthode reine pour la régression, l’ACP et les modèles paramétriques.
• La Normalisation Min-Max (MinMaxScaler) : Redimensionne l’intervalle des valeurs entre 0 et 1 : (x_{norm} = rac{x – x_{min}}{x_{max} – x_{min}}). Idéal lorsque la distribution n’est pas normale et pour les réseaux de neurones.

Règle d’or anti-fuite de données (Data Leakage) : Ne jamais ajuster les paramètres de standardisation (moyenne et écart-type) sur l’ensemble complet des données. Calculez les paramètres exclusivement sur le jeu d’entraînement, puis appliquez la transformation au jeu de test !