1. Formalisation mathématique et notation matricielle

Pour concevoir un modèle de Machine Learning, nous devons représenter la réalité sous une forme matricielle standardisée comprise par les bibliothèques d’analyse numérique :

• La matrice des caractéristiques (X) : Également appelée Feature Matrix, il s’agit d’un tableau à deux dimensions de taille n × p, où n représente le nombre d’observations (lignes ou échantillons) et p le nombre de caractéristiques mesurées (colonnes ou features explicatives).
• Le vecteur cible (y) : Également nommé Target Vector ou étiquette (label), il s’agit d’un vecteur unidimensionnel de dimension n contenant la variable que le modèle doit apprendre à prédire. En apprentissage non supervisé, ce vecteur est absent.

2. La nature des variables : Typologie et pièges courants

Une étape déterminante de la formulation réside dans l’analyse de la typologie statistique des données disponibles :

• Variables quantitatives continues : Valeurs numériques mesurables sur une échelle continue infinie (ex. température, revenu annuel, surface d’un bâtiment en mètres carrés).
• Variables quantitatives discrètes : Valeurs entières issues d’un comptage (ex. nombre d’enfants, nombre de visites sur un site internet).
• Variables qualitatives nominales : Catégories mutuellement exclusives sans ordre hiérarchique naturel (ex. canton de résidence, statut matrimonial, type de produit).
• Variables qualitatives ordinales : Catégories possédant une relation d’ordre implicite (ex. niveau de satisfaction client : faible, moyen, élevé ; niveau de diplôme).

3. Formuler la fonction de coût (Loss Function)

L’apprentissage algorithmique repose sur l’optimisation mathématique : l’algorithme calcule l’écart entre sa prédiction (hat{y}) et la valeur réelle observée (y). Cet écart est quantifié par une fonction de coût (ou fonction de perte). L’objectif absolu de l’algorithme est de converger vers un ensemble de paramètres internes qui minimise cette fonction sur l’ensemble des données d’entraînement.

4. Étude de cas suisse romande : Estimation immobilière

Considérons la conception d’un modèle destiné à estimer la valeur vénale d’appartements situés dans les cantons de Genève et de Vaud. Les caractéristiques d’entrée (X) comprennent la surface habitable (m²), le nombre de pièces, l’année de construction, l’indice d’isolation énergétique et la distance à la gare CFF la plus proche. Le vecteur cible (y) correspond au prix de transaction effectif en francs suisses (CHF). La formulation rigoureuse du problème dès cette étape conditionne l’ensemble de la réussite analytique ultérieure.