Éthique numérique et droit informatique
Exigences pour les systèmes d'IA à haut risque : gouvernance des données et supervision humaine
Éthique numérique et droit informatique
0% Completed
Le Cadre Juridique Suisse de Protection des Données : La Nouvelle LPD (nLPD)
Maîtriser les dispositions de la nouvelle LPD suisse entrée en vigueur le 1er septembre 2023, le rôle du PFPDT, les obligations de Privacy by Design, le registre des traitements et les sanctions pénales.
Articulation Internationale : Le RGPD Européen et la Souveraineté des Données
Comprendre la portée extraterritoriale du RGPD pour les entités suisses, encadrer les transferts transfrontaliers et préserver le secret professionnel et bancaire sur le Swiss Cloud.
Réglementation et Droit de l’Intelligence Artificielle : L’AI Act et ses Répercussions
Analyser la taxonomie des risques du Règlement européen sur l'IA (AI Act), les contraintes pour les systèmes à haut risque, la transparence des LLM et les implications pour la Suisse.
Éthique Algorithmique, Biais et Responsabilité Sociétale du Numérique
Détecter et corriger les biais discriminatoires, implémenter l'explicabilité algorithmique (XAI) et maîtriser les règles de responsabilité civile et pénale de l'IA.
Gouvernance Numérique, Propriété Intellectuelle et Conformité en Entreprise
Maîtriser les droits d'auteur face à l'IA, les licences logicielles, les obligations légales de cybersécurité et déployer une charte éthique d'entreprise.
1. Quels sont les systèmes d’IA qualifiés de « Haut Risque » ?
Sont classés à haut risque les systèmes d’IA déployés dans les domaines vitaux tels que :
La gestion des infrastructures critiques (réseaux électriques, eau potable, trafic).
L’éducation et la formation professionnelle (évaluation des examens, sélection aux admissions).
Les ressources humaines et l’emploi (tri automatisé des CV, évaluation de la performance des salariés).
L’octroi de crédits et l’évaluation de solvabilité financière.
L’évaluation du risque d’assurance médicale et prévoyance.
L’application de la loi et la justice (évaluation du risque de récidive).
2. Les 7 obligations de conformité pour les systèmes à haut risque
Système de gestion des risques continu : Identification, analyse et mitigation continue des risques tout au long du cycle de vie du modèle.
Gouvernance rigoureuse des données : Jeux d’entraînement, de validation et de test soumis à des contrôles stricts de représentativité, d’absence d’erreurs et de correction des biais statistiques.
Documentation technique exhaustive : Dossier technique préalable décrivant les algorithmes, l’architecture et les choix d’ingénierie permettant l’auditabilité par les autorités.
Enregistrement automatique des logs : Traçabilité continue des décisions pour permettre l’audit post-incident.
Transparence et notice d’utilisation : Fourniture d’instructions claires pour les opérateurs humains.
Supervision humaine effective (Human-in-the-Loop) : Capacité pour un être humain qualifié d’interrompre, corriger ou désactiver le système d’IA à tout instant.
Robustesse, précision et cybersécurité : Résistance aux attaques contradictoires (Adversarial Attacks) et aux empoisonnements de données.
