AI Act : l’inférence émotionnelle interdite — comment limiter votre IA à des indicateurs objectifs ?

L’article 5 de l’AI Act interdit les systèmes d’IA qui déduisent des états émotionnels sur le lieu de travail et dans les établissements d’enseignement. Ce périmètre d’interdiction surprend les organisations ayant déployé des outils de surveillance de fatigue, de monitoring d’apprenants ou d’analyse comportementale RH. Cet article pose les repères pour évaluer votre exposition face à l’AI Act inférence émotionnelle interdite et engager les ajustements nécessaires.

Ce que l’AI Act interdit exactement sur l’inférence émotionnelle

L’article 5, paragraphe 1, point f du Règlement (UE) 2024/1689 sur l’IA prohibe la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA destinés à déduire les émotions d’une personne physique sur son lieu de travail ou dans des établissements d’enseignement. L’interdiction s’applique quel que soit le fournisseur : un outil développé en interne tombe sous ce régime si la fonctionnalité d’inférence est présente.

La distinction opérationnelle est précise. Un système qui mesure la fréquence de clignement des yeux, le taux de variation de posture ou la déviation du regard pour détecter une perte d’attention physiologique reste, en principe, dans les indicateurs objectifs. Un système qui utilise ces mêmes signaux pour conclure que le conducteur est « stressé », « démotivé » ou « ennuyé » franchit la ligne de l’AI Act inférence émotionnelle interdite.

Cas terrain : en janvier 2025, Sophie MARTIN, DPO chez Translog Est (transport routier, 380 conducteurs), a identifié lors d’un audit interne que le module de détection de fatigue installé sur sa flotte générait dans le tableau de bord fournisseur une variable intitulée « état de vigilance émotionnelle » — alimentée par l’analyse de micro-expressions faciales. Le fournisseur n’avait pas signalé cette fonctionnalité dans la documentation commerciale. L’organisation se trouvait en infraction sans le savoir, exposant la direction à un contrôle CNIL sur l’AI Act inférence émotionnelle interdite.

Le règlement ne prévoit pas de dérogation pour les petites structures ni pour les usages de sécurité routière. La CNIL rappelle que l’interdiction de l’article 5 est entrée en vigueur le 2 août 2025. Les organisations n’ayant pas révisé leurs contrats fournisseurs et leurs configurations techniques sont exposées dès maintenant.

Ce que font les organisations qui adaptent leurs outils RH et de formation

Les organisations qui ont anticipé cette contrainte sur l’inférence émotionnelle ont procédé en trois temps : audit de la chaîne de traitement, limitation contractuelle avec les fournisseurs, et documentation pour la DPIA.

L’audit de la chaîne de traitement consiste à cartographier chaque étape où un signal biométrique ou comportemental est transformé en variable interprétative. La règle pratique : toute variable dont le libellé contient un état mental (fatigue, stress, engagement, motivation, ennui) est présumée être de l’inférence émotionnelle jusqu’à preuve du contraire. Cette présomption se renverse uniquement si le fournisseur produit la documentation technique démontrant que la variable repose sur des seuils biomédicaux objectifs, indépendants de tout modèle d’interprétation psychologique.

La limitation contractuelle prend la forme d’une clause spécifique interdisant au fournisseur d’activer, de développer ou de transmettre toute fonctionnalité d’inférence émotionnelle, même sous une dénomination technique différente. Elle doit prévoir un audit technique annuel par un tiers indépendant dont le mandat inclut la vérification de l’absence de cette fonctionnalité.

Sur les plateformes LMS, la Commission européenne distingue les systèmes d’analyse de l’engagement des apprenants des systèmes d’inférence émotionnelle. Un indicateur de progression, de temps passé ou de taux de réponse correcte reste admissible. Un indicateur de « frustration détectée » ou d’« enthousiasme » calculé à partir de données comportementales tombe sous l’interdiction.

Trois erreurs classiques face à l’interdiction de l’inférence émotionnelle

• Déléguer la conformité au fournisseur sans vérification. Le règlement AI Act fait peser la responsabilité sur le déployeur, pas seulement sur le fournisseur. « C’est dans les conditions générales du fournisseur » ne constitue pas une défense recevable face à un contrôle CNIL. La documentation technique de l’absence d’inférence émotionnelle doit être produite et conservée par votre organisation.
• Confondre anonymisation et conformité. Plusieurs équipes techniques estiment que l’anonymisation des données d’entrée suffit à sortir du périmètre de l’interdiction. L’article 5 vise la fonctionnalité du système, pas seulement les données traitées. Un système qui infère des émotions à partir de données anonymisées reste interdit dans les contextes travail et éducation.
• Négliger les outils développés en interne. Les équipes data ayant construit des dashboards RH ou des modules d’analyse LMS sur mesure n’ont pas de fournisseur externe à auditer. La responsabilité est entière. Si le modèle interne produit des variables interprétatives sur l’état émotionnel des collaborateurs ou des apprenants, l’organisation est en infraction.

Par où commencer : trois actions prioritaires

La première action est l’inventaire des systèmes à risque. Listez tous les outils collectant des données biométriques, comportementales ou linguistiques sur des salariés ou des apprenants. Pour chaque outil, identifiez les variables en sortie et demandez la documentation de leur méthode de calcul.

La deuxième action est la mise en conformité contractuelle. Pour chaque contrat fournisseur concerné, négociez un avenant qui prohibe l’inférence émotionnelle et intègre le droit à un audit technique annuel. Si le fournisseur refuse de produire la documentation technique, c’est un signal de risque à remonter à la direction.

La troisième action est la mise à jour de la DPIA. Toute DPIA couvrant un système de surveillance, d’évaluation RH ou de suivi de formation doit intégrer une section sur l’article 5 de l’AI Act : identification du risque d’inférence émotionnelle interdite, mesures de limitation technique, modalités d’audit. Sans cette mise à jour, la DPIA est insuffisante pour démontrer la conformité au droit applicable. Le référentiel publié par Legifrance sur l’AI Act confirme ce calendrier d’obligations.

Ces trois actions s’inscrivent dans un cadre documentaire que le chapitre sur les modèles DPIA sectoriels du tome 3 de Réussir l’IA en entreprise 2026 traite en profondeur. Ce livre met à disposition les formulations contractuelles adaptées à la mise en conformité AI Act, la structure d’un mandat d’audit tiers pour la surveillance de fatigue, et les éléments de documentation pour défendre votre organisation face à un contrôle CNIL ou AI Act. Le chemin de conformité est balisé — il reste à l’engager.