ALTEN et CentraleSupélec lancent une chaire sur l’IA de confiance pour les systèmes industriels critiques
ALTEN, leader mondial de l’ingénierie et des IT Services, et CentraleSupélec, grande école française de référence en sciences et ingénierie membre fondateur de l’Université Paris-Saclay, annoncent la signature d’un accord de chaire portant sur l’intelligence artificielle de confiance.
Intitulée « Systèmes multi-agents de confiance pour les industries critiques », cette chaire de recherche et d’enseignement contribuera à produire les fondements scientifiques et méthodologiques nécessaires au déploiement d’une intelligence artificielle explicable, souveraine et robuste dans des environnements industriels à hauts enjeux de sûreté comme l’énergie, les transports, la production et la défense.
En tant que titulaire de la chaire, Wassila Ouerdane, professeur en informatique à CentraleSupélec, membre du laboratoire MICS (Mathématiques et Informatique pour la Complexité des Systèmes), coordonnera et pilotera les collaborations de recherche public-privé qui seront mises en place. Une première conférence scientifique de lancement est en cours de programmation pour l’automne 2026.
D’une durée initiale de 3 ans, la chaire bénéficie du soutien de la Fondation CentraleSupélec. Elle enrichit et élargit la relation partenariale nouée entre ALTEN et CentraleSupélec depuis de nombreuses années, avec notamment, depuis près de 5 ans, des collaborations en matière de formation dans le cadre du cursus ingénieur et de recherche sous forme de thèses. Elle instaure un véritable continuum formation-recherche-innovation commun aux deux partenaires et va concourir à intensifier les recherches dans des domaines d’intérêt stratégique mutuel, dont ceux liés aux enjeux de souveraineté numérique et de robustesse de systèmes vitaux et industriels français.
A ce titre, la chaire irriguera les travaux de recherche d’ALTEN portant sur la mise en œuvre de système multi-agents critiques. Les résultats scientifiques obtenus seront largement publiés et diffusés pour les rendre disponibles à l’ensemble de l’écosystème constitué des industriels, des scientifiques et des étudiants impliqués dans le développement de ces systèmes.
La chaire a vocation à s’ouvrir progressivement à des partenaires industriels des secteurs concernés – industrie, énergie, transport et défense – qui souhaitent accélérer l’adoption de systèmes multi-agents au service de contextes critiques tout en s’appuyant sur une démarche scientifique commune pour renforcer leur confiance.
Yann Rougemont, Directeur de l’Innovation d’ALTEN déclare : « Avec cette chaire, nous franchissons une étape importante dans nos objectifs : offrir à nos clients industriels une IA réellement fiable, intégrée au cœur de leurs opérations les plus critiques. Cela se traduit concrètement par des systèmes multi-agents capables d’expliquer leurs décisions, de détecter leurs erreurs et de collaborer de façon sûre dans des environnements complexes : usine, réseau énergétique ou flotte de véhicules autonomes.
En s’appuyant sur la recherche de CentraleSupélec, ALTEN va pouvoir transformer des avancées scientifiques de pointe en solutions directement opérationnelles : optimisation en temps réel, réduction des arrêts non planifiés, résilience renforcée et conformité native à l’AI Act. Une IA de confiance, transparente, robuste et souveraine. »
Paul-Henry Cournède, Directeur de la recherche de CentraleSupélec, ajoute : « La chaire signée avec ALTEN est la 8ème chaire de l’école sur l’intelligence artificielle. Elle conforte notre statut d’école de référence en France pour la formation et la recherche en IA au sein de l’écosystème unique de l’Université Paris-Saclay. Elle porte sur un sujet particulièrement stratégique – l’IA de confiance – et démontre la qualité et la valeur ajoutée de nos équipes de recherche pour aider les entreprises et industriels français à relever les défis de fiabilité et de robustesse des infrastructures et des systèmes déployés. Les systèmes multi-agents autonomes posent en effet des questions scientifiques nouvelles que les approches classiques d’explicabilité et de vérification ne permettent pas de résoudre. La chaire nous donne les moyens de travailler sur ces questions fondamentales, en s’appuyant sur des données et des contraintes industrielles réelles. C’est précisément ce dont la communauté scientifique a besoin pour générer des résultats impactants. »
L’essor des systèmes multi-agents dans l’industrie moderne à la croisée des défis scientifiques
L’industrie contemporaine fait face à des défis croissants en matière de complexité opérationnelle, d’adaptabilité en temps réel et d’optimisation des ressources. Dans ce contexte, les systèmes multi-agents (SMA) émergent comme une solution scientifique et technologique incontournable, capable de transformer des processus industriels traditionnels en écosystèmes intelligents, décentralisés et résilients. Or, le déploiement de ces technologies dans des environnements critiques soulève des questions fondamentales que la recherche académique et les acteurs industriels ne peuvent résoudre isolément.
Comment garantir qu’un système d’agents IA prend des décisions traçables et auditables ? Comment s’assurer que plusieurs agents autonomes coopèrent de manière cohérente et sûre sans qu’un comportement émergent indésirable ne compromette l’ensemble du système ? Comment intégrer les exigences réglementaires — AI Act, RGPD — dès la phase de conception plutôt qu’en contrôle a posteriori ? Ce sont ces questions que la chaire ALTEN-CentraleSupélec se propose d’explorer méthodiquement.
L’IA dite « de confiance » — trustworthy AI — repose sur trois piliers complémentaires : la licéité (conformité aux législations en vigueur), la robustesse (capacité à traiter les erreurs, les approximations et les incertitudes) et l’éthique (respect de valeurs et de principes humains).
Dans le contexte des systèmes industriels distribués, ces exigences se traduisent en défis scientifiques concrets : explicabilité des décisions collectives, formalisation et intégration des contraintes métier, maîtrise de la propagation d’erreurs dans des architectures Cloud, Edge et Mist.
Objectifs scientifiques et ambition
La chaire poursuit un objectif central : concevoir les fondements scientifiques, technologiques et méthodologiques permettant de développer des systèmes distribués, robustes et explicables, fondés sur des architectures multi-agents capables d’opérer de manière autonome et coordonnée dans des environnements industriels critiques.
La notion de « criticité » est ici entendue dans son acception la plus large : elle recouvre la sûreté des personnes et des infrastructures, la souveraineté technologique et décisionnelle, la qualité et la gouvernance des données, la frugalité computationnelle, ainsi que l’intégration humaine dans la boucle de décision. Ces dimensions, à la fois techniques, stratégiques et sociétales, forment le cadre d’exigences auquel devront répondre les travaux menés.
Les recherches qui seront menées dans le cadre de la chaire s’articuleront autour de la problématique transversale suivante : comment concevoir des systèmes d’agents intelligents distribués dignes de confiance, capables d’opérer dans des environnements critiques tout en restant compréhensibles, vérifiables et conformes aux exigences de leurs utilisateurs et des réglementations en vigueur ?
Trois axes de recherche complémentaires
Pour répondre à cette ambition, les travaux de la chaire s’organisent en trois thèmes de recherche étroitement liés, chacun adressant une dimension fondamentale de l’IA de confiance dans les systèmes distribués.
Thème 1 : Explicabilité et confiance à l’échelle des systèmes multi-agents
Le premier thème adresse la question centrale de l’intelligibilité des décisions dans les architectures distribuées. Si l’explicabilité d’un modèle d’IA unique est déjà un défi reconnu, elle devient d’une complexité radicalement supérieure lorsque le comportement global émerge des interactions entre de multiples agents autonomes : les explications produites localement par chaque agent doivent pouvoir être composées pour former une justification cohérente et auditable à l’échelle du système.
Les recherches de ce thème portent sur quatre axes complémentaires. Le premier développe des modèles d’explicabilité multi-niveaux, permettant de relier les décisions locales des agents aux dynamiques collectives du système. Le second explore l’explication causale et la traçabilité systémique, en s’appuyant sur des modèles causaux adaptés aux architectures distribuées. Le troisième conçoit des mécanismes d’explicabilité interactive centrée sur l’humain, prenant en compte la diversité des profils d’utilisateurs et leur charge cognitive. Le quatrième définit des métriques et des protocoles d’évaluation de la qualité et de la fidélité des explications produites.
Thème 2 : IA hybride à base d’exigences pour les systèmes complexes
Le second thème constitue le socle méthodologique de la chaire. Il part d’un constat : dans les systèmes critiques, la performance prédictive d’un modèle d’IA est une condition nécessaire mais non suffisante. Les systèmes doivent satisfaire des exigences explicites de sûreté, de robustesse, de frugalité et de souveraineté — et ces exigences doivent structurer l’ensemble du cycle de conception, depuis les représentations internes jusqu’aux mécanismes décisionnels.
L’approche développée repose sur l’intégration cohérente de trois types de contraintes au sein d’architectures hybrides combinant apprentissage statistique et connaissances symboliques. Les contraintes structurelles intègrent règles métier, invariants opérationnels et niveaux de sûreté directement dans les mécanismes de représentation et d’apprentissage. Les contraintes dynamiques, intégrées via des approches de type Physics-Informed AI, garantissent la cohérence des décisions avec les lois physiques ou les dynamiques réelles du système. Les contraintes comportementales globales traduisent les exigences critiques en propriétés formelles vérifiables portant sur les comportements individuels et collectifs des agents.
Thème 3: Souveraineté, robustesse, fiabilité et sécurité des systèmes multi-agents distribués
Le troisième thème s’attaque aux risques spécifiques qui émergent lorsque des systèmes d’IA sont déployés dans des architectures distribuées Cloud, Edge et Mist computing. Il traite trois catégories de menaces pour la fiabilité opérationnelle : les hallucinations des modèles génératifs intégrés aux agents, la propagation d’erreurs entre agents, et les atteintes à la factualité et à l’intégrité des données échangées.
Le premier axe développe des mécanismes de détection en temps réel des hallucinations, combinant approches symboliques et apprentissage automatique, ainsi que des stratégies de correction dynamique permettant aux agents de solliciter une validation humaine ou externe lorsque leur niveau de confiance est insuffisant. Le deuxième axe modélise les chemins de propagation d’erreurs dans les architectures distribuées et conçoit des protocoles de confinement pour éviter les effets en cascade. Le troisième axe met en place des mécanismes de vérification de la factualité des informations échangées, en combinant des techniques de traçabilité et de sécurisation adaptées aux contraintes du Edge et du Mist computing par Edge AI.
Des applications dans les secteurs les plus exigeants
Les travaux de la chaire seront pensés pour trouver des applications directes dans quatre grandes filières industrielles exigeantes en matière de confiance pour leur système multi-agents critique :
1. Secteur industriel : Confiance = Performance et traçabilité
Dans les usines intelligentes, les systèmes multi-agents distribués orchestrent des processus critiques de production automatisée, de maintenance prédictive induisant des prescriptions intelligentes et de logistique en temps réel intelligente pour l’optimiser en mode nominal et garantir sa résilience en mode crise.
Exemple de cas d’usage adressé par ALTEN : une usine connectée utilise des agents Edge AI pour surveiller en temps réel et optimiser la production automatisée tout en s’orchestrant sur d’autres agents AI Cloud pilotant la demande et la supply chain associée.
2. Secteur énergétique : Confiance = Résilience et transparence des infrastructures
Dans les réseaux électriques intelligents ou les parcs énergétiques décentralisés, les agents distribués gèrent la production, le stockage et la distribution d’énergie.
Exemple de cas d’usage adressé par ALTEN : dans un réseau électrique intelligent, une IA hybride peut combiner des règles strictes de gestion des pics de demande (symbolique) avec des algorithmes d’optimisation basés sur l’apprentissage (data-driven) pour ajuster la production en temps réel.
3. Secteur du transport : Confiance = Sécurité des usagers et imputabilité
Les systèmes multi-agents distribués révolutionnent la mobilité, qu’il s’agisse de véhicules autonomes, de gestion intelligente du trafic urbain ou de logistique connectée.
Exemple de cas d’usage adressé par ALTEN : dans un système de gestion du trafic urbain, l’explicabilité permet de comprendre pourquoi un agent a priorisé un flux de véhicules plutôt qu’un autre, et d’éviter des congestions ou des accidents liés à des décisions opaques. De même, un système multi-agents distribué (Cloud/Edge) permet à une flotte de véhicules autonomes de partager des informations en temps réel (ex. : conditions routières, obstacles) pour optimiser la livraison au dernier kilomètre d’un ensemble de colis.
4. Secteur défense : Confiance = Sûreté opérationnelle et responsabilité
Les systèmes multi-agents distribués (drones, essaims robotisés, réseaux de capteurs pour la guerre électronique…) sont au cœur des opérations militaires modernes où l’autonomie et la coordination sont vitales.
Exemple de cas d’usage adressé par ALTEN : un essaim de drones doit combiner explicabilité (pour comprendre les décisions tactiques), IA hybride (pour respecter les règles d’engagement tout en s’adaptant au terrain) et souveraineté/robustesse pour opérer en environnement hostile sans risque de piratage.