Distributed, Parallel, and Quantum Computing (M1 DiPaQ)

Les étudiants du M1 DiPaQ acquerront des compétences et savoir-faire en :

• Compréhension des enjeux actuels et émergents des systèmes distribués, parallèles et quantiques ; évaluation de leur impact sur les domaines d’application en IA et science des données.
• Conception, preuve et analyse d’algorithmes et de protocoles distribués, parallèles et quantiques, avec analyses de complexité en temps, mémoire, communication et énergie.
• Maîtrise des fondamentaux des algorithmes et de la complexité quantiques ; programmation de circuits quantiques avec des bibliothèques standard.
• Mise en œuvre de modèles de programmation parallèle et d’ingénierie de la performance sur des supercalculateurs distribués et des machines multicœurs.
• Conception et analyse d’algorithmes distribués avec garanties théoriques.
• Acquisition des bases de l’analyse de données et de l’IA pour des tâches d’apprentissage à grande échelle.
• Réalisation de profilage et de traçage de code, diagnostic des goulots d’étranglement et réglage des performances.
• Pratiques d’ingénierie logicielle pour le HPC avec le C++ moderne, le test de code, l'intégration continue et la reproductibilité.
• Utilisation du contrôle de version avec Git et tenue d’une documentation rigoureuse.
• Communication technique et cadrage de projets dans des contextes de recherche et d’industrie.
• Adoption de pratiques de calcul responsables, fiables et durables.

Les systèmes informatiques évoluent vers une plus grande efficacité et des fonctionnalités plus riches au croisement de trois grands domaines scientifiques interconnectés :

• Les systèmes distribués assurent la connectivité et un fonctionnement fiable à l’échelle d’Internet, des clouds, des grappes et des capteurs, en s’attaquant à des problèmes difficiles de synchronisation, de sécurité, de concurrence et de robustesse.
• Le calcul parallèle à haute performance (HPC) traite des charges intensives en science et en IA en exploitant des supercalculateurs avec une ingénierie de performance rigoureuse.
• Le calcul quantique fournit des algorithmes et du matériel exploitant le parallélisme quantique pour atteindre des gains inaccessibles aux paradigmes classiques.

Le master M1 DiPaQ apporte aux étudiants une connaissance approfondie de ces trois domaines à travers des cours théoriques et  une pratique intensive des techniques de programmation. Les systèmes distribués traitent des algorithmes qui permettent la connectivité et une fonctionnalité efficace pour les systèmes en réseau, comme Internet, le cloud, les réseaux de capteurs, les supercalculateurs, le blockchain, et les circuits microbiologiques. Pour ces systèmes, les défis incluent la synchronisation, la sécurité, la concurrence et la robustesse. Des problématiques similaires se posent en HPC, qui vise à résoudre efficacement des problèmes intensifs en calcul en sciences appliquées ou en IA. Le HPC pousse les architectures parallèles jusqu’à leurs limites en mobilisant diverses formes de parallélisme, des structures de données et l’optimisation du code. Il en va de même pour le calcul distribué, au moyen de diverses méthodes de communication et d’algorithmique. Ils tracent ainsi la frontière entre ce qui peut être atteint dans le cadre de l’informatique classique et ce qui ne sera accessible qu’au moyen d’un nouveau paradigme : celui ducalcul quantique. Le calcul quantique et l’information quantique introduisent de nouveaux algorithmes et protocoles, apportant des gains de performance d’un ordre inédit, tout en posant leurs propres défis conceptuels et techniques.

Le M1 DiPaQ établit les fondations en HPC, en systèmes distribués et en calcul quantique pour les systèmes à grande échelle et les applications en IA et en science appliquée, avec de forts liens avec l’écosystème de recherche et industriel de Paris-Saclay qui mobilise ces technologies. Les étudiants maîtrisent les fondamentaux de ces trois disciplines interconnectées et apprennent ainsi à concevoir des solutions rapides, évolutives et robustes pour relever des défis de calcul concrets en analyse de données massives, en IA, en simulations scientifiques, et en flux de travail compatibles avec l’informatique quantique, avec les objectifs suivants :

Objectifs de connaissances :

• Algorithmes et programmation parallèles efficaces sur des machines parallèles, distribuées, et multicœurs avec unités de traitement vectoriel.
• Programmation C++ avancée, débogage, profilage et optimisation des performances de noyaux HPC.
• Algorithmes et systèmes distribués à grande échelle : réplication, consensus, cohérence, robustesse.
• Fondamentaux des technologies, des algorithmes et de la programmation quantiques.
• Bases de l’IA, de la science des données et de l’optimisation pour l’apprentissage automatique et le calcul scientifique à grande échelle avec le HPC.

Objectifs de compétences :

• Concevoir des algorithmes et logiciels parallèles et distribué sur les architectures de HPC.
• Développer et analyser des algorithmes distribués évolutifs et robustes avec des garanties théoriques.
• Optimiser le code HPC: complexité, localité mémoire, vectorisation, communication, E/S et réseaux.

Ressources et pratique :

• Accès aux supercalculateurs partenaires,
• Utilisation de chaînes d’outils et de bibliothèques HPC
• Acquisition de pratiques de developpement avec C++ avancé, IDE, git, profilage, documentation, intégration continue.