JOUR 1 – L’Intelligence Artificielle vue sans fantasme
1.1 – Rappels des enjeux et des limites des outils IA
* Apprentissage, réseaux de neurones : retour sur les définitions réelles
* Différences fondamentales entre un modèle stochastique et un outil logiciel déterministe
* Des Large Language Models aux systèmes agentiques : rapide revue des événements depuis GPT3
* Biais et hallucinations sont une composante de l’IA : limites fondamentales de nos approches, impacts à prendre en compte.
* L’IA comme royaume du Proof of Concept : parcours des travaux du MIT et retours d’expérience.
* Que prouve un PoC IA ? Confrontation aux habitudes du développement logiciel.
1.2 – Evaluation de la qualité d’un outil IA ? Du benchmark au coût humain
* Méthode principale d’évaluation d’un outil IA : limites et aveuglements.
* Parcours détaillé de trois benchmarks centraux et de leurs limites : SWE-Bench, ARC-AGI, τ2-bench
* Peut-on se fier à un benchmark public ? Peut-on l’utiliser pour une projection interne ?
* Enjeux et limites de benchmarks internes.
* Le problème des métriques : limites et dangers des métriques utilisées pour juger de la qualité d’un projet IA. Exemples de métriques trompeuses (classification, langage, image)
* Coût humain caché! Focus sur les écueils AI Slop en dévelopement logiciel et vers les projets Open Source.
* Réflexions en conduite du changement IA : contrôle, informations partagées. Pièges des valeurs d’incertitude.
1.3 – Tour d’horizon de l’écosystème IA/Agents
Attention : le programme donné ici est celui d’août 2026. Cette partie de la formation est mise à jour mensuellement.
* Anthropic : Analyse des derniers modèles et des extensions de Claude (Claude Legal). Evolution des modèles et écueils rencontrés sur les derniers modèles. Focus sur Claude Fable : conflit avec le gouvernement américain, communication, limites d’utilisation et coûts. Enjeux de l’IPO.
* OpenAI : retour sur la guerre avec Anthropic. Recherche de sources de revenus (publicité, market-place). Analyse des derniers modèles et des pistes d’évolution. Enjeux de l’IPO
* Google : analyse d’un positionnement différent. Contrôle interne du hardware utilisé. Différentiation des modèles Gemma : Diffusion, Differential Privacy, Edge AI. Autres travaux (robotique, World Models, etc.)
* Modèles chinois « Open Source » ? Analyse du phénomène DeepSeek, focus sur le modèle proposé et l’optimisation hardware.
* Modèles chinois « Open Source » ? Analyse GLM & Kimi.
* Le « Software as a Service » est-il condamné ? Analyse et échanges.
1.4 – Inteprétabilité et sécurité de l’IA : points d’attention
* Interprétabilité de l’IA ? Parcours des différentes définitions et de certaines limites fondamentales. Impacts en maîtrise des outils, liaison aux benchmarks et biais/hallucinations. Pistes de Causal Representational Learning.
* Sécurité de l’IA ? Revue des principales failles de sécurité d’un modèle : Adversarial Attacks, Jailbreaking, Prompt Injection, Model Inversion, Membership Inference, Poisoned Datasets
* Sécurité de l’IA face aux systèmes agentiques : revue de failles publiques découvertes. Analyse des conditions de fonctionnement sécurisé d’un système agentique.
* Retour sur Antropic Mythos : détection de failles de sécurité par IA. Résultats par modèles Open Source. Impacts à prendre en compte.
* Etude de cas : détournement d’un système de recherche agentique ou RAG : précautions indispensables et bonnes pratiques.
JOUR 2 – Cadre réglementaire et organisationnel. Méthodes et solutions
2.1 – Cadre réglementaire
Note : les sources utilisées pour cette partie viennent intégralement du Centre de Recherche Joint de la Commission Européenne.
* Impacts du RGPD sur les politiques data et outils IA. Evolution du cadre, bonnes pratiques recommandées.
* Gestion de la donnée privée : enjeux et limites. Notion d’identification (« one among k »). Principes d’anonymisation en amont de la donnée et de contrôles en aval.
* Niveaux de risques depuis l’AI Act. Parcours des biais de LLM pouvant modifier ce niveau de risque.
* Interprétabilité et IA dans le cadre réglementaire. Analyse du discours des lobbys IA face au texte de l’AI Act.
* Enjeu de traçabilité de l’IA. Mise en situation sur deux exemples : outil de recherche (type RAG) et outil d’analyse de vidéo-conférence. Recommandations d’implémentation.
* Enjeux d’interface et de formation des utilisateurs des outils IA : principes et risques. Poursuite des deux exemples.
2.2 – Enjeux éthiques, financiers et organisationnels
Attention : l’enjeu n’est pas de présenter l’intégralité de la norme 42001, mais de s’appuyer sur ce texte pour souligner et développer certains axes fondamentaux.
* Présentation des grands chapitres de la norme ISO 42001.
* Confrontation d’exploitation IA au contexte existant d’une organisation : démarche de diagnostic et identification des priorités
* Ethical AI : définitions et approches possibles. Parcours de travaux fondamentaux sur le sujet, liens avec l’AI Act et la conduite du changement.
* Ethical AI : étude de cas sur un système agentique ouvert à des utilisateurs.
* Définition d’une politique IA : parcours des approches nécessaires au niveau structurel et humain.
* Profils IA : parcours des différents titres et compétences nécessaires.
* Le projet IA comme collaboration d’expertises différentes métiers, techniques et scientifiques. Etude de cas, identification des échanges nécessaires.
* Risques projet et organisationnels IA : définitions et stratégies de mitigation.
* Support IA dans une équipe et dans une entreprise : bonnes pratiques sur la mise à disposition de moyens techniques et d’échanges. Enjeux de documentation d’un projet.
* Gestion des coûts en IA et projections. Modèles subventionnés aujourd’hui, augmentation des coûts demain. Pistes d’évolution.
* Etude de cas sur les travaux Stanford/LVMH (Meimandi et al) d’application d’une stratégie IA dans un grande groupe internation et décentralisé. Présentation du framework (ARGO) de gouvernance proposé par les chercheurs.
2.3 – Solutions : investissements en data
* L’IA comme royaume du PoC : quelles actions représentent de réels investissements en IA ?
* Principes méthodologiques d’architecture data : itérations sur la compréhension de la donnée, en entraînement ou en test/validation d’un ouril.
* L’architecture data comme point de rencontre entre experts métiers et data-scientists : étude de cas.
* Tester un outil IA d’une manière stable et itérative ? Approches de black-box testing en architecture data
* Exploitation de la donnée synthétique pour élargissement de la couverture de test.
* Test automatisé et sur mesure d’un outil externe
2.4 – Solutions : investissements en IA
* Appels de grands modèles en approche « black box » : limites fortes et pistes de solution.
* Architecture IA : grands principes, confrontation au paradigme logiciel. Pertinence des petits modèles en coût et en traçabilité.
* Itération contrôlée en qualité en IA par architecture. Opportunisme sur les différents modèles disponibles.
* Souveraineté et IA : enjeux et solutions.
* Leviers de contrôle des coûts en IA : estimations, adaptations et maîtrise économique du système.
