Name: Fine-tuning et LLM
Price: 2290 EUR
Availability: InStock

Fine-tuning et LLM

Domaine : IA. Niveau : Avancé. Durée : 120 heures. 11 modules répartis en 3 chapitres. Tarif : 2290 euros. Formation à distance avec modules, exercices corrigés, questionnaires et manuel. Attestation de fin de formation délivrée à l’issue du parcours.

Objectifs pédagogiques

Maîtriser les techniques avancées de fine-tuning pour adapter les grands modèles de langage à des cas d'usage métier spécifiques. Comprendre et implémenter les méthodes d'optimisation efficaces telles que LoRA, QLoRA et PEFT pour réduire les coûts computationnels. Déployer et évaluer des LLMs fine-tunés en production en appliquant les meilleures pratiques d'alignement et de sécurité.

Prérequis

Solides connaissances en Python et frameworks deep learning (PyTorch/TensorFlow), maîtrise des concepts fondamentaux du machine learning et du traitement du langage naturel, expérience préalable avec les transformers et l'API HuggingFace, notions de base sur les LLMs (GPT, BERT, LLaMA).

Public visé

Ingénieurs en machine learning, data scientists expérimentés et chercheurs en IA souhaitant approfondir leurs compétences sur l'adaptation et le déploiement de grands modèles de langage dans des contextes professionnels.

Programme détaillé

Chapitre 1 — Fine-tuning et LLM - Partie 1

1.1 Architecture des Transformers et anatomie des LLM
1.2 Panorama des LLM open-source et propriétaires
1.3 Collecte, préparation et ingénierie des données d'entraînement
1.4 Techniques d'adaptation paramétrique efficiente : LoRA et variantes

Chapitre 2 — Fine-tuning et LLM - Partie 2

2.1 Quantification et optimisation mémoire
2.2 Alignement des modèles : RLHF et méthodes alternatives
2.3 Évaluation rigoureuse des modèles fine-tunés
2.4 Gestion des expériences et traçabilité MLOps

Chapitre 3 — Fine-tuning et LLM - Partie 3

3.1 Déploiement et optimisation de l'inférence
3.2 Sécurité, biais et usage responsable des LLM affinés
3.3 Cas d'usage métier et ateliers de mise en pratique