Comment Former Votre LLM 🐉

Un atelier pratique pour débutants sur ce qui se passe réellement à l'intérieur d'un LLM. ⚡ Sponsorisé par Modal Vous avez utilisé ChatGPT. Peut-être avez-vous joué avec des prompts, des API ou des modèles ouverts. Mais que signifie réellement entraîner un modèle linguistique ? Dans cet atelier de 4 heures, nous irons d'un petit modèle qui sait à peine parler à un vrai LLM pré-entraîné que nous pouvons affiner nous-mêmes. Aucune magie IA. Pas de conférence de 80 diapositives. Nous allons réellement construire des choses. Ce que nous allons faire Vous repartirez avec une compréhension Formation vs. inférence. Pré-entraînement vs. affinement. Jetons, paramètres, Transformers, GPU, LoRA et pourquoi tout cela est important. Plus important encore, vous aurez réellement utilisé ces concepts vous-même au lieu de simplement en entendre parler. Pour qui est-ce ? Développeurs, étudiants, personnes de produit/données et humains techniquement curieux qui souhaitent comprendre les LLM au-delà des prompts. Vous n'avez pas besoin d'expérience préalable en apprentissage automatique. Une familiarité de base avec Python sera utile, mais les exercices sont guidés. Format 4 heures · Amical pour les débutants · Pratique Le calcul GPU pour l'atelier est sponsorisé par Modal. Nous utiliserons un environnement cloud préparé, vous n'aurez donc pas besoin d'installer CUDA, de posséder un ordinateur portable puissant ou de passer la moitié de l'atelier à déboguer des dépendances. Apportez votre ordinateur portable et votre curiosité.