Як навчити свій LLM 🐉

Практичний початковий семінар про те, що насправді відбувається всередині LLM. ⚡ Спонсоровано Modal Ви використовували ChatGPT. Можливо, ви грали з запитами, API або відкритими моделями. Але що насправді означає навчити мовну модель? На цьому 4-годинному семінарі ми перейдемо від маленької моделі, яка ледь вміє говорити, до справжнього попередньо навченого LLM, який ми можемо доопрацювати самостійно. Ніякої магії АІ. Ніякої лекції на 80 слайдів. Ми насправді будемо створювати речі. Що ми будемо робити Ви залишите семінар із розумінням Навчання проти інференції. Попереднє навчання проти доопрацювання. Токени, параметри, Трансформери, GPU, LoRA і чому це все важливо. Що більш важливо, ви насправді використаєте ці концепції самостійно, а не просто почуєте про них. Для кого це? Розробники, студенти, люди з даних/продукту та технічно зацікавлені люди, які хочуть зрозуміти LLM поза запитами. Вам не потрібно мати попередній досвід в машинному навчанні. Базове знайомство з Python буде корисним, але вправи керуються. Формат 4 години · Підходить для початківців · Практично Обчислення GPU для семінару спонсоровані Modal. Ми будемо використовувати підготовлене хмарне середовище, тому вам не потрібно буде встановлювати CUDA, мати потужний ноутбук або витратити половину семінару на налагодження залежностей. Візьміть свій ноутбук і цікавість.