jancll.com

Seriál · 10+1 lekcí

Jak funguje LLM

Od nuly k mini-GPT v deseti lekcích.

Pro programátory co znají Python, ale neznají AI. Hodně vizualizací, lehká matika, spustitelný kód přímo v prohlížeči, na konci každé lekce cvičení. Trénujeme na Švejkovi a na Huckleberry Finnovi — protože proč ne.

Osnova

  1. 00ÚvodCo tady budeme dělat a proč. Spoiler: na konci si postavíš vlastní mini-GPT.
  2. 01Co je jazykový model?Bigramy nad Švejkem, pravděpodobnost dalšího slova, první intuice.
  3. 02TokenizaceProč model nevidí slova ani písmena, ale něco mezi. BPE krok za krokem nad Švejkem.
  4. 03EmbeddingsJak dát slovům souřadnice ve významovém prostoru. Vektory, kosinová podobnost, nejbližší sousedé.
  5. 04Neuronka (forward pass)Co se děje, když vektor projde jednou vrstvou. Lineární vrstva, softmax, předpověď dalšího tokenu.
  6. 05Učení (gradient descent)Jak si síť najde svoje váhy sama. Loss, gradient, learning rate a sjíždění z kopce.
  7. 06Bigram neural modelPrvní opravdu trénovaný model. Forward pass, cross-entropy a gradient descent slepené v trénovací smyčce.
  8. 07Self-attentionJak nechat každé slovo podívat se na ostatní a vzít si od nich, co potřebuje. Query, Key, Value a scaled dot-product attention.
  9. 08Multi-head + poziční kódováníVíc hlav pozornosti naráz a jak modelu vůbec říct, v jakém pořadí slova jdou.
  10. 09Celý transformer blokPoskládáme attention, feed-forward, reziduální spojení a normalizaci do jednoho bloku, ze kterého se stohováním stane transformer.
  11. 10Mini-GPT (finální projekt)Slepíme všechno z kurzu do jednoho funkčního GPT, natrénujeme ho na Švejkovi a necháme ho psát.
  12. 11Co dělá GPT-4 jinéBonus na čtení. Cesta od našeho mini-GPT k opravdovému chatbotovi: měřítko, data, instruction tuning a RLHF.