Transformery i LLM
Mateusz Pilecki · Founder MKM Labs, praktyk AI
Self-attention, architektury transformerów i praktyka LLM: prompt, API, ekstrakcja i ewaluacja.
Średni · 2 godz 45 min · 9 lekcji · 3 moduły
Wczytuję kurs…
Program kursu
Generowanie sekwencji i droga do uwagi
- Generowanie tekstu: next-token, sampling i temperatura
- Od RNN do attention: limity sekwencji
- Self-attention i multi-head - kontekst w jednej warstwie
Architektura transformera i rodziny modeli
- Blok transformera: pozycje, warstwy, residual
- Encoder vs decoder: BERT, GPT i modele 2026
- Pretraining, instruction tuning i spektrum adaptacji
LLM w praktyce: API, ekstrakcja, ewaluacja
- Prompt i API zamiast trenowania BERT-a od zera
- Od NER do strukturalnego wyjścia LLM
- Kontekst, jakość i checklista wdrożenia