Задачи
10| Задача | Темы | Сложность | Среда |
|---|---|---|---|
| Обучение BPE-слияний nlp · tokenization · bpe · algorithms | nlp · tokenization · bpe · algorithms | средняя | browser |
| Применение BPE к слову nlp · tokenization · bpe | nlp · tokenization · bpe | лёгкая | browser |
| Паддинг последовательностей и маска numpy · nlp · padding · masking | numpy · nlp · padding · masking | лёгкая | browser |
| TF-IDF-векторизатор с нуля nlp · tfidf · numpy · feature-engineering | nlp · tfidf · numpy · feature-engineering | сложная | browser |
| Пары для Skip-gram nlp · embeddings · word2vec · skipgram | nlp · embeddings · word2vec · skipgram | лёгкая | browser |
| Causal scaled dot-product attention numpy · transformers · attention · causal-mask | numpy · transformers · attention · causal-mask | сложная | browser |
| Батч для языковой модели numpy · language-modeling · batching · gpt | numpy · language-modeling · batching · gpt | лёгкая | browser |
| Top-k фильтрация логитов numpy · language-modeling · sampling · top-k | numpy · language-modeling · sampling · top-k | средняя | browser |
| Линейный слой LoRA pytorch · lora · fine-tuning · linear-algebra | pytorch · lora · fine-tuning · linear-algebra | сложная | cpu · torch |
| Симметричный CLIP loss pytorch · contrastive-learning · clip · infonce | pytorch · contrastive-learning · clip · infonce | средняя | cpu · torch |