С нуля

С нуля Курс по LLM, где модель собираешь сам

Сначала пойми. Потом собери. Затем защити.

24 недели от градиентов до RLHF. Выводишь формулы на бумаге, собираешь языковую модель с пустого файла и учишься защищать каждый ответ на интервью.

Текст курса открыт и бесплатен. Веб, iOS и Android.

Приложение

Весь курс в одном приложении

Настоящие экраны веб-версии в тёмной теме. То же приложение есть для iOS и Android, интерфейс на шести языках.

Экран «Программа»: круг прогресса 0 из 24 недель, вход по почте и карточка «С чего начать?» с диагностикой
Программа: 24 недели и подсказка, с чего начать
Экран недели 7 «Внимание»: навыки недели, у каждого шкала Узнаю, Объясню, Выведу, Напишу
Неделя 7: каждый навык от «узнаю» до «напишу с нуля»
Модуль 0, неделя F1: карточка «На пальцах» объясняет, почему присваивание в Python не копирует список
Модуль 0: блок «На пальцах» перед формулой

Метод

Как устроено

На каждую тему три шага. Без вывода код непонятен, без кода ответ на интервью разваливается от первого уточняющего вопроса.

  1. 01

    Пойми

    Каждую формулу выводишь сам, на бумаге. Сложное сначала объясняется «на пальцах»: пример на маленьких числах, потом формула. Таких блоков 124, к ним 23 схемы.

  2. 02

    Собери

    Языковая модель с нуля: autograd, токенизатор, трансформер, KV-кэш, LoRA, RL. Задания делаешь без AI, а проверяют их те же тесты, что и эталонную реализацию.

  3. 03

    Защити

    Тренажёр интервью с таймером и рубриками шести форматов, банк вопросов и тьютор по материалам курса. Он задаёт вопросы, а не выдаёт ответы.

Без регистрации

Попробуй прямо здесь

Три вопроса из входной диагностики: по одному на Python, формы тензоров и производные. В приложении их 24, и по ответам оно подскажет, с какой недели начать. Ответы никуда не отправляются.

Для вопросов на этой странице нужен JavaScript. Полная диагностика есть в приложении: app.amonoc.com/diagnostic

Экран входной диагностики: вопрос по Python с кодом, четыре варианта ответа и «Не знаю»
В приложении: 24 вопроса, около 10 минут

24 недели

Программа

Шесть фаз ядра, 20–25 часов в неделю. Если есть только 10 часов, растяни на 48 недель, порядок не меняй. Перед ядром Модуль 0 для тех, кому нужен фундамент, после него Capstone.

Наведи на неделю или нажми на неё, чтобы увидеть тему.

Модуль 0 по диагностике

1 Фундамент

2 Современный трансформер

3 Инференс, GPU, масштабирование

4 Post-training

5 Расширение

6 Режим интервью

Capstone 4–6 недель

Неделя 7 · Фаза 2

Внимание

контрольная точка: проверка себя в конце фазы

Внутри

Только то, что можно посчитать

  • 24недели ядра
  • 6недель Модуля 0 для старта с нуля
  • 275тестов в модели nanolm
  • 23схемы в светлой и тёмной версии
  • 36задач по математике с решениями
  • 72задачи LeetCode по темам
  • 6языков интерфейса
  • 3платформы: iOS, Android и веб
Экран «Прогресс»: навыки на целевом уровне, счётчики LeetCode, реализаций, статей и mock-интервью
Прогресс в приложении считается так же: навыки, задачи, реализации, mock-интервью

Тьютор

Спрашивает, а не решает за тебя

Тьютор отвечает по материалам курса и ссылается на нужную неделю. В сократическом режиме он ведёт вопросами, пока ты не дойдёшь до ответа сам. Решения заданий он не пишет: их делаешь ты, а проверяют тесты.

  • Поиск по тексту курса, а не по всему интернету
  • Отвечает на языке вопроса
  • Работает на твоём ключе или на нашем в Pro

тьютор · неделя 7 · сократический режим

  1. Напиши causal mask для задания недели 7, тест test_attention_is_causal падает.
  2. Код задания писать не буду: это твоя часть работы. Давай найдём ошибку. Какой формы твоя маска и что стоит в ячейке (2, 3)?
  3. Форма (T, T), в ячейке (2, 3) единица.
  4. Токен 2 может смотреть на токен 3?
  5. Нет, это будущее. Значит, там нужен −∞ перед softmax.
  6. Вот. Теперь проверь, до softmax ты её применяешь или после, и запусти тест ещё раз.

Тарифы

Курс бесплатный. Платный сервис вокруг него

Текст курса открыт под CC BY-NC-SA, nanolm под Apache-2.0. Платишь за удобство: тьютора и проверку на нашем ключе, синхронизацию, повторения, mock-интервью.

Free

0 ₽

Всё для самостоятельной учёбы

  • Вся программа и Модуль 0
  • nanolm с заданиями и тестами
  • Диагностика и банк вопросов
  • Прогресс на устройстве, офлайн-чтение
  • Тьютор со своим ключом OpenRouter или Anthropic
Начать бесплатно

Pro

790 ₽ в месяц

Или 5 990 ₽ за год

  • Всё из Free
  • Тьютор и проверка ответов на нашем ключе: 300 реплик и 60 проверок в месяц
  • Синхронизация прогресса между устройствами
  • Интервальные повторения
  • Тьютор на всех 6 языках
Оформить Pro

Interview Sprint

3 490 ₽ разово

Шесть недель перед интервью

  • Pro на 6 недель
  • 10 mock-интервью с проверкой по рубрикам
  • Разбор job talk и research pitch
  • Отчёт о готовности по навыкам
Взять Sprint

Для команд и вузов

Руководитель видит, кто на какой неделе, какие навыки уже на целевом уровне и как прошли контрольные точки. Для России цена в рублях по договору.

Team

По договору в рублях

10–50 мест, оплата за год. Pro для каждого, панель прогресса группы, общая квота.

Education

По договору в рублях

До 30 студентов на 6 месяцев. Панель преподавателя, экспорт оценок, свои недели и вопросы, помощь с внедрением.

Enterprise

По договору в рублях

Без лимита мест, SSO, свой ключ модели, приватный деплой, программа под стек компании.

Написать нам

Цены в рублях. Оплата картой «Мир» и СБП появится вместе с приложением в RuStore; сейчас можно пользоваться бесплатно и со своим ключом.

Частые вопросы

Нужна ли математика?

Для ядра нужны производные сложных функций, матрицы и базовая вероятность: с первой недели ты считаешь градиенты руками. Если это забылось, Модуль 0 разбирает линейную алгебру, матанализ и вероятность с нуля, на примерах с маленькими числами.

Сколько времени нужно в неделю?

Ядро рассчитано на 20–25 часов в неделю, Модуль 0 на 15–20. Если есть только 10 часов, растяни ядро на 48 недель. Порядок тем лучше не менять: каждая неделя опирается на предыдущие.

Что если я не прошёл входную диагностику?

Диагностика не экзамен, а навигатор. От 80% идёшь сразу в неделю 1. От 50 до 80% проходишь только те недели Модуля 0, где просели блоки. Меньше 50% означает все шесть недель F1–F6. В приложении она занимает около 10 минут.

Можно ли подключить свой ключ модели?

Да, и это бесплатный тариф. Вставь ключ OpenRouter или Anthropic в настройках: запросы тьютора пойдут с твоего ключа и на твой счёт. У OpenRouter есть и бесплатные модели. Всё остальное в приложении работает вообще без ключа.

На каком языке материалы?

Тексты курса сейчас на русском. Интерфейс приложения на шести языках: русском, английском, немецком, испанском, португальском и китайском. Тьютор отвечает на языке вопроса. Термины вроде attention, backprop и KV cache не переводятся: так их называют на интервью.

Тьютор сделает задания за меня?

Нет. Задания в nanolm делаются без AI, иначе ты не узнаешь, насколько зависишь от подсказок. Тьютор объяснит тему и задаст наводящий вопрос, а правильность решения покажут тесты.

Как оплатить из России?

Пока только иностранной картой: Stripe не принимает российские карты. Оплата картой «Мир» и через СБП появится вместе с приложением в RuStore. До тех пор всё, кроме серверного ключа, работает бесплатно, а тьютора можно подключить на своём ключе OpenRouter.