Перейти к содержимому

ИИ с нуля

Полный курс по искусственному интеллекту: от математики до LLM, агентов и MCP. Тридцать глав, каждая из которых стоит прочтения сама по себе.

  1. Перцептрон с нуля: что вычисляет нейрон

    Нейрон — это взвешенная сумма и порог. В этом вся идея, а ее ограничения заставили появиться все, что было дальше.

    Глава 1 из 30

  2. Откуда берётся loss function: likelihood, а не соглашение

    Squared error — не условность. Это утверждение о шуме, и можно увидеть, как оно ошибается.

    Глава 2 из 30

  3. Вниз по склону: Gradient Descent и два шага, которые все пропускают

    Все пишут знак минус. Почти никто не объясняет, почему он там стоит и насколько большой шаг выдерживает.

    Глава 3 из 30

  4. Классификация, перекрёстная энтропия и как не обмануть себя

    Accuracy — самое простое число для отчёта и самое простое число, которому легко поверить зря.

    Глава 4 из 30

  5. Backpropagation с нуля: сначала движок, потом сеть

    Backpropagation — не алгоритм нейросети. Это цепное правило, применённое к графу в эффективном направлении.

    Глава 5 из 30

  6. Заставить сеть учиться — и обобщать

    Градиент правильный, а сеть всё равно не учится. Эта глава — о разнице между этими вещами.

    Глава 6 из 30

  7. Собираем BPE-tokenizer: почему модель не может посчитать буквы R

    Модель никогда не видит букв. Все странности в правописании, счёте и отступах следуют именно из этого.

    Глава 7 из 30

  8. Предсказание next-token: embeddings и что означает перплексия

    Одна цель, никаких меток и таблица векторов, которую никто не проектировал.

    Глава 8 из 30

  9. Attention и блок transformer: вывод из среднего

    Attention — не формула, которую нужно принять. Она возникает, когда мы перестаём равномерно усреднять прошлое и позволяем модели выбирать веса.

    Глава 9 из 30

  10. Предобучение LLM: данные, compute, scaling laws и стоимость

    Оставшиеся решения — уже не программирование. Это закупки.

    Глава 10 из 30

  11. От базовой модели к ассистенту: SFT, RLHF, DPO и GRPO

    Предобученная модель не отвечает на вопросы. Она продолжает текст — разницу создаёт второй этап обучения, которого почти не видно.

    Глава 11 из 30

  12. Chain of Thought, RLVR и Test-Time Compute: измерения

    Модель не думает. Она тратит больше token перед ответом, и это измеримо — и оплачивается.

    Глава 12 из 30

  13. Как удешевить inference: KV Cache, batching и quantization

    Generation — не одна задача: compute-bound первый token, затем тысячи memory-bound token. Почти все приёмы serving рождаются из этого разделения.

    Глава 13 из 30

  14. Первый production-вызов LLM: streaming, retries и timeouts

    Теперь model стоит за port. Почти всё, что ломается дальше, уже не математика.

    Глава 14 из 30

  15. Prompt engineering в цифрах: что меняет ответ

    prompt нужно измерять, а не обсуждать. Четыре варианта на двадцати кейсах не различают вообще ничего.

    Глава 15 из 30

  16. Context window, tokens и счет: измерено

    Окно — не память. Оно заполняется заново при каждом вызове, и вы платите за это заполнение.

    Глава 16 из 30

  17. Temperature, top-p и детерминизм, которого у вас нет

    Temperature не делает модель креативнее. Она повышает вероятность token, которые сама модель оценила хуже всего, — и это видно в цифрах.

    Глава 17 из 30

  18. Tool calling и структурированные выходные данные: контракт, который держится

    Модель ничего не выполняет. Она просит в заданной вами форме, и форма — единственное, что вы контролируете.

    Глава 18 из 30

  19. RAG в production: chunking, поиск и честные цитаты

    Плохой chunking уничтожает ответ еще до начала поиска, и никакой reranking его не восстановит.

    Глава 19 из 30

  20. Fine-tuning, retrieval или prompt? Решает экономика

    Этот вопрос задают не про модель. Его задают про бюджет.

    Глава 20 из 30

  21. Multimodal Pricing: за что на самом деле платят в изображениях, аудио и видео

    Фотография не стоит «одну фотографию». Она стоит tokens — по формуле, которую выбирали не вы.

    Глава 21 из 30

  22. Что такое AI agent: пять классических типов и два спорящих определения

    Один tool в каталоге превратил один вызов в два, а 39 input tokens — в 420. Считать ли это agent, зависит от того, чьё определение открыть.

    Глава 22 из 30

  23. Собираем agent harness: цикл и пять выходов из него

    Цикл занимает пятнадцать строк. Всё, что делает его пригодным к продакшену, — способы выйти из него.

    Глава 23 из 30

  24. Context engineering: почему ваш agent глупеет на 40-м ходе

    Окно не переполнилось. Факт просто сдвинулся — и agent перестал его находить.

    Глава 24 из 30

  25. Оркестрация multi-agent: пять паттернов и когда выигрывает один

    Четыре схемы, одна задача, один счет. Самая дешёвая ошиблась, а самая дорогая не смогла проверить своих исполнителей.

    Глава 25 из 30

  26. MCP по спецификации: что на самом деле такое сервер

    Это не магия. Это транспорт, формат сообщений и три примитива — и всё это можно набрать вручную.

    Глава 26 из 30

  27. Запускаем MCP server: TypeScript и Python в цифрах

    Два SDK, один протокол. Самые интересные различия — те, которых протокол не видит.

    Глава 27 из 30

  28. Agent Skills и SKILL.md: прогрессивное раскрытие, измеренное

    Skill — это папка с Markdown-файлом внутри. Всё интересное следует из того, какую часть этого файла читают и когда.

    Глава 28 из 30

  29. Оценка LLM: от публичных benchmarks до вашего golden set

    Число без интервала — это анекдот с десятичными знаками.

    Глава 29 из 30

  30. Prompt injection и летальная триада: защита реального agent

    Модель не отличает вашу инструкцию от чужой. Всё, что работает, строится на признании этого факта.

    Глава 30 из 30