ШІ з нуля
Повний курс зі штучного інтелекту — від математики до LLM, агентів і MCP. Тридцять розділів, кожен вартий окремого читання.
Перцептрон з нуля: що обчислює нейрон
Нейрон — це зважена сума й поріг. У цьому вся ідея — а її межі змусили з’явитися все, що прийшло після.
Звідки береться функція втрат: правдоподібність, а не умовність
Квадратична помилка — не умовність. Це твердження про шум, і можна побачити, як воно хибить.
Downhill: Gradient Descent і два кроки, які всі пропускають
Усі пишуть знак мінус. Майже ніхто не пояснює, чому він там і наскільки великий крок витримує.
Класифікація, перехресна ентропія і як не обдурити себе
Accuracy — число, яке найлегше показати й найлегше дозволити йому себе обдурити.
Backpropagation з нуля: спершу рушій, потім мережа
Backpropagation — це не алгоритм нейронної мережі. Це ланцюгове правило, застосоване до графа, в ефективному напрямку.
Як змусити мережу навчатися — і узагальнювати
Градієнт правильний, але мережа все одно не навчається. Цей розділ — про різницю між цими станами.
Створюємо BPE Tokenizer: чому ваша модель не може порахувати літери R
Модель ніколи не бачить літер. Усе дивне в тому, як вона пише, рахує й робить відступи, випливає саме з цього.
Next-token prediction: embedding і що означає перплексія
Одна ціль, жодних міток і таблиця векторів, яку ніхто не проєктував.
Attention і transformer block, виведені із середнього
Attention — не формула, яку треба прийняти. Це те, що виходить, коли модель перестає рівномірно усереднювати минуле й сама обирає ваги.
Pretraining LLM: дані, обчислення, scaling laws і вартість
Решта рішень — уже не програмування. Це закупівлі.
Від базової моделі до асистента: SFT, RLHF, DPO і GRPO
Попередньо навчена модель не відповідає на запитання. Вона продовжує текст — і різницю створює другий етап навчання.
Chain of Thought, RLVR і Test-Time Compute: виміряно
Модель не думає. Вона витрачає більше token перед відповіддю — і це можна виміряти й виставити в рахунку.
Як здешевити inference: KV cache, batching і квантування
Генерація — не одна задача: compute-bound перший token, а потім тисячі memory-bound token. Майже всі прийоми serving виростають із цього поділу.
Перший production-виклик LLM: стримінг, повтори, тайм-аути
Модель тепер за портом. Майже все, що ламається далі, вже не математика.
Prompt engineering у цифрах: що змінює output
Prompt треба вимірювати, а не обговорювати. Чотири варіанти на двадцяти кейсах не відрізняють нічого.
Context window, tokens і рахунок: виміряно
Window — це не памʼять. Вона заповнюється з нуля на кожному call, і ви платите за це заповнення.
Температура, top-p і детермінізм, якого у вас немає
Температура не робить модель креативнішою. Вона підвищує ймовірність tokens, які сама модель оцінила найнижче — і це видно наживо.
Tool Calling і структуровані виходи: контракт, що витримує
Модель нічого не виконує. Вона просить у формі, яку ви визначили, і саме ця форма — єдине, що ви контролюєте.
RAG у production: chunking, retrieval і чесні цитування
Поганий chunking знищує відповідь ще до пошуку, і жоден reranker її не відновить.
Fine-tune, retrieval чи prompt? Рішення — економічне
Ніхто не ставить це питання про модель. Його ставлять про бюджет.
Мультимодальне ціноутворення: за що насправді рахують зображення, аудіо та відео
Фотографія не коштує одну фотографію. Вона коштує tokens — за формулою, яку ви не обирали.
Що таке AI agent: п’ять класичних типів і два конкурентні визначення
Один інструмент у каталозі перетворив один виклик на два, а 39 input token — на 420. Чи стало це agent, залежить від визначення.
Створюємо agent harness: цикл і п’ять способів вийти з нього
Цикл має п’ятнадцять рядків. Усе, що робить його придатним до продакшену, — це способи з нього вийти.
Context Engineering: чому ваш agent тупішає на 40-му ході
Вікно не переповнилося. Факт просто змістився — і agent перестав його знаходити.
Multi-agent orchestration: п’ять патернів і коли перемагає один
Чотири схеми, одне завдання, один рахунок. Найдешевша помилилася, а найдорожча не змогла перевірити власних виконавців.
MCP за специфікацією: що насправді є сервером
Це не магія. Це transport, формат повідомлень і три примітиви — і ви можете набрати все вручну.
Випустити MCP server: TypeScript і Python у вимірах
Два SDK, один wire. Найцікавіші відмінності — ті, яких protocol не бачить.
Agent Skills і SKILL.md: прогресивне розкриття, виміряне
Skill — це папка з Markdown-файлом усередині. Усе цікаве випливає з того, яку частину цього файлу читають і коли.
Оцінювання LLM: від публічних benchmark до вашого golden set
Число без інтервалу — це анекдот із десятковими дробами.
Prompt Injection і смертельна тріада: як захистити реального agent
Модель не відрізняє вашу інструкцію від чужої. Усе, що працює, починається з прийняття цього факту.