هوش مصنوعی از پایه
یک دوره کامل درباره هوش مصنوعی، از ریاضیات تا LLMها، عاملها و MCP. سی فصل که هرکدام بهتنهایی ارزش خواندن دارند.
پرسپترون از صفر: یک نورون چه چیزی محاسبه میکند
یک نورون یعنی مجموع وزندار و یک آستانه. کل ایده همین است — و محدودیتهایش همان چیزی بود که همه چیزِ بعد از آن را ناگزیر کرد.
تابع زیان از کجا میآید: درستنمایی، نه قرارداد
خطای مربعی یک قرارداد نیست؛ ادعایی درباره نویز است، و میتوانید ببینید کجا اشتباه میکند.
سرازیر: Gradient Descent و دو گامی که همه جا میاندازند
همه علامت منفی را مینویسند. تقریباً هیچکس نمیگوید چرا آنجاست، یا چه اندازه گامی را تاب میآورد.
طبقهبندی، Cross-Entropy، و چطور خودتان را فریب ندهید
دقت سادهترین عدد برای گزارشدادن است؛ و سادهترین عدد برای فریبخوردن.
Backpropagation از صفر: اول موتور، بعد شبکه
Backpropagation الگوریتم شبکه عصبی نیست؛ همان قاعده زنجیرهای است که روی یک گراف و در جهت کارآمد اعمال میشود.
وادار کردن شبکه به آموزش، و وادار کردنش به تعمیم
gradient درست است و شبکه هنوز یاد نمیگیرد. این فصل درباره همین تفاوت است.
ساخت یک BPE Tokenizer: چرا مدل شما تعداد Rها را نمیشمارد
مدل هرگز حروف را نمیبیند. هر چیز عجیبی در املانویسی، شمارش و تورفتگی از همین میآید.
پیشبینی token بعدی: embeddingها و معنای Perplexity
یک هدف، بدون برچسب، و جدولی از بردارها که هیچکس طراحیاش نکرده است.
Attention و بلوک transformer، از دلِ یک میانگین
Attention فرمولی برای پذیرفتن نیست؛ وقتی وزندهی یکنواخت به گذشته را کنار میگذارید و انتخاب وزنها را به model میسپارید، به دست میآید.
پیشآموزش یک LLM: داده، محاسبه، قوانین مقیاسپذیری و هزینه
تصمیمهای باقیمانده دیگر برنامهنویسی نیستند. خریدند.
از مدل پایه تا assistant: SFT، RLHF، DPO و GRPO
مدل pretrained به سؤال پاسخ نمیدهد؛ متن را ادامه میدهد. تفاوت در مرحله دوم آموزش است که کمتر دیده میشود.
Chain of Thought، RLVR و Test-Time Compute، اندازهگیریشده
مدل فکر نمیکند. فقط پیش از پاسخ، token بیشتری خرج میکند؛ و این قابل اندازهگیری و قابلصورتحساب است.
ارزانکردن Inference: KV cache، Batching و Quantization
Generation یک مسئله واحد نیست: token اول compute-bound است و هزاران token بعدی memory-bound؛ تقریباً همه ترفندهای serving از همین شکاف میآیند.
اولین فراخوان LLM در production: streaming، retry و timeout
مدل حالا پشت یک port است. از اینجا به بعد، تقریباً هیچکدام از خرابیها ریاضی نیست.
Prompt Engineering با عدد و سنجش: چه چیزی خروجی را تغییر میدهد
prompt را باید سنجید، نه بحث کرد. چهار نسخه روی بیست مورد عملاً هیچ چیز را از هم جدا نمیکند.
Context Window، tokenها و صورتحساب؛ با عدد و اندازهگیری
window حافظه نیست. در هر call از نو پر میشود، و شما هزینهٔ همین پر کردن دوباره را میپردازید.
Temperature، Top-p و قطعیتی که ندارید
temperature مدل را خلاقتر نمیکند؛ احتمال tokenهایی را بالا میبرد که خود مدل پایینترین امتیاز را به آنها داده است.
Tool Calling و خروجیهای ساختاریافته: قراردادی که پابرجا میماند
مدل هیچوقت چیزی را اجرا نمیکند. فقط در قالبی که شما تعریف کردهاید درخواست میدهد؛ و همان قالب تنها بخش تحت کنترل شماست.
RAG در Production: chunking، بازیابی و ارجاعهای صادقانه
chunking بد پاسخ را پیش از شروع جستوجو نابود میکند و هیچ reranking آن را برنمیگرداند.
Fine-tune، بازیابی یا prompt؟ تصمیم اقتصادی است
هیچکس این سؤال را درباره مدل نمیپرسد؛ درباره بودجه میپرسد.
قیمتگذاری چندوجهی: تصاویر، صدا و ویدئو واقعاً چه چیزی را صورتحساب میکنند
هزینه یک عکس، یک عکس نیست. هزینهاش token است، با فرمولی که شما انتخاب نکردهاید.
AI Agent چیست: پنج نوع کلاسیک، دو تعریف رقیب
یک tool در catalogue، یک call را به دو و 39 input token را به 420 تبدیل کرد. اینکه این یک agent باشد، به تعریفی بستگی دارد که باز میکنید.
ساخت یک agent harness: حلقه و پنج راه خروج از آن
حلقه پانزده خط است. هر چیزی که آن را قابل عرضه میکند، راهی برای خروج از آن است.
Context Engineering: چرا agent شما در نوبت 40 کمهوشتر میشود
window پر نشد. واقعیت فقط جابهجا شد و agent دیگر نتوانست آن را پیدا کند.
هماهنگسازی multi-agent: پنج الگو و زمان برندهشدن یکی از آنها
چهار چیدمان، یک وظیفه، یک صورتحساب. ارزانترین اشتباه بود و گرانترین نمیتوانست workerهای خودش را بررسی کند.
MCP بر اساس مشخصات: سرور واقعاً چیست
جادو نیست. یک transport، یک قالب پیام و سه primitive است؛ حتی میتوانید دستی تایپش کنید.
انتشار یک MCP Server: TypeScript و Python، با اندازهگیری واقعی
دو SDK، یک wire. تفاوتهای جالب همانهاییاند که protocol نمیتواند ببیند.
Agent Skills و SKILL.md: افشای تدریجی، با اندازهگیری
یک skill پوشهای است با یک فایل Markdown. همه نکات مهم از این میآید که کدام بخش از آن فایل خوانده میشود و چه زمانی.
ارزیابی LLM: از benchmarkهای عمومی تا مجموعه طلایی شما
عددی بدون بازه، حکایتی است با چند رقم اعشار.
Prompt Injection و Lethal Trifecta: ایمنسازی یک agent واقعی
مدل نمیتواند دستور شما را از دستور یک غریبه تشخیص دهد. هر راهحل مؤثر از پذیرش همین واقعیت شروع میشود.