Tekoäly alusta alkaen
Kattava kurssi tekoälystä matematiikasta LLM-malleihin, agentteihin ja MCP:hen asti. Kolmekymmentä lukua, joista jokainen kannattaa lukea myös sellaisenaan.
Perceptron alusta alkaen: mitä neuroni laskee
Neuroni on painotettu summa ja kynnys. Siinä on koko idea — ja sen rajat pakottivat kaiken myöhemmän syntymään.
Mistä häviöfunktio syntyy: likelihood, ei käytäntö
Squared error ei ole käytäntö. Se on väite kohinasta, ja sen voi nähdä olevan väärässä.
Alamäkeen: Gradient Descent ja kaksi askelta, jotka kaikki ohittavat
Kaikki kirjoittavat miinusmerkin. Harva kertoo, miksi se on siinä tai miten suuren askeleen se kestää.
Luokittelu, ristientropia ja miten et huijaa itseäsi
Accuracy on helpoin luku raportoida — ja helpoin luku, joka johtaa harhaan.
Backpropagation alusta asti: ensin moottori, sitten verkko
Backpropagation ei ole neuroverkkoalgoritmi. Se on ketjusääntö, sovellettuna graafiin, tehokkaassa suunnassa.
Miten saada se oppimaan ja yleistämään
gradient on oikein, eikä verkko silti opi. Tämä luku käsittelee niiden välistä eroa.
Rakenna BPE-tokenizer: miksi mallisi ei osaa laskea R-kirjaimia
Malli ei koskaan näe kirjaimia. Kaikki outo sen tavassa tavata, laskea ja sisentää seuraa siitä.
Next-token-ennustus: embedding ja mitä perpleksisyys tarkoittaa
Yksi tavoite, ei käsin tehtyjä tunnisteita, ja vektoritaulukko, jota kukaan ei suunnitellut.
Attention ja transformer-lohko keskiarvosta johdettuna
Attention ei ole kaava, joka vain hyväksytään. Se syntyy, kun menneisyyttä ei enää keskiarvoisteta tasaisesti vaan malli valitsee painot.
LLM:n esikoulutus: data, laskenta, scaling laws ja kustannus
Jäljelle jäävät päätökset eivät ole ohjelmointipäätöksiä. Ne ovat ostoksia.
Perusmallista assistentiksi: SFT, RLHF, DPO ja GRPO
Esikoulutettu malli ei vastaa kysymyksiin. Se jatkaa tekstiä — ja ero syntyy toisessa koulutusvaiheessa, jota kukaan ei näe.
Chain of Thought, RLVR ja test-time compute mitattuna
Malli ei ajattele. Se käyttää enemmän token ennen vastausta, ja se on mitattavaa ja laskutettavaa.
Halpaa inferenceä: KV cache, batching ja kvantisointi
Generointi ei ole yksi ongelma: ensin compute-bound ensimmäinen token, sitten tuhansia memory-bound tokenia. Lähes kaikki serving-kikat syntyvät tästä jaosta.
Ensimmäinen tuotannon LLM-kutsusi: streaming, retries ja timeouts
Malli on nyt portin takana. Lähes mikään tästä eteenpäin pieleen menevä ei ole matematiikkaa.
Prompt engineering mitattuna: mikä muuttaa outputia
Prompt mitataan, siitä ei väitellä. Neljä varianttia kahdessakymmenessä tapauksessa ei erota mitään.
Context window, token-kulut ja lasku mitattuina
Ikkuna ei ole muisti. Se täytetään alusta jokaisella kutsulla, ja maksat täytöstä.
Temperature, top-p ja determinismi, jota sinulla ei ole
Temperature ei tee mallista luovempaa. Se nostaa niiden tokenien todennäköisyyttä, jotka malli itse pisteytti pohjalle.
Tool Calling ja rakenteiset tulosteet: sopimus, joka pitää
Malli ei koskaan suorita mitään. Se pyytää määrittämässäsi muodossa, ja muoto on ainoa osa, jota hallitset.
RAG tuotannossa: chunking, haku ja rehelliset viittaukset
Huono chunking tuhoaa vastauksen ennen kuin haku alkaa, eikä mikään reranking pelasta sitä.
Fine-tuning, retrieval vai prompt? Päätös on taloudellinen
Kukaan ei kysy tätä mallista. He kysyvät sitä budjetista.
Multimodaalinen hinnoittelu: mitä kuvat, ääni ja video todella laskuttavat
Valokuva ei maksa yhtä valokuvaa. Se maksaa tokens, kaavalla jota et itse valinnut.
Mikä AI agent on: viisi klassista tyyppiä, kaksi kilpailevaa määritelmää
Yksi työkalu katalogissa muutti yhden kutsun kahdeksi ja 39 input tokenia 420:ksi. Onko se agent, riippuu määritelmästä.
Rakenna agent harness: loop ja sen viisi poistumistietä
Loop on viisitoista riviä. Kaikki, mikä tekee siitä julkaistavan, on tapa poistua siitä.
Context engineering: miksi agent muuttuu tyhmemmäksi vuorolla 40
Ikkuna ei täyttynyt. Fakta vain siirtyi, ja agent lakkasi löytämästä sitä.
Multi-Agent Orchestration: viisi mallia ja milloin yksi voittaa
Neljä asetelmaa, yksi tehtävä, yksi lasku. Halvin oli väärässä, eikä kallein pystynyt tarkistamaan omia työntekijöitään.
MCP selitettynä speksiä vasten: mikä serveri oikeasti on
Se ei ole magiaa. Se on transport, viestimuoto ja kolme primitiiviä — ja voit kirjoittaa sen käsin.
MCP Server tuotantoon: TypeScript ja Python mitattuina
Kaksi SDK:ta, yksi wire. Kiinnostavat erot ovat niitä, joita protokolla ei näe.
Agent Skills ja SKILL.md: asteittainen paljastaminen mitattuna
Skill on kansio, jossa on Markdown-tiedosto. Kaikki kiinnostava seuraa siitä, mikä osa tiedostosta luetaan ja milloin.
LLM-evaluointi: julkisista benchmarks omaan golden setiin
Luku ilman väliä on anekdootti desimaaleilla.
Prompt Injection ja kuolettava kolmikko: oikean agentin suojaaminen
Malli ei erota sinun ohjettasi vieraan ohjeesta. Kaikki toimiva lähtee tämän hyväksymisestä.