<h1>Gratulujeme! 🎉</h1> <p style="color:#637381;">Hotovo! Dokončili jste další milník.</p>

Chcete-li pokračovat, zadejte své údaje pro přihlášení.

Poslali jsme 6místný kód na #MAIL_ADDRESS#\nZkontrolujte prosím doručenou poštu nebo spam a zadejte níže kód pro pokračování.

Ověřovací kód odeslán

Děkujeme za platbu. Nyní můžete přistupovat k {collectionName} jednoduchým kliknutím na tlačítko níže.

Ano, úspěšně jste objednali! 🎉

Odemknout tento exkluzivní kurz

Zdá se, že vaše e-mailová adresa není momentálně na seznamu oprávněných přístupů. Ujistěte se prosím, že používáte e-mailovou adresu, která byla pozvána, nebo kontaktujte vlastníka obsahu pro pomoc.

Pro přístup je vyžadováno ověření

Základy výkonnostních metrik a tokenizace

Metriky výkonu LLM: Latence vs. Propustnost

Tokenizace a její vliv na náklady a výkon

🎮 Křížovka: Terminologie AI inženýrství

Optimalizace latence a inference

Streaming a vnímaná latence

Batching a paralelní zpracování

Kvantizace a výběr modelu

Správa kontextového okna a optimalizace tokenů

Strategie pro RAG a chunking

Komprese promptů a sumarizace

Řízení historie konverzace

Caching a architektura pro snížení nákladů

Caching strategie pro LLM

Implementace sémantické cache

Cost Modeling a FinOps pro AI

🎮 Pixel Quest: Optimalizační výzva

Kvízová sekce: Ověření znalostí

Kvíz 1: Metriky a základy

Kvíz 2: Tokenizace a počítání nákladů

Kvíz 3: Latence a streaming

Kvíz 4: Batching a infrastruktura

Kvíz 5: Kontextové okno a RAG

Kvíz 6: Prompt Engineering a komprese

Kvíz 7: Caching strategie

Kvíz 8: Cost Management a optimalizace

Zpětná vazba a hodnocení kurzu

Hodnocení technické hloubky

Uplatnitelnost v praxi

Celková spokojenost s kurzem

Naučte se navrhovat a provozovat LLM systémy, které jsou rychlé, efektivní a finančně udržitelné. Tento praktický kurz AI Performance Engineering vás provede klíčovými metrikami, tokenizací, optimalizací latence a propustnosti, správou kontextu, cachingem i FinOps přístupem k nákladům. Získáte dovednosti, jak snižovat TTFT a celkovou latenci přes streaming, batching a správnou volbu modelu či kvantizace (FP16/INT8/INT4). Pochopíte, jak tokeny ovlivňují paměťové nároky (KV cache), ceny poskytovatelů a jak navrhnout prompty i RAG tak, aby byly přesné a levné. Kurz propojuje teorií s praxí: ukáže konkrétní architektury pro dynamický batching, strategie komprese promptů a sumarizace dlouhých dokumentů, návrhy pro řízení historie chatu a efektivní implementaci sémantické cache na vektorových DB. Součástí jsou kvízy, herní minivýzvy a modelování nákladů, včetně hybridního routování (model cascading) pro optimální poměr cena/výkon. Ideální pro inženýry, MLE a produktové týmy, které staví real‑time asistenty, interní nástroje i škálované API. Po absolvování budete schopni měřit, ladit a škálovat LLM řešení s důrazem na rychlost, kvalitu výstupu a predikovatelné náklady.

AI Performance Engineering: Optimalizace latence, tokenů a nákladů LLM

<div class="simple-box-wrapper">
    <div class="simple-box">
        <div class="column">
            <p>Efektivní nasazení velkých jazykových modelů (LLM) do produkčního prostředí vyžaduje hluboké porozumění výkonnostním metrikám, které definují uživatelskou zkušenost a ekonomickou udržitelnost projektu. Tento kurz se zaměřuje na kritickou analýzu parametrů, jako jsou Time to First Token (TTFT) a Time Per Output Token (TPOT), a zkoumá jejich vliv na celkovou latenci systému v kontrastu s propustností (throughput). Prozkoumáme mechanismy tokenizace a jejich přímou korelaci s nároky na KV cache a výpočetní zdroje GPU. Cílem je vybavit backend vývojáře a AI inženýry schopností identifikovat úzká hrdla v inferenční pipeline a exaktně kvantifikovat dopad technických rozhodnutí na koncové náklady a stabilitu systému.</p>

<p>Pokročilé techniky optimalizace zahrnují implementaci streamování pro snížení vnímané latence, dynamický batching pro maximalizaci využití hardwaru a strategickou volbu kvantizačních schémat pro balancování mezi přesností a rychlostí inference. V rámci správy kontextového okna se kurz věnuje efektivnímu chunkingu pro RAG, kompresi promptů a algoritmům pro řízení historie konverzací, které minimalizují zbytečnou spotřebu tokenů bez degradace kvality výstupu. Architektonická část kurzu pak analyzuje nasazení sémantických cache vrstev a model cascading strategií, které v kombinaci s precizním FinOps modelingem umožňují škálovat AI aplikace při zachování optimální jednotkové ekonomiky a vysoké technické efektivity.</p>
        </div>
    </div>
</div>
