<h1>Gratulujeme! 🎉</h1> <p style="color:#637381;">Hotovo! Dokončili jste další milník.</p>

Chcete-li pokračovat, zadejte své údaje pro přihlášení.

Poslali jsme 6místný kód na #MAIL_ADDRESS#\nZkontrolujte prosím doručenou poštu nebo spam a zadejte níže kód pro pokračování.

Ověřovací kód odeslán

Děkujeme za platbu. Nyní můžete přistupovat k {collectionName} jednoduchým kliknutím na tlačítko níže.

Ano, úspěšně jste objednali! 🎉

Odemknout tento exkluzivní kurz

Zdá se, že vaše e-mailová adresa není momentálně na seznamu oprávněných přístupů. Ujistěte se prosím, že používáte e-mailovou adresu, která byla pozvána, nebo kontaktujte vlastníka obsahu pro pomoc.

Pro přístup je vyžadováno ověření

Úvod do lokálních LLM a hardwarové požadavky

Proč provozovat LLM lokálně: Soukromí a kontrola

Hardwarová architektura pro LLM: GPU, CPU a RAM

Přehled open-source ekosystému modelů

Nástroje pro běh modelů: Ollama a llama.cpp

Instalace a konfigurace nástroje Ollama

Pokročilá práce s Modelfile v Ollama

Kompilace a použití llama.cpp

🎮 Křížovka: Terminologie LLM a inference

Kvantizace a optimalizace výkonu

Teorie kvantizace: Od FP16 k INT4

Vlastní kvantizace modelů pomocí llama.cpp

Optimalizace GPU a CPU zátěže

Benchmarking a měření výkonu

🎮 Pixel Quest: Optimalizační výzva

Integrace, UI a bezpečnost

REST API a programatický přístup

Nasazení grafického rozhraní (Open WebUI)

Bezpečnostní best practices pro lokální nasazení

Ověření znalostí

Kvíz: Hardwarové a softwarové základy

Kvíz: Instalace Ollama a příkazy

Kvíz: Konfigurace Modelfile

Kvíz: Práce s llama.cpp

Kvíz: Principy kvantizace

Kvíz: Optimalizace výkonu

Kvíz: API integrace

Kvíz: Webová rozhraní a RAG

Kvíz: Bezpečnost lokálního nasazení

Zpětná vazba a hodnocení kurzu

Průzkum: Technická náročnost a srozumitelnost

Průzkum: Relevance nástrojů pro praxi

Průzkum: Hodnocení struktury a materiálů

Průzkum: Celková spokojenost a doporučení

$ (USD)

Zvládněte kompletní cestu od nuly k produkčnímu nasazení lokálních LLM – bezpečně, rychle a nákladově efektivně. V kurzu „Lokální LLM: Instalace, kvantizace a bezpečné nasazení“ se naučíte vybrat správný model (Llama 3, Mistral, Gemma, Mixtral), zvolit adekvátní hardware a porozumět rozdílům mezi CPU/GPU/VRAM a jejich vlivu na výkon. Prakticky si projdete instalaci a konfiguraci nástrojů Ollama a llama.cpp, tvorbu vlastních Modelfile, práci s GGUF formáty a pokročilou kvantizací od FP16 po INT4 tak, abyste dostali maximum z dostupných zdrojů. Zaměříme se na měření výkonu, ladění parametrů (context window, n-gpu-layers, threads), řešení OOM chyb a identifikaci bottlenecků. Ukážeme si integraci přes REST API, Python (ollama-python, LangChain) i pohodlné webové rozhraní Open WebUI s podporou RAG. Zvláštní důraz klademe na bezpečnost: izolaci sítí, TLS přes reverzní proxy a řízení rizik prompt injection. Kurz je ideální pro týmy i jednotlivce, kteří chtějí citlivá data držet on‑premise, zkrátit latenci, snížit náklady a mít plnou kontrolu nad AI infrastrukturou. Na konci budete schopni navrhnout, optimalizovat a bezpečně provozovat lokální LLM v podnikové praxi.

Lokální LLM: Instalace, kvantizace a bezpečné nasazení

<div class="simple-box-wrapper">
    <div class="simple-box">
        <div class="column">
            <p>Provozování velkých jazykových modelů (LLM) ve vlastním infrastrukturním prostředí představuje zásadní krok směrem k datové suverenitě, eliminaci latence a optimalizaci provozních nákladů. Tento kurz je navržen pro IT profesionály, Linux uživatele a AI nadšence, kteří vyžadují plnou kontrolu nad zpracovávanými daty a chtějí se vymanit ze závislosti na proprietárních cloudových API. Obsah se zaměřuje na hloubkovou analýzu hardwarových požadavků, efektivní využití grafické paměti (VRAM) a orientaci v dynamickém ekosystému open-source modelů, jako jsou Llama 3, Mistral či Gemma, s důrazem na jejich praktické nasazení v podnikovém i soukromém sektoru.</p>

<p>V rámci technické implementace se účastníci naučí pracovat s klíčovými nástroji pro lokální inferenci, konkrétně s runtime prostředím Ollama a nízkoúrovňovou knihovnou llama.cpp. Kurz detailně rozebírá proces post-training kvantizace, který umožňuje redukci modelů z formátu FP16 na efektivnější varianty typu INT4, čímž výrazně snižuje nároky na hardware při zachování vysoké kvality výstupů. Závěrečná část je věnována pokročilé integraci prostřednictvím REST API, nasazení uživatelských rozhraní jako Open WebUI a implementaci striktních bezpečnostních protokolů, včetně síťové izolace a reverzních proxy serverů, což jsou nezbytné předpoklady pro robustní a bezpečné nasazení AI v produkčním prostředí.</p>
        </div>
    </div>
</div>
