DevOps engineer pro on-prem AI stack

Z DOMOVA

DevOps engineer pro on-prem AI stack

Stavíme prediktivní AI, která obchodníkům říká, co, kolik a za kolik naskladnit. Běží plně on-prem na vlastním GPU stacku – bez cloudu, bez kompromisů. Potřebujeme DevOps, který zvládne provoz 3-node clusteru, CI/CD v GitLabu a udrží inference v chodu. Projekt má mezinárodní ambice a za zády investory, kteří věří v rychlý růst.

Co budeš dělat

• Postavíš a budeš spravovat náš on‑prem Kubernetes cluster (3 nody, GPU A4000)

• Nasadíš a udržíš klíčové komponenty AI stacku: ClickHouse, Vault, MLflow, Prometheus

• Zajistíš CI/CD pomocí GitLabu – včetně rollback scénářů a fallback logic

• Budeš monitorovat inference latenci a incidenty (Grafana, alerty)

• Pomůžeš s konfigurací VPN a snapshotů pro air-gapped prostředí

Tvůj stack

• Kubernetes (kubeadm), Helm, GitLab CI

• Linux, shell, YAML, základní síťové prvky (VPN, firewally)

• Vault (secrets), LUKS, Prometheus

• (Výhodou) zkušenost s GPU prostředím nebo ClickHouse admin

Jak to bude vypadat

• Pracuješ remote-first, async režim (Slack, GitLab, Notion)

• Dostaneš přístup k plné infrastruktuře – monitoring, logy, CI/CD, rollback scénáře

• Funguješ samostatně, ale nejsi sám – jsi součástí úzkého core týmu s jasnými odpovědnostmi

• AI kolega ti pomůže se strukturou promptů a automatizací rutinních úloh

• Pracujeme sprintově, technicky i lidsky férově – řešíme výsledek, ne výmluvy

Jaké jsou benefity?

• Práce na vlastním on-prem GPU stacku

• Async režim – žádné zbytečné cally

• Reálný dopad – AI, která ovlivní nákupní rozhodování

• Možnost být uveden jako spoluautor pilotu (GitHub, publikace)

• Výkonové bonusy za funkční deployment nebo rychlost inference

• Práce v sandboxu i air-gapped režimu

• Experimenty s LLM, retrievery, optimalizátory, auto-fallback

• Volnost v nástrojích – rádi zkoušíme, co funguje (FastAPI, Streamlit, MLflow, Vault, Terraform...)

Proč si vybrat tuto nabídku?

Pracuješ s vlastním on-prem GPU stackem, ne v cloudu ani v sandboxu. Spravuješ infrastrukturu, na které běží inference modely, retrievery a prediktivní AI. Každý tvůj skript, každý Helm chart má dopad – ne na SLA nějakého vnitrofiremního reportu, ale na reálné rozhodování o tom, co se má naskladnit, za kolik a kde. Budeš u toho, když se něco opravdu rozjíždí. Nestavíš nástroje pro interní použití, ale provozní systém, který běží na produkci. AI není u nás buzzword – je to jádro služby, kterou klientům poskytujeme. Běžíme inference lokálně přes Llama-2 GGUF, máme ClickHouse s vektorovým indexem a latency si měříme sami. Všechno jede na našem železe, bez vendor lock-in. Máš možnost ovlivnit architekturu. Nečekáš schválení z pěti úrovní, prostě to postavíš – a pokud dává návrh smysl, zapojíme ho rovnou do stacku. Můžeš přinést vlastní nástroje, vlastní alerty, vlastní styl. Nejsme korporát. Tady má každý člověk otisk v tom, co běží. Budeš řešit i fallbacky – nejen YAML konfiguraci. Umíme rollback, máme nastavený rollback plán, ale čekáme, že ty nám pomůžeš dělat to chytře. Tvoje práce nebude „neviditelný DevOps“, ale člověk, co udrží AI v chodu a rozjede MVP pilot, na kterém bude stát celá platforma. Pokud máš mindset SRE, baví tě uptime, observabilita, a chceš vidět dopad své práce na něco, co fakt běží – jsi náš člověk.

Hledáme

• Kubernetes
• Helm
• GitLab CI
• Prometheus
• Linux
• VPN
• YAML
• Bash
• CI/CD pipelines
• Scripting
• Deployment & rollback
• Monitoring
• Docker
• Zodpovědnost
• samostatnost
• schopnost domýšlet SLA a rollbacky
• Technický úsudek
• Orientace na výsledek
• Česky - domluvit se
• Anglicky - čtení dokumentace
• Úroveň: Medior
• Úroveň: Senior
• Praxe: 3 roky
• SŠ Vzdělání
• VŠ Vzdělání
• VŠ student

Výhodou

• ClickHouse
• Vault
• MLflow
• Terraform
• NVIDIA GPU stack
• Grafana
• LUKS
• FastAPI

Zajímavé nabídky práce v okolí: