Když Seznam Asistent hledá odpověď, musí během krátké chvíle získat přesný kontext a nezahltit LLM zbytečnými tokeny. Vy budete ladit cestu dat od přípravy přes vyhledání až po předání modelu. RAG systém musí obstát i ve chvíli, kdy na něj tlačí reálný provoz. Přidáte se k týmu, který staví technologii přímo pro Seznam Asistenta.
Co budete dělat
- Budete vyvíjet backendové služby pro Seznam Asistenta v Pythonu se zaměřením na RAG architekturu.
- Navrhnete, jak data čistit, indexovat a připravovat pro jazykové modely.
- Připravíte logiku pro práci s kontextem tak, aby model dostával relevantní informace bez zbytečného balastu.
- Napojíte řešení na Elasticsearch a budete řešit, jak z něj dostat co nejpřesnější výsledky.
- Postaráte se o služby provozované jako multi-DC v Kubernetes.
- Opřete vývoj a nasazování o GitLab, Argo CD a prostředí Linuxu.
- Budete sledovat chování služeb přes Prometheus, Grafanu, Kibanu a OpenTelemetry.
- Zapojíte se do rytmu týmu, který jede ve Scrum rytmu.
Co budete potřebovat
- Programujete v Pythonu a rozumíte kódu, který dodáváte.
- Orientujete se v principech RAG, hlavně v embeddings, vektorovém vyhledávání, chunkingu a prompt engineeringu.
- Přemýšlíte nad efektivitou řešení, přesností výsledků, latencí i využitím výpočetních zdrojů.
- Máte chuť učit se nové postupy v oblasti LLM a používat je v produkčním prostředí.
- Dokážete se zapojit do technické diskuse, vysvětlit svůj návrh a pracovat s podněty ostatních.
- Dotahujete svěřené věci do konce a přebíráte odpovědnost za jejich kvalitu.
Na co se můžete těšit
- Dostanete se k RAG problémům, které nejsou laboratorní demo, ale součást reálného produktu.
- Uvidíte, jak vaše rozhodnutí ovlivňují kvalitu odpovědí v Seznam Asistentovi.
- Získáte prostor zkoušet vlastní návrhy a ověřovat je na systému, který musí fungovat spolehlivě v provozu.
- Budete se pohybovat blízko LLM, vyhledávání a dat, tedy oblastí, které v Seznamu řešíme ve velkém měřítku.
- Čeká vás tým, kde se technické argumenty berou vážně a dobrý nápad může přijít odkudkoliv.
- Pracovní zázemí můžete využít v Českých Budějovicích, Ostravě, Praze nebo Zlíně.
Jak probíhá výběrko
- Pošlete nám svůj životopis a do 3 pracovních dnů se vám ozveme k úvodnímu prescreenu.
- Následovat bude programovací úloha v Codility.
- Poté se potkáme na zhruba hodinovém online setkání přes Zoom.
- V dalším kroku se rádi uvidíme osobně. Na pohovoru bude váš potenciální nadřízený Vladimír Kobzev a seniorní kolega.
- Je to shoda? Vítejte na palubě.
