DevOps Engineer - AI Infrastructure & Orchestration

W ITLT pomagamy naszym zaprzyjaźnionym firmom przekształcać ambitne pomysły w cyfrową rzeczywistość.

Z nastawieniem na wyzwania, ciekawość technologii i zwinność - współtworzymy wyjątkowe rozwiązania IT.

Aktualnie poszukujemy osób na stanowisko: DevOps Engineer (AI Infrastructure & Orchestration)

Konkrety:

Stawka: 190 PLN/h na FV Miejsce pracy/praca zdalna: Praca zdalna (Remote)

Wymiar pracy: Fulltime

• Sektor: AI/Telco
• Projekt: On-prem LLM platform - orkiestracja i monitoring vLLM na GPU clusterze
• Zespół: 6-8os.

Proces rekrutacji: 1-etapowy (spotkanie zdalne via MS Teams). Sporadycznie możliwe dodatkowe krótkie spotkanie - połączone z decyzją

• Szacowany czas trwania projektu: Długoterminowy/Bezterminowy
• Czas pracy/Strefa czasowa: Standardowe polskie godziny pracy
• Technologie na projekcie: Kubernetes (OpenShift), vLLM, NVIDIA GPU (H100/H200/B300), Prometheus, Grafana, ELK, Open
• Telemetry, Python, Bash, Go, GitLab CI, Jenkins, ArgoCD, bare metalDo Twoich głównych obowiązków na tym stanowisku należeć będzie:

Deployment i utrzymanie vLLM na Openshift Kubernetes (bare-metal GPU)

Orkiestracja i optymalizacja GPU (NVIDIA)

Automatyzacja lifecycle modeli (HF/S3: pull, versioning, hot-swap)HPA (queue depth, GPU memory)

Tuning vLLM (performance, batching, memory)

Metryki inference (tokeny, latency, errors) + tracking zużycia per user/API key

Grafana dashboards (GPU, TTFT, RPS, koszty, quota)

Alerting (GPU failures, latency, anomalies)API Gateway (NGINX: auth, rate limit, routing)

Security + isolation + audit logging

Monitoring stack (Prometheus, Grafana, ELK, Open

Telemetry)

Automatyzacja (Python/Bash/Go)CI/CD (GitLab CI, Jenkins, ArgoCD)SLA 99.9%, >70% GPU utilization, MTTR reductionTa oferta będzie idealna dla Ciebie, jeśli posiadasz:

Min. 5+ lat doświadczenia w DevOps/SRE

• Min. 2 lata doświadczenia w MLOps lub AI Infrastructure
• Doświadczenie w deploymencie vLLM w środowisku produkcyjnym
• Znajomość Paged
• Attention i continuous batching (vLLM)

Bardzo dobra znajomość Kubernetes i Openshift

Doświadczenie w infrastrukturze GPU NVIDIA (CUDA drivers, container toolkit, debugging)

Umiejętność zarządzania i debugowania środowisk GPU

• Doświadczenie w budowie systemów observability od zera
• Umiejętność tworzenia custom Prometheus exporters
• Bardzo dobra znajomość Python (automation, tooling)

Znajomość Bash i GoDoświadczenie w pracy z CI/CD (GitLab CI, Jenkins, ArgoCD)

Doświadczenie w środowiskach on-prem / bare-metal Nice to have:

Znajomość GPU orchestration w Kubernetes (device plugins NVIDIA)

Znajomość model quantization (AWQ, GPTQ) Znajomość FinOps dla AI infrastructure

Znajomość vector databases (Milvus, Qdrant)

Warto do nas dołączyć, ponieważ oferujemy:

Dużą swobodę pracy zdalnej

• Długofalowe stabilne zatrudnienie
• Szansę na uczestniczenie w kluczowych projektach dla dużej firmy działającej w bardzo stabilnym sektorze
• Atrakcyjne wynagrodzenie (adekwatne do umiejętności i doświadczenia)

Benefity (Lux Med, MultiSport...) W razie pytań pingnij śmiało na Linkedin'ie do Kuby