Senior GenAI / LLMOps Engineer

Nasz Klient to duża organizacja rozwijająca rozwiązania z obszaru sztucznej inteligencji oraz budująca standardy bezpiecznego i skalowalnego wykorzystania Generative AI (GenAI) w środowisku enterprise.

Projekt koncentruje się na budowie i rozwoju technicznych fundamentów umożliwiających bezpieczne, kontrolowane i efektywne kosztowo wykorzystywanie modeli Large Language Models (LLM) przez aplikacje, agentów AI oraz zespoły developerskie. Zakres obejmuje obszary GenAI, LLMOps, AI Governance, Cloud, DevOps i Data, w tym rozwój centralnej warstwy dostępowej do modeli, observability oraz mechanizmów bezpieczeństwa i kontroli kosztów.

Do współpracy poszukujemy osoby o silnym, hands-on profilu technicznym, posiadającej praktyczne doświadczenie w projektach GenAI / LLM i gotowej samodzielnie analizować, testować, konfigurować oraz wdrażać rozwiązania związane z infrastrukturą GenAI.📍 Tryb Współpracy: 100% zdalnie⏱️ Dostępność: Poszukujemy osób dostępnych od zaraz lub z maksymalnie 1-miesięczną dostępnością🧑‍💻 CZYM BĘDZIESZ SIĘ ZAJMOWAĆ?

Projektowaniem i rozwojem bezpiecznej warstwy dostępu do modeli LLM, w tym rozwiązań klasy LLM Gateway / API Gateway, umożliwiających centralne zarządzanie modelami różnych dostawców

• Rozwojem integracji API z modelami LLM, obejmujących mechanizmy uwierzytelniania, autoryzacji, routingu, limitowania dostępu oraz kontroli wykorzystania modeli
• Budowaniem mechanizmów observability dla środowiska GenAI, obejmujących centralne logowanie oraz monitoring wykorzystania modeli, aplikacji, tokenów, błędów i kosztów
• Testowaniem i oceną modeli LLM, sposobów ich hostowania oraz technologii GenAI pod kątem jakości, bezpieczeństwa, wydajności, możliwości integracyjnych i kosztów, również dla rozwiązań on-premise i private cloud
• Realizacją technicznych Proof of Concept (PoC) oraz analiz dotyczących nowych modeli, narzędzi i możliwości GenAI, a następnie wsparciem w doprowadzaniu wybranych rozwiązań do standardu produkcyjnego
• Współpracą z zespołami DevOps, Cloud, Security, Data i Architecture przy przekładaniu zasad AI Governance oraz bezpieczeństwa na konkretne rozwiązania technologiczne🔍 CZEGO OD CIEBIE OCZEKUJEMY?

Must have:

Praktyczne doświadczenie projektowe z Generative AI / LLM oraz udział w budowie rzeczywistych rozwiązań wykorzystujących modele językowe

• Bardzo dobra znajomość integracji z modelami LLM poprzez API oraz architektury rozwiązań GenAI wykorzystywanych w środowiskach enterprise
• Doświadczenie lub bardzo dobra znajomość obszaru LLMOps / GenAI
• Ops, w tym zagadnień związanych z udostępnianiem, monitoringiem i zarządzaniem modelami
• Znajomość mechanizmów API Gateway, uwierzytelniania, zarządzania dostępem, routingu, logowania, monitoringu i observability
• Dobra znajomość ekosystemu modeli LLM, w tym rozwiązań OpenAI, Anthropic, Google oraz modeli open-source
• Znajomość SQL oraz doświadczenie w samodzielnej realizacji technicznych analiz, eksperymentów i Proof of Concept
• Nice to have:

Doświadczenie z rozwiązaniami LiteLLM, AI Gateway, model router lub proxy dla modeli LLM

• Doświadczenie z Azure OpenAI, Google Vertex AI, Anthropic lub hostowaniem modeli open-source / on-premise
• Znajomość Snowflake oraz doświadczenie z platformami danych lub hurtowniami danych
• Znajomość Kubernetes, konteneryzacji, CI/CD oraz środowisk chmurowych
• Doświadczenie z observability, FinOps lub optymalizacją kosztów usług AI/cloud
• Znajomość RAG (Retrieval-Augmented Generation), agentów AI i narzędzi developerskich wykorzystujących LLM🤝 DLACZEGO WARTO?

Projekt obejmujący budowę technicznych fundamentów środowiska GenAI, w tym LLM Gateway, integracje API, observability, security oraz optymalizację kosztów

• Możliwość budowania technicznych fundamentów środowiska GenAI – od LLM Gateway i integracji API po observability, security i optymalizację kosztów
• Hands-on charakter współpracy z przestrzenią na samodzielne eksperymenty, Proof of Concept oraz wdrażanie nowych rozwiązań technologicznych
• Projekt z dynamicznie rozwijającym się ekosystemem LLM / GenAI oraz modelami komercyjnymi i open-source
• Współpraca z doświadczonymi zespołami DevOps, Cloud, Security, Data i Architecture100% zdalny model współpracy📍 Dziękujemy za wszystkie zgłoszenia! Skontaktujemy się z wybranymi osobami.

TQLO Sp. z o.o. – Agencja Zatrudnienia (nr KRAZ 33580)