DevOps Engineer GenAI Plattform

Aufgaben

• Beratung und Aufbau einer GenAI Platfform im Bankenumfeld
• Konfiguration und Verwaltung von Azure Cloud-Ressourcen APIM, AI-Search, Azure OpenAI, Document Intelligence und Azure Foundry mithilfe von Terraform
• Infrastructure-as-Code Automatisierung von Build-, Test- und Release-Prozessen für
  GenAI-Anwendungen (LLMOps)
• Mitarbeit bei der Erstellung von Architektur-Blueprints und technischen Standards, um sicherzustellen, dass alle Komponenten (Datenbanken, ML-Modelle, Anwendungen) nahtlos zusammenarbeiten und den Vorgaben entsprechen
• Implementierung von Monitoring- und Alarmierungsmechanismen (z. B. Grafana und Azure Dashboard),
• Überwachung der Systemleistung, Betriebszeit und Protokolle

Anforderungen

• Mehrjährige Erfahrung im DevOps Engineering von AI-Plattformen (z.B. MLOps, LLMOps etc.)
• Fundierte Kenntnisse mit DevOps-Toolchains (z. B. Git, Gitlab, Docker, Terraform) von Modelltrainings-Workflows bis hin zu Anwendungsbereitstellungen
• Erfahrung in der Nutzung von Terraform
• Tiefgehendes Wissen über Azure Cloud-Dienste: APIM, AKS, Azure Functions, OpenAI, AI Search, Document Intelligence, Azure Foundry, Storage Accounts
• Kenntnisse im Bereich Monitoring-Tools (z.B. Prometheus, Grafana, Azure Monitor), Logging-Systemen und Alarmierung
• Kenntnisse in der Softwareentwicklung mit Python und/oder Java
• Verständnis von GenAI-Technologien (Retrieval-Augmented Generation RAG, Agentic AI, Optimierung von GenAI-Lösungen)
• Fliessende Deutschkenntnisse
• Gute Englischkenntnisse

Von Vorteil

• Basiswissen im Umgang mit Kubernetes
• Verständnis von Authentisierung- und Autorisierungsverfahren mittels Azure EntraID, RBAC und OAuth Konzepte
• Erfahrung in der Entwicklung von Konzepten und Architekturlösungen

Persönlichkeit

• Gute kommunikative Persönlichkeit
• Selbständige Arbeitsweise
• Freude an Arbeiten im Team