DevOps Engineer GenAI Plattform

• Beratung und Aufbau einer GenAI Platfform im Bankenumfeld
• Konfiguration und Verwaltung von Azure Cloud-Ressourcen APIM, AI-Search, Azure OpenAI, Document Intelligence und Azure Foundry mithilfe von Terraform
• Infrastructure-as-Code Automatisierung von Build-, Test- und Release-Prozessen für
  GenAI-Anwendungen (LLMOps)
• Mitarbeit bei der Erstellung von Architektur-Blueprints und technischen Standards, um sicherzustellen, dass alle Komponenten (Datenbanken, ML-Modelle, Anwendungen) nahtlos zusammenarbeiten und den Vorgaben entsprechen
• Implementierung von Monitoring- und Alarmierungsmechanismen (z. B. Grafana und Azure Dashboard),
• Überwachung der Systemleistung, Betriebszeit und Protokolle

Anforderungen

• Mehrjährige Erfahrung im DevOps Engineering von AI-Plattformen (z.B. MLOps, LLMOps etc.)
• Fundierte Kenntnisse mit DevOps-Toolchains (z. B. Git, Gitlab, Docker, Terraform) von Modelltrainings-Workflows...