indivHR | We 💚 IT Recruiting

DevOps / AI Architect (w/m/d)

indivHR | We 💚 IT Recruiting Munich, Bavaria, Germany

IT Services and IT Consulting · 11-50 employees

4 h ago
devops Senior (5-10 yrs) Full-time Germany
Create a free account to apply — email only, no card. You can also save this posting or score it against your profile with AI.

About the role

You will design, build, and evolve modern AI platforms within cloud and hybrid environments while developing scalable architecture standards. Additionally, you will manage the integration of LLMs, RAG applications, and agentic systems while providing technical guidance and coaching to engineering teams.

What they look for

DevOps AI Architecture Cloud Computing Large Language Models Kubernetes Docker CI/CD GitOps Infrastructure as Code Linux Ansible RAG Machine Learning Inference Servers Python Security

Requirements

Candidates must have several years of experience in the architecture or operation of modern AI, cloud, or DevOps platforms. A deep understanding of Large Language Models, CI/CD pipelines, and infrastructure automation tools like Ansible and Kubernetes is required.

Benefits

Company car Individual training and certification opportunities Hybrid work model Long-term development prospects

Full description

Über unseren Kunden

Unser Mandant ist ein international tätiges IT-Dienstleistungs- und Beratungsunternehmen, das Unternehmen und öffentliche Auftraggeber bei der sicheren digitalen Transformation unterstützt. Im Fokus stehen moderne Cloud-, Automatisierungs- und KI-Lösungen für anspruchsvolle Enterprise-Umgebungen.

Für den weiteren Ausbau suchen wir einen

DevOps / AI Architect (w/m/d)

München · Vollzeit

Deine Aufgaben

  • Konzeption, Aufbau und Weiterentwicklung moderner KI-Plattformen in Cloud- und Hybridumgebungen
  • Entwicklung skalierbarer Zielarchitekturen und technischer Plattformstandards
  • Gestaltung sicherer GitOps-, CI/CD- und Infrastructure-as-Code-Frameworks
  • Betrieb, Optimierung und Troubleshooting von KI- und Machine-Learning-Workloads
  • Integration von LLMs, RAG-Anwendungen, Document Intelligence und multimodalen KI-Lösungen
  • Konzeption und Umsetzung von Agenten- und Multiagentensystemen
  • Auswahl, Konfiguration und Optimierung von Inferenz-Servern und KI-Modellen
  • Beratung zu Cloud-Integration, Souveränität, Security, Compliance und Skalierbarkeit
  • Durchführung technischer Reviews und Begleitung von Modernisierungsprogrammen
  • Coaching und fachliche Unterstützung von Engineers
  • Erstellung technischer Konzepte, Architekturentscheidungen und Betriebsdokumentationen
  • Verständliche Präsentation technischer Lösungsansätze gegenüber Kunden und Projektteams

Dein Profil

  • Mehrjährige Erfahrung in der Architektur oder im Betrieb moderner KI-, Cloud- oder DevOps-Plattformen
  • Fundiertes Verständnis von Large Language Models, deren Architektur und Deployment-Anforderungen
  • Erfahrung mit KI-Anwendungen wie RAG, Document Intelligence, OCR oder Agentic AI
  • Kenntnisse in der Konfiguration von Inferenz-Servern wie vLLM, Ollama, Triton oder TensorRT
  • Verständnis multimodaler KI für Text, Vision und Bildgenerierung
  • Erfahrung mit KI-Frameworks wie LangChain, Pydantic, CrewAI oder vergleichbaren Technologien
  • Sehr gute Kenntnisse in Linux, Ansible, Infrastructure as Code und Automatisierung
  • Erfahrung mit Docker sowie Kubernetes, idealerweise mit Rancher
  • Gute Kenntnisse in GitOps, CI/CD und wiederholbaren Deployment-Prozessen
  • Solides Verständnis von TCP/IP, DNS, Load Balancing und Firewalls
  • Kenntnisse in Authentifizierungsverfahren wie OAuth2 oder LDAP
  • Fähigkeit, technische Zusammenhänge verständlich zu vermitteln und eigenständig Entscheidungen zu treffen
  • Sehr gute Deutsch- und Englischkenntnisse
  • Projektbezogene Reisebereitschaft

Das bringst Du idealerweise mit

  • Erfahrung mit Cloud- und Hybrid-Cloud-Architekturen sowie souveränen Cloud-Szenarien
  • Kenntnisse in MLOps, Model Serving, GPU-Infrastruktur und AI-Observability
  • Erfahrung mit Quantisierung, Sparse Models, CUDA Graphs, Torch Compile oder ähnlichen Optimierungsverfahren
  • Kenntnisse des Model Context Protocols
  • Erfahrung als Architekt, technischer Ansprechpartner, SPOC oder Teamlead
  • Erfahrung in Modernisierungsprogrammen und im Coaching technischer Teams
  • Cloud-, Kubernetes-, Ansible- oder KI-Zertifizierungen

Das erwartet Dich

  • Anspruchsvolle KI- und Cloud-Projekte bei namhaften Unternehmen und öffentlichen Auftraggebern
  • Die Möglichkeit, moderne KI-Plattformen von der Architektur bis zum produktiven Betrieb mitzugestalten
  • Viel technischer Gestaltungsspielraum und sichtbarer Einfluss auf die Lösungen von morgen
  • Zusammenarbeit mit erfahrenen Cloud-, DevOps-, Security- und KI-Spezialistinnen und -Spezialisten
  • Moderne Technologien und abwechslungsreiche Aufgaben zwischen Architektur, Engineering und Beratung
  • Individuelle Weiterbildungs- und Zertifizierungsmöglichkeiten
  • Hybrides Arbeitsmodell mit deutschlandweiter Einsatzmöglichkeit
  • Attraktives Gehaltspaket samt Firmenwagen und langfristige Entwicklungsperspektiven

Similar roles