HOME DevOps & Engineering DevOps / AI Architect (w/m/d)
I IndivHR | We IT Recruiting VERIFIED EMPLOYER

DevOps / AI Architect (w/m/d).

DevOps & Engineering

DevOps / AI Architect (w/m/d): our view in 3 lines...

  • The Role:This position suits an experienced architect of AI, cloud, or DevOps platforms at an IT services and consulting company focused on secure digital transformation.
  • The Person:The person will design and build AI platforms, establish platform architectures and secure deployment frameworks, operate and optimise AI workloads, integrate AI solutions, advise clients, conduct technical reviews, and coach engineers.
  • Requirements:The ideal candidate has experience with LLMs, RAG, vLLM, Linux, Ansible, Infrastructure as Code, Docker, Kubernetes, GitOps, CI/CD, TCP/IP, DNS, OAuth2, and LDAP.

About the role

Über unseren Kunden

Unser Mandant ist ein international tätiges IT-Dienstleistungs- und Beratungsunternehmen, das Unternehmen und öffentliche Auftraggeber bei der sicheren digitalen Transformation unterstützt. Im Fokus stehen moderne Cloud-, Automatisierungs- und KI-Lösungen für anspruchsvolle Enterprise-Umgebungen.

Für den weiteren Ausbau suchen wir einen

DevOps / AI Architect (w/m/d)

München · Vollzeit

Deine Aufgaben

  • Konzeption, Aufbau und Weiterentwicklung moderner KI-Plattformen in Cloud- und Hybridumgebungen

  • Entwicklung skalierbarer Zielarchitekturen und technischer Plattformstandards

  • Gestaltung sicherer GitOps-, CI/CD- und Infrastructure-as-Code-Frameworks

  • Betrieb, Optimierung und Troubleshooting von KI- und Machine-Learning-Workloads

  • Integration von LLMs, RAG-Anwendungen, Document Intelligence und multimodalen KI-Lösungen

  • Konzeption und Umsetzung von Agenten- und Multiagentensystemen

  • Auswahl, Konfiguration und Optimierung von Inferenz-Servern und KI-Modellen

  • Beratung zu Cloud-Integration, Souveränität, Security, Compliance und Skalierbarkeit

  • Durchführung technischer Reviews und Begleitung von Modernisierungsprogrammen

  • Coaching und fachliche Unterstützung von Engineers

  • Erstellung technischer Konzepte, Architekturentscheidungen und Betriebsdokumentationen

  • Verständliche Präsentation technischer Lösungsansätze gegenüber Kunden und Projektteams

Dein Profil

  • Mehrjährige Erfahrung in der Architektur oder im Betrieb moderner KI-, Cloud- oder DevOps-Plattformen

  • Fundiertes Verständnis von Large Language Models, deren Architektur und Deployment-Anforderungen

  • Erfahrung mit KI-Anwendungen wie RAG, Document Intelligence, OCR oder Agentic AI

  • Kenntnisse in der Konfiguration von Inferenz-Servern wie vLLM, Ollama, Triton oder TensorRT

  • Verständnis multimodaler KI für Text, Vision und Bildgenerierung

  • Erfahrung mit KI-Frameworks wie LangChain, Pydantic, CrewAI oder vergleichbaren Technologien

  • Sehr gute Kenntnisse in Linux, Ansible, Infrastructure as Code und Automatisierung

  • Erfahrung mit Docker sowie Kubernetes, idealerweise mit Rancher

  • Gute Kenntnisse in GitOps, CI/CD und wiederholbaren Deployment-Prozessen

  • Solides Verständnis von TCP/IP, DNS, Load Balancing und Firewalls

  • Kenntnisse in Authentifizierungsverfahren wie OAuth2 oder LDAP

  • Fähigkeit, technische Zusammenhänge verständlich zu vermitteln und eigenständig Entscheidungen zu treffen

  • Sehr gute Deutsch- und Englischkenntnisse

  • Projektbezogene Reisebereitschaft

Das bringst Du idealerweise mit

  • Erfahrung mit Cloud- und Hybrid-Cloud-Architekturen sowie souveränen Cloud-Szenarien

  • Kenntnisse in MLOps, Model Serving, GPU-Infrastruktur und AI-Observability

  • Erfahrung mit Quantisierung, Sparse Models, CUDA Graphs, Torch Compile oder ähnlichen Optimierungsverfahren

  • Kenntnisse des Model Context Protocols

  • Erfahrung als Architekt, technischer Ansprechpartner, SPOC oder Teamlead

  • Erfahrung in Modernisierungsprogrammen und im Coaching technischer Teams

  • Cloud-, Kubernetes-, Ansible- oder KI-Zertifizierungen

Das erwartet Dich

  • Anspruchsvolle KI- und Cloud-Projekte bei namhaften Unternehmen und öffentlichen Auftraggebern

  • Die Möglichkeit, moderne KI-Plattformen von der Architektur bis zum produktiven Betrieb mitzugestalten

  • Viel technischer Gestaltungsspielraum und sichtbarer Einfluss auf die Lösungen von morgen

  • Zusammenarbeit mit erfahrenen Cloud-, DevOps-, Security- und KI-Spezialistinnen und -Spezialisten

  • Moderne Technologien und abwechslungsreiche Aufgaben zwischen Architektur, Engineering und Beratung

  • Individuelle Weiterbildungs- und Zertifizierungsmöglichkeiten

  • Hybrides Arbeitsmodell mit deutschlandweiter Einsatzmöglichkeit

  • Attraktives Gehaltspaket samt Firmenwagen und langfristige Entwicklungsperspektiven

Published October 12, 2026
Location München, Germany
Category DevOps & Engineering