AI Infrastructure · Platform Engineering

KI brauchtmehr als ein Modell.

Tomas Stiller baut die Infrastruktur, auf der souveräne AI-Systeme zuverlässig entwickelt, skaliert und betrieben werden.

DACH · Remote und vor Ort · DE / EN

Tomas Stiller bei einem Fachvortrag über AI-Infrastruktur
Engineering firstArchitektur → Betrieb
Porträt von Tomas Stiller
Current focusSovereign AILocal models · Platforms · Operations
01
Scroll to explore
15+Jahre Engineering
ExitGründer & CTO
60+Team aufgebaut
DACHMittelstand & reguliert
Kubernetes Local LLMs GitOps RAG Crossplane Data Sovereignty AWS LLMOps Kubernetes Local LLMs GitOps RAG Crossplane Data Sovereignty AWS LLMOps

Was produktive AI wirklich braucht

Plattform. Modell. Betrieb.

Die schwierigen Fragen beginnen nach dem Prototyp: Identitäten, Datenwege, Compliance, Deployment und klare Verantwortung.

Architektur besprechen
Capability01

AI Platform Engineering

Souveräne Plattformen für GenAI-Workloads – lokal, on-premise oder in der Cloud. Mit Inferenz, RAG, LLMOps und belastbaren Betriebsgrenzen.

vLLMOllamaRAGLLMOps
Capability02

Platform & Cloud

Kubernetes, AWS, Internal Developer Platforms, GitOps und Crossplane als verlässliche Basis für produktive KI-Systeme.

KubernetesAWSCrossplaneGitOps
Capability03

Enablement

Trainings, Inhouse-Workshops und technische Führung, die Teams befähigen, Systeme selbstständig weiterzuentwickeln und zu betreiben.

GFUWorkshopsInhouseLeadership

Referenzprojekte

Systeme, die unter echten Bedingungen bestehen.

Anonymisierte Ausschnitte aus Kundenprojekten in regulierten und technisch anspruchsvollen Umfeldern, ergänzt um eine Eigenentwicklung. Problem, Umsetzung und Wirkung bleiben bewusst nachvollziehbar.

01Regulierte KI

Abgeschottete LLM-Inferenz on-premise

Problem
Sensible Daten sollten ein lokales Sprachmodell nutzen, ohne die kontrollierte Umgebung zu verlassen.
Lösung
Air-Gapped Inference mit LUKS-Vollverschlüsselung, Deny-All-Egress und nachvollziehbarer Betriebsdokumentation.
Ergebnis
Eine produktionsnahe, souveräne KI-Basis mit überprüfbaren Kontrollen für ISO 27001, NIS2, BSI C5 und EU AI Act.
vLLMAnsibleLinuxLUKSnftablesLLMOps
02Transport

Internal Developer Platform für 25+ EKS-Cluster

Problem
Viele Teams, viele Cluster und zu viele manuelle Übergaben zwischen Entwicklung und Plattformbetrieb.
Lösung
Eine deklarative Plattform mit Crossplane, Golang-Komponenten und Policy Enforcement über Gatekeeper.
Ergebnis
Wiederholbare Plattform-Services, klarere Verantwortlichkeiten und ein belastbares Self-Service-Modell.
AWS EKSCrossplaneGolangGatekeeperGitOpsKubernetes
03Gesundheitswesen

Kubernetes-Plattform im regulierten Umfeld

Problem
Anwendungen mussten schneller ausgeliefert werden, ohne Identität, Nachvollziehbarkeit und Plattform-Sicherheit zu schwächen.
Lösung
Kubernetes-Plattform mit Keycloak/OIDC, Tekton-Pipelines und Security-by-Default in den Delivery-Prozessen.
Ergebnis
Eine standardisierte Delivery-Basis für regulierte Workloads mit kontrollierten Zugängen und reproduzierbaren Abläufen.
KubernetesKeycloakOIDCTektonPlatform Security
04Agentic Engineering · Eigenentwicklung

Agentenbasiertes Wissens- und Betriebssystem

Problem
Wissen, Routinen und operative Aufgaben lagen in getrennten Werkzeugen und mussten immer wieder manuell verbunden werden.
Lösung
Ein persönliches System aus Claude Code, MCP-Integrationen und spezialisierten Sub-Agents für Recherche, Umsetzung und Betrieb.
Ergebnis
Ein praktischer Referenzaufbau für Agenten-Infrastrukturen, Tool-Nutzung und kontrollierte Automatisierung.
Claude CodeMCPSub-AgentsAutomationKnowledge Systems

Founder perspective · Engineering depth

Verantwortungendet nicht beim Diagramm.

Informatik-Diplom am KIT. 2009 gemeinsam mit seinem Bruder Wunderkarten gegründet, als CTO aufgebaut und verkauft. Mehr als 15 Jahre Cloud-, Plattform- und Engineering-Verantwortung.

Heute verbindet Tomas technische Tiefe mit der Erfahrung, Organisationen, Teams und Systeme durch komplexe Veränderung zu führen.

CLI-firstConfig-as-CodeSmall verifiable steps
Tomas Stiller als Speaker auf einer KonferenzbühneTalks · Trainings · Workshops

Vorträge & Trainings

Technik so erklären, dass Entscheidungen möglich werden.

01

Keynote / Vortrag

Autonome Geschäftsmodelle

KMUKI 2025 · Freelance Unlocked 2026 · ITBG Summit 2026
02

GFU-Training

Lokale LLMs produktiv betreiben

Mehrtägiger Praxisworkshop
03

Inhouse-Workshop

Platform Engineering für AI-Workloads

Für Plattform-, Cloud- und Entwicklungsteams

Nächster Schritt

Ist die AI-Ideebereit für den Betrieb?

In 30 Minuten klären wir Ausgangslage, technische Risiken und den kleinsten belastbaren nächsten Schritt.