AI Infrastructure · Platform Engineering
KI brauchtmehr als ein Modell.
Tomas Stiller baut die Infrastruktur, auf der souveräne AI-Systeme zuverlässig entwickelt, skaliert und betrieben werden.
DACH · Remote und vor Ort · DE / EN

Engineering firstArchitektur → Betrieb
Current focusSovereign AILocal models · Platforms · Operations
15+Jahre Engineering
ExitGründer & CTO
60+Team aufgebaut
DACHMittelstand & reguliert
Kubernetes ✦Local LLMs ✦GitOps ✦RAG ✦Crossplane ✦Data Sovereignty ✦AWS ✦LLMOps ✦Kubernetes ✦Local LLMs ✦GitOps ✦RAG ✦Crossplane ✦Data Sovereignty ✦AWS ✦LLMOps ✦
Was produktive AI wirklich braucht
Plattform. Modell. Betrieb.
Die schwierigen Fragen beginnen nach dem Prototyp: Identitäten, Datenwege, Compliance, Deployment und klare Verantwortung.
Architektur besprechen →Capability01
AI Platform Engineering
Souveräne Plattformen für GenAI-Workloads – lokal, on-premise oder in der Cloud. Mit Inferenz, RAG, LLMOps und belastbaren Betriebsgrenzen.
vLLMOllamaRAGLLMOps
Capability02
Platform & Cloud
Kubernetes, AWS, Internal Developer Platforms, GitOps und Crossplane als verlässliche Basis für produktive KI-Systeme.
KubernetesAWSCrossplaneGitOps
Capability03
Enablement
Trainings, Inhouse-Workshops und technische Führung, die Teams befähigen, Systeme selbstständig weiterzuentwickeln und zu betreiben.
GFUWorkshopsInhouseLeadership
Referenzprojekte
Systeme, die unter echten Bedingungen bestehen.
Anonymisierte Ausschnitte aus Kundenprojekten in regulierten und technisch anspruchsvollen Umfeldern, ergänzt um eine Eigenentwicklung. Problem, Umsetzung und Wirkung bleiben bewusst nachvollziehbar.
01Regulierte KI
Abgeschottete LLM-Inferenz on-premise
- Problem
- Sensible Daten sollten ein lokales Sprachmodell nutzen, ohne die kontrollierte Umgebung zu verlassen.
- Lösung
- Air-Gapped Inference mit LUKS-Vollverschlüsselung, Deny-All-Egress und nachvollziehbarer Betriebsdokumentation.
- Ergebnis
- Eine produktionsnahe, souveräne KI-Basis mit überprüfbaren Kontrollen für ISO 27001, NIS2, BSI C5 und EU AI Act.
vLLMAnsibleLinuxLUKSnftablesLLMOps
02Transport
Internal Developer Platform für 25+ EKS-Cluster
- Problem
- Viele Teams, viele Cluster und zu viele manuelle Übergaben zwischen Entwicklung und Plattformbetrieb.
- Lösung
- Eine deklarative Plattform mit Crossplane, Golang-Komponenten und Policy Enforcement über Gatekeeper.
- Ergebnis
- Wiederholbare Plattform-Services, klarere Verantwortlichkeiten und ein belastbares Self-Service-Modell.
AWS EKSCrossplaneGolangGatekeeperGitOpsKubernetes
03Gesundheitswesen
Kubernetes-Plattform im regulierten Umfeld
- Problem
- Anwendungen mussten schneller ausgeliefert werden, ohne Identität, Nachvollziehbarkeit und Plattform-Sicherheit zu schwächen.
- Lösung
- Kubernetes-Plattform mit Keycloak/OIDC, Tekton-Pipelines und Security-by-Default in den Delivery-Prozessen.
- Ergebnis
- Eine standardisierte Delivery-Basis für regulierte Workloads mit kontrollierten Zugängen und reproduzierbaren Abläufen.
KubernetesKeycloakOIDCTektonPlatform Security
04Agentic Engineering · Eigenentwicklung
Agentenbasiertes Wissens- und Betriebssystem
- Problem
- Wissen, Routinen und operative Aufgaben lagen in getrennten Werkzeugen und mussten immer wieder manuell verbunden werden.
- Lösung
- Ein persönliches System aus Claude Code, MCP-Integrationen und spezialisierten Sub-Agents für Recherche, Umsetzung und Betrieb.
- Ergebnis
- Ein praktischer Referenzaufbau für Agenten-Infrastrukturen, Tool-Nutzung und kontrollierte Automatisierung.
Claude CodeMCPSub-AgentsAutomationKnowledge Systems
Founder perspective · Engineering depth
Verantwortungendet nicht beim Diagramm.
Informatik-Diplom am KIT. 2009 gemeinsam mit seinem Bruder Wunderkarten gegründet, als CTO aufgebaut und verkauft. Mehr als 15 Jahre Cloud-, Plattform- und Engineering-Verantwortung.
Heute verbindet Tomas technische Tiefe mit der Erfahrung, Organisationen, Teams und Systeme durch komplexe Veränderung zu führen.
CLI-firstConfig-as-CodeSmall verifiable steps
Talks · Trainings · WorkshopsVorträge & Trainings
Technik so erklären, dass Entscheidungen möglich werden.
01Keynote / Vortrag
Autonome Geschäftsmodelle
KMUKI 2025 · Freelance Unlocked 2026 · ITBG Summit 2026 02GFU-Training
Lokale LLMs produktiv betreiben
Mehrtägiger Praxisworkshop 03Inhouse-Workshop
Platform Engineering für AI-Workloads
Für Plattform-, Cloud- und Entwicklungsteams