• On-Prem vs. Public Cloud: Cloud skaliert schnell, aber bringt Rechts- und Lieferkettenrisiken (EDPB, Schrems II, Data Privacy Framework nur für zertifizierte Anbieter). On-Prem senkt Abhängigkeiten und erleichtert Audit, erfordert aber investive Disziplin (Kapazitätsplanung, GPU-Auslastung).
  • Open vs. Proprietär: Offene Modelle geben Kontrolle und Portabilität, proprietäre oft bessere Out-of-the-box-Qualität. Für sensible Umgebungen dominiert Kontrollierbarkeit. Ein Hybrid ist möglich: Offene Modelle für produktive Flüsse, proprietäre für Forschung mit strenger Datenabschottung.
  • Zentral vs. Domänen: Ein zentrales KI-Team erzielt Synergien, domänennahe Teams liefern Relevanz. Lösung: Plattform-Team für “undifferentiated heavy lifting” (Tooling, Ops, Governance), Domänenteams für Problemlösung und Verantwortung.
  • Agent vs. Assistenz: “Vollautonom” ist selten nötig. Beginnen Sie mit Entscheidungsunterstützung, später schrittweise Autonomie mit Rückfallebenen und Kill-Switches.

Ein 90-Tage-Playbook (realistisch in Industrieumgebungen)

  • Tage 1–10: Problem präzisieren, Akzeptanzkriterien und Baselines definieren. Stakeholder und Prozessschnittstellen festzurren.

  • Tage 11–30: Datenprodukte und -verträge aufsetzen; Katalog, Qualitätsmetriken, Zugriffspfade; Minimal-Observability installieren.

  • Tage 31–60: Erstes Modell + Evaluationsharness, Guardrails, Shadow-Mode in produktionsnaher Umgebung. Kosten-Modelle aufbauen.

  • Tage 61–90: Canary-Rollout mit abortierbaren Kriterien; Drift-Detektion aktivieren; Tägliche/wochentliche KPIs ans Business; Entscheid über Weiterführung/Skalierung datenbasiert, nicht gefühlt.

Was Sie morgen tun können

  • Schreiben Sie die Akzeptanzkriterien des wichtigsten KI-Vorhabens auf eine Seite. Wenn sie nicht messbar sind, stoppen Sie das Projekt.

  • Benennen Sie ein Data Product, ohne das Ihr Vorhaben nicht geht. Gibt es dafür ein versioniertes Schema, Qualitätsmetriken, einen Owner? Falls nein: erst das.

  • Messen Sie Inferenzkosten pro Einheit Wert (z. B. € pro abgewickelter Reklamation). Optimieren Sie daran, nicht an generischen LLM-Benchmarks.

  • Aktivieren Sie strukturiertes Logging der Modellentscheidungen. Ohne Logs sind Sie blind – technisch und regulatorisch.

FAQ

Frage 1: Warum reden alle über KI-Strategie, wenn doch die Daten das Problem sind?
Antwort: Weil “KI” greifbar wirkt. Aber Produktivität entsteht an den Datenschnittstellen. McKinsey zeigt, dass der Nutzen beim Skalieren verloren geht – genau dort, wo Datenqualität, Integration und Governance gefragt sind. Eine KI-Strategie ohne Datenstrategie ist eine Roadmap ohne Straße.

Frage 2: Müssen wir zwingend on-prem gehen, um rechtskonform zu sein?
Antwort: Nein, aber on-prem oder souveräne EU-Infrastruktur reduziert Risiko und Auditaufwand deutlich. EDPB betont zusätzliche technische Maßnahmen bei Transfers; der Data Privacy Framework hilft, löst aber keine Pflichten zur Einzelfallprüfung. Für viele Industrie-Workloads mit sensiblen Daten ist on-prem die pragmatischste Wahl.

Frage 3: Wie messen wir ROI bei generativer KI, wo Antworten qualitativ sind?
Antwort: Übersetzen Sie Output in Prozesskennzahlen: Ticketdurchlaufzeiten, First-Time-Fix, Nacherfassungsaufwand, Fehlerquoten. Ergänzen Sie Guardrail-Metriken (Policy-Verstöße, Halluzinationsrate in szenariobasierten Tests). Setzen Sie Kosten pro Outcome in Relation – und vergleichen Sie gegen die Null-Linie (Regelwerk/Assistenz ohne LLM).

Frage 4: Was verlangt der EU AI Act konkret von uns?
Antwort: Abhängig vom Risiko-Level: Für Hochrisiko-Anwendungen u. a. Anforderungen an Daten-Governance, technische Dokumentation, Logging, Transparenz, menschliche Aufsicht und Qualitätsmanagement. Generative Basismodelle bekommen spezifische Pflichten (z. B. technische Doku, Urheberrechtsbeachtung). Praktisch heißt das: Traces, Versionierung, Evaluationsberichte und Prozesse müssen stehen – bevor skaliert wird.

Frage 5: Wie vermeiden wir Lock-in bei LLMs und Agenten?
Antwort: Standardisieren Sie Schnittstellen (OpenAI-API-kompatibel ist ein Pragmatismus, nicht zwangsläufig ein Lock-in), halten Sie die Prompt/Tool-Semantik in Ihrem Besitz, nutzen Sie portable Vektorindizes, führen Sie eine eigene Model Registry mit Signaturen, und testen Sie regelmäßig alternative Modelle gegen Ihr Evaluationsharness. Portabilität ist eine Übung, kein Vertragstext.

Schluss
KI kennt Ihr Business nicht – und das ist gut so. Denn wer Problem, Daten und Betrieb im Griff hat, baut Systeme, die nachhaltig Wert schaffen. In Europa heißt das: souveräne Architekturen, klare Datenprodukte, harte Metriken und ein Governance-Backbone, das Audit und Alltag zusammenbringt. Nicht die nächste Modellgeneration entscheidet über Ihren ROI, sondern die Disziplin, mit der Sie Problem, Daten und Produktion verbinden. Souveränität ermöglicht Intelligenz.