WorkshopsKI-Kompetenz für UnternehmenGenerative AI & PromptingKI-Agenten & AutomatisierungKI-PotenzialworkshopZertifikate
KIKI-BeratungKI-AgentenLokale KIUnternehmens-KI
AutomatisierungProzessautomatisierungWorkflow-Automatisierungn8n-AutomatisierungDokumentenautomatisierungVertriebsautomatisierung
ITIT-BeratungSystemintegrationDigitalisierung
E-CommerceE-Commerce-AutomatisierungShop-AutomatisierungAI-CommerceOnlineshop erstellen
MarketingMarketing-AutomatisierungSocial-Media-AutomatisierungAI-Content
WebWebsite erstellenWebdesignDomain & HostingSEOAI-Optimierung
UnternehmenÜber unsReferenzenWissenNordhausenThüringen
Automatisierungspotenzial prüfen
KI im Mittelstand

Cloud oder lokal: Wie man die Entscheidung tatsächlich trifft

Die Frage wird meist als Datenschutzthema verhandelt. In der Praxis entscheidet sie sich an drei Größen, die sich beziffern lassen: Schutzbedarf der Daten, Nutzungsmenge und Betriebsaufwand.

12. August 20269 Min. LesezeitBenjamin Koch

01 · AusgangslageDie Frage wird fast immer falsch gestellt.

„Dürfen wir überhaupt in die Cloud?" ist die Formulierung, mit der die Diskussion beginnt — und sie führt in die Irre. Für den größten Teil der Daten, mit denen ein mittelständisches Unternehmen arbeitet, ist die Antwort seit Jahren geklärt: Mit einem Vertrag zur Auftragsverarbeitung, Verarbeitung in der EU und einem Anbieter, der die Eingaben nicht zum Training verwendet, ist die Nutzung zulässig. Dieselben Unternehmen betreiben ihre Buchhaltung, ihr Postfach und ihre Telefonanlage längst bei Dienstleistern.

Damit verschwindet die Frage nicht, sie verschiebt sich nur. Übrig bleiben drei Größen, die man ausrechnen kann: Wie schützenswert sind die Daten, die tatsächlich in das Modell gehen? Wie viel wird das Modell benutzt? Und wer betreibt das Ganze im dritten Monat, wenn der Anfangsschwung weg ist?

Die Reihenfolge ist wichtig. Schutzbedarf begrenzt die Auswahl, die Menge entscheidet über die Kosten, der Betriebsaufwand über die Haltbarkeit. Wer mit der Menge anfängt, baut am Ende einen Server, der aus Datenschutzgründen ohnehin nicht nötig gewesen wäre. Wer beim Schutzbedarf stehen bleibt, zahlt für Vorsicht, die keinen Adressaten hat.

02 · Schritt 1Schutzbedarf je Datenart, nicht pro Unternehmen.

Die Einordnung wird selten falsch, aber fast immer zu grob gemacht. „Wir haben sensible Daten" gilt für jedes Unternehmen und hilft niemandem. Nützlich ist eine Liste der Datenarten, die konkret in ein Modell gegeben werden sollen — nicht aller Daten, die es im Haus gibt.

DatenartBeispielEinordnungKonsequenz
ÖffentlichProdukttexte, Website-Inhalte, PreislistenUnkritischJeder seriöse Anbieter
InternAngebote, Projektnotizen, ProzessbeschreibungenVertraulichCloud mit AVV, EU-Region, kein Training
PersonenbezogenKundenanschriften, Bewerbungen, E-Mail-VerkehrErhöhtCloud möglich, Aufbewahrung und Protokoll regeln
Besondere KategorienGesundheitsdaten, Betriebsratsthemen, GewerkschaftszugehörigkeitHoch (Art. 9 DSGVO)Eigenbetrieb oder gar nicht durch ein Modell
Fremdes GeheimnisKundendaten unter NDA, Konstruktionsdaten DritterVertraglich gebundenErst prüfen, was der Vertrag mit dem Kunden erlaubt
Die vierte und fünfte Zeile sind die einzigen, die regelmäßig gegen Cloud-Nutzung sprechen — und sie betreffen selten den ganzen Anwendungsfall.

Der häufigste Fund bei dieser Übung: Der Anwendungsfall braucht die kritischen Daten gar nicht. Ein Modell, das Angebotstexte formuliert, muss keine Personalakten sehen. Ein Assistent für den Rechnungseingang braucht Lieferant, Betrag und Bestellbezug, nicht die Konditionen der letzten Gehaltsrunde. Wenn sich der Anwendungsfall auf die unkritischen Felder zuschneiden lässt, ist die Entscheidung an dieser Stelle gefallen.

03 · Schritt 2Die Menge ist eine Rechnung, keine Schätzung.

Cloud-Modelle werden nach Textmenge abgerechnet, gemessen in Token. Ein Token entspricht im Deutschen etwa dreieinhalb bis vier Zeichen; eine DIN-A4-Seite Fließtext liegt bei ungefähr 800 bis 1.000 Token. Diese Umrechnung genügt, um eine belastbare Größenordnung zu bekommen.

Die Rechnung braucht drei Werte: Vorgänge pro Monat, Token pro Vorgang (Eingabe plus Ausgabe) und den Preis je Million Token. Ein Beispiel aus einem Projekt zur Rechnungsprüfung:

  1. 01Vorgänge: 2.000 Eingangsbelege pro Monat.
  2. 02Token pro Vorgang: rund 3.000 für den Belegtext samt Kontext, dazu 500 für die Antwort — zusammen 3.500.
  3. 03Monatsmenge: 7 Millionen Token.
  4. 04Kosten: bei einem mittleren Modell in der Größenordnung von 1 bis 3 € je Million Token ergibt das etwa 7 bis 21 € im Monat.

Das ist der Punkt, an dem die Diskussion in vielen Projekten leiser wird. Für den Gegenwert eines Mittagessens im Monat ist kein Serverkauf zu rechtfertigen. Die Zahlen kippen erst, wenn eine Null dazukommt: Ein Assistent, der für 120 Mitarbeitende den ganzen Tag im Einsatz ist, große Dokumente mit jeder Anfrage erneut mitschickt oder Bilder verarbeitet, landet schnell bei 200 bis 500 Millionen Token im Monat — und damit in einer Größenordnung von mehreren hundert bis einigen tausend Euro.

Zwei Faktoren treiben die Menge stärker als die Zahl der Nutzer: mitgeschickter Kontext — dasselbe Handbuch bei jeder Frage erneut — und Wiederholungen, wenn Ergebnisse nicht zwischengespeichert werden. Beides lässt sich technisch reduzieren, oft um den Faktor fünf. Vor der Anschaffung eigener Hardware lohnt es sich, zuerst diese beiden Punkte anzusehen.

04 · Schritt 3Der Betriebsaufwand ist der Posten, der vergessen wird.

Ein eigener Server mit ausreichend Grafikspeicher kostet je nach Ausstattung zwischen 6.000 und 15.000 € in der Anschaffung oder mietweise einige hundert Euro im Monat. Diese Zahl steht in jedem Angebot. Was nicht darin steht, ist der Aufwand danach:

  • Aktualisierung: Modelle und Laufzeitumgebungen erscheinen in kurzen Abständen. Wer nicht nachzieht, arbeitet nach einem Jahr mit sichtbar schlechterer Qualität.
  • Überwachung: Auslastung, Speicher, Warteschlangen. Ohne Überwachung merkt man Ausfälle daran, dass sich jemand beschwert.
  • Modellwechsel: Ein Wechsel in der Cloud ist eine Zeile Konfiguration. Lokal ist er ein Test-, Speicher- und Bewertungsprojekt.
  • Bereitschaft: Wenn der Rechnungseingang am Server hängt, braucht es eine Vertretung für den Urlaub der Person, die ihn kennt.

Realistisch sind vier bis acht Stunden im Monat, in den ersten Monaten mehr. Zu internen Kosten gerechnet sind das 300 bis 800 € monatlich — meist deutlich mehr als die Cloud-Rechnung, über die vorher diskutiert wurde. Wer diesen Posten nicht einplant, verlagert ihn nur: auf die Person in der IT, die ohnehin schon zu viel hat.

Der teuerste Teil des Eigenbetriebs ist nicht die Hardware, sondern die Aufmerksamkeit, die sie dauerhaft braucht.

05 · Schritt 4Der Punkt, ab dem Eigenbetrieb günstiger wird.

Setzt man beide Seiten zusammen, ergibt sich eine einfache Faustregel. Sie ist keine Formel für die Nachkalkulation, aber sie sortiert die Fälle richtig:

LageMonatsmengeEmpfehlung
Einzelne Abteilung, Textarbeitunter 20 Mio. TokenCloud. Eigenbetrieb rechnet sich nicht.
Unternehmensweiter Assistent20–150 Mio. TokenCloud, aber Kontextmenge und Zwischenspeicher optimieren.
Dauerlast, Massenverarbeitungüber 150–200 Mio. TokenEigenbetrieb rechnen — hier beginnt der Kipppunkt.
Besondere Datenkategorien im SpielbeliebigEigenbetrieb oder Anwendungsfall zuschneiden.
Kundenvertrag verbietet WeitergabebeliebigEigenbetrieb, unabhängig von der Menge.
Größenordnungen für mittlere Modelle, Stand Mitte 2026. Preise bewegen sich nach unten, die Schwelle wandert entsprechend nach oben.

Bemerkenswert an dieser Tabelle ist, wie oft die Menge irrelevant ist: Sobald ein Vertrag oder eine besondere Datenkategorie im Spiel ist, entscheidet nicht die Rechnung. Und solange keines von beiden vorliegt, entscheidet fast immer die Cloud — weil die Rechnung nicht in ihre Nähe kommt.

06 · ErgebnisIn der Praxis steht am Ende meist beides.

Die Entscheidung wird als Entweder-oder verhandelt und endet fast immer im Nebeneinander: ein Cloud-Modell für den größten Teil der Arbeit, ein kleines lokales Modell für die zwei oder drei Vorgänge, die das Haus nicht verlassen dürfen. Das ist keine Kompromisslösung, sondern die Konsequenz aus Schritt 1 — die Datenarten sind unterschiedlich schützenswert, also dürfen die Wege unterschiedlich sein.

Wichtig ist dann nur, dass die Grenze nicht im Kopf einzelner Personen liegt, sondern in der Anwendung: Wer ein Dokument aus dem Personalordner hochlädt, soll technisch im lokalen Weg landen, ohne darüber nachdenken zu müssen. Alles andere ist eine Regel, die im hektischen Moment nicht greift.

Wenn Sie wissen wollen, wo Ihr Fall in dieser Tabelle steht: lokale KI und KI-Beratung beschreiben, wie wir die Gegenüberstellung aufbauen.

Weitere Beiträge.

Alle Beiträge →

Wir rechnen das für Ihren Fall durch.

Schicken Sie uns die Datenarten und eine Mengenschätzung. Sie bekommen eine Gegenüberstellung mit Zahlen statt einer Empfehlung nach Gefühl.

Einschätzung anfragen