Lokal oder Cloud: Abwägung

Lokal und Cloud unterscheiden sich vor allem bei Datenschutz, Kosten, Qualität, Abhängigkeit und Aufwand.

Fachwort: trade-offs local vs. cloud

Im Netz

Teil von: Lokal oder Cloud
Verwandt: DSGVO beim Einsatz von Cloud-Modellen Platzlizenz Strom für ein lokales Gerät
Gelehrt in: Rechner: 50 Personen, ein Jahr Vor- und Nachteile je Achse Was kostet was: Token gegen Hardware

Was das Netz dazu sagt

Vorteil lokal, Datenschutz: Für KI-Systeme auf externer Infrastruktur gilt in der Bundesverwaltung der „restriktivste Fall der Dateneingabe“, weil eingegebene Informationen von Privatfirmen nachgenutzt werden oder leichter öffentlich werden können.
Stand 03.2025belegtBundesministerium des Innern und für Heimat; Beauftragter der Bundesregierung für Informationstechnik (abgelegt bei BMDS) · Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung
Achse Drittland: Seit dem Angemessenheitsbeschluss der EU-Kommission vom 10.07.2023 dürfen personenbezogene Daten frei an US-Unternehmen fließen, die am EU-US Data Privacy Framework teilnehmen — bei Cloud-Anbietern ist diese Teilnahme also zu prüfen.
Stand 15.10.2026belegtEuropäische Kommission · EU-US data transfers
Kosten Cloud: Bezahlt wird je Token; die Spanne reicht im Oktober 2026 von 0,10 $ (Haiku 5.5, GPT-6 Luna) bis 10 $ (Fable 5.1, GPT-6 Astra) je 1 Mio. Eingabe-Token.
Stand 15.10.2026AnbieterangabeAnthropic · Claude PricingOpenAI · Pricing
Kosten lokal: Statt je Token zahlt man Hardware; ein mittleres offenes Modell wie Gemma 4 31B braucht in 4 Bit 17,5 GB Speicher allein für die Gewichte.
Stand 15.10.2026AnbieterangabeGoogle · Gemma 4 model overview
Nachteil lokal, Qualität/Größe: Die größten offenen Modelle passen nicht auf Arbeitsplatzrechner — Nemotron 3 Ultra verlangt mindestens 4× B200 oder 8× H100.
Stand 04.06.2026AnbieterangabeNVIDIA · NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4 (Model Card)
Nachteil Cloud, Abhängigkeit: Anbieter schalten Modelle ab; Anthropic sagt für die aktuellen Modelle nur zu, sie nicht vor September/Oktober 2027 abzuschalten.
Stand 15.10.2026AnbieterangabeAnthropic · Models overview
Gegenmittel Abhängigkeit: OpenAI empfiehlt, Produktivanwendungen auf eine feste Modellversion (Snapshot) festzulegen und Tests zu bauen, die das Verhalten beim Wechsel messen.
Stand 15.10.2026AnbieterangabeOpenAI · Prompt engineering
Kosten Cloud schwanken auch nach Uhrzeit: DeepSeek berechnet außerhalb der Hauptzeiten die Hälfte.
Stand 15.10.2026AnbieterangabeDeepSeek · Models & Pricing