- Startseite
- KI im Unternehmen
- Cloud-KI oder lokale KI
Cloud-KI oder lokale KI: die richtige Wahl für Ihre Daten
Sie erhalten eine Entscheidungshilfe, welche Aufgaben ein Cloud-Dienst übernehmen kann, wofür ein Sprachmodell auf eigener Hardware nötig ist und wann sich eine Kombination aus beidem lohnt.

Nicht jede Information gehört in die Cloud
Cloud-Dienste wie Microsoft 365 Copilot, ChatGPT oder Claude stellen sehr leistungsfähige Modelle bereit, ohne dass Sie eigene Hardware brauchen. Ihre Eingaben werden dabei in Rechenzentren des Anbieters verarbeitet, je nach Anbieter und Tarif auch außerhalb der EU.
Ein lokal betriebenes Sprachmodell verarbeitet Eingaben und Dokumente in Ihrem eigenen Netz. Dafür tragen Sie die Verantwortung für Hardware, Betrieb und Aktualisierung, und die Modelle erreichen nicht bei jeder Aufgabe die Leistung der größten Cloud-Modelle. Die Entscheidung hängt deshalb davon ab, welche Daten Sie verarbeiten und welche Aufgaben die KI übernehmen soll.
Cloud-KI und lokale KI im Vergleich
| Kriterium | Cloud-KI | Lokale KI |
|---|---|---|
| Vertraulichkeit | Verarbeitung beim Anbieter, Bedingungen je nach Tarif und Vertrag | Verarbeitung im eigenen Netz, Eingaben und Dokumente verlassen das Haus nicht |
| Leistung der Modelle | Zugriff auf die größten aktuellen Modelle | abhängig von Hardware und Modell, für klar umrissene Aufgaben wie Fragen zu internen Dokumenten oft ausreichend |
| Start und Aufwand | schnell startklar, keine eigene Hardware | Anschaffung, Einrichtung und laufender Betrieb der Hardware |
| Kosten über die Laufzeit | laufende Kosten je Nutzer oder nach Verbrauch | Investition in Hardware und laufender Betrieb, weitgehend unabhängig von der Zahl der Anfragen |
| Abhängigkeit vom Anbieter | Modelle, Tarife und Bedingungen legt der Anbieter fest | Modelle und Zeitpunkt von Änderungen bestimmen Sie selbst |
| Verbindung nach außen | Internetverbindung erforderlich | im eigenen Netz auch ohne Verbindung nach außen nutzbar |
| Nachweise | Verträge und Nachweise des Anbieters | eigene Dokumentation und Kontrollen |
So entsteht Ihre Entscheidung
- Anwendungsfälle sammeln Gemeinsam mit Ihren Fachabteilungen wird festgehalten, wofür KI eingesetzt werden soll und mit welchen Daten sie dafür arbeiten muss.
- Daten einstufen Sie legen fest, welche Informationen in Cloud-Dienste dürfen, welche nur lokal verarbeitet werden und welche gar nicht in KI-Systeme gehören.
- Vorgaben prüfen Gesetzliche und vertragliche Vorgaben werden einbezogen, etwa aus NIS-2, aus Berufsgeheimnissen oder aus Verträgen mit Ihren Kunden.
- Anbieter und Modelle bewerten Cloud-Tarife und lokale Modelle werden nach Speicherort, Vertragsbedingungen und Eignung für Ihre Aufgaben verglichen.
- Kosten über die Laufzeit Sie sehen laufende Kosten der Cloud-Tarife und Investition und Betrieb einer lokalen Lösung nebeneinander.
- Empfehlung mit nächsten Schritten Sie erhalten eine Empfehlung für Cloud, lokal oder eine Kombination, mit einem Vorschlag für den ersten Pilot.
Für Verschlusssachen treffen wir keine pauschale Aussage zur Eignung einer KI-Lösung. Hier ist eine Prüfung im Einzelfall nötig, mehr dazu auf der Seite VS-NfD.
Für KRITIS- und sicherheitssensible Unternehmen
Betreiber kritischer Anlagen, Gesundheitswesen, Kanzleien und öffentliche Einrichtungen arbeiten mit Daten, deren Abfluss schwere Folgen hätte. NIS-2 verlangt unter anderem, Risiken in der Lieferkette zu berücksichtigen, dazu gehören auch Cloud-Dienste für KI.
Für diese Unternehmen ist oft eine Kombination sinnvoll: Allgemeine Aufgaben wie Formulierungshilfen laufen über einen geprüften Cloud-Tarif, vertrauliche Dokumente verarbeitet ein lokaler KI-Server im eigenen Haus.
Passende Themen
- Lokale KI-Server Sie betreiben Sprachmodelle auf NVIDIA-DGX-Systemen oder GPU-Servern, im eigenen Haus oder bei unserem Partner in Deutschland, geliefert, eingerichtet und betreut von conpro IT.
- ChatGPT und Claude Sie erhalten einen sachlichen Vergleich der Unternehmenstarife mit Speicherort, Vertragsbedingungen und Verwaltung.
- NIS-2 und KRITIS Sie erfahren, ob und wie Ihr Unternehmen betroffen ist, und erhalten Unterstützung bei der Umsetzung der geforderten Maßnahmen.
Häufige Fragen zu Cloud-KI und lokaler KI
Ist lokale KI automatisch sicherer?
Nicht automatisch. Ihre Daten bleiben zwar im eigenen Netz, die Sicherheit hängt aber davon ab, wie das System betrieben wird: mit aktuellen Updates, sauberen Berechtigungen, Protokollierung und Datensicherung. Ein schlecht betreuter lokaler Server kann ein größeres Risiko sein als ein geprüfter Cloud-Tarif.
Können wir Cloud-KI und lokale KI kombinieren?
Ja, und häufig ist genau das die passende Lösung. Entscheidend sind klare Regeln, welche Daten in welches System gehören, festgehalten in Ihrer KI-Richtlinie.
Reicht ein lokales Modell für unsere Aufgaben?
Das hängt von der Aufgabe ab. Für klar umrissene Aufgaben wie Fragen zu internen Dokumenten genügt oft ein lokales Modell, für sehr anspruchsvolle Aufgaben sind die großen Cloud-Modelle meist überlegen. Ein Pilot mit Ihren eigenen Aufgaben zeigt, ob die Qualität ausreicht.
Dürfen wir Verschlusssachen mit KI verarbeiten?
Dazu treffen wir keine pauschale Aussage. Für Verschlusssachen gelten besondere Vorgaben an Produkte und Betrieb, die im Einzelfall zu prüfen sind. Informationen zum Umgang mit Verschlusssachen in der IT finden Sie auf der Seite VS-NfD.