Cloud-KI oder lokale KI: die richtige Wahl für Ihre Daten

Sie erhalten eine Entscheidungshilfe, welche Aufgaben ein Cloud-Dienst übernehmen kann, wofür ein Sprachmodell auf eigener Hardware nötig ist und wann sich eine Kombination aus beidem lohnt.

Gespräch über Unterlagen auf einem Klemmbrett

Nicht jede Information gehört in die Cloud

Cloud-Dienste wie Microsoft 365 Copilot, ChatGPT oder Claude stellen sehr leistungsfähige Modelle bereit, ohne dass Sie eigene Hardware brauchen. Ihre Eingaben werden dabei in Rechenzentren des Anbieters verarbeitet, je nach Anbieter und Tarif auch außerhalb der EU.

Ein lokal betriebenes Sprachmodell verarbeitet Eingaben und Dokumente in Ihrem eigenen Netz. Dafür tragen Sie die Verantwortung für Hardware, Betrieb und Aktualisierung, und die Modelle erreichen nicht bei jeder Aufgabe die Leistung der größten Cloud-Modelle. Die Entscheidung hängt deshalb davon ab, welche Daten Sie verarbeiten und welche Aufgaben die KI übernehmen soll.

Cloud-KI und lokale KI im Vergleich

KriteriumCloud-KILokale KI
VertraulichkeitVerarbeitung beim Anbieter, Bedingungen je nach Tarif und VertragVerarbeitung im eigenen Netz, Eingaben und Dokumente verlassen das Haus nicht
Leistung der ModelleZugriff auf die größten aktuellen Modelleabhängig von Hardware und Modell, für klar umrissene Aufgaben wie Fragen zu internen Dokumenten oft ausreichend
Start und Aufwandschnell startklar, keine eigene HardwareAnschaffung, Einrichtung und laufender Betrieb der Hardware
Kosten über die Laufzeitlaufende Kosten je Nutzer oder nach VerbrauchInvestition in Hardware und laufender Betrieb, weitgehend unabhängig von der Zahl der Anfragen
Abhängigkeit vom AnbieterModelle, Tarife und Bedingungen legt der Anbieter festModelle und Zeitpunkt von Änderungen bestimmen Sie selbst
Verbindung nach außenInternetverbindung erforderlichim eigenen Netz auch ohne Verbindung nach außen nutzbar
NachweiseVerträge und Nachweise des Anbieterseigene Dokumentation und Kontrollen
Die Tabelle zeigt typische Unterschiede. Welche Lösung passt, hängt von Ihren Daten, Aufgaben und Vorgaben ab.

So entsteht Ihre Entscheidung

  • Anwendungsfälle sammeln Gemeinsam mit Ihren Fachabteilungen wird festgehalten, wofür KI eingesetzt werden soll und mit welchen Daten sie dafür arbeiten muss.
  • Daten einstufen Sie legen fest, welche Informationen in Cloud-Dienste dürfen, welche nur lokal verarbeitet werden und welche gar nicht in KI-Systeme gehören.
  • Vorgaben prüfen Gesetzliche und vertragliche Vorgaben werden einbezogen, etwa aus NIS-2, aus Berufsgeheimnissen oder aus Verträgen mit Ihren Kunden.
  • Anbieter und Modelle bewerten Cloud-Tarife und lokale Modelle werden nach Speicherort, Vertragsbedingungen und Eignung für Ihre Aufgaben verglichen.
  • Kosten über die Laufzeit Sie sehen laufende Kosten der Cloud-Tarife und Investition und Betrieb einer lokalen Lösung nebeneinander.
  • Empfehlung mit nächsten Schritten Sie erhalten eine Empfehlung für Cloud, lokal oder eine Kombination, mit einem Vorschlag für den ersten Pilot.

Für Verschlusssachen treffen wir keine pauschale Aussage zur Eignung einer KI-Lösung. Hier ist eine Prüfung im Einzelfall nötig, mehr dazu auf der Seite VS-NfD.

Für KRITIS- und sicherheitssensible Unternehmen

Betreiber kritischer Anlagen, Gesundheitswesen, Kanzleien und öffentliche Einrichtungen arbeiten mit Daten, deren Abfluss schwere Folgen hätte. NIS-2 verlangt unter anderem, Risiken in der Lieferkette zu berücksichtigen, dazu gehören auch Cloud-Dienste für KI.

Für diese Unternehmen ist oft eine Kombination sinnvoll: Allgemeine Aufgaben wie Formulierungshilfen laufen über einen geprüften Cloud-Tarif, vertrauliche Dokumente verarbeitet ein lokaler KI-Server im eigenen Haus.

Passende Themen

Häufige Fragen zu Cloud-KI und lokaler KI

Ist lokale KI automatisch sicherer?

Nicht automatisch. Ihre Daten bleiben zwar im eigenen Netz, die Sicherheit hängt aber davon ab, wie das System betrieben wird: mit aktuellen Updates, sauberen Berechtigungen, Protokollierung und Datensicherung. Ein schlecht betreuter lokaler Server kann ein größeres Risiko sein als ein geprüfter Cloud-Tarif.

Können wir Cloud-KI und lokale KI kombinieren?

Ja, und häufig ist genau das die passende Lösung. Entscheidend sind klare Regeln, welche Daten in welches System gehören, festgehalten in Ihrer KI-Richtlinie.

Reicht ein lokales Modell für unsere Aufgaben?

Das hängt von der Aufgabe ab. Für klar umrissene Aufgaben wie Fragen zu internen Dokumenten genügt oft ein lokales Modell, für sehr anspruchsvolle Aufgaben sind die großen Cloud-Modelle meist überlegen. Ein Pilot mit Ihren eigenen Aufgaben zeigt, ob die Qualität ausreicht.

Dürfen wir Verschlusssachen mit KI verarbeiten?

Dazu treffen wir keine pauschale Aussage. Für Verschlusssachen gelten besondere Vorgaben an Produkte und Betrieb, die im Einzelfall zu prüfen sind. Informationen zum Umgang mit Verschlusssachen in der IT finden Sie auf der Seite VS-NfD.