Alle Artikel

Hybride KI: Was genau verlässt Ihr Netzwerk?

Bei hybrider KI bleiben Dokumente lokal und ein Cloud-Modell formuliert die Antwort. Was dabei übertragen wird, was Sie den Anbieter fragen sollten und wann es passt.

Datenschutz & Recht8 Min. Lesezeit

«Hybrid» ist bei KI-Angeboten ein beliebtes Wort. Gemeint ist meistens: Ein Teil läuft bei Ihnen, ein Teil in der Cloud. Welcher Teil wo läuft, unterscheidet sich zwischen Anbietern aber erheblich. Für ein Treuhandbüro oder eine Kanzlei hängt davon ab, welche Kundendaten das Haus verlassen. Dieser Artikel zeigt, worauf Sie achten sollten.

Zwei Bauweisen unter demselben Namen

Ein KI-Assistent für eigene Dokumente arbeitet in zwei Schritten. Zuerst sucht er in Ihrer Ablage die Textstellen, die zur Frage passen. Danach formuliert ein Sprachmodell aus diesen Stellen eine Antwort. Fachleute nennen das Retrieval-Augmented Generation, kurz RAG.

«Hybrid» kann nun zwei sehr verschiedene Dinge bedeuten:

Variante A: Die Dokumente werden in die Cloud hochgeladen. Die Ablage wird beim Einrichten an den Anbieter übertragen, dort aufbereitet und gespeichert. Hybrid ist daran nur, dass die Benutzeroberfläche oder die Anmeldung über Ihr Netz läuft. Ihre vollständigen Mandatsakten liegen dauerhaft auf fremden Servern.

Variante B: Die Dokumente bleiben auf Ihrem Server. Suche, Datenbank und Protokolle laufen bei Ihnen. Pro Frage gehen nur die Frage selbst und einige kurze Textausschnitte an das Cloud-Modell. Das Modell formuliert die Antwort, und die Ausschnitte werden dort nicht dauerhaft abgelegt.

Variante AVariante B
Wo liegen die Originaldokumente?Beim Cloud-AnbieterAuf Ihrem Server
Was geht pro Frage hinaus?Die Frage, die Dokumente sind bereits dortFrage und drei bis fünf kurze Ausschnitte
Was liegt dauerhaft beim Anbieter?Die ganze Ablage, oft samt SuchindexIn der Regel nichts, je nach Aufbewahrungsfrist des Modellanbieters
Wer sieht, wer was gefragt hat?Der AnbieterNur Ihre Protokolle
Was wäre bei einem Datenabfluss betroffen?Die gesamte AblageDie Ausschnitte der betroffenen Anfragen

Beide Varianten können sinnvoll sein. Wer aber Wert darauf legt, dass die Ablage im Haus bleibt, sollte wissen, welche er kauft.

So sieht eine Anfrage in Variante B aus

Ein Beispiel aus der fiktiven Keller Treuhand AG. Eine Sachbearbeiterin fragt: «Welche Zahlungsfrist haben wir mit der Muster GmbH vereinbart?»

Der Server sucht in der Ablage und findet drei passende Stellen: einen Absatz aus dem Mandatsvertrag, eine Zeile aus einer Aktennotiz und einen Satz aus einer E-Mail. An das Cloud-Modell gehen dann:

  • die Anweisungen an das Modell, etwa «Antworte nur auf Basis der folgenden Auszüge und nenne die Quelle»,
  • die Frage,
  • die drei Ausschnitte, zusammen vielleicht 300 bis 600 Wörter.

Nicht übertragen werden der restliche Mandatsvertrag, die übrigen Akten der Muster GmbH, die Akten aller anderen Kunden, der Suchindex, die Benutzernamen und die Protokolle.

Wie Sie die Sensibilität der Ausschnitte prüfen

Kurz heisst nicht automatisch harmlos. Ein Ausschnitt kann einen Namen, eine AHV-Nummer oder einen Betrag aus einer Steuererklärung enthalten. Prüfen Sie deshalb, was in Ihrem Fall tatsächlich hinausgeht:

  1. Lassen Sie sich die Übermittlungen zeigen. Ein seriöses System kann protokollieren, welche Ausschnitte bei welcher Frage an das Modell gingen. Schauen Sie sich während einer Testwoche eine Stichprobe an.
  2. Teilen Sie Ihre Ablage ein. Nicht jeder Ordner ist gleich heikel. Interne Weisungen, Vorlagen und Fachartikel sind etwas anderes als Akten mit Gesundheitsangaben oder laufende Strafverfahren.
  3. Klären Sie, ob einzelne Bereiche ausgeschlossen werden können. Manche Ordner sollen vielleicht gar nicht durchsucht werden, oder nur mit einem lokalen Modell.
  4. Ordnen Sie die Daten rechtlich ein. Besonders schützenswerte Personendaten nach Art. 5 lit. c DSG und Daten unter Berufsgeheimnis nach Art. 321 StGB verdienen eine eigene Abklärung, im Zweifel mit Ihrem Berufsverband.

Was die Modellanbieter mit den Ausschnitten tun

Bei den grossen Anbietern gelten für die kostenpflichtige API andere Regeln als für die Gratis-Chat-Apps. Stand November 2026:

Alle drei Unternehmen haben ihren Sitz in den USA und fallen damit unter den CLOUD Act. In Variante B beschränkt sich das, was davon betroffen sein kann, auf die übermittelten Ausschnitte.

Diese Fragen sollten Sie dem Anbieter stellen

Bitten Sie um schriftliche Antworten.

  1. Wo werden meine Originaldokumente gespeichert, und verlassen sie je meinen Server?
  2. Wo liegt der Suchindex, also die aufbereitete Fassung meiner Dokumente?
  3. Was genau wird bei einer Frage an das Cloud-Modell geschickt? Können Sie mir ein Beispiel zeigen?
  4. Wie viele Ausschnitte und wie viel Text gehen pro Frage maximal hinaus?
  5. Welches Modell bei welchem Anbieter wird verwendet, und unter welchen Vertragsbedingungen?
  6. Wie lange bewahrt der Modellanbieter die Daten auf, und werden sie für Training genutzt?
  7. Kann ich bestimmte Ordner ausschliessen oder nur lokal verarbeiten lassen?
  8. Wo werden Fragen, Antworten und Benutzernamen protokolliert?
  9. Gelten die bestehenden Ordnerberechtigungen auch für die KI?
  10. Kann ich später auf einen vollständig lokalen Betrieb wechseln, ohne alles neu aufzusetzen?

Wenn ein Anbieter die ersten drei Fragen nicht klar beantworten kann, ist das selbst eine Antwort.

Wann hybrid eine gute Wahl ist

Ein gut gebautes hybrides System ist für viele Büros die vernünftigste Lösung. Es braucht keine Grafikkarte, ist in wenigen Wochen eingerichtet und kostet im Betrieb wenig. Zudem haben Sie Zugang zu den leistungsfähigsten Sprachmodellen, ohne Ihre Ablage aus der Hand zu geben.

Hybrid passt gut, wenn

  • Ihre Ablage vor allem Buchhaltungs-, Steuer- und Vertragsunterlagen ohne besonders schützenswerte Daten enthält,
  • Ihre Kundenverträge eine Verarbeitung durch geprüfte Unterauftragnehmer zulassen,
  • Sie klein starten und später entscheiden wollen, ob sich ein lokaler Betrieb lohnt.

Wenn dagegen kein einziger Ausschnitt Ihr Netz verlassen darf, ist ein vollständig lokales System die richtige Wahl. Was dabei heute möglich ist, beschreibt der Artikel KI ohne Internet.

Wie KADARAG hybrid umsetzt

KADARAG folgt Variante B. Dokumente, Suchindex, Benutzerdaten und Protokolle bleiben auf Ihrem Server. Pro Frage gehen nur die Frage und drei bis fünf kurze Ausschnitte an Gemini, GPT oder Claude, je nach Ihrer Wahl. Jede Antwort nennt Dokument und Seite. Der Wechsel in den vollständig lokalen Modus ist später möglich.

Ihr nächster Schritt

Legen Sie die zehn Fragen oben jedem Anbieter vor, den Sie in Betracht ziehen, auch uns. Wenn Sie die Antworten für KADARAG direkt hören möchten, vereinbaren Sie ein Erstgespräch.

Sehen Sie KADARAG mit Ihren eigenen Fragen

30 Minuten, unverbindlich. Wir zeigen Ihnen, wie KADARAG mit Unterlagen wie Ihren arbeitet, und klären, ob lokal oder hybrid passt.