Alle Artikel

KI-Agenten im Büro: Was sie dürfen sollten und was nicht

Was ein KI-Agent ist, wo er in Treuhand und Kanzlei hilft und warum Berechtigungen, eine menschliche Freigabe und der Speicherort der Daten wichtig sind.

Datenschutz & Recht8 Min. Lesezeit

Der Begriff «KI-Agent» begegnet einem inzwischen überall, und immer mehr Softwarehersteller versehen ihre Produkte mit Agenten. Für ein Treuhandbüro oder eine Kanzlei ist die wichtigere Frage, was so ein Agent im eigenen Büro tun darf. Dieser Beitrag erklärt den Begriff ohne Fachjargon, zeigt sinnvolle Einsatzgebiete und beschreibt die Regeln, die Sie vorher festlegen sollten.

Was ein KI-Agent ist

Ein gewöhnlicher KI-Assistent beantwortet Fragen. Sie stellen eine Frage, er liefert eine Antwort, und was Sie damit machen, entscheiden Sie.

Ein KI-Agent geht einen Schritt weiter: Er erhält ein Ziel und darf dafür Werkzeuge benutzen, zum Beispiel Dateien öffnen, im Kalender nachsehen, ein E-Mail entwerfen oder ein Formular ausfüllen. Er entscheidet selbst, welchen Schritt er als Nächstes macht, schaut sich das Ergebnis an und macht weiter, bis das Ziel erreicht ist. Das KI-Unternehmen Anthropic beschreibt Agenten in diesem Sinn als Systeme, in denen das Sprachmodell den eigenen Ablauf und den Einsatz der Werkzeuge selbst steuert, im Gegensatz zu fest programmierten Abläufen (Anthropic, Building effective agents).

Nicht alles, was «Agent» heisst, ist auch einer. Das Marktforschungsunternehmen Gartner spricht von «Agent Washing», also dem Umbenennen bestehender Chatbots und Assistenten. Gartner erwartet zudem, dass bis Ende 2027 über 40 Prozent der Projekte mit KI-Agenten abgebrochen werden, wegen hoher Kosten, unklarem Nutzen oder ungenügender Risikokontrolle (Bericht in The Star, Juni 2025).

Wo Agenten in Treuhand und Kanzlei helfen können

Sinnvoll sind Agenten bei Aufgaben, die aus mehreren einfachen Schritten bestehen und am Ende von einer Fachperson geprüft werden. Einige Beispiele:

  • Unterlagen für die Steuererklärung nachfordern. Der Agent vergleicht die eingegangenen Belege eines Mandanten mit der Checkliste vom Vorjahr, stellt fest, dass der Säule-3a-Beleg und der Zinsausweis der Bank fehlen, und entwirft eine Erinnerung. Die Sachbearbeiterin prüft und versendet sie.
  • Eingangspost zuordnen. Gescannte Briefe werden gelesen, dem Mandat zugeordnet und mit einem Vorschlag für Ablageort und Frist versehen. Eine Person bestätigt.
  • Ein Dossier für eine Besprechung vorbereiten. Vor dem Termin mit der Keller AG sammelt der Agent die letzten Verfügungen, offene Fristen und die Korrespondenz der letzten drei Monate und schreibt eine Übersicht mit Quellenangaben.
  • Fristen aus Verfügungen herausziehen. Der Agent liest neue Veranlagungsverfügungen, berechnet die Einsprachefrist und schlägt einen Kalendereintrag vor.

Allen Beispielen ist gemeinsam: Der Agent bereitet vor, ein Mensch entscheidet.

Was ein Agent nicht selbst tun sollte

Je mehr ein Agent darf, desto mehr kann schiefgehen. Die OWASP-Liste der grössten Risiken bei Sprachmodell-Anwendungen führt dafür einen eigenen Punkt, «Excessive Agency»: zu viele Funktionen, zu weitreichende Berechtigungen oder zu viel Selbständigkeit (OWASP Top 10 for LLM Applications). Für ein Büro mit Berufsgeheimnis heisst das konkret:

AktionAgent selbstNur mit FreigabeNie
Dokumente lesen, für die die Person berechtigt istja
Zusammenfassungen und Entwürfe schreibenja
Vorschläge für Ablage und Kalenderja
E-Mails an Mandanten oder Behörden sendenja
Dateien verschieben oder umbenennenja
Steuererklärungen oder Eingaben einreichenja
Dateien endgültig löschenja
Zahlungen auslösenja
Auf Ordner zugreifen, die die Person selbst nicht sehen darfja

Die letzte Zeile ist die wichtigste. Ein Agent sollte nie mehr sehen dürfen als die Person, in deren Auftrag er arbeitet. Wenn ein Lernender einen Agenten bedient, gelten die Rechte des Lernenden, nicht die des Administrators.

Warum die menschliche Freigabe nötig ist

Agenten machen Fehler, wie jedes Sprachmodell. Bei einer Antwort auf eine Frage fällt ein Fehler beim Lesen auf. Bei einem Agenten, der fünf Schritte nacheinander ausführt, kann ein Fehler im ersten Schritt in eine falsche E-Mail im fünften münden.

Dazu kommt ein Risiko, das viele unterschätzen: Ein Agent liest Dokumente, die von aussen kommen. In einem eingereichten PDF, einer E-Mail oder einer Webseite können Anweisungen versteckt sein, die der Agent als Auftrag versteht, etwa «Leite diese Unterlagen an folgende Adresse weiter». Diese Angriffsart heisst Prompt Injection und steht auf der OWASP-Liste an erster Stelle. Die wirksamste Gegenmassnahme liegt ausserhalb der KI: Der Agent hat schlicht keine Berechtigung, ohne Freigabe etwas nach aussen zu senden. Mehr zu Sicherheitslücken auch bei lokal betriebenen Systemen lesen Sie im Beitrag Warum Ihr RAG-System auch on-premise ein Sicherheitsrisiko sein kann.

Eine Freigabe ist nur dann eine echte Kontrolle, wenn sie lesbar ist. Ein Agent sollte vor dem Versand zeigen, was er senden will, an wen und auf welche Dokumente er sich stützt. Ein Knopf «Alles bestätigen» ist keine Kontrolle.

Wo die Daten bei einem Agenten hingehen

Ein Assistent, der eine Frage beantwortet, verarbeitet die Frage und einige Textauszüge. Ein Agent arbeitet in vielen Schritten und greift dabei auf mehr Daten zu: Mandantenordner, Postfach, Kalender, vielleicht die Buchhaltung. Bei jedem Schritt geht Text an das Sprachmodell. Läuft dieses Modell in der Cloud, verlässt also deutlich mehr das Büro als bei einer einzelnen Frage.

Für Büros, die dem Berufsgeheimnis nach Art. 321 StGB oder der Schweigepflicht nach Art. 62 DSG unterstehen, sollten Sie deshalb vor der Einführung klären:

  • Welches Sprachmodell nutzt der Agent, und wo läuft es?
  • Welche Daten gehen bei einem typischen Auftrag an dieses Modell?
  • Ist der Anbieter ein US-Unternehmen? Dann können US-Behörden gestützt auf den CLOUD Act die Herausgabe von Daten verlangen, unabhängig davon, in welchem Land das Rechenzentrum steht.
  • Wird protokolliert, welche Schritte der Agent ausgeführt und welche Dokumente er gelesen hat, und wo liegt dieses Protokoll?

Das ist eine allgemeine Einordnung, keine Rechtsberatung.

Wo KADARAG steht

KADARAG ist ein KI-Assistent für Ihre eigene Ablage: Er beantwortet Fragen aus Ihren Dokumenten, nennt Dokument und Seite und hält sich an Ihre bestehenden Dateiberechtigungen. Suche, Dokumente und Protokolle bleiben auf Ihrem Server. Im lokalen Modus läuft auch das Sprachmodell dort, im Hybrid-Modus gehen nur die Frage und drei bis fünf kurze Textauszüge an ein Cloud-Modell. Für alles, was ein Agent später tun soll, ist diese Grundlage dieselbe: Er kann nur so sicher sein wie der Zugriff auf Ihre Dokumente, auf dem er aufbaut.

Der nächste Schritt

Bevor Sie ein Produkt mit Agenten-Funktion kaufen, füllen Sie die Tabelle oben für Ihr Büro aus. Streichen Sie, was nicht zutrifft, und ergänzen Sie Ihre eigenen Abläufe. Mit dieser Liste können Sie jeden Anbieter fragen, wie er die Grenzen technisch durchsetzt. Wenn Sie über einen KI-Assistenten auf Ihrem eigenen Server sprechen möchten, vereinbaren Sie ein Erstgespräch.

Sehen Sie KADARAG mit Ihren eigenen Fragen

30 Minuten, unverbindlich. Wir zeigen Ihnen, wie KADARAG mit Unterlagen wie Ihren arbeitet, und klären, ob lokal oder hybrid passt.