KI im KMU einführen ohne IT-Abteilung: Plan in sechs Schritten
Wie ein Büro mit 10 bis 30 Personen KI einführt: einen Anwendungsfall wählen, Ablage aufräumen, Regeln festlegen, mit drei Personen testen, messen.
Praxis8 Min. Lesezeit
In einem Treuhandbüro mit 15 Mitarbeitenden gibt es meistens keine IT-Abteilung. Es gibt eine externe Firma für Server und Drucker, eine Büroleiterin, die Lizenzen verwaltet, und einen Partner, der sich für Technik interessiert. Für eine KI-Einführung reicht das, wenn man klein anfängt und in der richtigen Reihenfolge vorgeht.
Dass Handlungsbedarf besteht, zeigt eine Umfrage: In der KMU-Arbeitsmarktstudie 2025 von AXA gaben 71 Prozent der befragten KMU an, KI bereits einzusetzen oder zu testen. Klare Regeln für KI-Anwendungen hatte aber nur etwa ein Drittel der KI-nutzenden Firmen, bei Firmen mit 5 bis 9 Mitarbeitenden waren es 23 Prozent (AXA, Medienmitteilung vom 8. Oktober 2025). In vielen Büros wird KI also schon genutzt, nur ohne Plan.
Die folgenden sechs Schritte sind für Büros mit 10 bis 30 Personen gedacht. Sie brauchen dafür kein Data-Science-Team und keine eigene Entwicklung.
Schritt 1: Einen einzigen Anwendungsfall wählen
Der häufigste Fehler ist, «KI einzuführen». Damit weiss niemand, was zu tun ist, und nach drei Monaten hat jeder etwas anderes ausprobiert. Wählen Sie eine Aufgabe, die oft vorkommt, heute spürbar Zeit kostet und deren Ergebnis leicht zu prüfen ist.
Gute erste Anwendungsfälle in Treuhand, Steuerberatung und Kanzlei:
- Fragen an die eigene Ablage stellen: «Wie haben wir die Liegenschaftsunterhaltskosten bei Familie Meier 2023 abgegrenzt?»
- Standardkorrespondenz entwerfen, zum Beispiel Erinnerungen für fehlende Unterlagen zur Steuererklärung.
- Lange Mailverläufe oder Eingaben zusammenfassen, bevor ein Dossier übernommen wird.
Schlechte erste Anwendungsfälle sind alles, was rechtliche Beurteilung, Berechnungen oder direkte Kommunikation mit Mandanten ohne Kontrolle betrifft. Eine Übersicht, welche Aufgaben sich eignen, finden Sie im Beitrag Wo KI im Büroalltag wirklich Zeit spart.
Schritt 2: Die Ablage aufräumen
Eine KI, die Fragen aus Ihren Dokumenten beantwortet, ist nur so gut wie die Ablage. Bevor Sie ein Werkzeug auswählen, lohnen sich ein paar Tage Aufräumarbeit:
- Eine Ordnerstruktur pro Mandat, die alle gleich verwenden, zum Beispiel
Mandant / Jahr / Thema. - Dateien aus persönlichen Ordnern, vom Desktop und aus privaten Cloud-Speichern in die gemeinsame Ablage verschieben.
- Veraltete Vorlagen und Entwürfe archivieren oder löschen, damit die KI nicht die Version von 2017 findet.
- Gescannte PDFs mit Texterkennung (OCR) durchsuchbar machen. Viele Scanner und PDF-Programme können das bereits.
- Zugriffsrechte prüfen: Wer darf welche Ordner sehen? Ein gutes KI-Werkzeug übernimmt diese Rechte, deshalb sollten sie stimmen.
Diese Arbeit lohnt sich auch ohne KI. Die gemeinsame Ablage wird übersichtlicher, und der nächste Austritt einer Mitarbeiterin ist weniger schmerzhaft.
Schritt 3: Regeln für die Mitarbeitenden festlegen
Bevor Sie testen, schreiben Sie eine Seite mit Regeln. Das Datenschutzgesetz gilt auch für KI-Anwendungen, das hat der EDÖB ausdrücklich festgehalten (Netzwoche, 10. November 2023). Für Büros, die dem Berufsgeheimnis nach Art. 321 StGB oder der beruflichen Schweigepflicht nach Art. 62 DSG unterstehen, ist die Frage, welche Daten in welches Werkzeug dürfen, besonders heikel.
Eine Seite reicht, wenn sie konkret ist:
| Regel | Beispiel |
|---|---|
| Welche Werkzeuge erlaubt sind | Nur das vom Büro bereitgestellte Werkzeug, keine privaten Konten |
| Welche Daten nicht in Cloud-Chatbots gehören | Namen, AHV-Nummern, Steuerdaten, Vertragsinhalte von Mandanten |
| Wer Ergebnisse prüft | Jede KI-Antwort, die an einen Mandanten geht, liest eine Fachperson |
| Wie mit Fehlern umgegangen wird | Falsche Antworten werden im Testprotokoll notiert, nicht verschwiegen |
| Wer Ansprechperson ist | Name der Person, die den Test leitet |
Das ist keine Rechtsberatung. Wenn Sie unsicher sind, lassen Sie die Regeln von Ihrer Anwältin oder Ihrem Datenschutzberater gegenlesen.
Schritt 4: Mit drei Personen testen
Testen Sie nicht mit dem ganzen Büro. Drei Personen reichen: eine, die Technik mag, eine, die skeptisch ist, und eine, die den gewählten Anwendungsfall täglich hat. Vier bis sechs Wochen sind ein guter Zeitraum, lang genug für den Alltag und kurz genug, dass das Interesse bleibt.
Klären Sie vorher, wer das Werkzeug installiert. In einem Büro ohne IT-Abteilung ist das die externe IT-Firma oder der Anbieter selbst. Fragen Sie konkret nach: Wo laufen die Daten? Wer hat Zugriff? Was passiert mit den Daten, wenn wir den Test abbrechen?
Schritt 5: Messen, ohne Bürokratie
Ohne Messung entscheidet am Ende das Bauchgefühl der lautesten Person. Ein einfaches Protokoll genügt, zum Beispiel eine geteilte Tabelle mit diesen Spalten:
- Datum und Frage oder Aufgabe
- Hat die KI das richtige Dokument gefunden? (ja / teilweise / nein)
- War die Antwort korrekt? (ja / teilweise / nein)
- Geschätzte Zeit ohne KI und mit KI
- Bemerkung
Nach vier Wochen haben Sie einige Dutzend Einträge. Daraus sehen Sie, ob die Trefferquote reicht, wo das Werkzeug versagt und ob die Zeitersparnis echt ist oder nur gefühlt. Fragen Sie die drei Testpersonen zusätzlich, ob sie das Werkzeug weiter benutzen würden, wenn sie selbst entscheiden dürften.
Schritt 6: Entscheiden
Am Ende des Tests gibt es drei mögliche Ergebnisse:
- Es funktioniert: Ausrollen auf das ganze Team, mit den Regeln aus Schritt 3 und einer kurzen Schulung.
- Es funktioniert teilweise: Ursache suchen. Oft liegt es an der Ablage, nicht am Werkzeug.
- Es funktioniert nicht: Abbrechen. Auch das ist ein brauchbares Ergebnis, und die aufgeräumte Ablage bleibt.
Lokal, Cloud oder hybrid
Früher oder später kommt die Frage, wo die KI laufen soll. Für Büros mit Berufsgeheimnis ist das keine Detailfrage. Eine Gegenüberstellung der Varianten mit Prüfpunkten finden Sie in unserer Entscheidungshilfe lokale KI vs. Cloud-KI.
KADARAG ist für genau diesen Fall gebaut: ein KI-Assistent für die eigene Ablage, der auf Ihrem Server läuft, Antworten mit Dokument und Seite belegt und die bestehenden Dateiberechtigungen übernimmt. Im Hybrid-Modus genügt ein normaler Server ohne Grafikkarte, und nur die Frage und einige kurze Textauszüge gehen an ein Cloud-Sprachmodell. Im lokalen Modus bleibt alles im Haus. Der Preis ist fix und wird nach einem Erstgespräch festgelegt.
Der nächste Schritt
Setzen Sie sich diese Woche eine halbe Stunde mit zwei Kolleginnen oder Kollegen zusammen und beantworten Sie drei Fragen: Welcher Anwendungsfall? Wer testet? Wo liegen die Dokumente dafür heute? Wenn Sie den Test mit KADARAG machen möchten, vereinbaren Sie ein Erstgespräch.