KI-Sicherheitsstudie 2026: Was Mittelstand und Kanzleien jetzt konkret einrichten sollten#

Am 7. Oktober 2026 haben das Bundesamt für Sicherheit in der Informationstechnik (BSI) und der TÜV-Verband ihre gemeinsame Studie "Künstliche Intelligenz und Cybersicherheit in Unternehmen" vorgestellt. Befragt wurden mehr als 500 Unternehmen ab 20 Mitarbeitenden. Die Kernaussage der Pressemitteilung: Nur jedes zehnte Unternehmen ist gegen KI-gestützte Angriffe gerüstet, jedes sechste berichtet bereits von Vorfällen.

Für eine Steuerkanzlei oder einen Mittelständler mit 30 oder 150 Beschäftigten ist das keine abstrakte Statistik. Die Angriffe, die in der Studie am häufigsten genannt werden, landen genau dort: im E-Mail-Postfach der Buchhaltung, der Assistenz oder der Geschäftsführung.

Die wichtigsten Zahlen#

• 17 % der Unternehmen haben in den letzten zwölf Monaten einen Angriff oder Betrugsversuch registriert, bei dem KI eine Rolle gespielt hat oder gespielt haben könnte. Davon 4 % bestätigte Vorfälle, 11 % Verdachtsfälle, 2 % beides.
• Unter den betroffenen Unternehmen nennen 90 % täuschend echte Phishing-Mails, 40 % automatisierte Angriffsskripte und 11 % Deepfakes, etwa imitierte Stimmen von Führungskräften beim CEO-Fraud.
• Nur 11 % der Unternehmen, die KI nutzen oder planen, haben eigene Abläufe für KI-bezogene Sicherheitsvorfälle. 43 % verlassen sich auf ihre allgemeinen IT-Sicherheitsprozesse, 25 % haben gar keine Regelung.
• 49 % der Betriebe setzen KI bereits ein, weitere 9 % planen es in den nächsten zwölf Monaten.
• Beim eigenen KI-Einsatz: 67 % prüfen kritische KI-Ergebnisse durch Menschen, 64 % beschränken Zugriffsrechte, 62 % schützen sensible Daten. Eine Protokollierung oder ein Monitoring der KI-Nutzung gibt es aber nur bei 40 %.
• 45 % haben formale Freigabeprozesse für KI-Anwendungen, 29 % haben noch keine organisatorische Maßnahme wie Schulung, Risikobewertung oder Freigabe umgesetzt.

Wichtig für die Einordnung: Die Zahlen beruhen auf Selbstauskünften. Der TÜV-Verband weist selbst darauf hin, dass KI-generierte Mails kaum noch von menschlichen zu unterscheiden sind. Was Unternehmen bisher registrieren, könnte also nur die Spitze des Eisbergs sein.

Was das für Kanzleien und KMU bedeutet#

Zwei Aufgaben laufen parallel. Erstens wird der Angriff von außen besser. Eine Phishing-Mail, die sich auf ein echtes Mandat, einen echten Ansprechpartner und eine plausible Frist bezieht, ist mit KI in Minuten geschrieben. Zweitens bringt der eigene KI-Einsatz neue Risiken in den Betrieb. Wer Mandantendaten in ein Chat-Tool kopiert, ohne dass jemand weiß, welches Tool das ist und wo die Daten landen, hat ein Problem. Auch ohne jeden Hackerangriff.

Das BSI betont außerdem: Auch Unternehmen, die selbst keine KI einsetzen, sind von KI-gestützten Angriffen betroffen. "Wir nutzen keine KI" ist also keine Sicherheitsstrategie.

Die gute Nachricht: Für die meisten Betriebe braucht es kein Großprojekt. Fünf Bausteine decken einen großen Teil ab.

1. KI-Inventar: Wissen, was im Einsatz ist#

Ohne Überblick keine Steuerung. Eine einfache Liste reicht für den Anfang:

• Welche KI-Tools werden genutzt, auch "nebenbei" im Browser oder als Funktion in bestehender Software?
• Wer nutzt sie, für welche Aufgaben?
• Welche Daten fließen hinein: Mandantendaten, Personaldaten, Finanzdaten?
• Wo werden die Daten verarbeitet, und gibt es einen Auftragsverarbeitungsvertrag?

In Kanzleien kommt die Verschwiegenheitspflicht hinzu. Das Inventar ist die Grundlage für jede weitere Entscheidung.

2. Freigaben: Klare Regeln statt Grauzone#

Ein Viertel der befragten Unternehmen hat keine Regelungen für KI-Vorfälle, knapp ein Drittel noch keine organisatorischen Maßnahmen. Sinnvoll ist ein kurzes, verständliches Regelwerk:

• Welche Tools sind freigegeben, welche nicht?
• Welche Datenkategorien dürfen in welches Tool?
• Wer entscheidet über neue Tools?
• Welche Ergebnisse müssen vor der Verwendung von einem Menschen geprüft werden, zum Beispiel alles, was an Mandanten oder Behörden geht?

Zwei Seiten, die alle kennen, bringen mehr als 30 Seiten, die niemand liest.

3. Logging: Nachvollziehen können, was passiert ist#

Nur 40 % der KI-nutzenden Unternehmen protokollieren die Nutzung. Ohne Protokoll lässt sich nach einem Vorfall kaum klären, welche Daten wohin gegangen sind. Für die DSGVO-Meldepflicht und für die eigene Haftung ist genau das aber die entscheidende Frage.

Praktisch heißt das: KI-Zugriffe möglichst über einen zentralen Weg laufen lassen statt über private Konten. Protokolliert werden sollten mindestens Nutzer, Zeitpunkt, Tool und Art der Daten. Sensible Inhalte lassen sich vorher automatisch erkennen und maskieren.

4. Vorfallprozess: Vorher festlegen, wer was tut#

Nur 11 % haben KI-spezifische Abläufe. Dabei reicht es oft, den bestehenden Notfallplan um einige Szenarien zu ergänzen:

• Ein Mitarbeiter hat vertrauliche Daten in ein nicht freigegebenes KI-Tool eingegeben.
• Ein Anruf mit der Stimme der Geschäftsführung fordert eine dringende Überweisung.
• Eine KI hat eine fehlerhafte Auskunft geliefert, die schon an einen Mandanten ging.

Für jedes Szenario: Wer wird informiert, wer entscheidet, was wird dokumentiert, gibt es Meldepflichten? Eine Seite pro Szenario genügt.

5. Phishing-Awareness: Den häufigsten Angriff ernst nehmen#

90 % der betroffenen Unternehmen nennen KI-gestütztes Phishing. Klassische Erkennungsmerkmale wie Tippfehler oder holpriges Deutsch fallen weg. Wirksamer sind feste Verfahrensregeln:

• Zahlungsänderungen und dringende Überweisungen immer über einen zweiten, bekannten Kanal bestätigen.
• Ein internes Codewort für ungewöhnliche Anweisungen per Telefon oder Video.
• Kurze, regelmäßige Schulungen mit aktuellen Beispielen statt einer jährlichen Pflichtveranstaltung.

Die Allianz für Cyber-Sicherheit hat begleitend zur Studie ein Handout "Schutz vor KI-verstärkten Cyberangriffen" für KMU veröffentlicht. Ein guter Startpunkt für die eigene Schulung.

Checkliste für die nächsten 30 Tage#

• KI-Inventar angelegt: Tools, Nutzer, Datenkategorien, Verarbeitungsort
• Liste freigegebener Tools und erlaubter Datenkategorien verteilt
• Verantwortliche Person für KI-Freigaben benannt
• Menschliche Prüfung für kritische Ergebnisse festgelegt
• Protokollierung der KI-Nutzung eingerichtet oder geplant
• Notfallplan um mindestens drei KI-Szenarien ergänzt
• Rückrufregel für Zahlungsanweisungen eingeführt
• Kurze Phishing-Schulung mit KI-Beispielen durchgeführt

Unterstützung, wenn Sie sie brauchen#

Viele dieser Punkte lassen sich intern umsetzen. Wenn Sie einen schnellen, strukturierten Blick von außen möchten: Unser KI-Readiness-Audit erfasst Ihren aktuellen KI-Einsatz, bewertet Risiken und liefert einen priorisierten Maßnahmenplan. Für Freigaben, Logging und den Schutz sensibler Daten im laufenden Betrieb haben wir das AI Trust Gateway entwickelt. Es bündelt KI-Zugriffe über einen kontrollierten Weg, mit Protokollierung und Datenmaskierung, gehostet in Deutschland.

Ein kurzes Erstgespräch kostet Sie 15 Minuten: Kontakt.

Quellen#

• BSI, Pressemitteilung vom 07.10.2026: Nur jedes zehnte Unternehmen gegen KI-gestützte Angriffe gerüstet - jedes sechste Unternehmen berichtet von Vorfällen
• TÜV-Verband und BSI: Studie "Künstliche Intelligenz und Cybersicherheit in Unternehmen" (2026)
• Allianz für Cyber-Sicherheit: Handout "Schutz vor KI-verstärkten Cyberangriffen" (über die oben verlinkte Pressemitteilung)