KI im Unternehmen nutzen: Der Leitfaden für Einstieg und Einführung im Mittelstand (2026)
Anleitungen und Prompts für den Arbeitsalltag, etwa ein Second Brain für dich oder ein Company Brain fürs Team. Das meiste davon kannst du noch heute ausprobieren.
Kurz gesagt
KI im Unternehmen nutzt du am schnellsten mit einem KI-Assistenten im Business-Tarif, zwei oder drei Aufgaben mit viel Text und wenig Risiko und einer kurzen Regel, welche Daten hinein dürfen. Danach folgen gemeinsame Prompt-Vorlagen, eigene Assistenten, ein Zugang zum Firmenwissen und erst zum Schluss Automatisierungen. Rechtlich brauchst du einen Auftragsverarbeitungsvertrag, Maßnahmen zur KI-Kompetenz nach Art. 4 AI Act und, wo es einen gibt, den Betriebsrat an Bord.
Zum Mitnehmen
- Starte mit einem Assistenten im Business-Tarif, zwei oder drei Textaufgaben und einer Datenregel als Ampel.
- KI spart bei Texten und Zusammenfassungen Zeit, außerhalb ihrer Fähigkeiten verschlechtert sie messbar die Qualität.
- Die größte Kostenfalle sind ungenutzte Lizenzen: erst ein Team ausrollen, Nutzung messen, dann erweitern.
Alle Artikel zu KI-Praxis
Use Cases und Ratgeber 7 + 1 demnächst
Eigene KI-Assistenten bauen: Projekte, GPTs, Gems und Agenten (2026)
Nov. 2026KI-PraxisKI-Richtlinie für Unternehmen: Vorlage und Anleitung (2026)
Okt. 2026KI-PraxisPrompting für Teams: So schreibst du Prompts, die funktionieren (2026)
Okt. 2026KI-PraxisSo baust du dir dein Obsidian-Brain mit KI (2026)
Okt. 2026KI-PraxisSo baust du dir ein Company Brain: Firmenwissen mit KI nutzbar machen (2026)
Okt. 2026KI-PraxisKI-Anwendungsfälle mit schnellem Start: 30 Quick Wins für Unternehmen (2026)
Okt. 2026KI-PraxisKI-Recht 2026: Die wichtigsten Fragen für Unternehmen in Deutschland (FAQ)
Okt. 2026Motion-Graphic-Ads mit Claude Opus 5.5: 15 Prompts, auch für Nischen (2026)
Erscheint am 18. NovemberDer ausführliche Leitfaden
Wenn dein Unternehmen KI schon einsetzt, gehört es laut einer Bitkom-Umfrage vom 14. September 2026 unter 603 Unternehmen ab 20 Beschäftigten zur Mehrheit von 57 Prozent, doch nur 3 Prozent sagen, dass sie das Potenzial eher stark nutzen. Ein Jahr zuvor lag der Anteil noch bei 36 Prozent. Falls du noch gar nicht weißt, wo du anfangen sollst, bist du also in großer Gesellschaft. Meist fehlt kein Tool. Es fehlt ein klarer Startpunkt, dazu gemeinsame Regeln und ein Plan, wie aus Einzelversuchen ein Teamprozess wird.
Der Leitfaden ist für Geschäftsführung, Teamleitungen und alle, die KI im Mittelstand einführen sollen. Er geht die ganze Strecke ab, von der Frage, was KI 2026 realistisch leistet, über Einsatzbereiche, Tools und Kosten bis zu den Regeln. Zu jedem Thema verlinken wir den ausführlichen Ratgeber, damit du dort tiefer einsteigst, wo du gerade stehst. Im Abschnitt zur Einführung findest du zwölf Schritte und am Ende die Grenze, ab der aus einem Quick Win ein Prozess für das ganze Team wird.
Was bedeutet KI im Unternehmen 2026?
Wenn heute von KI im Unternehmen die Rede ist, geht es fast immer um generative KI: Sprachmodelle, die Texte lesen, verdichten und entwerfen, dazu Modelle für Bilder, Video und Sprache. Du nutzt sie über KI-Assistenten wie ChatGPT Business, Claude Team, Gemini in Google Workspace oder Microsoft 365 Copilot, über KI-Funktionen in vorhandener Software und über Automatisierungs-Tools, die KI-Schritte in feste Abläufe einbauen.
- 11 %2021
- 12 %2023
- 20 %2024
- 26 %2025
Unternehmen ab 10 Beschäftigten, IKT-Erhebung (amtliche Statistik, jährlich, 2022 nicht erhoben); bis 2024 rechtliche Einheiten, ab 2025 Unternehmen nach EU-Unternehmensbegriff, daher 2024 und 2025 nur eingeschränkt vergleichbar. Quelle: Statistisches Bundesamt, Pressemitteilung Nr. 444 vom 25.11.2024 (2021 bis 2024) und Tabelle 'Unternehmen mit Nutzung von Technologien der künstlichen Intelligenz nach Beschäftigtengrößenklassen', Stand 24.11.2025 (2025), geprüft am 4. November 2026.
In den meisten Firmen ist KI heute Assistenz: Ein Mensch fragt, die KI antwortet oder entwirft, der Mensch prüft. Hier entsteht der Nutzen am schnellsten.
Eine Stufe weiter liegen eigene Assistenten mit Wissen. Feste Instruktionen, eigene Dateien und angebundene Datenquellen machen aus dem allgemeinen Chat ein Werkzeug für eine bestimmte Aufgabe, etwa Angebotsentwürfe nach euren Vorgaben oder Antworten aus dem Firmenwiki.
Ganz oben stehen Automatisierung und Agenten. Ein Auslöser wie eine neue Mail oder ein neues Ticket startet einen Ablauf, in dem die KI sortiert, zusammenfasst oder Entwürfe anlegt, Agenten entscheiden dabei selbst über einzelne Schritte. Zuverlässig klappt das 2026 vor allem mit enger Aufgabe, wenigen Werkzeugen und einer menschlichen Freigabe vor jeder Aktion nach außen, wie unser Ratgeber zu KI-Agenten für kleine Teams zeigt.
Realistische Erwartungen
Belastbare Zahlen zum Nutzen stammen aus kontrollierten Experimenten. In einer Studie mit 444 Fachkräften erledigten Teilnehmende mit ChatGPT berufstypische Schreibaufgaben in rund 40 Prozent weniger Zeit, die Qualität stieg um 18 Prozent (Noy und Zhang, Science 2023). Bei 5.172 Supportmitarbeitenden stieg die Zahl gelöster Anfragen pro Stunde mit einem KI-Assistenten im Schnitt um 15 Prozent, am stärksten bei weniger erfahrenen Beschäftigten (Brynjolfsson, Li und Raymond, Quarterly Journal of Economics 2025).
Dieselbe Forschung zeigt die Grenze.
Wir ziehen daraus eine klare Konsequenz für die Einführung. KI spart Zeit bei Texten, Zusammenfassungen und Standardanfragen. Fakten, Zahlen und Urteile prüft weiterhin ein Mensch.
Acht Einsatzbereiche, vom Quick Win bis zur Automatisierung
Die Reihenfolge der Tabelle folgt dem Weg, den die meisten Unternehmen gehen: erst schnelle Einzelaufgaben, dann gemeinsame Standards, zuletzt Wissen und Automatisierung.
| Einsatzbereich | Nutzen | Einstieg | Weiterlesen |
|---|---|---|---|
| Schnelle Einzelaufgaben | Zeit sparen bei Mails, Protokollen, Entwürfen | KI-Assistent im Business-Tarif, eine Vorlage | 30 KI-Quick-Wins für Unternehmen |
| Prompting im Team | gleichbleibende Qualität, weniger Nacharbeit | fünf Bausteine, gemeinsame Bibliothek | Prompts schreiben, die funktionieren |
| Eigene Assistenten | wiederkehrende Aufgaben mit festen Regeln | Projekte, Gems oder Agenten | eigene KI-Assistenten mit Projekten, Gems und Agenten |
| Firmenwissen | Antworten aus Wikis, Dokumenten und Chats | KI im vorhandenen Tool, Rechte bereinigen | Company Brain aufbauen |
| Persönliches Wissen | Notizen, Recherche und Ideen verknüpfen | Obsidian mit KI-Plugin oder lokalem Modell | Second Brain in Obsidian mit KI |
| Marketing-Inhalte | Varianten, Grafiken, kurze Animationen | Prompt mit festem Aufbau | Motion-Graphic-Ads mit Claude |
| Abläufe automatisieren | Routine ohne Handarbeit | ein Workflow mit festem Auslöser | Automatisierung mit KI |
| Regeln und Recht | Sicherheit für Team und Geschäftsführung | Datenregel, Richtlinie, Betriebsrat | KI-Recht 2026 als FAQ |
Schnelle Einzelaufgaben
Am besten startest du mit Aufgaben, bei denen du Text liest, verdichtest oder entwirfst, etwa Mail-Threads zusammenfassen, Follow-ups nach Kundengesprächen schreiben oder Stellenanzeigen entwerfen. Dafür reichen ein KI-Assistent und eine gute Vorlage, der Start dauert meist 15 bis 45 Minuten. Unsere Sammlung mit Anwendungsfällen für den schnellen Start ordnet 30 solcher Aufgaben nach Abteilung, mit Prompt, Startzeit und Grenze.
Prompting im Team
Arbeiten mehrere Personen mit KI, sind die Ergebnisse nur so gut wie ihre Prompts. Die offiziellen Guides von Anthropic, OpenAI, Google und Microsoft sind sich bei fünf Bausteinen weitgehend einig: Rolle, Kontext, Aufgabe, Format und Beispiele. Wie du daraus eine gemeinsame Prompt-Bibliothek für dein Team baust, mit verantwortlicher Person und Regeln für erlaubte Daten, beschreibt der Ratgeber Schritt für Schritt.
Eigene Assistenten
Ein eigener Assistent besteht aus festen Instruktionen, eigenem Wissen und optional Werkzeugen. Trainiert wird dabei nichts. Das Modell bekommt bei jeder Anfrage deine Instruktionen und die passenden Stellen aus deinen Dateien mitgeliefert. Das geht mit Projekten und Skills in ChatGPT und Claude, mit Gems in Gemini, mit dem Agent Builder in Microsoft 365 Copilot und mit Agenten in Langdock.
Wichtig für die Planung: OpenAI stellt Custom GPTs am 11. Dezember 2026 ein. Neue Assistenten in ChatGPT legst du deshalb als Projekt oder Skill an, wie in der Anleitung für eigene KI-Assistenten erklärt.
Firmenwissen nutzbar machen
Ein Company Brain beantwortet Fragen mit dem Wissen aus euren Dokumenten, Wikis und Chats. Für die meisten KMU ist die KI im vorhandenen Tool der schnellste Weg, also Microsoft 365 Copilot, Gemini in Google Workspace, Notion AI oder Atlassian Rovo. Mehr als die Tool-Wahl zählt die Vorarbeit. Sortier das Wissen, leg Verantwortliche fest und bereinige alte Freigaben, denn jede dieser KIs sieht alles, was der fragende Nutzer sehen darf. Die vier Wege von Copilot bis Eigenbau vergleicht der Ratgeber zum Firmenwissen mit KI.
Persönliches Wissensmanagement
Neben dem gemeinsamen Firmenwissen lohnt sich für viele Fach- und Führungskräfte ein eigenes System für Notizen, Recherche und Ideen. In Obsidian besteht es aus einem Ordner mit Markdown-Notizen, einer festen Struktur und einem KI-Zugang zu diesem Ordner, etwa über das Plugin Copilot for Obsidian oder Claude Code. Für vertrauliche Notizen nimmst du ein lokales Modell über Ollama oder LM Studio, dann verlassen die Texte deinen Rechner nicht. Die Einrichtung zeigt die Anleitung für dein Obsidian-Brain mit Claude und ChatGPT.
Marketing-Inhalte
Im Marketing nutzen laut Bitkom 54 Prozent der KI-Anwender die Technik, nach dem Kundenkontakt der zweithäufigste Bereich. Neben Texten und Bildern entstehen inzwischen auch kurze Animationen per Prompt: Mit Claude Opus 5.5 in Claude Code und dem Framework HyperFrames werden Motion-Graphic-Ads als HTML-Animation gebaut und zu MP4 gerendert. Den Prompt-Aufbau und 15 Vorlagen für verschiedene Branchen findest du im Ratgeber zu animierten Video-Ads mit Claude Opus 5.5. Den Überblick über Tools und Use Cases im Marketing gibt der Leitfaden KI im Marketing.
Vertrieb und Recruiting
Für Vertrieb und Personal gibt es eigene Themen-Hubs. Den Vertrieb nennen laut Bitkom erst 14 Prozent der KI-Anwender als Einsatzbereich, obwohl Recherche, Gesprächsvorbereitung und Follow-ups gut zur Technik passen. Der Leitfaden KI im Vertrieb führt durch Leads, Outreach, CRM und Angebote. Für Stellenanzeigen, Active Sourcing, Interviews und Onboarding ist der Leitfaden KI im Recruiting der Einstieg, mit besonderem Blick auf AGG und die Hochrisiko-Regeln des AI Act.
Abläufe automatisieren
Wiederkehrende Abläufe mit festen Auslösern, etwa neue Anfrage, neues Ticket, neue Rechnung, laufen mit einem Automatisierungs-Tool ohne Handarbeit. Ein gutes erstes Projekt ist das eigene Postfach: Threads zusammenfassen, Antwortentwürfe vorbereiten und eingehende Mails nach festen Kategorien sortieren. Wie das mit Copilot in Outlook, Gemini in Gmail oder einem Workflow geht, zeigt der Ratgeber zum E-Mail-Postfach mit KI.
Im Kundenservice ist KI laut Bitkom am weitesten verbreitet: 72 Prozent der KI-Anwender setzen sie im Kundenkontakt ein. Chatbot, Ticket-Sortierung und Wissensbasis erklärt der Ratgeber Kundenservice mit KI automatisieren.
- Kundenkontakt (z. B. Anfragen)
- Marketing und Kommunikation
- Controlling und Rechnungswesen
- Internes Wissensmanagement
- Produktionsabläufe
- Eigene Produkte und Dienstleistungen
- Forschung und Entwicklung
- Vertrieb
- IT-Abteilung
- Rechts- bzw. Steuerabteilung
- Management
Unternehmen ab 20 Beschäftigten in Deutschland, die KI einsetzen (Basis in der Presseinformation nicht ausdrücklich genannt), 603 befragte Unternehmen, KW 28 bis 33 2026; Mehrfachnennungen. Personalabteilung 2026 nicht ausgewiesen (2025: 14 %). Quelle: Bitkom, Presseinformation 'Erstmals nutzt die Mehrheit der Unternehmen KI' vom 14.09.2026, geprüft am 4. November 2026.
Regeln und Recht
Mitarbeitende nutzen KI auch ohne Freigabe. Deshalb halten wir ein freigegebenes Werkzeug mit klaren Regeln für sicherer als ein Verbot, das niemand einhält. Was rechtlich gilt, steht weiter unten im Rechtsteil.
Welche Tools brauchst du?
Am Anfang reichen den meisten Unternehmen drei Arten von Werkzeugen. Spezialtools kommen dazu, wenn ein Einsatzbereich trägt.
Ein KI-Assistent als Basis
Welcher Assistent passt, hängt vor allem von deiner Umgebung ab. Mit Microsoft 365 ist Microsoft 365 Copilot am tiefsten eingebunden, und Copilot Chat ist in berechtigten Lizenzen ohne Aufpreis enthalten. Mit Google Workspace steckt Gemini schon im Tarif.
Als eigenständige Assistenten sind ChatGPT Business und Claude Team verbreitet. Sollen die Daten standardmäßig in der EU liegen, kommen Mistral Vibe und Langdock in Frage. Preise, Datenschutz und Einbindung stehen im Vergleich von ChatGPT, Claude, Gemini und Copilot.
KI in der Software, die du schon nutzt
Viele Tools haben KI-Funktionen eingebaut, etwa Notion AI im Wiki, Copilot in Outlook und Teams oder Gemini in Gmail und Meet. Das spart Einführungsaufwand, weil Daten und Rechte schon da sind. Für Besprechungen gibt es eigene Notetaker. Welcher zu deutschen Meetings und zum Datenschutz passt, zeigt der Vergleich von 11 KI-Meeting-Assistenten.
Ein Automatisierungs-Tool
Sobald ein Ablauf stabil läuft, verbindet ein Tool wie Make.com, n8n oder Zapier deine Systeme und baut KI-Schritte ein. Make ist für die meisten Teams ein günstiger, visueller Einstieg mit wählbarem EU-Rechenzentrum.
n8n lohnt sich bei vielen langen Workflows und wenn du die Daten selbst kontrollieren willst. Zapier bietet die größte Auswahl an Integrationen und kostet mehr. Details im Vergleich von Make, Zapier und n8n.
Suchst du für eine konkrete Aufgabe ein Werkzeug, hilft der Tool-Finder mit wenigen Fragen weiter. Alle Tools der Seite mit Preisen und Datenschutz-Angaben nebeneinander zeigt der Tool-Vergleich. Wie wir Tools einordnen und welche Quellen wir nutzen, erklärt die Seite So testen wir.
Die Einführung in zwölf Schritten
Die Reihenfolge ist wichtiger als das Tempo. Mit Agenten anzufangen, bevor das Team gute Prompts schreibt, ist Bauen auf Sand.
- Verantwortliche Person benennen. Eine Person mit Zeit und Rückhalt der Geschäftsführung, idealerweise aus dem Fachbereich. Sie sammelt Anwendungsfälle, pflegt Vorlagen und ist Ansprechpartner für Fragen.
- Ein Werkzeug freigeben. Wähle einen KI-Assistenten im Business-Tarif mit Auftragsverarbeitungsvertrag, passend zu Microsoft 365 oder Google Workspace. Private Gratis-Konten sind ab diesem Tag für Firmendaten tabu.
- Eine Datenregel aufschreiben. Für den Anfang reicht eine Ampel: Grün sind öffentliche und interne Texte ohne Personenbezug, Gelb sind interne Zahlen und Verträge nur im freigegebenen Tool, Rot sind Gesundheitsdaten, Bewerbungen, Personalakten und Geschäftsgeheimnisse.
- Zwei oder drei Aufgaben auswählen. Nimm Aufgaben, die mindestens einmal pro Woche vorkommen, viel Text enthalten und bei denen ein Fehler intern bleibt. Notiere vorher, wie lange sie heute dauern.
- Vorlagen schreiben und testen. Baue für jede Aufgabe einen Prompt aus Rolle, Kontext, Aufgabe, Format und Beispiel. Teste mit echtem, aber anonymisiertem Material und halte fest, was du korrigieren musstest.
- Eine Woche messen. Notiere bei jedem Einsatz die Zeit. Danach entscheidest du: behalten, verbessern oder streichen.
- Team schulen. Eine kurze Einweisung in das freigegebene Tool, die Datenregel und die Vorlagen. Dokumentiere, wer wann geschult wurde. Das ist auch dein Nachweis für Art. 4 AI Act.
- KI-Richtlinie verabschieden. Halte Tools, Datenklassen, Prüfung, Kennzeichnung, verbotene Einsätze und Verantwortliche auf wenigen Seiten fest. Binde Datenschutz und Betriebsrat früh ein.
- Vorlagen zu Assistenten ausbauen. Was sich bewährt, wandert mit Instruktionen und Beispielmaterial in ein gemeinsames Projekt oder einen eigenen Assistenten, damit es auch funktioniert, wenn die Person im Urlaub ist.
- Wissen anbinden. Erst wenn Freigaben bereinigt und Verantwortliche für Inhalte benannt sind, verbindest du Wiki, Laufwerke oder CRM mit der KI. Starte mit einem Pilot-Team von 5 bis 15 Personen und 30 bis 50 echten Testfragen.
- Stabile Abläufe automatisieren. Was mit festen Auslösern wiederkehrt, läuft über ein Automatisierungs-Tool. Alles, was nach außen geht, bekommt eine menschliche Freigabe.
- Regelmäßig überprüfen. Tools, Preise und Rechtslage ändern sich schnell. Plane mindestens einmal im Halbjahr einen Termin, an dem du Tool-Liste, Richtlinie und Vorlagen prüfst.
Ein Quick Win ist ein guter Prompt, den eine Person nutzt. Ein Prozess ist ein Ablauf, der für das ganze Team funktioniert. Die Schritte 1 bis 7 bringen dich zum ersten, die Schritte 8 bis 12 zum zweiten.
Was kostet das und lohnt es sich?
Die Lizenzkosten sind für die meisten Unternehmen der kleinere Posten. Einige Richtwerte pro Nutzer und Monat, Stand Oktober 2026:
| Lösung | Preis pro Nutzer und Monat | Hinweis |
|---|---|---|
| Copilot Chat in Microsoft 365 | ohne Aufpreis | in berechtigten Lizenzen enthalten |
| Gemini in Google Workspace | im Tarif enthalten | steckt im Preis der Workspace-Lizenz |
| Claude Team | 18 € | jährliche Zahlung, eigenständiger Assistent |
| Microsoft 365 Copilot Business | 18,20 € | Add-on zur Microsoft-365-Lizenz, jährlich, Aktionspreis 15,60 € bis 31.12.2026 |
| ChatGPT Business | 21 € | jährliche Zahlung, eigenständiger Assistent |
| Langdock | 25 € | monatlich, jährlich 20 % günstiger, Hosting in der EU, Modelle mehrerer Anbieter |
Dazu kommen je nach Ausbau ein Automatisierungs-Tool, Spezialtools und vor allem Zeit: für die verantwortliche Person, für Schulung und für die Pflege von Vorlagen und Wissen. Ein Eigenbau mit eigener Vektor-Datenbank hat geringe Modellkosten, braucht aber Entwicklung und Betrieb im Haus.
Ob es sich lohnt, entscheiden Lizenzkosten, Nutzungsquote und eingesparte Zeit. Ein einfaches Rechenbeispiel: Fällt eine Aufgabe fünfmal pro Woche an und dauert jedes Mal 20 Minuten, kostet sie rund 100 Minuten pro Woche. Spart die KI davon die Hälfte, sind es knapp 50 Minuten pro Person und Woche.
Mit deinen eigenen Werten rechnest du das im KI-ROI-Rechner durch, inklusive Stundensatz und Anteil der Beschäftigten, die das Tool tatsächlich nutzen. Die Preise einzelner Tools vergleichst du im Tool-Vergleich mit Preisen und Datenschutz.
Die größte Kostenfalle sind Lizenzen, die niemand nutzt. Rolle deshalb zuerst für ein Team aus, miss die Nutzung und erweitere erst danach.
Recht und Datenschutz: was 2026 gilt
Für KI im Unternehmen gelten mehrere Regelwerke nebeneinander. Das älteste davon betrifft dich garantiert: Seit dem 2. Februar 2025 müssen Unternehmen, die KI einsetzen, Maßnahmen für die KI-Kompetenz ihrer Beschäftigten ergreifen (Art. 4 AI Act). Seit dem Digital-Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) lautet die Pflicht, die KI-Kompetenz zu fördern. Laut Bitkom schulen 70 Prozent der Unternehmen ihre Beschäftigten zu KI.
Seit dem 2. August 2026 musst du realistisch wirkende KI-Bilder, Videos und Stimmen (Deepfakes) kennzeichnen, wenn du sie beruflich veröffentlichst (Art. 50 Abs. 4 AI Act). Ein Chatbot auf der Website muss als KI erkennbar sein. Die Pflichten für Hochrisiko-KI, etwa in der Bewerberauswahl, greifen dagegen erst ab 2. Dezember 2027. Emotionserkennung am Arbeitsplatz ist schon seit Februar 2025 verboten.
Für personenbezogene Daten verlangt die DSGVO eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und bei Anbietern außerhalb der EU eine Grundlage für den Drittlandtransfer. ChatGPT Free nutzt Eingaben standardmäßig zum Training, Business- und Enterprise-Tarife der großen Anbieter schließen das laut Herstellern standardmäßig aus.
Gibt es einen Betriebsrat, ist er früh gefragt. KI-Tools, die Verhalten oder Leistung erfassen können, sind in der Regel mitbestimmungspflichtig (§ 87 Abs. 1 Nr. 6 BetrVG), und über geplante KI-Einsätze musst du ihn rechtzeitig unterrichten (§ 90 BetrVG). Üblich ist eine Rahmen-Betriebsvereinbarung für mehrere Tools. Bleiben Urheberrecht und Werbung: Reine KI-Ergebnisse sind in Deutschland in der Regel nicht urheberrechtlich geschützt, und für Werbung mit KI-Personen gelten die Regeln des Wettbewerbsrechts.
Alle Fragen mit Fristen, Paragrafen und Urteilen beantwortet unser Überblick zu AI Act, DSGVO und Betriebsrat. Wie du die Regeln für dein Team auf wenigen Seiten festhältst, zeigt die Muster-Richtlinie für die KI-Nutzung, mit Bausteinen, Datenklassen und Anlagen zum Anpassen.
Woran KI-Einführungen im Mittelstand scheitern
Der häufigste Fehler ist ein zu großes erstes Projekt. Ein Chatbot für Kunden, eine automatische Bewerbervorauswahl oder ein Agent mit Schreibrechten im CRM eignen sich nicht als Einstieg. Fang mit internen Aufgaben an, bei denen ein Mensch das Ergebnis prüft. Und nimm dir nicht zu viel vor: Zehn Anwendungsfälle in einer Woche überfordern jedes Team, zwei oder drei pro Bereich reichen, bis sie sitzen.
KI erfindet Quellen, Zahlen und Namen, wenn sie keine hat, und bei Aufgaben außerhalb ihrer Fähigkeiten macht sie die Qualität messbar schlechter. Ungeprüft übernommene Ergebnisse sind deshalb ein echtes Risiko. Ähnlich teuer wird es, wenn jede Person eigene Prompts baut. Ohne gemeinsame Ablage gehen gute Vorlagen verloren, sobald jemand das Unternehmen verlässt.
Beim Anbinden von Firmenwissen lauert eine Falle, die viele übersehen. Bleiben alte Freigaben unbereinigt, macht die KI versteckte Ordner auffindbar, und ein falsch freigegebener Ordner mit Gehaltsdaten reicht für ein ernstes Problem.
Zwei Fehler zeigen sich erst später. Ohne Vorher-Zahl bleibt der Nutzen ein Gefühl, und bei der nächsten Budgetrunde fehlt dir das Argument. Und Regeln, die erst nach dem ersten Problem kommen, kosten mehr Zeit und Vertrauen als Datenregel, Richtlinie und ein frühes Gespräch mit dem Betriebsrat.
Wo du weitermachst
Je nachdem, wo dein Unternehmen steht, lohnen sich unterschiedliche nächste Schritte. Die Ratgeber aus den Einsatzbereichen oben passen zu jeder Stufe, hier kommen die Ergänzungen.
Einsteiger: noch kein freigegebenes Tool
Du hast noch kein freigegebenes KI-Tool oder nutzt es nur vereinzelt.
- Wähle den passenden Assistenten mit dem Vergleich der KI-Assistenten für Unternehmen und starte mit zwei oder drei Quick Wins.
- Lege mit der Vorlage für eine KI-Richtlinie die Regeln fest, bevor das Team loslegt.
- Wenn du für eine Aufgabe noch kein Werkzeug hast, beantworte die Fragen im Tool-Finder für KI-Tools.
Fortgeschrittene: KI im Alltag, aber ohne Standard
Das Team nutzt KI regelmäßig, aber jeder auf seine Weise.
- Vereinheitliche Prompts in einer gemeinsamen Bibliothek und baue daraus eigene Assistenten.
- Nimm dir das Postfach vor: Mails mit KI sortieren, beantworten und ablegen.
- Lass Besprechungen protokollieren, mit einem KI-Notetaker, der zu deutschen Meetings passt.
- Prüfe mit dem Rechner für die Rendite von KI-Lizenzen, ob sich der Ausbau auf weitere Teams lohnt.
Profis: Wissen und Abläufe
KI ist im Alltag angekommen, jetzt geht es um Wissen und Abläufe.
- Mach Firmenwissen mit einem Company Brain nutzbar und halte die Rechte sauber.
- Wähle die Plattform für deine Workflows mit dem Vergleich der Automatisierungs-Tools Make, Zapier und n8n.
- Prüfe, welche Aufgaben ein Agent mit Freigabe übernehmen kann: was KI-Agenten heute zuverlässig leisten.
- Entlaste den Support mit Chatbot, Ticket-Sortierung und Wissensbasis.
Mit jeder dieser Stufen rückst du ein Stück näher an die 3 Prozent, die laut Bitkom das Potenzial von KI eher stark nutzen.
Häufige Fragen zu KI-Praxis
Wie kann man KI im Unternehmen nutzen?
Am einfachsten über einen KI-Assistenten wie ChatGPT, Claude, Gemini oder Microsoft 365 Copilot im Business-Tarif. Typische Aufgaben für den Start sind Zusammenfassungen von Mail-Verläufen und Meetings, Entwürfe für Antworten, Follow-ups und Stellenanzeigen sowie Auswertungen in Excel. Wer weiter gehen will, baut eigene Assistenten mit festen Instruktionen, bindet Firmenwissen an und automatisiert wiederkehrende Abläufe mit Tools wie Make oder n8n.
Wie führe ich KI im Unternehmen ein?
Starte mit einem freigegebenen Werkzeug, einer Datenregel und zwei oder drei Aufgaben, die oft vorkommen und bei denen ein Fehler intern bleibt. Miss eine Woche lang die Zeit vorher und nachher. Was funktioniert, wird zur gemeinsamen Vorlage, dann zum festen Ablauf und erst danach zur Automatisierung. Parallel schulst du das Team, schreibst eine kurze KI-Richtlinie und bindest Datenschutz und Betriebsrat früh ein.
Ist eine KI-Schulung im Unternehmen Pflicht?
Ja, in abgeschwächter Form. Art. 4 AI Act verlangt seit dem 2. Februar 2025 Maßnahmen zur KI-Kompetenz der Beschäftigten. Seit dem Digital-Omnibus, in Kraft seit 27. Juli 2026, lautet die Pflicht, die KI-Kompetenz zu fördern; ein bestimmtes Niveau einzelner Personen ist nicht vorgeschrieben. In der Praxis reichen meist eine Einweisung in die genutzten Tools, eine kurze Richtlinie und eine Dokumentation, wer wann geschult wurde.
Ist eine KI-Richtlinie im Unternehmen Pflicht?
Ausdrücklich vorgeschrieben ist sie nicht. Sie ist aber der einfachste Nachweis für die Förderpflicht zur KI-Kompetenz aus Art. 4 AI Act und hilft bei DSGVO und Geheimnisschutz. Eine gute Richtlinie regelt erlaubte Tools, Datenklassen, Prüfung und Kennzeichnung von Ergebnissen, verbotene Einsätze und Verantwortliche.
Was kostet KI für Unternehmen?
Die Lizenzen sind überschaubar: Claude Team kostet 18 € und ChatGPT Business 21 € pro Nutzer und Monat bei jährlicher Zahlung, Langdock 25 € bei monatlicher Zahlung (Stand Oktober 2026). Mit Microsoft 365 ist Copilot Chat in berechtigten Lizenzen ohne Aufpreis enthalten, mit Google Workspace steckt Gemini im Tarif. Der größere Aufwand ist Zeit für Einführung, Schulung und Pflege von Vorlagen und Wissen.
Welche KI-Tools nutzen Unternehmen?
Die Basis ist fast immer ein KI-Assistent: ChatGPT, Claude, Gemini in Google Workspace oder Microsoft 365 Copilot, mit Mistral und Langdock als Optionen für Datenhaltung in der EU. Dazu kommen Spezialtools für Meetings, Vertrieb, Recruiting oder Video und Automatisierungs-Tools wie Make, Zapier und n8n. Laut Bitkom (September 2026) setzen KI-Anwender sie am häufigsten im Kundenkontakt (72 Prozent) und in Marketing und Kommunikation (54 Prozent) ein.
Welche KI eignet sich für kleine Unternehmen?
Entscheidend ist die Umgebung, in der du schon arbeitest. Mit Microsoft 365 ist Copilot am tiefsten eingebunden, mit Google Workspace ist Gemini schon im Tarif. Als eigenständige Assistenten sind Claude Team und ChatGPT Business verbreitet. Wenn die Daten standardmäßig in der EU liegen sollen, kommen Mistral und Langdock in Frage.
Muss der Betriebsrat bei KI im Unternehmen mitbestimmen?
Oft ja. Nach § 87 Abs. 1 Nr. 6 BetrVG bestimmt der Betriebsrat bei technischen Einrichtungen mit, die Verhalten oder Leistung überwachen können; nach ständiger Rechtsprechung des Bundesarbeitsgerichts reicht die objektive Eignung. Viele KI-Tools protokollieren Nutzung und Prompts. Außerdem muss der Arbeitgeber den Betriebsrat über geplante KI-Einsätze rechtzeitig unterrichten (§ 90 BetrVG). Üblich ist eine Rahmen-Betriebsvereinbarung für mehrere KI-Tools.
Was muss ich beim Datenschutz beachten, wenn wir KI im Unternehmen nutzen?
Für personenbezogene Daten brauchst du eine Rechtsgrundlage nach Art. 6 DSGVO, einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und bei Anbietern außerhalb der EU eine Grundlage für den Drittlandtransfer. Diese Verträge gibt es in der Regel nur in Business- und Enterprise-Tarifen. Private Gratis-Konten sind für Kunden-, Personal- und Bewerberdaten tabu. Diese Antwort ist keine Rechtsberatung.
Welche Beispiele für KI im Unternehmen gibt es?
Häufige Beispiele sind Mail-Verläufe und Meetings zusammenfassen, Follow-ups nach Kundengesprächen, Antwortvorlagen im Kundenservice, Stellenanzeigen und Interviewleitfäden, Entscheidungsvorlagen aus Unterlagen, Verträge zusammenfassen und Daten aus PDFs in Tabellen übertragen. Fortgeschrittene Beispiele sind eigene Assistenten mit Firmenwissen, ein Company Brain und Workflows, die Anfragen automatisch sortieren und Entwürfe anlegen.