So baust du dir ein Company Brain: Firmenwissen mit KI nutzbar machen (2026)

In fast jedem Unternehmen steckt das wichtigste Wissen an zu vielen Orten: in SharePoint-Ordnern, alten Angeboten, Confluence-Seiten, Support-Tickets, Teams-Chats und in den Köpfen von zwei, drei Leuten, die man immer fragt. Ein Company Brain soll dieses Wissen abfragbar machen. Du stellst eine Frage in normaler Sprache und bekommst eine Antwort mit Quelle.

Die Technik dafür ist 2026 kein Hindernis mehr. Microsoft, Google, Notion, Atlassian, OpenAI, Anthropic und europäische Anbieter wie Langdock bieten fertige Wege an. Das eigentliche Projekt ist die Ordnung dahinter. Dieser Ratgeber zeigt dir die vier Wege mit Aufwand, Kosten und Rechte-Konzept, führt dich in sieben Schritten zum ersten Pilot und gibt dir Prompt-Vorlagen für den Alltag. Preise und Funktionen haben wir am 2. Oktober 2026 bei den Anbietern geprüft.

Was ist ein Company Brain?

Ein Company Brain ist ein KI-Assistent, der auf das Wissen deines Unternehmens zugreift und daraus Antworten baut. Der Begriff ist kein Produktname. Er beschreibt ein Ziel: Wissen soll nicht mehr an einzelnen Personen oder Ordnern hängen.

Technisch funktioniert das fast immer gleich. Die KI wird nicht mit deinen Daten trainiert. Stattdessen sucht ein System bei jeder Frage die passenden Textstellen in deinen Quellen heraus und gibt sie dem Sprachmodell als Kontext mit. Das Verfahren heißt Retrieval Augmented Generation, kurz RAG. Daraus folgen drei Dinge, die du für dein Projekt wissen solltest:

• Die Antwort ist nur so gut wie die Quelle. Liegen fünf Versionen einer Preisliste im System, kann die KI die falsche zitieren.
• Die KI sieht, was der Nutzer sieht. Alle großen Anbieter prüfen die Berechtigungen des Fragenden. Sind die Berechtigungen zu weit, ist es auch die KI.
• Neue Dokumente sind schnell verfügbar. Weil nichts trainiert wird, reicht es, ein Dokument abzulegen oder zu aktualisieren. Je nach Anbieter dauert die Aufnahme Minuten bis einen Tag.

Die vier Wege zum Company Brain

Weg 1: KI im vorhandenen Tool

Wenn dein Wissen überwiegend in einem System liegt, ist dessen eingebaute KI der kürzeste Weg.

Microsoft 365 Copilot mit SharePoint. Microsoft 365 Copilot arbeitet in Word, Outlook, Teams und im Copilot-Chat und greift auf Mails, Dateien und Meetings zu. Laut Microsoft nutzt Copilot nur Daten, auf die der Nutzer bereits Zugriff hat. Copilot Business kostet 18,20 Euro pro Nutzer und Monat bei jährlicher Zahlung, als Add-on zu einer Microsoft-365-Lizenz. Für Unternehmen mit bestehendem Microsoft-365-Tenant ist das der naheliegende Weg. Ein wichtiges Detail: SharePoint Advanced Management, das Werkzeug zum Bereinigen von Freigaben, ist laut Microsoft in der Copilot-Lizenz enthalten.

Gemini mit Google Drive. Gemini in Google Workspace ist in die Workspace-Tarife eingebaut. Laut Google hat Gemini denselben Zugriff wie du selbst: Es sieht nur Drive-Dateien, die mit dir geteilt sind. Darf eine Datei nicht heruntergeladen, kopiert oder gedruckt werden, kann Gemini sie auch nicht nutzen. Im Tarif Business Starter fehlt Gemini in Docs und Drive. Ab Business Standard (13,60 Euro pro Nutzer und Monat im Flexibel-Tarif) ist es dabei.

Notion AI. In Notion beantwortet die KI Fragen zu deinen Seiten und Datenbanken. Mit den KI-Konnektoren durchsucht sie im Business- und Enterprise-Plan auch Slack, Google Drive, SharePoint, OneDrive, GitHub, Jira und Microsoft Teams. Beim SharePoint-Konnektor liest Notion die Zugriffsrechte aus Microsoft aus und gleicht sie stündlich ab. Indexiert werden Dokumente, die bis zu ein Jahr vor der Einrichtung erstellt oder angesehen wurden. Business kostet 19,50 Euro pro Mitglied und Monat. Datenhaltung in Frankfurt gibt es nur im Enterprise-Plan.

Confluence mit Atlassian Rovo. Rovo ist die KI-Suche mit Chat und Agenten in Confluence und Jira. Rovo-Credits sind in allen bezahlten Cloud-Plänen enthalten: 25 pro Nutzer und Monat in Standard, 70 in Premium, 150 in Enterprise. Die Suche verbraucht keine Credits, eine Chat-Antwort kostet 10. Darüber hinaus berechnet Atlassian 0,01 US-Dollar pro Credit. Laut Atlassian übernimmt Rovo die Berechtigungen aus Confluence, Jira und angebundenen Drittanbieter-Apps.

Weg 2: Unternehmenssuche über alle Systeme

Wenn dein Wissen auf viele Systeme verteilt ist, gibt es eigene Suchplattformen, die alles zusammenführen.

Glean ist der bekannteste Anbieter. Konnektoren lesen Inhalte und die Berechtigungen aus jeder Quelle, sodass Nutzer nur sehen, was sie auch im Ursprungssystem sehen dürfen. Glean bietet laut eigener Aussage Datenresidenz in Regionen wie EMEA an. Öffentliche Preise gibt es nicht. Laut Drittquellen setzt Glean oft eine Mindestzahl von rund 100 Nutzern voraus, was es für kleine Firmen meist ausschließt.

Gemini Enterprise von Google ist die zweite große Option und eignet sich auch für Firmen ohne Google Workspace. Die Business-Edition kostet laut Google ab 21 US-Dollar pro Nutzer und Monat, ist für 1 bis 500 Nutzer gedacht und bringt Konnektoren unter anderem für Microsoft 365, Google Workspace, Jira, HubSpot und Slack mit. Es gibt eine 30-tägige Testphase.

Weg 3: KI-Assistent mit Wissensbasis und Konnektoren

Viele Teams nutzen schon einen KI-Assistenten. Den kannst du zum Company Brain ausbauen, indem du Dokumente hochlädst oder Datenquellen anbindest.

ChatGPT Business. ChatGPT Business verbindet sich mit Google Drive, SharePoint, Slack und weiteren Diensten. Für SharePoint und OneDrive gibt es einen synchronisierten Konnektor, den Admins im Arbeitsbereich freischalten müssen. Laut OpenAI gelten dabei die bestehenden Berechtigungen jedes Nutzers. ChatGPT Business kostet 21 Euro pro Nutzer und Monat bei jährlicher Zahlung. Achtung, wenn du dein Wissen heute in Custom GPTs gepackt hast: OpenAI stellt sie am 11. Dezember 2026 ein.

Claude Projects und Konnektoren. In Claude Team legst du Projekte mit eigenen Dateien und Anweisungen an. Wird das Projektwissen zu groß, schaltet Claude in den bezahlten Plänen automatisch in einen RAG-Modus, der laut Anthropic die Kapazität bis auf das Zehnfache erweitert. Im Team-Plan teilst du Projekte mit „Kann ansehen“ oder „Kann bearbeiten“. Der Microsoft-365-Konnektor greift auf SharePoint, OneDrive, Outlook und Teams zu, und zwar nur mit den Rechten des jeweiligen Nutzers. Ein globaler Administrator in Microsoft Entra muss ihn einmal freigeben. Claude Team kostet 18 Euro pro Platz und Monat bei jährlicher Zahlung.

Langdock. Langdock ist eine europäische Plattform mit EU-Hosting, die Modelle mehrerer Anbieter bündelt. Mit Folder Sync hängst du ganze Ordner aus SharePoint, Google Drive, OneDrive oder Confluence an einen Agenten. Die Ordner werden täglich abgeglichen. Bei jeder Frage prüft Langdock über die Verbindung des Nutzers, ob er die Datei sehen darf. Dateien ohne Berechtigung tauchen in seinen Ergebnissen nicht auf. Zusätzlich durchsucht das Werkzeug „Unternehmenswissen“ alle verbundenen Integrationen auf einmal. Business Standard kostet 25 Euro pro Nutzer und Monat, jährlich 20 Prozent weniger.

Wichtig bei diesem Weg: Was du in ein Projekt hochlädst, ist eine Kopie. Die Rechte aus SharePoint oder Drive gehen dabei verloren. Jeder, mit dem du das Projekt teilst, sieht alle Dateien darin. Für vertrauliche Inhalte sind Konnektoren mit Rechteprüfung deshalb die sicherere Wahl als Uploads.

Weg 4: Eigenbau mit RAG und Vektor-Datenbank

Der Eigenbau lohnt sich, wenn du besondere Anforderungen hast: Betrieb auf eigenen Servern, Anbindung an ein Fachsystem ohne fertigen Konnektor oder ein Company Brain als Teil eines eigenen Produkts. Die Bausteine sind ein Embedding-Modell, das Texte in Zahlenvektoren übersetzt, eine Vektor-Datenbank wie pgvector für PostgreSQL oder Qdrant und ein Sprachmodell für die Antwort.

Die reinen Modellkosten sind gering. OpenAI berechnet für das Embedding-Modell text-embedding-3-small 0,02 US-Dollar pro einer Million Tokens. Teuer sind Entwicklung, Betrieb und Pflege. Den größten Aufwand unterschätzen fast alle: Du musst die Berechtigungen jedes Dokuments selbst mitspeichern und bei jeder Frage filtern. Die fertigen Lösungen aus Weg 1 bis 3 erledigen genau das für dich.

Welcher Weg passt zu dir?

Eine Faustregel: Starte dort, wo dein Wissen heute schon liegt. Wer alles in Microsoft 365 hat, braucht für den Anfang keine Unternehmenssuche. Wer Notion als Wiki nutzt und Dateien in Google Drive ablegt, kommt mit Notion AI und dem Drive-Konnektor weit. Eine eigene Plattform lohnt sich erst, wenn die eingebauten Wege an Grenzen stoßen.

Was du brauchst

• Eine verantwortliche Person mit Zeit, idealerweise aus dem Fachbereich.
• Admin-Rechte für die Quellsysteme. Fast jeder Konnektor braucht eine einmalige Freigabe durch einen Admin, bei Microsoft zum Beispiel einen globalen Administrator in Entra.
• Ein Pilot-Team mit 5 bis 15 Personen und einer klaren Wissensfrage, etwa Vertrieb, Support oder Onboarding.
• Eine Liste mit 30 bis 50 echten Fragen aus dem Alltag dieses Teams, samt richtiger Antwort und Quelle.
• Früh den Betriebsrat und den Datenschutz an Bord, falls es beides gibt.

Schritt 1: Wissensinventur machen

Bevor du ein Tool einschaltest, schreibst du auf, wo welches Wissen liegt. Eine Tabelle reicht. Pro Quelle notierst du: System, Inhalt, Besitzer, letzte Pflege, Vertraulichkeit. Typische Quellen im Mittelstand sind SharePoint- oder Drive-Ordner, ein Wiki in Confluence oder Notion, das Ticketsystem, das CRM, Teams- oder Slack-Kanäle und Meeting-Protokolle.

Frag dabei auch nach dem Wissen, das gar nicht aufgeschrieben ist. Wenn alle bei einer bestimmten Frage immer dieselbe Kollegin anrufen, ist das ein Kandidat für ein neues Dokument.

Schritt 2: Quellen auswählen

Jede zusätzliche Quelle macht die Antworten unschärfer, wenn sie nicht gepflegt ist. Wähle für den Start zwei bis vier Quellen, die drei Bedingungen erfüllen: Sie werden gepflegt, sie haben einen Besitzer und sie passen zur Frage des Pilot-Teams.

Bewusst draußen lassen solltest du am Anfang Personalakten, Gehaltsdaten, Vorstandsunterlagen und Verträge mit Geheimhaltung. Bei Microsoft geht das zum Beispiel mit Restricted Content Discovery, die ganze SharePoint-Websites aus Copilot heraushält. Bei Langdock und Notion entscheidest du über die Auswahl der angebundenen Ordner und Konnektoren.

Schritt 3: Ordnung und Ownership schaffen

Die KI zitiert, was sie findet. Liegen „Preisliste_2023_final“ und „Preisliste_2026“ nebeneinander, hast du ein Problem. Darum vor dem Start:

• Veraltetes archivieren oder löschen. Microsoft empfiehlt dafür Aufbewahrungs- und Löschrichtlinien sowie Microsoft 365 Archive, damit Copilot alte Inhalte nicht mehr verarbeitet.
• Pro Bereich eine verantwortliche Person benennen. Sie entscheidet, was gilt, und hält es aktuell.
• Klare Titel und ein Datum in jedes wichtige Dokument schreiben. Das hilft der Suche und den Menschen.
• Eine „Gilt ab“-Zeile in Richtlinien und Preislisten aufnehmen. So kann die KI und der Leser die gültige Fassung erkennen.

Schritt 4: Rechte und Berechtigungen bereinigen

Das ist der wichtigste Schritt. Alle hier genannten Lösungen zeigen nur, was der Nutzer sehen darf. In vielen Unternehmen darf er aber viel mehr, als irgendwer weiß: Ordner, die vor Jahren für „alle“ freigegeben wurden, Links für jeden mit dem Link, unterbrochene Vererbung in alten Bibliotheken. Früher hat das niemand bemerkt, weil niemand die Dateien gefunden hat. Eine KI findet sie.

Microsoft beschreibt für Copilot drei Etappen, die sich gut auf andere Systeme übertragen lassen:

1. Risiken finden. Mit der Content Management Assessment aus SharePoint Advanced Management findest du Websites mit zu großem Publikum, Freigaben für „Jeder außer externen Benutzern“, unterbrochener Vererbung oder ohne Besitzer.
2. Übergangsweise abschirmen. Sensible Websites per Restricted Content Discovery aus Copilot nehmen, solange sie noch nicht bereinigt sind.
3. Dauerhaft reparieren. Website-Besitzer prüfen ihre Zugriffe über Site Access Reviews, firmenweite Links werden auf konkrete Gruppen eingeschränkt, Vertraulichkeitsbezeichnungen (Sensitivity Labels) markieren heikle Inhalte.

In Google Workspace prüfst du die Freigabe-Einstellungen für Drive und schränkst externe Freigaben ein. Admins können Gemini außerdem den Zugriff auf Workspace-Daten ganz oder teilweise entziehen. In Notion, Confluence und Slack schaust du dir öffentliche Bereiche und Gast-Zugänge an.

Schritt 5: Pilot mit einem Team starten

Ein Pilot mit einem Team zeigt in wenigen Wochen, ob das Company Brain trägt. So gehst du vor:

1. Ziel festlegen. Zum Beispiel: „Neue Vertriebsmitarbeitende finden Antworten zu Produkten und Konditionen ohne Rückfrage.“
2. Quellen anbinden. Nur die in Schritt 2 gewählten.
3. Systemanweisung schreiben. In Projekten, Agenten oder Copilot-Agenten legst du fest, wie die KI antworten soll: mit Quelle, auf Deutsch, und mit dem Hinweis „Das steht nicht in den Unterlagen“, wenn sie nichts findet.
4. Kurz schulen. Eine Stunde reicht: was die KI kann, was nicht, wie man gute Fragen stellt, was nicht hineingehört.
5. Feedback sammeln. Ein Kanal oder Formular, in dem falsche Antworten mit Frage und Screenshot landen.

Schritt 6: Qualität messen

Ohne Messung bleibt es bei Bauchgefühl. Nimm deine Liste mit 30 bis 50 Fragen und lass sie vor dem Pilot und nach jeder größeren Änderung beantworten. Bewerte jede Antwort nach vier Kriterien:

• Richtig: Stimmt der Inhalt?
• Belegt: Nennt die KI die richtige Quelle?
• Aktuell: Zitiert sie die gültige Fassung?
• Ehrlich: Sagt sie „weiß ich nicht“, wenn es keine Quelle gibt?

Notiere die Quote richtiger und belegter Antworten. Bei falschen Antworten liegt die Ursache meist in der Quelle: ein veraltetes Dokument, eine fehlende Information oder ein unklarer Titel. Das reparierst du direkt im Dokument.

Schritt 7: Pflegeprozess einrichten

Ein Company Brain veraltet so schnell wie die Dokumente dahinter. Lege deshalb einen festen Rhythmus fest:

• Monatlich: Feedback aus dem Pilot-Kanal auswerten, Dokumente korrigieren, Testfragen erneut laufen lassen.
• Quartalsweise: Besitzer bestätigen ihre Bereiche, veraltete Inhalte wandern ins Archiv, neue Quellen werden geprüft.
• Bei jedem neuen Mitarbeitenden: Hat die Person nur die Rechte, die sie braucht? Bei Abgängen: Werden Freigaben und Konnektoren entfernt?
• Bei Tool-Änderungen: Anbieter ändern Funktionen oft. Beispiel: OpenAI stellt Custom GPTs zum 11. Dezember 2026 ein. Prüfe also, ob deine Lösung noch auf dem aktuellen Stand ist.

Prompt-Vorlagen für dein Company Brain

Die folgenden Vorlagen funktionieren in jedem der vier Wege. Ersetze die Angaben in eckigen Klammern. Wenn dein Tool Quellen zitieren kann, bitte immer ausdrücklich darum.

Ich bin neu im Team [Teamname] und arbeite als [Rolle].
Beantworte meine Fragen nur mit Informationen aus unseren internen Dokumenten.
Nenne zu jeder Aussage das Dokument und, wenn möglich, den Abschnitt.
Wenn du keine Quelle findest, schreib: „Dazu habe ich nichts in den Unterlagen gefunden“ und sag mir, wen ich fragen kann, falls ein Ansprechpartner genannt ist.
Meine erste Frage: [z. B. Wie läuft eine Urlaubsbeantragung ab und wer gibt sie frei?]

Wir erstellen ein Angebot für [Kunde/Branche] zum Thema [Leistung].
Durchsuche unsere Angebote der letzten [Zeitraum] im Ordner [Ordnername].
Liste die drei ähnlichsten Angebote auf, jeweils mit:
Kunde, Datum, Leistungsumfang in zwei Sätzen, Preis oder Preisspanne, Besonderheiten im Vertrag.
Markiere, welche Preise älter als zwölf Monate sind.
Erfinde keine Zahlen. Wenn ein Preis fehlt, schreib „nicht im Dokument“.

Ich plane Folgendes: [Vorhaben, z. B. eine Dienstreise nach London mit Hotel für 220 Euro pro Nacht].
Prüfe anhand unserer aktuellen Richtlinien, ob das erlaubt ist.
Gib mir:

die Antwort in einem Satz (erlaubt, nicht erlaubt, unklar),
die einschlägige Regel im Wortlaut,
das Dokument mit Datum oder Version.
Wenn es mehrere Fassungen einer Richtlinie gibt, nimm die neueste und weise auf die ältere hin.

Ich übergebe das Projekt [Projektname] an [Name/Rolle].
Erstelle aus den Dokumenten, Mails und Protokollen zu diesem Projekt ein Übergabedokument mit diesen Abschnitten:
Ziel und Auftraggeber, aktueller Stand, offene Aufgaben mit Fälligkeit, Entscheidungen der letzten drei Monate mit Datum, Risiken, wichtige Kontakte, Ablageorte.
Nenne bei jeder Aussage die Quelle.
Schreib am Ende eine Liste mit Punkten, die in den Unterlagen fehlen und die ich mündlich übergeben sollte.

Hier sind [Anzahl] Support-Tickets aus [Zeitraum] (oder: Durchsuche die Tickets im Projekt [Name]).
Finde die zehn häufigsten Fragen unserer Kunden.
Formuliere jede Frage so, wie ein Kunde sie stellen würde, und schreib eine Antwort mit höchstens vier Sätzen, die sich nur auf die Lösungen in den Tickets stützt.
Gib zu jeder Frage an, wie oft sie vorkam, und verweise auf zwei Beispiel-Tickets.
Entferne Namen, E-Mail-Adressen und Kundennummern aus allen Antworten.

Fasse das Protokoll oder Transkript von [Meeting, Datum] für unsere Wissensablage zusammen.
Gliederung:
Entscheidungen (mit Begründung), Aufgaben (wer, was, bis wann), offene Fragen, neue Fakten, die für andere Teams wichtig sind.
Schreib sachlich und ohne Wertungen über Personen.
Schlag am Ende vor, in welchem bestehenden Dokument oder Wiki-Bereich die neuen Fakten ergänzt werden sollten.

Ich teste unsere Wissensbasis zum Thema [Thema].
Beantworte die folgenden Fragen nur aus unseren Dokumenten und gib zu jeder an: Antwort, Quelle, Datum der Quelle.
Wenn du keine Quelle findest oder die Quellen sich widersprechen, schreib das ausdrücklich.
[Frage 1]
[Frage 2]
[Frage 3]

Du beantwortest Fragen von Mitarbeitenden der [Firma] zum Thema [Bereich].
Nutze ausschließlich die angebundenen Dokumente. Allgemeinwissen nur, wenn ich ausdrücklich danach frage, und dann gekennzeichnet.
Antworte auf Deutsch, kurz und konkret. Nenne immer die Quelle mit Dokumentname.
Wenn mehrere Fassungen existieren, nutze die mit dem neuesten Datum und erwähne das.
Wenn du nichts findest, sag das und verweise auf [Ansprechpartner oder Kanal].
Gib keine personenbezogenen Daten Dritter wieder, auch wenn sie in den Dokumenten stehen.

Typische Fehler

1. Alte Berechtigungen übersehen. Der häufigste und teuerste Fehler. Ein Ordner mit Gehaltsdaten, der vor Jahren versehentlich für alle freigegeben wurde, war bisher gut versteckt. Mit einer KI-Suche reicht eine Frage nach „Gehalt Vertrieb“. Bereinige die Freigaben deshalb vor dem Start.
2. Alles auf einmal anbinden. Wer am ersten Tag alle Laufwerke, Postfächer und Chats verbindet, bekommt unscharfe Antworten und ein unüberschaubares Risiko. Fang mit wenigen gepflegten Quellen an.
3. Vertrauliches in geteilte Projekte hochladen. Hochgeladene Dateien verlieren die Rechte aus dem Ursprungssystem. Wer das Projekt sieht, sieht alles darin.
4. Kein Besitzer für Inhalte. Ohne verantwortliche Person veraltet das Wissen, und die KI zitiert die falsche Fassung.
5. Den Prompt reparieren statt das Dokument. Wenn eine Antwort falsch ist, liegt es meist an der Quelle. Ein geänderter Prompt verdeckt das Problem nur.
6. Ohne Messung ausrollen. Ohne Testfragen weißt du nicht, ob eine Änderung die Antworten besser oder schlechter macht.
7. Antworten ohne Quelle akzeptieren. Bring deinem Team bei, bei wichtigen Entscheidungen immer die verlinkte Quelle zu öffnen.

So startest du diese Woche

1. Schreib die Inventur: zehn Quellen, je mit Besitzer und letzter Pflege.
2. Wähle ein Pilot-Team und sammle mit ihm 30 echte Fragen samt richtiger Antwort.
3. Lass die Freigaben prüfen: in Microsoft 365 mit SharePoint Advanced Management, in Google Workspace über die Drive-Freigaben, in Wiki und Chat über öffentliche Bereiche.
4. Entscheide den Weg: im vorhandenen Tool, wenn das Wissen dort liegt, sonst Assistent mit Konnektoren oder Unternehmenssuche.
5. Miss nach vier Wochen mit denselben 30 Fragen und entscheide dann über den Ausbau.