Enterprise-AI-Suchstrategie – wie gehen große Unternehmen mit interner + externer KI-Sichtbarkeit um?

Wir haben beide Herausforderungen bei [Large Enterprise] gemeistert. Hier ist unsere Architektur:

Interne KI-Suche:

Implementierte föderierte Suche mit RAG (Retrieval Augmented Generation):

Quellen: Sharepoint + Confluence + Salesforce + interne DBs
     ↓
Konnektoren: Echtzeit-Synchronisierung mit Zugriffsvererbung
     ↓
Vector Store: Embeddings für semantische Suche
     ↓
RAG-Schicht: Verankert LLM-Antworten in Quelldokumenten
     ↓
Interface: Natürlichsprachliche Suche + Quellenangabe

Wesentliche Ergebnisse:

• Suchzeit um 60 % reduziert
• Mitarbeiter-NPS für Suche: 72 (vorher 18)
• 45 % weniger wiederholte Fragen an Experten

Externe KI-Sichtbarkeit:

Anderes Team, andere Strategie:

• Marketing verantwortet GEO-Optimierung
• Content-Team strukturiert für Konversationsanfragen um
• Nutzt Am I Cited für plattformübergreifendes Monitoring
• Beobachtung des Share of Voice im Wettbewerbsvergleich

Die Governance-Schicht umfasst beides:

• Zugriffskontrollen (wer sieht was)
• Audit-Logging (Compliance-Anforderung)
• Menschliche Überprüfung bei sensiblen Entscheidungen
• Datenresidenz-Kontrollen

Perspektive aus dem Wissensmanagement. Das interne Suchproblem ist organisatorisch, nicht nur technisch.

Ursachen:

• Inhalte verteilt auf über 15 Plattformen
• Keine Verantwortung für abteilungsübergreifende Inhalte
• Veraltete Dokumentation bleibt ewig bestehen
• Stammeswissen wird nie dokumentiert

Technische Lösung allein reicht nicht:

Wir haben eine hervorragende KI-Suchplattform eingeführt. Die Nutzung lag bei 30 %.

Dann haben wir:

1. Für jedes Hauptthema Inhaltsverantwortliche bestimmt
2. Einen Inhaltslebenszyklus eingeführt (Auto-Archivierung nach X Monaten)
3. Inhaltsbeiträge in die Leistungsbeurteilung aufgenommen
4. „Knowledge Champions“ in jeder Abteilung benannt

Die Nutzung stieg auf 78 %.

Für externe KI-Sichtbarkeit:

Gleiches Prinzip. KI-Optimierung ist unmöglich, wenn die Inhalte ein Chaos sind. Erst aufräumen und strukturieren, dann optimieren.

Perspektive aus der Plattform-Auswahl. Wir haben 8 Enterprise-KI-Suchplattformen evaluiert.

Darauf kommt es an:

Unsere Top-Kandidaten:

• Glean (exzellente UX, starke Konnektoren)
• Elasticsearch + eigene LLM-Schicht (maximale Kontrolle)
• Microsoft Copilot für 365 (wenn alles auf Microsoft läuft)
• Coveo (stark bei E-Commerce + Knowledge)

Unsere Wahl:

Glean für die meisten Use Cases + individuelles Elasticsearch für sensible Daten, die unsere Umgebung nicht verlassen dürfen.

Der hybride Ansatz ermöglichte schnelles Vorankommen bei Einhaltung aller Sicherheitsanforderungen.

Marketing-Perspektive zur externen KI-Sichtbarkeit.

Die Herausforderung:

Unsere Wettbewerber werden bei Kategoriefagen in ChatGPT und Perplexity zitiert. Wir nicht. Das ist ein Markenproblem, nicht nur ein Traffic-Problem.

Unser Ansatz:

1. Ist-Analyse – Mit Am I Cited Sichtbarkeit messen
2. Content-Restrukturierung – FAQ-Format für Schlüsselfragen
3. Thought Leadership – Executive-Content mit klaren Expertise-Signalen
4. Third-Party-Präsenz – Analysten, Bewertungsportale, Reddit-Beteiligung

Kennzahlen, die wir beobachten:

• Share of Voice in KI-Antworten (vs. 5 Wettbewerber)
• Sentiment der KI-Erwähnungen
• Zitationsquellen (direkte oder Drittzitation?)
• Konversionsrate aus KI-Traffic

Ergebnisse nach 6 Monaten:

• Share of Voice: 8 % → 22 %
• Direkte Markenzitate +180 %
• KI-Traffic jetzt 4 % des Gesamttraffics (wachsend)

Change Management ist die versteckte Herausforderung.

Der Wandel in der Belegschaft:

Mitarbeitende sind Schlüsselwortsuche gewohnt. KI-Suche ist konversationell. Das ist ein großer Mentalitätswandel.

Was funktioniert:

1. Schulungen – Nicht nur „Wie bediene ich“, sondern „Wie denke ich bei Anfragen“
2. Champions-Programm – Power User helfen ihren Teams
3. Executive Sponsorship – Führungskräfte nutzen und bewerben die Lösung
4. Kommunikation von Erfolgen – Erfolgsgeschichten breit teilen

Typische Barrieren für die Nutzung:

• „Ich vertraue KI-Antworten nicht“ → Quellenangaben zeigen
• „Meine alte Suche war ok“ → Zeitersparnis im Vergleich zeigen
• „Ich weiß nicht, was ich fragen kann“ → Beispielanfragen anbieten
• „Noch ein Tool mehr“ → In bestehende Workflows integrieren

Ziel: 60–80 % Nutzung innerhalb von 12 Monaten. Wir sind nach 10 Monaten bei 72 %.

Data-Governance-Rahmen für KI-Suche.

Richtlinien, die wir festgelegt haben:

1. Datenklassifizierung – Worauf darf die KI zugreifen? (Öffentlich, Intern, Vertraulich, Restriktiert)
2. Zugriffsvererbung – KI respektiert Quellsystem-Berechtigungen
3. Retention – Wie lange werden Suchlogs aufbewahrt?
4. Grenzüberschreitend – Datenresidenz je Region
5. Modelltraining – Unsere Daten trainieren keine Vendor-Modelle

Umsetzung:

Audit-Anforderungen:

• Wer hat was wann abgefragt
• Welche Quellen wurden für die Antwort genutzt
• Wurde die Antwort extern geteilt?
• Vierteljährliche Zugriffsüberprüfung

Kommen wir zum ROI.

Interner KI-Such-ROI:

Durchschnittlicher ROI unternehmensweiter KI-Initiativen: 5,9 % (IBM-Studie)

Das wirkt niedrig, liegt aber daran, dass viele Initiativen an der Nutzung scheitern.

Was erfolgreiche Umsetzungen erreichen:

• 60 % schnellere Entscheidungsfindung
• 2–5 Stunden/Woche Zeitersparnis pro Wissensarbeiter
• 31 % schnellere Entscheidungsdynamik
• Weniger wiederholte Fragen an Experten

So wird gerechnet:

(Gesparte Stunden × Stundenlohn × Mitarbeitende) – (Plattformkosten + Implementierung)

Bei 10.000 Wissensarbeitern, die 2 Stunden/Woche sparen: = 10.000 × 2 × 52 × $50/Stunde = $52 Mio. Wert – Plattform ($500k) – Implementierung ($1 Mio.) = $50 Mio.+ jährlicher Wert

Externer KI-Sichtbarkeits-ROI:

Schwerer messbar, aber folgende Kennzahlen:

• KI-Traffic und Konversionen
• Veränderung der Markensuchvolumina
• Share of Voice-Trends
• Pipeline, beeinflusst durch KI-Entdeckung

Mit Frühindikatoren starten, später auf Umsatz-Attribution umstellen.

Blick in die Zukunft: Agentische KI kommt.

Status quo: KI beantwortet Fragen Nächster Schritt: KI handelt basierend auf Antworten

Implikationen für Unternehmen:

• KI-Suche wird zu KI-Workflow-Automatisierung
• Governance für autonome Entscheidungen erforderlich
• „Wie ist unsere Richtlinie?“ wird zu „Setze unsere Richtlinie um“
• Wissen wird zur Ausführung

Jetzt vorbereiten:

1. Saubere, autoritative Daten (Garbage in = Garbage out)
2. Klare Richtlinien (KI braucht Regeln)
3. Workflow-Integration (nicht nur Suchoberfläche)
4. Muster für menschliche Aufsicht (wann eskaliert KI?)

Firmen, die heute starke KI-Suchgrundlagen legen, steigen schneller auf agentische KI um.

Ausgezeichnete Diskussion. Hier unser Fahrplan auf Basis dieser Erkenntnisse:

Phase 1: Interne KI-Suche (Q1)

• Glean für die primäre Suche einführen
• Eigene RAG-Schicht für sensible Systeme
• Zugriffsvererbung aus Quellsystemen übernehmen
• Change-Management-Programm starten

Phase 2: Governance Framework (Q1–Q2)

• Datenklassifizierung für KI-Zugriff
• Audit-Logging einführen
• Human-in-the-Loop für vertrauliche Anfragen
• Vierteljährliche Zugriffsüberprüfung

Phase 3: Externe KI-Sichtbarkeit (Q2)

• Von Marketing geführte GEO-Initiative
• Content-Restrukturierung für Konversationsabfragen
• Am I Cited Monitoring ausrollen
• Share of Voice im Wettbewerbsvergleich tracken

Phase 4: Messung (laufend)

• Intern: Nutzung, Zeitersparnis, Entscheidungsdynamik
• Extern: Share of Voice, Zitationen, KI-Konversionen

Erfolgsfaktoren:

• Executive Sponsorship (vorhanden)
• Change-Management-Investition (wird budgetiert)
• Saubere Datenbasis (in Arbeit)
• Governance-First-Ansatz (nicht verhandelbar)

Vielen Dank für die praxisnahen Einblicke. Genau das haben wir gebraucht.