Wenn ein Mittelständler fragt, was eine KI-Lösung kostet, ist die ehrliche erste Antwort: kommt drauf an. Die zweite ehrliche Antwort lautet: zwischen 12.000 € und 280.000 € — je nachdem, was Sie genau wollen, wie reif Ihre Daten sind und wie tief integriert werden muss.
Diese Bandbreite klingt wie eine Ausweich-Antwort. Sie ist es nicht. Sie ist ein Hinweis darauf, dass die meisten Anbieter eine Frage beantworten, die der Auftraggeber nicht gestellt hat — nämlich „was kostet ein Standard-Chatbot pauschal" — statt der eigentlichen Frage: „was würde es bei uns, in unserer Realität, mit unseren Tools kosten und welchen Wert bringt es?"
Dieser Artikel zerlegt die Frage in vier klare Kostenblöcke, gibt Bandbreiten pro typischem Projekttyp, benennt die fünf Posten, die fast immer vergessen werden, und sagt klar, wann Sie ein Projekt nicht starten sollten.
Warum niemand genaue Zahlen nennt
Der Grund ist nicht Geheimniskrämerei, sondern strukturell. Eine KI-Implementierung ist nicht ein Produkt, sondern eine Folge aus Diagnose, Architektur, Bau und Übergabe. Drei Variablen verschieben jedes Budget um den Faktor 3–10:
- Daten-Reife. Saubere strukturierte Daten in einer Datenbank vs. PDFs in einem SharePoint-Ordner sind ein Faktor 4 in der Aufwandsschätzung.
- Integrations-Tiefe. „Standalone-Chatbot" vs. „Bot, der Termine im Outlook bucht, Kunden im CRM updated und Rechnungen in DATEV vorbereitet" sind eine andere Welt.
- Compliance-Anforderungen. Konsumprodukt vs. BaFin-regulierter Finanzdienstleister sind nicht der gleiche Build.
Wer eine Pauschalzahl nennt, ohne diese drei Variablen zu kennen, hat entweder ein Standard-Produkt im Sinn (was selten passt) oder verkalkuliert sich (was später teuer wird).
Die vier Kostenblöcke
Jede ehrliche KI-Implementierung zerfällt in vier Blöcke. Die Bandbreiten unten gelten für ein typisches Mittelstands-Projekt mit 50–500 Mitarbeitern.
| Block | Was | Bandbreite | Dauer |
|---|---|---|---|
| 1. Potenzial-Analyse | Diagnose-Dokument: wo lohnen sich KI-Hebel, wo nicht, mit ROI-Schätzung pro Initiative | 4.500 – 9.500 € | 3 Wochen |
| 2. Lösungs-Plan | Architektur, Tech-Stack-Auswahl, Aufwandsschätzung, Risiko-Matrix | 3.500 – 7.500 € | 2–3 Wochen |
| 3. Bau & Integration | Eigentliche Implementierung, Tests, Anbindung an bestehende Tools | 12.000 – 240.000 € | 8–24 Wochen |
| 4. Schulung & 90-Tage-Support | Team-Training, Dokumentation, Bug-Fix-Garantie | 2.500 – 6.500 € | 1–2 Wochen + 90 Tage |
Block 1 und 2 zusammen kosten typisch 8.000 – 17.000 € und sind die wichtigste Investition: Sie erlauben Ihnen, vor Block 3 eine fundierte Entscheidung zu treffen — und gegebenenfalls zu sagen „nein, doch nicht". Das ist die ehrliche Variante. Die unehrliche springt direkt in Block 3, baut auf Annahmen und schickt am Ende eine Rechnung über das Doppelte.
Bandbreiten nach Projekttyp
Konkreter — was kosten typische Bauformen insgesamt (alle vier Blöcke), bei sauberer Daten-Lage und mittlerer Integrations-Tiefe?
Typ A: KI-Chatbot für Standard-Kundenanfragen
Auf der Website oder im Messenger, mehrsprachig (DE/EN/HU), mit RAG aus Ihrer Dokumentbasis (FAQ, Handbücher, Verträge), Übergabe an Mitarbeiter bei komplexen Fällen.
Gesamtkosten typisch: 22.000 – 45.000 € · 12–16 Wochen.
Hosting+Laufkosten: 80–250 €/Monat (LLM-API + Vector-DB + Hosting).
Typ B: Voice-Agent für eingehende Telefon-Anrufe
Termine vereinbaren, Lead qualifizieren, First-Level-Support — auch nachts und am Wochenende. Mit CRM-Anbindung, Mensch-Übergabe bei Eskalation.
Gesamtkosten typisch: 28.000 – 65.000 € · 14–22 Wochen.
Hosting+Laufkosten: 0,12–0,28 €/Anruf-Minute (Voice-Provider + LLM + Telefonie).
Typ C: Workflow-Automatisierung über Tool-Landschaft
Bestehende Tools (CRM, E-Mail, Kalender, Buchhaltung, Datenbanken) verbunden in eine zentrale Schaltstelle via n8n / Make / Custom-API-Layer. Hunderte Stunden manueller Arbeit pro Monat zurück.
Gesamtkosten typisch: 18.000 – 80.000 € · 6–18 Wochen.
Hosting+Laufkosten: 25–180 €/Monat (Self-hosted n8n auf Hetzner / Make Pro / API-Calls).
Typ D: Internes RAG-System auf Wissensbasis
SharePoint, Confluence, Drive, Verträge, Policies — natürlichsprachliche Suche mit Quellenangabe. Antworten in Sekunden statt Stunden im Ordner-Dschungel.
Gesamtkosten typisch: 24.000 – 80.000 € · 10–20 Wochen.
Hosting+Laufkosten: 60–400 €/Monat (Embeddings + Vector-DB + LLM-API), je nach Datenmenge.
Typ E: Komplettes Multi-Agent-System für komplexe Branchen
Mehrere KI-Agenten, die zusammenarbeiten — z. B. ein System, das eingehende Mails klassifiziert, antwortet wo möglich, an den richtigen Mitarbeiter routet wo nötig, und Folge-Aktionen in CRM/ERP/Buchhaltung anstößt.
Gesamtkosten typisch: 80.000 – 280.000 € · 18–36 Wochen.
Hosting+Laufkosten: 250–1.200 €/Monat.
Die ehrlichste Faustregel: Block 1 + 2 kosten zusammen 5–8 % des Gesamtbudgets eines mittleren Projekts. Wer diese 5–8 % spart, spart sich nicht 5–8 % — er spart sich die Klarheit darüber, ob das Projekt überhaupt sinnvoll ist. — Eigene Beobachtung, Mandate 2024–2026
Versteckte Posten
Fünf Kostenblöcke, die in 80 % der Angebote fehlen — und am Ende doch anfallen. Wenn Sie ein Angebot evaluieren, fragen Sie explizit nach diesen Punkten:
- Daten-Aufbereitung. PDFs ins Vector-DB einlesen, Sharepoint-Berechtigungen sortieren, alte Excel-Tabellen normalisieren. Realistisch: 1.500–8.000 € Aufwand. Wird oft als „macht der Kunde selbst" deklariert — was nie funktioniert.
- Integrations-Lizenzen. Ihre Software-Anbieter (CRM, Telefonie, ERP) verlangen oft API-Zugang in höheren Tarifen. Aufschlag: 30–250 €/Monat zusätzlich.
- DSGVO-Konformität. AVV / DPA mit dem Modell-Anbieter (OpenAI, Anthropic, Mistral), Daten-Schutz-Folgenabschätzung, ggf. Auditierung. Einmalig 1.000–4.000 €, plus interner Aufwand.
- Schulung über das Initialteam hinaus. Was passiert, wenn der Mitarbeiter, der das System bedient, das Unternehmen verlässt? Playbooks und Onboarding-Doku für Nachfolger: 800–2.500 € einmalig.
- Modell-Wechsel. Sie bauen mit GPT-4o-mini. In 14 Monaten ist das obsolet. Migrationsaufwand auf den Nachfolger: typisch 10–25 % des ursprünglichen Build-Aufwands. Das ist nicht „Wartung" — das ist eine separate Investition.
Ein guter Implementierungspartner adressiert diese fünf Posten vor dem Vertragsabschluss schriftlich. Wenn das Angebot dazu schweigt, fragen Sie nach. Schweigt der Anbieter weiter — wechseln Sie den Anbieter.
EU AI Act: Was 2026 anders ist
Der EU AI Act ist seit August 2024 in Kraft, die wichtigsten Pflichten für GPAI- und High-Risk-Systeme greifen seit August 2025 bzw. August 2026. Für den Mittelstand bedeutet das konkret:
- Klassifizierung Ihrer KI-Anwendung. Niedriges Risiko (Chatbot ohne Entscheidungsbefugnis) vs. Hohes Risiko (Entscheidungs-Unterstützung im HR oder Kreditvergabe). Aufwand: 1–3 Tage Beratung.
- Transparenz-Pflichten. Nutzer müssen wissen, dass sie mit KI interagieren. Das ist ein Satz im UI — kein Kostenfaktor, aber muss im Bau berücksichtigt werden.
- Logging & Audit-Trail. Für High-Risk-Systeme: jede Entscheidung muss reproduzierbar sein. Build-Aufwand: +15–30 % auf Block 3.
- Menschliche Aufsicht. Kein vollautonomes Handeln in regulierten Bereichen. Eskalations-Pfade müssen designed sein.
- GPAI-Provider-Pflichten. Wenn Sie ein eigenes Foundation-Modell trainieren — wahrscheinlich nicht relevant für Sie — gelten zusätzliche Dokumentations-Pflichten.
Für ein typisches Mittelstands-Projekt (Chatbot, Voice-Agent, Workflow-Automation) sind die EU-AI-Act-Mehrkosten moderat: 800–3.500 € für Klassifizierung + Transparenz, plus ggf. 15–30 % Aufwandsaufschlag auf Block 3 wenn High-Risk.
Wann es sich nicht lohnt
Eine KI-Implementierung lohnt sich nicht, wenn mindestens einer dieser Punkte zutrifft:
- Sie haben kein wiederkehrendes Volumen. Wenn Sie 4 Kundenanfragen pro Tag bekommen, brauchen Sie keinen Chatbot — Sie brauchen einen besseren Mitarbeiter.
- Ihre Daten sind inkonsistent und niemand hat Zeit, sie aufzuräumen. Ein RAG-System auf chaotischen Daten produziert chaotische Antworten — und wird vom Team nicht mehr genutzt.
- Es gibt keinen Sponsor in der Geschäftsführung. KI-Projekte brauchen Entscheidungs-Geschwindigkeit. Ohne klaren Sponsor versanden sie in der Mittelschicht.
- Der Use-Case ist ein „Wir müssten auch mal was mit KI machen". Diese Projekte scheitern zu 90 %. Starten Sie mit einem konkreten Schmerzpunkt — nicht mit einer Lösung auf der Suche nach einem Problem.
- Die ROI-Schätzung kommt unter 3:1 in 18 Monaten. Drunter macht es operativ keinen Sinn — der Wartungsaufwand frisst den Nutzen auf.
Fazit · Faustregeln
Wenn Sie aus diesem Artikel drei Sätze mitnehmen, dann diese:
- Investieren Sie in Klarheit, bevor Sie in Build investieren. 8.000–17.000 € für Potenzial-Analyse + Lösungs-Plan sind die beste Investition, die Sie machen können — auch wenn das Ergebnis ist „dieses Projekt lohnt sich nicht".
- Verlangen Sie Transparenz über die fünf versteckten Posten. Daten-Aufbereitung, Integrations-Lizenzen, DSGVO-Aufwand, Schulung, Modell-Wechsel. Wer dazu nicht schreibt, verbirgt etwas.
- Beurteilen Sie KI-Projekte mit dem 3:1-in-18-Monaten-Filter. Wenn der ROI darunter fällt, ist es vermutlich kein Projekt, sondern ein Ablenkungsmanöver vom eigentlichen Geschäft.
Ehrliche KI-Implementierung ist nicht billig. Aber sie ist berechenbar — wenn man die Frage richtig stellt.