KI im Mittelstand: Wissen, das nicht in Rente geht.
Künstliche Intelligenz trägt dort, wo sie auf echtes Wissen zugreift. Genau daran fehlt es in den meisten Unternehmen. Wir bauen aus Ihren verstreuten Unterlagen eine durchsuchbare Wissensbasis auf. DSGVO-konform und in Ihrer Datenhoheit. Ihr Team bekommt dann Antworten, statt Kollegen zu suchen.
Warum KI-Projekte im Mittelstand am Wissen scheitern, nicht an der Technik.
Die Werkzeuge sind da. Sie sind auch gut. Was fehlt, ist die Grundlage, auf welcher sie arbeiten könnten. Eine geordnete und zugängliche Wissensbasis findet sich in den wenigsten Unternehmen. Zudem läuft die Zeit. Das Wissen, um welches es geht, hängt an Menschen. Diese gehen in den nächsten Jahren in den Ruhestand.
„Organisatorisches Wissen ist mehr als Dokumente, es ist die Struktur, mit der ein Unternehmen überhaupt erst neues Wissen bilden kann. Genau diese Struktur muss erhalten bleiben, nicht nur einzelne Fakten.“
Thomas Fromm, aus seiner Masterarbeit zur theoretischen Fundierung des Wissensmanagements
13,3 Mio.Erwerbspersonen in Deutschland überschreiten bis 2040 die Regelaltersgrenze von 67 Jahren. Mit ihnen gehen Jahrzehnte an Erfahrungswissen.Statistisches Bundesamt, Juni 2026
10,0 Mio.Erwerbstätige sind zwischen 55 und 64 Jahre alt, die stärkste Altersgruppe am deutschen Arbeitsmarkt.Statistisches Bundesamt, Mikrozensus 2025
41 %der Unternehmen ab 20 Beschäftigten setzen KI bereits ein. Weitere 48 % planen oder diskutieren den Einsatz. Wer ohne Struktur startet, digitalisiert jedoch vor allem die eigene Unordnung.Bitkom Research, Anfang 2026
An dieser Lücke arbeiten wir. Welches KI-Werkzeug das beste ist, entscheidet sich später. Zuerst ist zu klären, worauf es in Ihrem Haus überhaupt zugreifen soll.
Leistungen
KI-Beratung für den Mittelstand: drei Wege, Wissen zu sichern.
Theorie, Technik und Vermittlung greifen ineinander. Wo wir beginnen, hängt davon ab, wo Ihr Unternehmen steht. Ist ein Schritt noch nicht sinnvoll, sagen wir das ausdrücklich.
Fundament
Wissensbasis und Wissensmanagement mit KI aufbauen
Zuerst klären wir, welches Wissen im Unternehmen wirklich trägt. Wer hält es? Wie hängt es zusammen? Erst darauf baut die technische Struktur auf, welche eine KI durchsuchbar macht. Software kommt danach. Genau darin liegt der Unterschied zwischen einem Werkzeug, welches Ihr Team benutzt, und einem, welches nach drei Monaten verwaist.
Wissensträger-Analyse. Wer trägt welches kritische Wissen? Wie dringend ist es zu sichern?
Strukturaufbau. Aus verstreuten Dokumenten, Erfahrungen und Prozessen wird eine durchsuchbare Wissensbasis.
KI-gestützte Erschließung. Neues Wissen wird gespeichert. Gefunden und verknüpft wird es ebenfalls.
Wissenstransfer vor dem Ruhestand. Die Übergabe erfolgt strukturiert, solange die Person noch im Haus ist.
Technik
Corporate LLM: die firmeneigene KI
Ein firmeneigenes Sprachmodell muss selten von Grund auf trainiert werden. Meist genügt ein bestehendes Modell mit gesichertem Zugriff auf Ihre eigene Wissensbasis. Technisch geschieht das über ein RAG-System. Die Architektur wählen wir nach Ihrem Schutzbedarf. Das reicht vom EU-gehosteten Dienst bis zum Modell im eigenen Rechenzentrum.
Architekturwahl. Bestehendes Modell mit eigener Wissensbasis, EU-Hosting oder Betrieb im eigenen Haus.
Anbindung an Ihre Systeme. Antworten beruhen dann auf echten und aktuellen Unternehmensdaten. Geraten wird nicht.
Nachvollziehbarkeit. Jede Antwort verweist auf ihre Quelle. Somit entsteht Vertrauen statt Rätselraten.
Rechte und Rollen. Über die KI sieht niemand mehr, als er ohne sie sehen dürfte.
Vermittlung
KI-Seminare und Schulungen für Mitarbeiter
Die beste Struktur nützt nichts, wenn niemand sie nutzt. Hinzu kommt eine Pflicht. Seit dem 2. Februar 2025 verlangt Artikel 4 der KI-Verordnung von jedem Unternehmen ausreichende KI-Kompetenz seiner Beschäftigten. Rainer Baber schult seit 1998 Erwachsene in neuen Themen. Jetzt angewandt auf den sicheren Umgang mit KI im eigenen Unternehmen. Ein Werkzeugkatalog wird dabei ausdrücklich nicht abgearbeitet. Geübt wird an den Aufgaben, welche Ihre Leute tatsächlich vor sich haben.
Einstiegsseminare. Vorwissen wird nicht vorausgesetzt. Berührungsängste werden abgebaut, nicht übergangen.
Vertiefung für Führungskräfte. KI-Einsatz wird strategisch entschieden, nicht experimentell.
Schulung zur KI-Kompetenz. Der EU AI Act erwartet diese von Unternehmen. Wir dokumentieren sie nachweisbar.
Präsenz, online oder gemischt. In der Region Stuttgart und im gesamten deutschsprachigen Raum.
Alle Formate im Überblick finden Sie auf der Seite zu den KI-Seminaren, inklusive Nachweisführung nach Art. 4 EU AI Act.
Anwendungsfälle
Wo KI im Mittelstand heute schon trägt.
KI im Unternehmen einzuführen heißt nicht, alles gleichzeitig umzustellen. Gesucht wird ein Bereich, in welchem täglich nach Wissen gefragt wird. Dort wird angefangen. Diese Anwendungsfälle begegnen uns am häufigsten.
Angebote und Ausschreibungen
Früher waren dafür drei Kollegen zu fragen. Jetzt sind frühere Angebote, Kalkulationsgrundlagen und Sonderfälle in Sekunden auffindbar. Die Quelle steht dabei.
Service und Instandhaltung
Fehlerbilder, Reparaturhistorien und die Erfahrung langjähriger Techniker werden abrufbar. Mit dem Ausscheiden einzelner Personen verschwinden sie somit nicht mehr.
Einarbeitung neuer Mitarbeiter
Neue Kolleginnen und Kollegen fragen zuerst die Wissensbasis. Erst danach unterbrechen sie jemanden. Die Einarbeitungszeit sinkt. Die Güte der Antworten bleibt gleich.
Qualitätsmanagement und Audits
Verfahrensanweisungen, Prüfprotokolle und Nachweise sind auffindbar. Ordnerstrukturen, welche nur eine Person versteht, verlieren ihre Bedeutung. Die Audit-Vorbereitung wird zur Recherche statt zur Suche.
Vertrieb und Kundenhistorie
Was mit einem Kunden über Jahre besprochen, zugesagt und gelöst wurde, steht dem gesamten Team zur Verfügung. Nicht nur dem Betreuer, welcher gerade im Urlaub ist.
Verwaltung und Dokumente
Verträge, Richtlinien und interne Regelungen werden beantwortbar. Die Auskunft verweist auf die geltende Fassung. Ein Hinweis auf das Intranet genügt nicht mehr.
Erkennen Sie Ihr Unternehmen in einem dieser Punkte wieder? Dann ist der nächste Schritt ein kostenloses Erstgespräch. Darin sprechen wir genau diesen Bereich durch.
RAG-Systeme
RAG-Systeme: die KI antwortet aus Ihren eigenen Unterlagen.
Ein Sprachmodell weiß nichts über Ihr Unternehmen. Es kennt weder Ihre Verfahrensanweisungen noch Ihre Wartungsberichte. Gefragt wird es trotzdem danach. Dann erfindet es eine Antwort, welche plausibel klingt und falsch ist.
RAG löst genau dieses Problem. Dabei handelt es sich um ein Verfahren, bei dem die KI vor jeder Antwort in Ihren eigenen Dokumenten sucht. Gefunden wird der passende Abschnitt. Erst daraus formuliert das Modell seine Antwort. Die Quelle wird mitgeliefert.
Somit bleiben Ihre Unterlagen dort, wo sie sind. Ein Training des Modells mit Ihren Daten ist nicht erforderlich. Für den Datenschutz ist das der entscheidende Unterschied.
Dokumente erschließenIhre Dateien werden in sinnvolle Abschnitte zerlegt und durchsuchbar gemacht. Dabei bleiben die bestehenden Zugriffsrechte erhalten. Wer eine Datei heute nicht sehen darf, bekommt sie auch über die KI nicht.
Antwort mit QuellenangabeJede Antwort verweist auf den Abschnitt, aus welchem sie stammt. Nachprüfbar mit einem Klick. Damit lässt sich eine Auskunft belegen, statt ihr vertrauen zu müssen.
Aktualität ohne NachtrainingEin geändertes Dokument wirkt sofort. Ein nachtrainiertes Modell müsste dafür erneut trainiert werden. Genau hier liegt der praktische Vorteil im Alltag.
Betrieb in Ihrer HoheitJe nach Schutzbedarf läuft das System bei einem EU-Anbieter oder vollständig in Ihrer eigenen Umgebung. Ihre Dokumente verlassen das Haus in keinem der beiden Fälle zum Training eines fremden Modells.
Messbare GüteWir prüfen das System mit echten Fragen aus Ihrem Haus, nicht mit Beispielfragen. Erst wenn die Antworten belastbar sind, geht es in den Regelbetrieb.
Die Grenze wird benanntWo die Wissensbasis nichts hergibt, soll das System das sagen. Eine erfundene Antwort ist schlimmer als keine. Das gehört zur Auslegung dazu und wird ausdrücklich geprüft.
Jedoch ist RAG kein Selbstläufer. Die Güte der Antworten hängt vollständig an der Güte Ihrer Dokumente. Wo Verfahrensanweisungen veraltet sind, antwortet auch das beste System veraltet. Deshalb beginnen wir mit der Wissensbasis und nicht mit der Technik. Empfehlenswert ist der Start mit einem abgegrenzten Bereich, in dem täglich gesucht wird. Ein erster nutzbarer Stand ist dann in wenigen Wochen erreichbar. Sprechen Sie uns an, dann klären wir im Erstgespräch, welcher Bereich sich bei Ihnen anbietet.
Datenschutz & EU AI Act
DSGVO-konforme KI: Datenhoheit ist kein Nachgedanke.
Die häufigste Frage im Mittelstand lautet nicht, was KI kann. Gefragt wird, ob man das überhaupt darf. Thomas Fromm arbeitet als Konzerndatenschutzbeauftragter. Er bewertet KI-Systeme datenschutzrechtlich, auch in komplexen Konzernstrukturen. Diese Sicht steckt bei uns in der ersten Architekturentscheidung. Ans Ende des Projekts gehört sie ausdrücklich nicht.
Rechtsgrundlage vor WerkzeugwahlZuerst wird geklärt, welche personenbezogenen Daten überhaupt in die Wissensbasis gehören. Danach folgt die Rechtsgrundlage. Vieles, was Unternehmen für ein Problem halten, löst sich bereits durch eine saubere Abgrenzung.
Verarbeitung in der EU oder im eigenen HausJe nach Schutzbedarf verlassen Ihre Daten die EU nicht. Alternativ läuft das Modell vollständig in Ihrer eigenen Umgebung. Der Drittlandtransfer ist damit kein Dauerthema mehr.
Datenschutz-FolgenabschätzungWo eine DSFA erforderlich ist, führen wir sie durch. Umgangen wird sie nicht. Ihre Geschäftsführung erhält damit eine dokumentierte Entscheidungsgrundlage statt eines Bauchgefühls.
Verzeichnis der VerarbeitungstätigkeitenJedes eingeführte KI-System wird dokumentiert und in Ihr bestehendes Verzeichnis aufgenommen. Die Auftragsverarbeitungsverträge mit den beteiligten Anbietern gehören dazu.
EU AI Act: Einstufung und PflichtenWir erstellen eine Übersicht Ihrer KI-Anwendungen mit der jeweiligen Risikoeinstufung. Dazu kommen die daraus folgenden Pflichten. Das reicht von der Transparenz gegenüber Beschäftigten bis zur nachweisbaren KI-Kompetenz.
Mitbestimmung und AkzeptanzWo ein Betriebsrat zu beteiligen ist, bereiten wir die Unterlagen für eine sachliche Entscheidung auf. Ein KI-Projekt, welches an der Belegschaft vorbei eingeführt wird, scheitert später teurer.
Ablauf
Vom verstreuten Wissen zur verbundenen Struktur, in vier Schritten.
So läuft ein KI-Projekt im Mittelstand bei uns ab. Von der ersten Frage bis zu dem Punkt, an welchem Ihr Team ohne uns weiterarbeitet.
Wir beginnen mit einem Gespräch, nicht mit einem Werkzeug.
Zuerst ist zu klären, welches Wissen zählt und wer es trägt. Erst danach entscheidet sich der richtige erste Schritt. Das kann eine Wissensbasis sein, ein Corporate LLM oder zunächst ein Seminar. Das Erstgespräch ist kostenlos und unverbindlich.
Wir klären, welches Wissen am dringendsten zu sichern ist. Unverbindlich und kostenlos. Kommt ein KI-Projekt bei Ihnen noch zu früh, erfahren Sie das ausdrücklich.
02
Wissensanalyse
Wir ermitteln die Wissensträger und die Struktur, in welcher ihr Wissen tatsächlich steht. Oder eben nirgends steht. Ergebnis ist eine Prioritätenliste. Ein Gutachten zum Ablegen entsteht dabei nicht.
03
Aufbau und Anbindung
Wissensbasis, Corporate LLM oder beides. Datenschutzrechtlich abgesichert und so umgesetzt, dass Ihr Team es tatsächlich benutzt. Begonnen wird bewusst mit einem Bereich, nicht mit allen.
04
Seminare und Übergabe
Ihr Team lernt den Umgang mit der neuen Struktur, bis diese ohne uns weiterläuft. Dokumentation, Rollen und Zuständigkeiten bleiben bei Ihnen im Haus.
Das Team
Zwei Perspektiven, ein Fundament.
Wissensmanagement ist Theorie und Praxis zugleich. Beides braucht seinen eigenen Fachmann. Sie sprechen bei uns direkt mit den beiden Personen, welche das Projekt auch durchführen.
Die Theorie
Thomas Fromm
Dipl.-Betriebswirt (FH), Master of Computer Science, Master of Information Technology
Seine Masterarbeit zur theoretischen Fundierung des Wissensmanagements schloss er als Semesterbester ab. Was dort als Theorie begann, setzt er seither in der Praxis um. Dazu gehören IT-Infrastruktur, Datenschutz und, mit dieser GbR, der Einsatz von KI zur Sicherung organisatorischen Wissens. Als Konzerndatenschutzbeauftragter berät er seit 2017 Unternehmen bis hin zu komplexen Konzernstrukturen. Eine Vielzahl von KI-Werkzeugen hat er dabei datenschutzrechtlich bewertet.
Wissensmanagement, Master-Thesis
Konzerndatenschutzbeauftragter
IT-Infrastruktur & Systeme
DSGVO, DSFA & EU AI Act
Die Vermittlung
Rainer Baber
Magister Artium, Allgemeine Rhetorik, Universität Tübingen
Seit 1998 freiberuflicher Berater, Trainer und Coach. Über 1000 durchgeführte Seminare, mehr als 10.000 geschulte Teilnehmer. Sein Studienschwerpunkt lag früh auf der Erwachsenenbildung. Genau diese Fähigkeit entscheidet, ob ein neues Werkzeug im Alltag ankommt oder ungenutzt bleibt. In KI-Seminaren übersetzt er Technik in Handgriffe, welche am nächsten Arbeitstag funktionieren.
Erwachsenenbildung seit 1998
BDVT-zertifizierter Trainer
1000+ Seminare und Vorträge
10.000+ Teilnehmer
Einzugsgebiet
KI-Beratung in der Region Stuttgart und darüber hinaus.
Unser Sitz ist Neuhausen auf den Fildern, zwischen Stuttgart und Esslingen. Flughafen und Messe sind wenige Minuten entfernt. Für mittelständische Unternehmen in der Region heißt das kurze Wege. Wir sind persönlich vor Ort, beim ersten Termin ebenso wie bei Workshops und Seminaren in Ihren eigenen Räumen.
Außerhalb der Region arbeiten wir hybrid. Wissensanalyse und technische Umsetzung laufen weitgehend aus der Ferne. Seminare und die entscheidenden Workshops führen wir jedoch bei Ihnen vor Ort durch, im gesamten deutschsprachigen Raum.
Stuttgart
Esslingen am Neckar
Filderstadt
Ostfildern
Leinfelden-Echterdingen
Böblingen & Sindelfingen
Reutlingen
Tübingen
Göppingen
Kirchheim unter Teck
Ludwigsburg
Region Stuttgart
Standort
KI Wissen Beratung GbR
Schloßstraße 25
73765 Neuhausen auf den Fildern
Baden-Württemberg, Deutschland
Was Unternehmen uns als Erstes fragen, bevor sie ein KI-Projekt starten.
Die Größe entscheidet weniger als die Wissensdichte. Sobald einzelne Personen Wissen halten, welches sonst niemand hat, lohnt sich die Sicherung. Das gilt auch bei 20 Beschäftigten. Ab etwa 50 Mitarbeitenden kommt ein zweiter Effekt hinzu. Dann gehen Informationen über Abteilungsgrenzen hinweg verloren. Der erste Schritt bleibt in beiden Fällen derselbe. Zuerst ist zu klären, welches Wissen wirklich trägt.
Das Erstgespräch ist kostenlos und unverbindlich. Danach richtet sich der Aufwand nach dem Umfang. Eine Wissensanalyse ist ein überschaubares Projekt von wenigen Tagen. Der Aufbau einer Wissensbasis mit angebundenem Corporate LLM ist deutlich umfangreicher. Den Rahmen nennen wir, bevor Kosten entstehen. Auf Wunsch prüfen wir zudem, ob eine Förderung für Ihr Vorhaben infrage kommt.
Nicht bei der Software. Zuerst ist zu klären, welches Wissen im Unternehmen entscheidend ist und wer es aktuell trägt. Erst danach folgt die passende Struktur, mit oder ohne KI. Ein Werkzeug, welches auf ungeklärte Strukturen gesetzt wird, macht die Unordnung nur schneller durchsuchbar.
Selten von Grund auf. In den meisten Fällen genügt ein bestehendes Sprachmodell mit Zugriff auf Ihre eigene Wissensbasis. Sicher und nachvollziehbar. Ein eigens trainiertes Modell prüfen wir nur, wenn der Fall es rechtfertigt. Das kann bei stark spezialisiertem Fachvokabular der Fall sein oder bei besonderen Anforderungen an die Betriebsumgebung.
RAG steht für Retrieval Augmented Generation. Dabei handelt es sich um ein Verfahren, bei welchem die KI vor jeder Antwort in Ihren eigenen Dokumenten sucht. Erst aus dem gefundenen Abschnitt wird formuliert. Die Quelle wird mitgeliefert. Somit antwortet das System auf Grundlage Ihrer Unterlagen statt aus allgemeinem Trainingswissen. Erfundene Antworten werden dadurch deutlich seltener. Jede Auskunft lässt sich nachprüfen.
Beim Training werden Ihre Daten in das Modell eingearbeitet. Bei RAG bleiben sie in Ihrem Dokumentbestand und werden nur zur Laufzeit gelesen. Das hat drei praktische Folgen. Ein geändertes Dokument wirkt sofort, ein trainiertes Modell müsste dafür erneut trainiert werden. Die Zugriffsrechte bleiben erhalten, weil die Suche sie berücksichtigt. Zudem ist die datenschutzrechtliche Lage deutlich einfacher, da keine personenbezogenen Daten dauerhaft in ein Modell einfließen. Ein eigens trainiertes Modell prüfen wir deshalb nur, wenn der Fall es wirklich rechtfertigt.
Ja, wenn Zweck, Rechtsgrundlage und Datenfluss vorher geklärt sind. Wir prüfen, welche personenbezogenen Daten überhaupt in die Wissensbasis gehören. Danach wählen wir Betriebsmodelle mit Verarbeitung in der EU oder im eigenen Haus. Die Auftragsverarbeitung wird geregelt und das Ergebnis im Verarbeitungsverzeichnis dokumentiert. Wo eine Datenschutz-Folgenabschätzung nötig ist, führen wir sie durch.
Der EU AI Act ordnet KI-Systeme nach Risiko und knüpft daran Pflichten. Für die meisten mittelständischen Anwendungen, etwa eine interne Wissenssuche, sind das vor allem zwei Dinge. Erstens Transparenz gegenüber den Beschäftigten. Zweitens der Nachweis, welche Systeme überhaupt im Einsatz sind. Wir erstellen dafür eine Übersicht Ihrer KI-Anwendungen mit der jeweiligen Risikoeinstufung und den daraus folgenden Pflichten.
Genau das ist der Kern unserer Arbeit. Wissen wird zugänglich gemacht, ohne die Kontrolle darüber zu verlieren. Wir setzen auf Architekturen, bei welchen Ihre Daten in Ihrer Hoheit bleiben. Rechte- und Rollenkonzepte stellen sicher, dass niemand über die KI mehr sieht als ohne sie. Das Ergebnis wird nachvollziehbar dokumentiert.
Das ist der Regelfall. Rainer Baber schult seit 1998 Erwachsene in neuen Themen. Die Seminare beginnen dort, wo Ihr Team tatsächlich steht. Ein vorausgesetzter Kenntnisstand ist ausdrücklich nicht erforderlich. Die Durchführung erfolgt in Präsenz, online oder gemischt.
Seit dem 2. Februar 2025 ja. Artikel 4 der KI-Verordnung verlangt von Anbietern und Betreibern ein ausreichendes Maß an KI-Kompetenz des Personals. Betreiber ist jedes Unternehmen, sobald Beschäftigte KI-Werkzeuge beruflich nutzen. Eine Unternehmensgröße ist dabei nicht vorgesehen. Ab dem 2. August 2026 übernimmt in Deutschland die Bundesnetzagentur die Marktüberwachung. Mehr dazu steht auf unserer Seite zu den KI-Seminaren.
Für einen Verstoß gegen Artikel 4 sieht die KI-Verordnung kein unmittelbares Bußgeld vor. Die im Markt oft genannten 35 Millionen Euro betreffen andere Verstöße. Dennoch ist die Pflicht ernst zu nehmen. Dabei handelt es sich um eine Organisationspflicht. Kommt es zu einem Schaden und war das Personal nicht geschult, kann das als Organisationsverschulden gewertet werden.
Ein erster nutzbarer Stand ist meist in wenigen Wochen erreichbar. Voraussetzung ist ein eng gefasster Umfang, etwa eine durchsuchbare Wissensbasis für einen Bereich. Der Ausbau über weitere Abteilungen und Datenquellen läuft danach schrittweise. Empfehlenswert ist ein kleiner, echter Anwendungsfall. Ein Großprojekt, welches erst nach einem Jahr etwas zeigt, raten wir ab.
Unser Sitz ist Neuhausen auf den Fildern, zwischen Stuttgart und Esslingen. Vor Ort sind wir regelmäßig in der Region Stuttgart, auf den Fildern, im Kreis Esslingen, in Reutlingen, Tübingen, Göppingen und Böblingen. Seminare und Projektarbeit führen wir darüber hinaus im gesamten deutschsprachigen Raum durch, in Präsenz oder online.
Schneller als die meisten Unternehmen einplanen. Nach Berechnungen des Statistischen Bundesamtes überschreiten bis 2040 rund 13,3 Millionen Erwerbspersonen in Deutschland die Regelaltersgrenze von 67 Jahren. Je früher die Struktur steht, desto mehr Wissen lässt sich noch sichern. Wissenstransfer braucht nämlich Überlappungszeit mit den Menschen, welche das Wissen halten.
Kontakt
Lassen Sie uns über Ihr Wissen sprechen.
Das Erstgespräch ist kostenlos und unverbindlich. Schreiben Sie uns kurz, worum es geht. Wir melden uns dann mit einem Terminvorschlag.