KI-Chatbot & RAG
Wir entwickeln einen KI-Chatbot für Unternehmen, der als interner Wissensassistent arbeitet. Ihre Mitarbeitenden fragen in normaler Sprache. Der Assistent sucht in Handbüchern, Prüfanweisungen, Tickets und Wikis und antwortet mit Quellenangabe. Findet er nichts Belastbares, sagt er das und leitet an eine Fachperson weiter. Wir sitzen in Olching bei München. Jeden Assistenten bauen wir mit Test-Set und Kennzahlen auf, bevor er an die ersten Nutzer geht.
Kurz gesagt
Ein RAG-Assistent (Retrieval-Augmented Generation) ist ein KI-Chatbot, der vor jeder Antwort in den freigegebenen Dokumenten eines Unternehmens sucht und nur auf dieser Grundlage antwortet. Er nennt die Quelle und beachtet die Zugriffsrechte. Anders als ein allgemeiner Chat-Assistent antwortet er aus Ihren aktuell gültigen Dokumenten. Amperbytes AI bietet die Entwicklung solcher internen Wissensassistenten für mittelständische Unternehmen an, deren Fachwissen in vielen Dokumenten verteilt ist.
Für wen
Aus der Praxis unseres Gründers: In einem Projekt bei einem Premium-Automobilhersteller, umgesetzt in verantwortlicher Rolle und nicht im Auftrag von Amperbytes AI, hat er einen LLM-Assistenten mit Retrieval über Diagnoseinhalte in Produktion gebracht. Der Assistent wurde in eine Diagnoseplattform mit über 15.000 Nutzern pro Monat integriert. Die Antwortqualität wurde dort mit definierten Kennzahlen in Grafana und Kibana überwacht.
Die Kennzahlen stammen aus Projekten, die unser Gründer in verantwortlicher Rolle bei Herstellern und Zulieferern umgesetzt hat, nicht im Auftrag von Amperbytes AI.
Leistungen im Detail
Wir binden Dokumentablagen, Wikis und Ticketsysteme über deren Schnittstellen an, dazu PDF-Handbücher, Dateiserver und Stammdaten aus Ihren Fachanwendungen. Jede Quelle bekommt einen Aktualisierungsrhythmus, jedes Dokument Version und Herkunft. Veraltete Fassungen fliegen aus dem Suchindex, statt neben der gültigen Version zu stehen und falsche Antworten zu liefern.
Der Assistent zitiert die Abschnitte, auf denen seine Antwort beruht, mit Dokumentname, Kapitel und Link zum Original. Ihre Mitarbeiter prüfen eine Aussage mit einem Klick. Anweisungen und Suchlogik sind so ausgelegt, dass er nur aus dem gefundenen Kontext antwortet und eine Frage ablehnt, wenn die Treffer nicht reichen.
Die Zugriffsrechte der Quellsysteme übernehmen wir als Filter in die Suche, nicht als nachträgliche Prüfung der fertigen Antwort. Ändern sich Rechte im Quellsystem, gleichen wir sie in einem festen Rhythmus mit dem Suchindex ab, damit entzogene Freigaben nicht im Assistenten weiterbestehen. Die Anmeldung binden wir an Ihren bestehenden Identitätsanbieter an, Protokolle bekommen feste Löschfristen.
Offene Fragen gehen als Ticket oder Nachricht an die zuständige Stelle, mit Gesprächsverlauf und den gefundenen Quellen. Die Antwort der Fachperson wird zum neuen Inhalt, damit dieselbe Frage beim nächsten Mal beantwortet werden kann. So schließt der Betrieb Lücken in der Dokumentation.
Wir bauen den Chat als eigene Web-Anwendung, als Widget im Intranet oder direkt in einer bestehenden Fachanwendung. Nutzer bewerten Antworten mit einem Klick, jede Bewertung landet mit Frage und Quellen im Monitoring. Ein Hinweis in der Oberfläche macht klar, dass eine KI antwortet und wo ihre Grenzen liegen.
Ratgeber
Ob ein Wissensassistent im Alltag hilft, entscheidet sich weniger am Sprachmodell als an zwei Fragen: Welcher Bereich ist der richtige Start, und in welchem Zustand sind die Dokumente, aus denen er antworten soll? Wie die Technik dahinter funktioniert und wann RAG besser passt als Fine-Tuning, erklären wir im Artikel KI mit eigenen Daten nutzen. Hier geht es um die Entscheidung vor dem Pilot.
Ein guter Startbereich erfüllt vier Bedingungen. Erstens wiederholen sich die Fragen: Wenn dieselben zwanzig Themen jede Woche bei denselben drei Experten landen, ist der Nutzen messbar. Zweitens steht die Antwort bereits irgendwo schriftlich. Ein Assistent findet Wissen, er erzeugt keines, das nur in Köpfen existiert. Drittens gibt es einen Verantwortlichen für die Inhalte, der falsche Antworten bewertet und Dokumente nachzieht. Viertens ist eine falsche Antwort ärgerlich, aber nicht gefährlich, solange die Quellenangabe eine schnelle Prüfung erlaubt.
| Bereich | Eignung als Start | Warum |
|---|---|---|
| Technische Dokumentation, Service-Handbücher | gut | viele wiederkehrende Fragen, klare Dokumentstruktur, Quellen leicht prüfbar |
| Qualitäts- und Verfahrensanweisungen | gut | verbindliche Versionen, feste Verantwortliche |
| Onboarding und interne Abläufe | gut | hoher Suchaufwand für Neue, geringes Fehlerrisiko |
| Vertrieb und Angebotswissen | mittel | Inhalte oft verstreut in Präsentationen, schnell veraltet |
| Personal- und Vertragsfragen | schwierig | personenbezogene Daten, Einzelfallbewertung, strenge Berechtigungen |
Beginnen Sie mit einem Bereich und einer Nutzergruppe. „Alle Dokumente für alle Mitarbeiter“ klingt nach größerem Nutzen, führt aber zu einem Index voller Widersprüche und zu einem Test-Set, das niemand abnehmen kann.
Bevor wir einen Pilot aufsetzen, gehen wir mit Ihnen diese Fragen durch. Jede Antwort mit „weiß nicht“ ist ein Arbeitspaket, kein Ausschlussgrund.
Ein RAG-Assistent beantwortet Fragen aus freigegebenen Inhalten. Er trifft keine Entscheidungen mit rechtlicher oder finanzieller Wirkung, rechnet keine Live-Kennzahlen aus, auf die er keinen Schnittstellenzugriff hat, und ersetzt keine Freigabe durch eine verantwortliche Person. Wer diese Grenzen vor dem Pilot festhält und in der Oberfläche benennt, vermeidet Enttäuschungen und Diskussionen nach dem Go-Live.
Qualität
Vorgehen
Wir klären Nutzergruppe, Quellen und Risiken. Ihr Fachbereich sammelt 50 echte Fragen mit den Antworten, die er für richtig hält.
1 bis 2 Wochen
Wir prüfen Formate, Versionen und Berechtigungen der Quellen und legen Modell, Hosting und Zielwerte fest.
1 bis 2 Wochen
Ein lauffähiger Assistent auf Ihren Inhalten, gemessen am Test-Set. Ergebnis: Zahlen für eine klare Go- oder No-Go-Entscheidung.
4 bis 6 Wochen
Schrittweise Freigabe an weitere Nutzergruppen, Monitoring, Pflege des Test-Sets und Ausbau um neue Quellen.
laufend
Vor Ort
Ein großer Teil der Arbeit an einem Wissensassistenten passiert nicht im Code, sondern mit Ihren Fachleuten: Fragen sammeln, Referenzantworten abnehmen, falsche Antworten gemeinsam durchgehen und Berechtigungen mit der IT abstimmen. Diese Termine machen wir gern vor Ort, weil ein Servicetechniker oder Qualitätsingenieur am Bildschirm schneller zeigt, welche Antwort ihm im Alltag nicht hilft. Von unserem Standort in Olching im Landkreis Fürstenfeldbruck sind Unternehmen in München und im westlichen Umland gut erreichbar. Vor-Ort-Termine vereinbaren wir nach Absprache, alles andere läuft remote.
Software und KI im Landkreis FürstenfeldbruckIhr Nutzen
Technologien und Methoden
Praxisbeispiele
Die Kennzahlen stammen aus Projekten, die unser Gründer in verantwortlicher Rolle bei Herstellern und Zulieferern umgesetzt hat, nicht im Auftrag von Amperbytes AI.
KI · Automotive
LLM-Assistent mit Retrieval (RAG) für einen Diagnose-Service auf Google Cloud, Antwortqualität per KPIs gemessen. Praxisbeispiel unseres Gründers.
Wissen
Datenschutz · 11 Min. Lesezeit
KI-Chatbot DSGVO-konform einführen: Datenflüsse, AVV, Business-Tarif oder API, LLM lokal oder EU-Cloud. Mit Go-live-Checkliste, Stand September 2026.
KI · 9 Min. Lesezeit
ChatGPT mit eigenen Daten trainieren? Warum Unternehmen meist RAG statt Fine-Tuning brauchen, wann eigene GPTs reichen und wie Zugriffsrechte greifen.
KI · 11 Min. Lesezeit
Microsoft 365 Copilot, ChatGPT Business oder eigene KI? Acht Kriterien, Entscheidungsmatrix und der MIT-Befund zu Kaufen und Bauen im Mittelstand.
KI · 9 Min. Lesezeit
RAG-Evaluation in der Praxis: welche Metriken zählen, wie Sie ein Test-Set aus echten Fragen bauen und Halluzinationen im KI-Chatbot erkennen und senken.
Häufige Fragen
Der Assistent antwortet nur auf Basis der Abschnitte, die die Suche in Ihren Dokumenten gefunden hat, und nennt diese Quellen. Reichen die Treffer nicht, ist er so eingestellt, dass er die Antwort ablehnt und weiterleitet. Ob das funktioniert, messen wir mit einem Test-Set: Wir prüfen, wie viele Aussagen einer Antwort durch die Quellen gedeckt sind (Grounding), vor dem Go-Live und danach laufend. Ganz ausschließen lassen sich falsche Antworten nicht. Deshalb steht an jeder Antwort die Quelle, und der Anteil ungedeckter Aussagen ist eine Kennzahl mit vereinbartem Grenzwert.
Nein. Der Assistent übernimmt die Zugriffsrechte der Quellsysteme und filtert schon bei der Suche. Ein Dokument, das ein Nutzer im Original nicht öffnen darf, gelangt gar nicht erst in den Kontext des Sprachmodells und kann deshalb auch nicht in einer Antwort auftauchen. Voraussetzung ist, dass die Rechte im Quellsystem korrekt gepflegt sind. Das prüfen wir im Datencheck.
Er sagt es offen und übergibt die Frage mit Verlauf und gefundenen Quellen an die zuständige Fachperson, etwa als Ticket. Deren Antwort wird als geprüfter Inhalt ergänzt. Die Eskalationsquote ist eine unserer Kennzahlen: Sinkt sie über die Monate, wird die Dokumentation vollständiger.
Kaufprodukte wie ChatGPT für Unternehmen oder Microsoft 365 Copilot lassen sich über Konnektoren ebenfalls mit Unternehmensdaten verbinden und zeigen Quellen an. Ein eigener RAG-Assistent lohnt sich, wenn Ihre Fachquellen dort nicht sinnvoll anzubinden sind, Sie Suchlogik, Antwortverhalten und Integration in Ihre Fachanwendung selbst steuern wollen und die Qualität mit Ihrem eigenen Test-Set messen möchten. Für allgemeine Büroaufgaben ist ein Kaufprodukt oft die bessere Wahl, beides schließt sich nicht aus.
Suchindex und Anwendung betreiben wir standardmäßig in einer EU-Region. Sprachmodelle nutzen wir nur mit Auftragsverarbeitungsvertrag und vertraglichem Ausschluss vom Modelltraining. Personenbezogene Daten halten wir aus dem Index heraus, soweit sie für die Antworten nicht nötig sind, und Protokolle haben feste Löschfristen. Das ist keine Rechtsberatung: Die datenschutzrechtliche Bewertung Ihres Einzelfalls nimmt Ihr Datenschutzbeauftragter oder Ihre Rechtsberatung vor.
Ja, mit denselben Bausteinen: Suche nur in öffentlich freigegebenen Inhalten, Quellenangabe und Übergabe an Ihr Serviceteam. Im Chatfenster steht ein klarer Hinweis, dass eine KI antwortet. Welche Transparenzpflichten die KI-Verordnung dafür vorsieht, fasst unser Artikel zusammen.
Vor dem Pilot vereinbaren wir mit Ihrem Fachbereich Zielwerte, etwa für die Trefferquote der Suche und die Quellentreue der Antworten. Der Pilot läuft gegen das Test-Set, erst bei erreichten Zielwerten gehen Nutzer darauf. Im Betrieb kommen Nutzerbewertungen, Eskalationsquote, Latenz und Kosten pro Antwort dazu.
Bei der Entwicklung vor allem von Anzahl und Zustand der Quellen, von der Komplexität des Berechtigungskonzepts und von der Integrationstiefe. Im Betrieb zählen die Kosten pro Antwort, die sich aus Modell, Kontextlänge und Fragen pro Tag ergeben, dazu Hosting und die Pflege des Test-Sets. Diese Kosten machen wir im Pilot messbar, bevor Sie über den Rollout entscheiden.
In der Regel nicht. Bei RAG bleibt das Modell unverändert, Ihr Wissen kommt zur Laufzeit über die Suche in den Kontext. Dadurch sind neue Dokumente nach der nächsten Indexierung verfügbar, und Antworten lassen sich auf eine Quelle zurückführen. Fine-Tuning lohnt sich nur in Sonderfällen, etwa für ein festes Ausgabeformat.
Direkter Kontakt
Sie sprechen direkt mit unserem Gründer
Gründer und Solution Architect: iSAQB CPSA · Certified ScrumMaster · M.Sc. Wirtschaftsingenieurwesen. Olching bei München, Termine vor Ort nach Absprache.
Passende Leistungen
LLM-Funktionen in bestehenden Anwendungen, KI-Agenten für mehrstufige Abläufe und ML-Features, die im Betrieb mit Kennzahlen gemessen werden.
KI-Potenzialanalyse im Workshop, Build-vs-Buy-Entscheidung und ein Pilotplan mit Messgrößen. Herstellerunabhängig, aus Olching bei München.
Interne Tools, Web-Anwendungen und Schnittstellen zu ERP und MES, die Ihren Ablauf abbilden. Dokumentiert, getestet und übergabefähig.
Bringen Sie zehn typische Fragen aus Ihrem Fachbereich mit. Im kostenlosen Erstgespräch prüfen wir, ob Ihre Dokumente sie beantworten können und wie ein Pilot aussehen würde.