KI-Entwicklung für Unternehmen in München: von der Idee bis zum produktiven Betrieb

Was ist ein KI-Agent?

Ein KI-Agent ist ein Programm, in dem ein Sprachmodell nicht nur Text erzeugt, sondern selbst entscheidet, welcher Schritt als Nächstes kommt. Er erhält ein Ziel und eine Liste erlaubter Werkzeuge, etwa eine Suche, eine Schnittstelle oder ein Skript. Dann arbeitet er in einer Schleife: planen, Werkzeug aufrufen, Ergebnis prüfen, weitermachen oder aufhören.

Ein LLM-Workflow ist dagegen eine fest programmierte Kette. Die Reihenfolge der Schritte legen Entwickler fest, das Modell übernimmt nur einzelne Schritte, zum Beispiel „einordnen“ oder „zusammenfassen“. Der Unterschied klingt klein, verändert aber Kosten, Testbarkeit und Risiko: Ein Workflow macht bei gleicher Eingabe weitgehend dasselbe, ein Agent braucht für dieselbe Aufgabe mal wenige, mal deutlich mehr Schritte.

Wann ein einfacher LLM-Workflow reicht

Viele KI-Anforderungen im Unternehmen lassen sich als Workflow lösen: eine Anfrage klassifizieren und weiterleiten, ein Dokument zusammenfassen, Felder aus einem Formular übernehmen, eine Frage mit Quellen aus freigegebenen Dokumenten beantworten. Auch ein RAG-Assistent ist im Kern ein Workflow aus Suchen, Kontext übergeben und Antworten. Einen solchen Assistenten bauen wir als internen KI-Chatbot mit Quellenangabe. Wie das Retrieval dabei funktioniert und worin es sich von Fine-Tuning unterscheidet, erklärt unser Artikel KI mit eigenen Daten nutzen.

Wann ein Agent sinnvoll ist

Ein Agent lohnt sich, wenn alle vier Bedingungen erfüllt sind:

• Der Lösungsweg hängt vom Einzelfall ab und lässt sich nicht als feste Kette beschreiben.
• Das Ergebnis ist prüfbar, durch automatische Tests, eine Validierung gegen Stammdaten oder eine Freigabe.
• Die Werkzeuge lassen sich eng begrenzen, und jede Aktion wird protokolliert.
• Ein Fehlschritt lässt sich korrigieren, bevor er nach außen wirkt.

Die Erfahrung, auf die wir uns bei Agenten stützen, stammt aus der Softwareentwicklung. In einem Projekt unseres Gründers bei einem Premium-Automobilhersteller (nicht im Auftrag von Amperbytes AI) wurden Coding-Agenten in die Build-Pipelines integriert. Sie kamen zuerst bei unstrittigen Aufgaben zum Einsatz: Tests, Boilerplate-Code und Pipeline-Automatisierung. Bewertet wurden sie auf echten Tickets einschließlich der Fehlschläge, und für ihre Ergebnisse galt derselbe Review- und Teststandard wie für jeden anderen Code. Das Muster lässt sich übertragen: Agenten zuerst dort, wo ein Ergebnis automatisch prüfbar ist. Wie wir Entwicklerteams dabei unterstützen, beschreibt Softwareentwicklung mit KI.

Workflow und Agent im Vergleich

Unsere Faustregel: mit dem Workflow beginnen, messen und nur die Schritte an einen Agenten übergeben, bei denen die feste Kette nachweislich nicht reicht.

Wo die KI läuft: EU-Cloud, lokale KI oder hybrid

• Modell-API in einer EU-Region eines großen Cloud-Anbieters. Schnellster Start ohne eigene Recheninfrastruktur. Auftragsverarbeitung und den Ausschluss Ihrer Daten vom Modelltraining sollten Sie vertraglich festhalten; wir prüfen die Bedingungen des jeweiligen Anbieters vor dem Start. Oft der pragmatische Weg.
• Open-Weights-Modell in Ihrer Umgebung. Open-Weights-Modelle sind Sprachmodelle, deren trainierte Gewichte zum Herunterladen veröffentlicht sind (Lizenzbedingungen beachten) und die sich auf eigener Hardware oder in einer eigenen Cloud-Umgebung betreiben lassen. Personenbezogene Daten bleiben in Ihrer Umgebung. Betrieb, Updates und Rechenkapazität liegen dann bei Ihnen oder einem Dienstleister. Ob die Antwortqualität für Ihren Fall reicht, zeigt erst das Test-Set.
• Hybrid. Sensible Schritte, etwa das Auslesen personenbezogener Unterlagen, laufen intern, allgemeine Schritte über die API.

Weil wir die Modellanbindung in einem eigenen Service kapseln, lässt sich die Variante später wechseln, ohne die Anwendung umzubauen.

Welche Variante datenschutzrechtlich passt, hängt vom Einzelfall ab. Die wichtigsten Punkte fasst der Artikel DSGVO-konforme LLM-Integration zusammen.

Typische Fehler

• Einen Agenten bauen, bevor der einfache Workflow gemessen ist.
• Kein Schritt- und kein Kostenlimit: Ein Agent in einer Schleife verursacht Kosten ohne Ergebnis.
• Kosten pro Antwort erst nach dem Go-Live messen statt schon im Pilot.
• Das Modell fest verdrahten, statt die Anbindung zu kapseln. Ein Anbieterwechsel wird dann zum Umbau.