KI-Pipelines
Auf Wunsch läuft alles bei Ihnen im Haus.
Wir bauen Abläufe, die eingehende Anfragen, Dokumente und Daten selbstständig bearbeiten. Diese Seite zeigt ein vollständig durchgerechnetes Beispiel: die Architektur, die Schnittstellen, den Datenschutz und die Stellen, an denen ein Mensch entscheidet.
- Betrieb im eigenen Haus oder in einem Rechenzentrum in der EU
- Die KI trifft genau eine Entscheidung, versendet werden nur freigegebene Texte
- Einschätzung zu Ihrem Vorhaben innerhalb von 24 Stunden
Was eine Pipeline eigentlich ist
Das Wort klingt technischer, als die Sache ist. Eine Pipeline ist eine Arbeitskette: etwas kommt herein, es wird der Reihe nach behandelt, und am Ende steht ein Ergebnis. Genau wie ein Ablauf, den heute ein Mensch von Hand macht.
Feste Reihenfolge
Jeder Schritt ist vorher festgelegt. Nichts geschieht auf Zuruf, und nichts wird von der KI erfunden.
KI nur dort, wo sie gebraucht wird
Wo das Sprachmodell gefragt wird, legen wir vorher fest. Oft genügt eine einzige Stelle, es können auch mehrere sein. Alles dazwischen ist gewöhnliche Programmierung, also nachvollziehbar und prüfbar.
Ein Weg für den Zweifel
Wenn etwas unklar ist, hat das einen eigenen Ausgang: eine Prüfliste, auf der ein Mensch entscheidet. Kein Raten.
Protokoll über alles
Jeder Schritt wird festgehalten. Man kann hinterher nachlesen, was passiert ist und warum.
Beispielkonzept
Eine Rechtskanzlei, die im Stoßbetrieb untergeht
Ein Beispiel, an dem sich das Muster gut zeigen lässt. Eine Kanzlei bekommt nach jeder Versandwelle eine Flut von Rückmeldungen: Fragen nach Fristen, nach dem Zahlungsstatus, nach dem Stand eines Vorgangs. Immer dieselben Fragen, immer in Wellen, und immer an ein kleines Team, das gleichzeitig die echten Sonderfälle bearbeiten muss.
Es geht hier um das Konzept, nicht um einen bestimmten Auftrag. Zahlen und Bedingungen sind Größenordnungen, an denen sich zeigt, worauf es bei so einem Aufbau ankommt.
Das Problem war nicht Komplexität
Es war Wiederholung im Stoßbetrieb. Die Fragen selbst waren einfach, es waren nur zu viele auf einmal. Genau das ist die Lage, in der sich eine Pipeline lohnt: viele gleichartige Vorgänge, klar beschreibbare Antworten.
Deshalb wird nach der Spitzenlast ausgelegt, nicht nach dem Mittelwert. Der Mittelwert unterschätzt die Belastung leicht um das Drei- bis Vierfache.
Drei Bedingungen, die es schwer machten
- Wer sich meldet, ist vorher nicht bekannt. Die Zuordnung muss also allein aus dem Inhalt der Anfrage kommen.
- Die Anfragen kamen in mehreren Sprachen. Geantwortet wird in der Sprache der Anfrage.
- Jede Bearbeitung musste prüfbar in die Fachanwendung zurückdokumentiert werden.
Das Leitprinzip
Die KI trifft genau eine Entscheidung
Sie ordnet eine eingehende Anfrage einem von rund zwanzig Standardfällen zu, die der Kunde selbst festgelegt hat. Das ist alles. Versendet werden ausschließlich Antworttexte, die der Kunde vorher freigegeben hat.
Die KI formuliert also keine eigenen Auskünfte, sie bewertet keinen Sachverhalt, und sie löst den Versand nicht selbst aus. Sie ist ein Sortierer, kein Verfasser. Diese Grenze ist der Grund, warum so ein System in einem Beruf mit Haftung überhaupt einsetzbar ist.
- Eine Aufgabe: Anfrage einem Standardfall zuordnen
- Nur freigegebene Texte gehen raus, gefüllt mit echten Falldaten
- Keine erzeugten Rechtsauskünfte, keine freien Formulierungen
- Jeden Sonderfall entscheidet ein Mensch
Warum das rechtlich trägt
In diesem Beispiel werden ausschließlich vorab freigegebene Auskunftstexte versendet, und jeden Sonderfall entscheidet ein Mensch. Unter diesen beiden Bedingungen liegt aus unserer Sicht keine automatisierte Einzelentscheidung mit Rechtswirkung im Sinne von Artikel 22 DSGVO vor.
Das ist unsere Einschätzung zu diesem Aufbau, keine Rechtsauskunft und kein Satz, der für jede Pipeline gilt. Die rechtliche Bewertung trifft der Verantwortliche, und die Verantwortung für das, was am Ende versendet wird, bleibt bei ihm.
Die Architektur
So ist das System aufgebaut
Drei Eingänge, ein Gerät, zwei Ausgänge. Die gestrichelte Umrandung ist die entscheidende Linie: alles darin läuft auf einem Rechner, der beim Kunden steht.
Woher die Anfrage kommt
- E-Mail-Postfach Microsoft 365 oder IMAP neue Anfrage
- KI-Telefonassistent Anruf wird zu Text, Übergabe per Webhook Transkript und Zusammenfassung
- Fachanwendung Ihr Bestandssystem, gelesen über eine Schnittstelle Falldaten lesen, Vorgang dokumentieren
Alles in einem Gerät, das bei Ihnen steht
Kein Datensatz verlässt Ihr Haus
-
n8n
Ablaufsteuerung, selbst betrieben
- Auslöser bei neuer Anfrage und Versand der Antwort
- Übernahme der Anrufe vom Telefonassistenten
- Auslesen der Kennungen aus dem Text
- Aufrufe an die Fachanwendung
- Verteilung und Eskalation
- KI-Agent LangGraph, leichtgewichtig und lokal. Ordnet die Anfrage genau einem der freigegebenen Standardfälle zu.
- Lokales Sprachmodell Rund 12 Milliarden Parameter, betrieben über Ollama
- Gedächtnis des Agenten PostgreSQL, hält den Kontext über einzelne Anfragen hinaus
Verarbeitung sofort oder gesammelt über Nacht
Was am Ende passiert
- Standardfall sicher erkannt Automatischer Versand Eine vorformulierte, freigegebene Antwort geht raus
- unsicher oder kein Standardfall Prüfliste für Menschen Eine Mitarbeiterin oder ein Mitarbeiter prüft, ergänzt und versendet. Der Vorgang wird im System dokumentiert.
Der Weg einer Anfrage, Station für Station
Acht Schritte, je einer in einem Satz. Nur einer davon ist KI, und er hat genau eine Aufgabe.
Eingang
Eine neue Nachricht löst die Verarbeitung aus, ob sie per Mail oder per Telefon kommt.
Vorgang erkennen
Das System sucht heraus, worum es geht. Findet es nichts Eindeutiges, fragt es nach.
Sachstand nachladen
Die echten Daten kommen aus Ihrem führenden System, nicht aus dem Anfragetext.
Personenbezug maskieren
Bevor die KI gefragt wird, verschwinden Name und persönliche Merkmale aus dem Text.
Zuordnen
Die eine KI-Entscheidung: welcher der freigegebenen Standardfälle passt.
Weiche
Nur wenn die Zuordnung sicher ist und kein Ausschlussgrund vorliegt, geht es automatisch weiter.
Versenden
Verschickt wird eine von Ihnen freigegebene Vorlage, gefüllt mit den echten Daten.
Dokumentieren
Jeder Schritt wird protokolliert, auch der automatische. Nachvollziehbar im Nachhinein.
Unsicherheit hat zwei getrennte Wege
Das ist der Teil, an dem sich ein durchdachtes System von einem Versuch unterscheidet. Ist der Vorgang unklar, verlässt die Anfrage die KI-Strecke gar nicht erst: Das System fragt automatisch nach und startet mit der Antwort einen neuen Durchlauf. Ist der Standardfall unklar, greift die Konfidenzschwelle und der Fall geht in die Prüfliste. Zwei verschiedene Zweifel, zwei verschiedene Lösungen.
Eine Antwort kann mehrere Vorgänge betreffen
Zum selben Objekt können mehrere eigenständige Vorgänge offen sein. Empfänger halten das oft für mehrere Schreiben zu einem einzigen Vorgang. Eine Antwort muss deshalb alle offenen Vorgänge benennen, auch wenn nur zu einem gefragt wurde. Das klingt nach einer Kleinigkeit und hat die Suchlogik der ganzen Pipeline verändert.
Zwei Wege
Im Rechenzentrum oder bei Ihnen im Haus
Beide Varianten sind darauf ausgelegt, die Anforderungen aus DSGVO und EU-AI-Act erfüllen zu können, und beide liegen bei uns vollständig durchgerechnet vor. Die konkrete Einordnung und die daraus folgenden Pflichten legen wir je Projekt mit Ihnen und Ihrem Datenschutzbeauftragten fest. Die Wahl muss vor Projektstart fallen, weil die Pipeline auf dem gewählten Aufbau errichtet wird. Ein späterer Wechsel ist ein eigenes Projekt.
Betrieb in einem Rechenzentrum in der EU
Schnell produktiv, ohne eigene Hardware.
- Ort der Verarbeitung
- Zertifiziertes Rechenzentrum in Deutschland oder der EU
- Sprachmodell
- In der EU betrieben, entweder in der EU-Region eines Anbieters oder selbst gehostet
- Dafür spricht
- Schnell produktiv, keine Anfangsinvestition in Hardware, einfache Skalierung bei Lastspitzen, Zugriff auf aktuelle Spitzenmodelle
- Dagegen spricht
- Laufende nutzungsbasierte Kosten, abhängig vom Volumen
- Zusätzliche Schutzebenen
- Maskierung vor jedem KI-Aufruf, Verarbeitung ausschließlich in der EU, Auftragsverarbeitungsvertrag mit dem Anbieter
Betrieb auf einem Gerät bei Ihnen im Haus
Kein Datensatz verlässt Ihr Haus.
- Ort der Verarbeitung
- Ein kompakter Rechner in Ihren Räumen
- Sprachmodell
- Läuft lokal auf diesem Gerät, ohne Verbindung nach außen
- Dafür spricht
- Maximale Datenhoheit, Unabhängigkeit von externen Modellanbietern, kompakt, leise und energiesparend, keine laufenden Modellkosten
- Dagegen spricht
- Einmalige Anschaffung, Skalierung durch die Hardware begrenzt, Sicherung und Fernwartung müssen geregelt werden
- Ausstattung
- Legen wir gemeinsam im Detailkonzept fest, passend zur Menge und zur Art der Aufgaben
Was in beiden Varianten gleich ist
- Ablaufsteuerung
- n8n, selbst betrieben. Kein fremder Automatisierungsdienst dazwischen.
- KI-Schicht
- Leichtgewichtige, lokal laufende Agenten mit LangGraph. Ihre einzige Aufgabe ist die Zuordnung.
- Datenhaltung
- PostgreSQL mit der Vektorerweiterung pgvector, für Status, Kontext und ein prüfbares Protokoll.
- Postfach
- Anbindung über Microsoft 365 oder klassisches IMAP. Versand aus dem bestehenden Postfach.
- Telefonie
- Der Telefonassistent liefert eine strukturierte Zusammenfassung, kein wörtliches Volltranskript. Das senkt die Menge personenbezogener Rohdaten deutlich.
- Fachanwendung
- Zugriff über die dokumentierte Schnittstelle, lesend für die Falldaten und, soweit die Schnittstelle das zulässt, schreibend für die Rückdokumentation. Ist nur Lesen möglich, protokolliert die Pipeline jede Bearbeitung prüfbar im eigenen Datenbestand.
- Ergebnisformat
- Die Zuordnung liefert strukturierte Daten, kein Freitext. Damit kann die Ablauflogik damit rechnen.
- Betriebsarten
- Sofort in Echtzeit oder gesammelt über Nacht in einem Lauf.
Was bei einem Ausfall passiert
Nichts geht verloren. Eingehende Nachrichten puffern im Postfach, und nach dem Wiederanlauf arbeitet die Ablaufsteuerung die Warteschlange nach. Der Puffer ist das Postfach selbst, also kein zusätzliches Bauteil, das ebenfalls ausfallen könnte.
Ehrlicher Vorbehalt: Die Reihenfolge kann sich dabei ändern. Deshalb ist nach einem Ausfall eine kurze manuelle Kontrolle vorgesehen.
Grenzen
Was nie automatisch läuft, bestimmen Sie
Sie legen fest, welche Fälle die Automatik gar nicht erst anfassen darf. Diese Prüfung läuft vor der Zuordnung, und greift sie, ist Schluss, unabhängig davon, wie sicher die KI sich ist. Bei einer Kanzlei sieht die Liste zum Beispiel so aus:
Schreiben von Anwälten der Gegenseite
Immer manuell
Beschwerden
Immer manuell
Drohungen
Immer manuell
Eskalationen jeder Art
Immer manuell
Diese Liste gehört Ihnen. Wir schlagen vor, was uns aus anderen Projekten begegnet ist, entschieden wird sie von Ihnen. Alles, was darauf steht, geht ohne Umweg an einen Menschen.
Datenschutz und Recht
Mehrere Ebenen, nicht ein Häkchen
Keine automatisierte Einzelentscheidung
In diesem Aufbau werden nur freigegebene Texte versendet und Sonderfälle entscheidet ein Mensch. Unter diesen Bedingungen liegt aus unserer Sicht keine automatisierte Einzelentscheidung nach Artikel 22 DSGVO vor. Die Bewertung im Einzelfall trifft der Verantwortliche.
Maskierung vor jedem KI-Aufruf
Name und fallbezogene Identifikationsmerkmale werden maskiert, bevor das Modell überhaupt gefragt wird.
Datenminimierung
Vom Telefon kommt eine strukturierte Zusammenfassung, kein wörtliches Volltranskript. Weniger Rohdaten heißt weniger Risiko.
Prüfbares Protokoll
Wer hat wann was getan. Jeder Schritt der Kette ist im Nachhinein nachvollziehbar, auch der automatische.
Rollen und Rechte
Ein Rechtekonzept, das das Mandatsgeheimnis wahrt. Nicht jeder sieht jeden Vorgang.
Keine Daten an fremde Modelle
Ihre Daten werden nicht zum Training fremder Modelle verwendet und nicht an deren Anbieter übermittelt. Die Auswertung Ihres Altbestands für die Einrichtung findet ausschließlich in Ihrer eigenen Umgebung statt.
Die letzte Ebene sind Menschen, nicht Technik
Speicherort und Löschfristen legen wir gemeinsam mit Ihrem Datenschutzbeauftragten fest, und die Einbindung ins Netz stimmen wir mit Ihrem IT-Dienstleister ab. Das klingt nach Formsache und ist es nicht: in Projekten stellt sich beim Nachfragen regelmäßig heraus, dass diese Punkte noch gar nicht entschieden sind. Besser, das fällt vorher auf als nach der ersten Datenverarbeitung.
Der Weg zum laufenden System
Sechs Phasen. Gestuft, damit früh sichtbarer Nutzen bei geringem Risiko entsteht.
-
01
Kick-off
Wir legen gemeinsam fest, welche Standardfälle es gibt und welche Antworttexte dafür freigegeben sind. Auch in welchen Sprachen.
-
02
Technische Sichtung
Prüfung der Schnittstelle Ihrer Fachanwendung, gemeinsam mit Ihrem IT-Dienstleister. Dazu Postfach und Telefonie.
-
03
Machbarkeitsnachweis
Die E-Mail-Strecke läuft, aber jede einzelne Antwort wird noch von einem Menschen freigegeben.
-
04
Telefonstrecke
Der Telefonassistent wird eingerichtet und die Gesprächszusammenfassungen werden angebunden.
-
05
Pilotbetrieb
Betrieb mit Prüfpflicht. Danach wird Fallgruppe für Fallgruppe automatisiert, sobald deren Trefferquote belegt ist.
-
06
Abnahme und Livegang
Abnahme gegen die vereinbarten Kriterien, danach laufendes Monitoring der Zuordnungsqualität.
Wir nennen hier bewusst keine Wochenangaben. Die Dauer hängt davon ab, wie schnell Schnittstelle, Antwortvorlagen und Freigaben bereitstehen, und das liegt zum größeren Teil nicht bei uns.
Andere Aufgaben, für die wir Pipelines bauen
Dasselbe Grundmuster, andere Aufgabe. Der Ablauf steht vorher fest, die KI entscheidet nur an den Stellen, an denen sie soll, und für den Zweifel gibt es immer einen Weg zu einem Menschen.
Dokumente verarbeiten
Eingehende Belege, Formulare und Verträge einordnen, die relevanten Felder auslesen und in das führende System übertragen. Unklare Fälle gehen an einen Menschen.
Anrufe annehmen
Ein Assistent nimmt Gespräche auf, gibt einfache gesicherte Auskünfte und übergibt alles Weitere strukturiert an die schriftliche Bearbeitung.
Berichte erzeugen
Zahlen aus mehreren Systemen zusammenführen und daraus einen Bericht bauen, der immer gleich aufgebaut ist. Wiederkehrend, ohne dass jemand daran denken muss.
Recherchen durchführen
Informationen aus Web, Schnittstellen und Registern sammeln, nach festgelegten Kriterien auswerten und als fertiges Ergebnis ablegen.
Ihre Aufgabe steht nicht dabei?
Dann ist sie deshalb nicht ausgeschlossen. Beschreiben Sie uns den Ablauf, so wie er heute läuft, und wir setzen uns mit Ihnen zusammen und machen daraus ein Konzept. Was dabei automatisierbar ist und was nicht, steht danach schriftlich fest, bevor irgendetwas gebaut wird.
Anfrage
Beschreiben Sie uns Ihren Prozess
Ein paar Sätze reichen: was kommt herein, was passiert damit heute, und wie oft. Sie bekommen innerhalb von 24 Stunden eine Einschätzung, ob und wie sich das automatisieren lässt. Auch dann, wenn die Antwort lautet: dafür braucht es keine KI.
Lieber einmal telefonieren
Sie erreichen direkt einen der beiden Geschäftsführer. Wenn wir gerade in einem Termin sind, sprechen Sie auf die Mailbox, wir rufen zeitnah zurück.
+49 1522 2004053FM-Squared GmbH
Herderstraße 18
72764 Reutlingen
Finn Mattes Leßmann
finn.lessmann@fm-squared.com
Finn Mika Zukschwerdt
finn.zukschwerdt@fm-squared.com