Was ist ein KI-Harness? Das Gerüst um das Sprachmodell
Ein KI-Harness (englisch „AI Harness“, wörtlich Gurtzeug oder Geschirr) ist das Gerüst aus Software, das um ein Sprachmodell herum gebaut wird. Das Modell selbst kann nur eines: aus einem Text einen neuen Text erzeugen. Das Harness entscheidet, was das Modell zu sehen bekommt, was es tun darf, wer das Ergebnis prüft und was davon festgehalten wird. Im Büro merkst du von einem guten Harness vor allem eines: dass du der Antwort trauen kannst.
Der Begriff ist jung und nicht fest definiert. Wir benutzen ihn so, wie er unter Entwicklern gerade verwendet wird, und erklären hier, was dazugehört.
Warum das Modell allein nicht reicht
Ein Sprachmodell ohne Gerüst ist wie eine sehr belesene Aushilfe am ersten Arbeitstag. Sie formuliert großartig, kennt aber weder eure Ablage noch eure Regeln, weiß nicht, wer was sehen darf, und schreibt auch dann eine überzeugende Antwort, wenn sie keine Ahnung hat.
Niemand würde so eine Aushilfe allein an die Buchhaltung setzen. Man gibt ihr Zugang zu den richtigen Ordnern, erklärt die Abläufe, lässt sich ihre Ergebnisse zeigen und schaut am Anfang genau hin. Genau diese Einarbeitung ist das Harness, nur eben als Software.
Die Bausteine
Zugang: Was darf das Modell lesen?
Das Harness legt fest, aus welchen Unterlagen überhaupt Kontext geholt wird. Bei uns gilt: Eingelesen wird nur, was ausdrücklich freigegeben ist, und die Grenze wirkt vor der Suche, nicht erst nach der Antwort. Was nicht eingelesen ist, kann in keiner Antwort auftauchen.
Kontext: Was bekommt das Modell zu sehen?
Bei jeder Frage sucht das Harness die passenden Stellen heraus und gibt nur diese an das Modell weiter. Wie das funktioniert, steht in Wie funktioniert RAG?. Hier entscheidet sich der größte Teil der Qualität.
Regeln: Wie soll das Modell arbeiten?
Dazu gehören feste Anweisungen („antworte nur aus diesen Stellen“), ein festes Format für das Ergebnis und die Pflicht, jede Aussage einer Quelle zuzuordnen. Eine Antwort, die nicht ins Format passt, wird verworfen statt angezeigt.
Werkzeuge: Was darf das Modell tun?
Ein Modell kann Werkzeuge aufrufen, zum Beispiel eine Aufgabe anlegen oder einen Entwurf in ein Dokument schreiben. Das Harness legt fest, welche Werkzeuge es gibt und welche davon nur nach Freigabe ausgeführt werden. Unsere Regel: Was nicht zurückgenommen werden kann, wird nicht ohne Freigabe ausgeführt. Mehr dazu in Warum die KI vorschlägt und du entscheidest.
Nachweis: Was wird festgehalten?
Jede Anfrage wird protokolliert: Eingabe, Ausgabe, Zeitpunkt, wer gefragt hat, welches Modell in welcher Fassung und Region geantwortet hat und welche Quellen herangezogen wurden. Das braucht man, um eine falsche Antwort nachzustellen. Und weil diese Protokolle selbst personenbezogene Daten sind, brauchen sie eigene Löschfristen.
Messung: Wird es besser oder schlechter?
Ein Harness ohne Messung ist Bauchgefühl. Wir prüfen die Antwortqualität gegen einen festen Satz von Testfragen, und zwar ab dem ersten Tag. Nur so merkt man, ob ein neues Modell oder eine neue Zerlegung wirklich besser ist.
Warum das Harness wichtiger ist als das Modell
Sprachmodelle werden alle paar Monate besser und billiger. Das Gerüst darum bleibt. Deshalb bauen wir es so, dass das Modell austauschbar ist und die Region je Kunde einstellbar. Fällt ein Anbieter weg, wird das Modell gewechselt, und deine Ablage, deine Regeln und dein Protokoll bleiben, wie sie sind.
Das ist auch eine Frage des Rechts. Gegen den Beschluss, auf dem der Datenaustausch mit US-Anbietern heute beruht, ist beim Gerichtshof der EU ein Rechtsmittel anhängig (Rechtssache C-703/25 P). Wer ein Modell fest eingebaut hat, hat dann ein Problem im Produkt, nicht nur im Vertrag.
Woran du ein gutes Harness erkennst
- Du kannst sagen, welche Unterlagen die KI lesen darf, und siehst es auch in der Oberfläche.
- Jede Antwort führt auf eine Originalstelle, und die Quelle kommt aus der Datenbank, nicht aus dem Antworttext.
- Nichts, was sich nicht zurücknehmen lässt, passiert ohne deine Freigabe.
- Der Anbieter kann dir sagen, welches Modell in welcher Region deine Frage beantwortet hat.
Im envisbo Cockpit ist das Harness der eigentliche Kern. Das Modell ist ein Baustein davon, ein wichtiger, aber ein austauschbarer.
Wenn du heute ein KI-Werkzeug im Betrieb nutzt: Weißt du, was es alles lesen darf? Und könntest du nachvollziehen, woher eine bestimmte Antwort von letzter Woche kam?