Bevor Sie einen KI-Agenten arbeiten lassen | Gedächtnis, Skills, Hooks und was davon wirklich hält

Gedächtnisdatei → Skill → Plugin → MCP → Hook → Sandkasten

Ein Chatbot antwortet. Ein Agent tut etwas. Er bekommt Werkzeuge auf den Rechner, arbeitet in Schritten, prüft seine eigenen Ergebnisse und macht weiter. Das ist der Unterschied, und das ist auch der Grund, warum viele beim ersten Mal ein mulmiges Gefühl haben.

Die Frage dahinter lautet fast immer gleich: Was ist, wenn er etwas tut, das er nicht tun soll? Die Antwort ist unbequem, weil sie aus zwei Teilen besteht. Es gibt Dinge, an die sich ein Agent hält, weil man es ihm gesagt hat. Und es gibt Dinge, die er technisch nicht kann. Wer den Unterschied nicht kennt, hält das eine für das andere.

Die Gedächtnisdatei

Das Einfachste zuerst. Ein Agent vergisst nach jeder Sitzung alles. Damit er das nicht tut, gibt es eine Datei, in der steht, was dauerhaft gelten soll. Je nach Werkzeug heißt sie anders, technisch ist sie immer dasselbe: eine Textdatei auf Ihrem Rechner.

Darin stehen zwei Sorten von Dingen. Erinnerungen an Sie, etwa wie Sie heißen und wie Sie angesprochen werden wollen. Und Anweisungen zur Arbeitsweise, etwa dass immer auf Deutsch geschrieben wird oder dass vor jeder Änderung eine Sicherung angelegt wird.

Der Punkt, der oft überrascht: Sie müssen diese Datei nicht selbst schreiben. Sie können den Agenten bitten, sie zu schreiben, und ihn später bitten, etwas zu ergänzen. Was in den großen Chat-Anwendungen als hübsche Oberfläche mit Eingabefeldern daherkommt, ist dahinter genau dasselbe. Jemand hat nur Felder darum gebaut.

Es lohnt sich trotzdem, sie ab und zu selbst zu lesen. Modelle schreiben dort auch von sich aus hinein, was sie für wichtig halten, und nicht alles davon stimmt oder gilt noch.

Skills

Ein Skill ist eine Anleitung in einem festen Format, das ein Modell aus seinem Training kennt. Es erkennt: Hier kommt eine Beschreibung, an die ich mich halten kann.

Der Nutzen zeigt sich, sobald man dieselbe Sache öfter braucht. Statt jedes Mal ausführlich zu beschreiben, wie ein bestimmter Ablauf geht, steht das einmal fest in einer Datei. Der Agent erkennt selbst, wann sie zutrifft, und liest sie dann. Am Ende ist auch das nur eine Textdatei mit einer sehr ausführlichen Beschreibung.

Skills werden verteilt, es gibt öffentliche Verzeichnisse. Und hier kommt der erste ernste Hinweis: Lesen Sie hinein, bevor Sie einen fremden Skill benutzen. Ein Skill ist eine Anweisung, an die sich Ihr Agent halten wird. Wer sie geschrieben hat, bestimmt mit, was Ihr Agent tut.

Plugins

Skills funktionieren gut, solange es wenige sind. Bei hundert oder zweihundert muss das System jedes Mal überlegen, welcher wofür zuständig ist, und das wird zäh. Diese Zahl ist schneller erreicht, als man denkt.

Ein Plugin ist deshalb eine Ebene darüber, die mehrere Skills und Werkzeuge bündelt. Für einen Betrieb heißt die Frage dann nicht mehr, ob man Skills anlegt, sondern wie man sie schneidet. Alles in ein einziges Bündel zu packen funktioniert nicht. Ein Richtig gibt es nicht, das muss man ausprobieren.

MCP

Ein MCP-Server beschreibt einem Agenten, wie ein fremdes System zu bedienen ist. Statt für jedes Werkzeug eine eigene Anbindung zu bauen, gibt es einen Server je System und eine gemeinsame Sprache.

Es ist ein offener Standard, und das ist Segen und Fluch zugleich. Jeder kann einen bauen. Wenn Sie einen Agenten auf Dinge zugreifen lassen, die Ihnen wichtig sind, sollte der Server von jemandem stammen, dem Sie das zutrauen.

Wichtig zum Verständnis: Auch ein MCP-Server liefert zunächst nur Beschreibungen in einem bestimmten Format. Was am Ende dabei herauskommt, hängt am Modell und daran, was in dieser Beschreibung steht.

Und jetzt der eigentliche Punkt

Alles, was bis hierher stand, sind Textdateien. Gedächtnisdatei, Skills, Plugins, MCP-Beschreibungen. Ein Agent hält sich daran, weil er soll.

Das ist wie ein Schild am Straßenrand. Da steht fünfzig, und Sie fahren fünfzig. Könnten Sie schneller? Ja. Sie tun es nur nicht.

Wenn Sie in Ihre Gedächtnisdatei schreiben, dass niemals etwas ohne Rückfrage gelöscht werden darf, dann ist das ein Schild. Es wirkt fast immer. Es ist aber keine Sperre.

Hooks sind die Sperre

Ein Hook greift, bevor ein Befehl ausgeführt wird. Er sieht sich an, was gleich passieren soll, und kann es unterbinden. Was dort gesperrt ist, kann der Agent nicht ausführen, egal wie überzeugt er davon ist, dass es richtig wäre.

Das Beispiel, an dem es jeder versteht, ist der Löschbefehl. Etwas aus einem Ordner zu löschen ist sinnvoll. Dasselbe auf das Hauptverzeichnis anzuwenden ist es nicht. Bei so etwas wollen Sie sich nicht darauf verlassen, dass der Agent den Unterschied kennt.

Im Bild bleibt es dabei: Ein Hook ist kein Schild mehr, sondern ein Begrenzer im Fahrzeug. Sie können Gas geben, so viel Sie wollen, das Auto wird nicht schneller. Erst wenn jemand den Begrenzer ausbaut, ginge es wieder.

Der Sandkasten

Der zweite technische Mechanismus. Dem Agenten wird eine abgegrenzte Umgebung gegeben, in der er alles darf, die er aber nicht verlassen kann. Was außerhalb liegt, existiert für ihn nicht.

Manche starten für jede Aufgabe einen eigenen Sandkasten. Das ist aufwendiger und dafür sauber getrennt. Ich rechne damit, dass das in Betrieben zum Normalfall wird, sobald jemand ernsthaft mit Agenten arbeitet.

Der Schalter, den Sie kennen sollten

In den meisten Werkzeugen gibt es eine Einstellung, die Rückfragen abschaltet. Der Agent führt dann alles aus, ohne zu fragen. Das ist bequem, es ist schneller, und es fühlt sich nach Fortschritt an.

Es nimmt Ihnen die letzte Stelle vor dem Schaden. Wenn Sie sich nicht sicher sind, lassen Sie es aus. Bequemlichkeit ist ein schlechter Grund, eine Sicherung zu entfernen, und der Weg dahin führt immer über einzelne Ausnahmen, die man irgendwann nicht mehr zählt.

Was ich mir gemerkt habe

Zwei Mechanismen halten technisch: der Hook, der einen Befehl verhindert, und der Sandkasten, der den Radius festlegt. Alles andere sind Anweisungen, an die sich ein Agent freiwillig hält.

Beides zusammen ergibt eine brauchbare Arbeitsweise. Schilder für alles, was Haltung und Arbeitsweise betrifft. Begrenzer für alles, was wehtut, wenn es schiefgeht.

Selbstprüfung

1. Was unterscheidet einen Agenten von einem Chatbot?
2. Welche der genannten Bestandteile sind Textdateien, an die sich der Agent freiwillig hält?
3. Warum reicht es nicht, in die Gedächtnisdatei zu schreiben, dass nichts gelöscht werden darf?
4. Was prüfen Sie, bevor Sie einen fremden Skill einsetzen?
5. Was passiert, wenn Sie Rückfragen dauerhaft abschalten?