Ein LLM-Chatbot: ein brillanter Berater, der nur reden darf
Ein Sprachmodell (LLM) im Chat-Modus macht im Kern eine einzige Sache: Es bekommt Text und sagt das wahrscheinlichste nächste Wort voraus – wieder und wieder, bis eine Antwort dasteht. Das kann beeindruckend gut sein: Es formuliert, fasst zusammen, erklärt.
Aber es hat drei harte Grenzen:
- Es kann nichts tun. Ein Chatbot kann Ihnen sagen, wie Sie Ihr VPN zurücksetzen, aber er kann nicht in Ihr Ticketsystem schauen, ob es gerade eine bekannte Störung gibt.
- Sein Wissen ist eingefroren. Es weiss nur, was bis zu seinem Trainings-Stichtag bekannt war. Ihre Rechnung von gestern, das Ticket von heute Morgen – davon hat es keine Ahnung.
- Es weiss nichts über Sie. Ohne Anbindung an Ihre Daten rät es bestenfalls.
Bildlich: ein brillanter Berater, der nur reden darf – nie zum Hörer greift, nie ein System öffnet, nie etwas nachschlägt. Eloquent, aber folgenlos. Und im Zweifel erfindet er eine plausibel klingende Antwort, statt nachzusehen.
Ein Agent: das Modell bekommt Hände, Sinne und Regeln
Ein Agent legt um genau dieses Sprachmodell eine Schleife (Loop), die es handlungsfähig macht. Das Modell bleibt das Gehirn – der Agent gibt ihm Hände (Werkzeuge), Sinne (echte Daten) und Regeln (Sicherheit). Vereinfacht läuft pro Anfrage Folgendes:
- Entscheiden: Das Modell liest die Frage und wählt ein Werkzeug – «Tickets durchsuchen», «Rechnungen auflisten», «Mails lesen».
- Handeln: Der Agent führt das Werkzeug echt aus – gegen Ihr System, Ihre Daten, in diesem Moment.
- Beobachten: Das Ergebnis fliesst zurück ins Modell.
- Wiederholen: Reicht das noch nicht, wählt es das nächste Werkzeug – oft mehrere Runden.
- Antworten: Erst wenn es genug weiss, formuliert es die finale Antwort – belegt mit echten Daten.
Dasselbe VPN-Beispiel, jetzt als Agent: Er durchsucht Ihre Tickets, findet die laufende Störung, prüft Ihre offenen Vorgänge – und sagt Ihnen konkret, woran es liegt. Aus «hier ein paar allgemeine Tipps» wird «für Ihren Anschluss läuft seit 9:14 Uhr eine bekannte Störung, Ticket #4821».
Dazu kommen Dinge, die ein Chatbot gar nicht kennt: Berechtigungsprüfungen (darf dieser Nutzer das?), Sicherheits-Schranken (Schutz vor Manipulation), und die Ausführung in einer kontrollierten Umgebung.
