KI-Agent Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen verbindet und es in mehreren Schritten selbstständig auf ein Ziel hinarbeiten lässt – etwa suchen, rechnen, eine Datei schreiben und das Ergebnis prüfen. Der Unterschied zu einem einzelnen Aufruf liegt darin, dass das Modell entscheidet, welcher Schritt als Nächstes kommt. Mit dieser Selbstständigkeit wächst der mögliche Schaden bei einem Fehler.
Fehler summieren sich über die Schritte, statt sich auszugleichen
Ohne Kosten- und Schrittbegrenzung sind Endlosschleifen üblich
Werkzeugrechte sind die entscheidende Sicherheitsfrage
Bedeutung in der Praxis
Ein Agent, der lesen darf, ist ein Werkzeug. Ein Agent, der schreiben, versenden oder bezahlen darf, ist ein Risiko, das eine bewusste Entscheidung verlangt – besonders in Verbindung mit Prompt Injection.
In der Praxis bewährt sich der kleine Zuschnitt: drei bis fünf feste Schritte mit definierten Übergaben schlagen den offenen Agenten in Zuverlässigkeit und Nachvollziehbarkeit deutlich.
Inhaber von SEO NW in Bertingen. Arbeitet an der Schnittstelle von Suchmaschinenoptimierung und angewandter künstlicher Intelligenz: Prompt Engineering, Retrieval-Augmented Generation und die Frage, unter welchen Bedingungen ein Sprachmodell einen Inhalt übernimmt und der richtigen Quelle zuschreibt.