2023 schrieb ChatGPT: „Wir bei OpenAI glauben, dass…“ — eine bewusste Designentscheidung, das Modell identifiziert sich mit seinem Hersteller. Für einen Chatbot: kurios. Für einen Agenten, der in Ihrem Namen E-Mails schreibt, Fristen verwaltet und Bestellungen aufgibt: eine ernsthafte Frage. Wer handelt da eigentlich?
Das ist keine philosophische Frage. Es ist eine praktische, rechtliche und organisatorische — und je mehr Unternehmen KI-Agenten einsetzen, desto dringlicher wird sie.
Das Zuschreibungsproblem: Wer ist verantwortlich?
Wenn ein autonomes System handelt, stellt sich die Frage: Wessen Handlung ist das? Drei Parteien kommen in Betracht.
KI-Modelle sind keine Rechtspersonen. Sie haben keine Rechte, keine Pflichten, keine Haftbarkeit. Ein Modell kann nicht verklagt werden, keinen Vertrag eingehen, keine Schuld auf sich nehmen. Rechtlich existiert es als Werkzeug — nicht als Akteur.
Produkthaftung greift bei systematischen Fehlern: Wenn ein Modell nachweislich strukturell falsche Ausgaben liefert und der Hersteller das wusste. Für Einzelentscheidungen des Modells — auch schlechte — trägt der Hersteller in der Regel keine Verantwortung. Er hat ein Werkzeug gebaut, nicht die Entscheidung getroffen.
Wenn Ihr KI-Agent eine E-Mail in Ihrem Namen verschickt, ist es rechtlich Ihre E-Mail. Wenn er eine Bestellung aufgibt, ist es Ihre Bestellung. Die Delegation an ein autonomes System ändert nichts an der Verantwortung des Auftraggebers — sie verlagert nur, wer die Ausführung übernimmt.
Das klingt simpel. In der Praxis wird es kompliziert.
Warum Agentensysteme das Problem verschärfen
Bei einem einfachen Chatbot ist die Kette kurz: Mensch fragt, Modell antwortet, Mensch entscheidet was er damit tut. Bei Agentensystemen sieht das anders aus:
- Agenten handeln autonom — keine Bestätigung pro Schritt
- Sie verbinden sich mit externen Systemen — E-Mail, Kalender, Datenbanken, Buchhaltung
- Sie treffen Entscheidungen auf Basis von Anweisungen, die vor Wochen gegeben wurden
- Sie können an andere Agenten delegieren (Multi-Agent-Systeme)
Betrachten Sie diese Kette: CEO-Agent → Marketing-Agent → Content-Agent → Posting-Agent → Instagram
Wer ist verantwortlich für den Post? Der Mensch, der dem CEO-Agenten die Anweisung gegeben hat — der vielleicht nur gesagt hat: „Poste täglich relevante Inhalte.“
Wichtig: Die Delegation durch das System ist keine Delegation von Verantwortung durch den Menschen. Wer einen Agenten-Stack instruiert, bleibt für alle Ausgaben dieses Stacks verantwortlich — unabhängig davon, wie viele Agenten dazwischen liegen.
Das Principal-Agent-Problem — jetzt mit KI
Ökonomen kennen dieses Problem seit Jahrzehnten: Ein Agent handelt für einen Prinzipal. Dabei entstehen Interessenkonflikte und Informationsasymmetrien. Der Prinzipal kann nie vollständig kontrollieren, ob der Agent wirklich in seinem Sinne handelt.
KI-Agenten haben keine eigenen Interessen — aber sie handeln trotzdem nicht immer so, wie der Mensch es beabsichtigt hatte. Der Grund: Interpretation.
Beispiel: Ein Anwalt instruiert seinen Agenten: „Behalte alle relevanten Fristen im Blick.“ Der Agent klassifiziert eine Frist als „nicht relevant“ — und meldet sie nicht. Die Frist wird versäumt. Technisch hat der Agent die Anweisung befolgt — nach seiner Interpretation. Die Haftung liegt beim Anwalt.
Das ist kein hypothetisches Szenario. Es ist die Struktur jeder Anweisung, die Spielraum lässt. Und fast jede Anweisung lässt Spielraum.
4 Grundsätze für verantwortungsvollen Agenteneinsatz
Ein Prompt wie „handle nur, wenn du sicher bist“ ist keine Grenze. Eine technische Einschränkung — der Agent hat keinen Schreibzugriff auf Live-Systeme ohne Freigabe — ist eine Grenze. Bauen Sie Grenzen in die Systemarchitektur ein, nicht in die Formulierung der Anweisung.
Rechtlich bindend, finanziell relevant, irreversibel — diese drei Kategorien brauchen immer einen menschlichen Bestätigungsschritt. Keine Ausnahme. Nicht weil Agenten unzuverlässig sind, sondern weil die Verantwortung beim Menschen liegt und er sie bewusst übernehmen muss.
Was wurde entschieden? Auf Basis welcher Informationen? Wann? Ein Agent ohne protokollierten Entscheidungsweg ist für jede nachträgliche Prüfung wertlos — und im Streitfall ein Risiko. Jede relevante Entscheidung des Agenten muss nachvollziehbar sein.
Ein Agent, der drei Wochen ohne menschliche Überprüfung läuft, ist ein Risiko — nicht weil er bösartig ist, sondern weil sich die Realität verändert hat und er es nicht weiß. Produkte ändern sich. Gesetze ändern sich. Kontext ändert sich. Der Agent weiß nur, was er beim letzten Update wusste.
Das Autonomie-Vertrauen-Dilemma
Je nützlicher ein Agent, desto mehr Autonomie braucht er — und desto mehr Vertrauen ist nötig. Dieses Dilemma lässt sich nicht auflösen, nur managen.
Der praktische Trick: Autonomie dort erhöhen, wo Risiken niedrig sind. Einschränken, wo Risiken hoch sind.
| Aktion | Risikostufe | Empfehlung |
|---|---|---|
| Entwurf schreiben | Niedrig | Agent autonom, Mensch liest Ergebnis |
| Dokument versenden | Hoch | Mensch bestätigt vor dem Versand |
| Terminvorschlag erstellen | Niedrig | Agent autonom, Mensch akzeptiert |
| Termin verbindlich bestätigen | Hoch | Mensch bestätigt den Termin |
| Fristenliste pflegen | Niedrig | Agent autonom, regelmäßige Überprüfung |
| Einspruch einlegen | Hoch | Immer menschliche Freigabe |
Für Juristen und Berater: Eine konkrete Grenzlinie
Für rechts- und steuerberatende Berufe gilt eine besonders klare Grenze:
Autonomie bis zum Entwurf. Mensch ab der Außenwirkung.
Schriftsatz schreiben: Agent autonom. Schriftsatz einreichen: Mensch bestätigt.
Frist im System markieren: Agent autonom. Einspruch einlegen: Mensch bestätigt.
Mandantenmail entwerfen: Agent autonom. Mandantenmail versenden: Mensch bestätigt.
Das ist keine Einschränkung des Agenteneinsatzes — es ist die Bedingung, unter der er skalieren kann. Wer diese Grenze zieht, gewinnt die Effizienz des Agenten, ohne die Haftung zu verlieren.
Wer sie ignoriert, überfährt nicht nur das Haftungsrecht. Er verliert auch das Vertrauen — das der Mandanten und das in sich selbst — wenn der erste Fehler passiert, der hätte verhindert werden können.
KI-Agenten richtig einsetzen — von der Theorie zur Praxis
Im Claude Code Mastery-Kurs lernen Sie, wie Sie Agentensysteme mit klaren Grenzen, Audit Trails und Human-in-the-Loop-Schritten aufbauen — so dass Autonomie und Verantwortung kein Widerspruch sind.
Zum Kurs →