Ein Agent, eine Aufgabe, ein Bericht.

01Zugesagt und nicht zugesagt

02Begründung zu jeder Zeile

1. 01

   Ein fester Auftrag

   Der Umfang eines Agenten ist der Umfang seiner Prüfung. Nur eine Aufgabe, die vorher feststeht, lässt sich an einem Stapel eigener Fälle mit bekanntem Ergebnis durchrechnen. Ein System, das seinen Auftrag im Betrieb erweitert, verlässt genau den Bereich, für den diese Zahlen gelten.

2. 02

   Hinweispflicht

   Artikel 50 der KI-Verordnung gilt seit dem 2. August 2026. Wer ein System betreibt, das mit Menschen spricht, muss dafür sorgen, dass diese es als Maschine erkennen. Künstlich erzeugte Texte, Bilder und Töne werden zusätzlich maschinenlesbar gekennzeichnet. Der Hinweis wird deshalb als Bestandteil der Anwendung gebaut und nicht als Einstellung, die jemand versehentlich abschaltet.

3. 03

   Entscheidungen über Menschen

   Anhang III der KI-Verordnung führt Beschäftigung, Personalauswahl und Kreditwürdigkeit als Hochrisiko. Artikel 22 der Datenschutz-Grundverordnung gibt Betroffenen ein Recht gegen Entscheidungen, die allein automatisiert über sie ergehen. Dazu kommt der sachliche Grund: Eine Maschine wiederholt die Muster ihrer Trainingsdaten, und der Betroffene erfährt nie, warum es ihn getroffen hat. Solche Systeme entstehen hier nicht, auch nicht in abgeschwächter Form als Vorsortierung mit Punktwert.

4. 04

   Freigabe vor Wirkung

   Was im Namen eines Betriebs hinausgeht, bindet ihn. Eine falsche Preisauskunft, eine falsche Frist oder eine irrtümlich ausgelöste Zahlung lässt sich nicht zurückholen. Deshalb endet die Arbeit des Agenten an der Stelle, an der ein Mensch freigibt, und die Freigabe wird mitprotokolliert.

5. 05

   Protokoll

   Ein Fehler, der nicht auffindbar ist, wiederholt sich. Das Protokoll hält je Lauf fest, was den Agenten gestartet hat, welche Unterlagen er gelesen hat, was er getan hat und was die Rechenzeit gekostet hat. Die Rechenschaftspflicht aus Artikel 5 der Datenschutz-Grundverordnung verlangt ohnehin den Nachweis, und dieselbe Aufzeichnung beantwortet später die Frage, warum ein Vorgang so gelaufen ist.

6. 06

   Abschalten und Obergrenze

   Jeder Lauf kostet Rechenzeit, und diese Rechnung läuft auf den Betrieb. Ein Agent ohne Deckel kann diese Kosten in einer Nacht vervielfachen, ohne dass jemand hinsieht. Die Beschränkung der Zugriffsrechte auf das, was die eine Aufgabe braucht, folgt dem Grundsatz der Datenminimierung; sie begrenzt zugleich den Schaden, wenn ein Zugang in falsche Hände gerät.

03Sachlage und Stand der Regeln

Die Grenzen auf dieser Seite stützen sich auf drei Quellen. Die KI-Verordnung der Europäischen Union verbietet seit dem 2. Februar 2025 bestimmte Praktiken, darunter das Ableiten von Gefühlen am Arbeitsplatz und die Bewertung von Personen nach ihrem Sozialverhalten; seit dem 2. August 2026 gelten die Transparenzpflichten des Artikels 50. Wer mit einer Maschine spricht, muss das erfahren; die maschinenlesbare Kennzeichnung künstlich erzeugter Inhalte gilt für neu bereitgestellte Systeme sofort und für vorher bereitgestellte ab dem 2. Dezember 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III, zu denen Personalauswahl und Kreditwürdigkeit zählen, sollten ursprünglich ebenfalls am 2. August 2026 beginnen; die Änderungsverordnung (EU) 2026/1744 vom 24. Juli 2026 hat sie auf den 2. Dezember 2027 verschoben, die in Produkte eingebetteten Systeme nach Anhang I auf den 2. August 2028. Verschoben ist nicht aufgehoben: Die Einstufung selbst gilt unverändert. Die Datenschutz-Grundverordnung regelt in Artikel 22 automatisierte Entscheidungen im Einzelfall und verlangt in Artikel 5 Zweckbindung, Datenminimierung und Nachweisbarkeit. Wo ein Betriebsrat besteht, greift die Mitbestimmung nach § 87 Absatz 1 Nummer 6 Betriebsverfassungsgesetz. Sie hängt nicht an der Absicht, sondern daran, ob eine technische Einrichtung zur Überwachung von Verhalten oder Leistung objektiv geeignet ist. Die Betriebsvereinbarung gehört deshalb vor die Inbetriebnahme. Stand dieser Angaben: 4. August 2026. Der Stand wird vor jedem Auftrag erneut geprüft und im Angebot mit Datum festgehalten. Eine Rechtsberatung ersetzt das nicht; für die Bewertung des eigenen Falls bleibt ein Anwalt zuständig.

04Was in diesem Rahmen entsteht

• Postfachwächter. Eingehende Nachrichten werden gelesen, dem richtigen Vorgang zugeordnet und mit Anhängen abgelegt.
• Fristenwächter. Aus Verträgen, Bestellungen und Prüfterminen entstehen Termine, und vor jedem Termin geht eine Meldung an den Zuständigen.
• Abgleich zweier Listen. Zwei Bestände aus verschiedenen Programmen werden Zeile für Zeile verglichen, und nur die Abweichungen kommen auf den Tisch.
• Nachtlauf. Belege, Fotos und Anhänge eines Tages werden gelesen, benannt und einsortiert, sodass morgens ein Bericht bereitliegt statt eines Stapels.
• Angebotsvorbereitung. Aus einer Anfrage entsteht ein ausgefüllter Entwurf mit Positionen und Preisen aus der eigenen Liste, zur Freigabe.
• Rechercheauftrag. Öffentliche Quellen zu einer festgelegten Frage werden gesammelt und jede Angabe mit ihrer Fundstelle abgelegt.
• Prüfung vor dem Versand. Texte, Bilder und Datensätze laufen gegen eine vereinbarte Liste, und Auffälliges wird gemeldet statt verschickt.
• Wiedervorlage. Vorgänge ohne Antwort werden nach der vereinbarten Zeit wieder hochgeholt, mit dem bisherigen Verlauf daneben.
• Mehrere Agenten in Reihe. Jeder Schritt trägt einen eigenen Auftrag, und zwischen zwei Schritten liegt eine Prüfstelle, an der ein Mensch eingreifen kann.
• Anschluss an vorhandene Programme. Der Agent arbeitet in den Systemen, die bereits im Haus sind, statt ein zweites daneben zu stellen.

05Nachprüfbarkeit

• Das Protokoll. Jeder Lauf bleibt mit Zeitpunkt, Auslöser, Ergebnis und Kosten abrufbar, auch Monate später.
• Der Hinweis im Text. Jede maschinell erzeugte Nachricht trägt ihn sichtbar; er steht im Programmcode und nicht in einer Einstellung.
• Die Aufgabenbeschreibung. Was der Agent tun darf und was ausgeschlossen ist, steht im Festpreisangebot und noch einmal in der Übergabe.
• Die Zugriffsliste. Welche Daten, Postfächer und Konten der Agent erreicht, liegt schriftlich vor und lässt sich mit den tatsächlichen Rechten vergleichen.
• Der Quelltext. Er wird übergeben, und die Grenzen dieser Seite sind darin als Programmcode nachlesbar, nicht als Absichtserklärung.
• Der Vertrag über die Auftragsverarbeitung. Darin steht, welche Daten ein externer Rechendienst zu sehen bekommt und wo verarbeitet wird.
• Der Notschalter. Er wird bei der Übergabe gemeinsam ausgelöst, damit der Weg im Ernstfall bekannt ist.
• Der Prüfstapel. Eigene Fälle mit bekanntem Ergebnis werden vor der Übergabe durchgerechnet, und das Ergebnis liegt in Zahlen vor.