Eine Architekturentscheidung vor dem Audit

In meinem eigenen System sammeln und klassifizieren Agenten Informationen. Sie dürfen daraus nicht selbstständig eine sicherheitsrelevante Aktion auslösen.

Diese Grenze ist eine Architekturentscheidung. Sie ist zugleich eine Auditentscheidung. Ich kann zeigen, welche Daten ein Agent gelesen hat, was er vorgeschlagen hat und wer eine Wirkung freigegeben hat.

Regulatorische Unsicherheit ist für mich kein Grund, diese Trennung aufzuschieben.

Die Entscheidung vor dem Audit

Ein Agent kann APIs aufrufen, Datenbanken abfragen oder Code ausführen. Für den Betrieb ist deshalb wichtiger, welche Wirkung erlaubt ist, als ob das System sprachlich als Werkzeug oder Akteur beschrieben wird.

Ich trenne Beobachtung, Vorschlag und Seiteneffekt. Der Agent darf Material sammeln und eine Analyse vorbereiten. Eine Änderung, Eskalation oder externe Übermittlung braucht eine benannte Freigabe. Logs müssen den Weg von Eingabe, Tool-Aufruf und Ergebnis nachvollziehbar machen.

Diese Grenze ist nicht perfekt. Sie macht aber eine konkrete Frage prüfbar. Hat das System innerhalb seines Auftrags gehandelt, und lässt sich die Freigabe für die Wirkung nachweisen?

Was das Paper feststellt

Zhang und Maharjan untersuchen in ihrem Preprint vom März 2026 EU-Regulierungsdokumente aus den Jahren 2024 und 2025. Ihr Befund ist, dass agentische KI in den untersuchten Dokumenten nicht mit derselben Spezifität behandelt wird wie etablierte Kategorien und Rollen. Sie diskutieren daraus entstehende Fragen zu Sicherheit, Datenschutz und Verantwortlichkeit.

Das Paper ist eine wissenschaftliche Analyse, kein verbindlicher Rechtstext. Auch die Formulierung Werkzeug oder Akteur stammt aus dieser Debatte. Sie ändert nicht von selbst die Rollen, Definitionen und Pflichten des geltenden Rechts.

Meine Interpretation ist enger. Wenn ein System eigenständig Werkzeuge auswählt und Seiteneffekte auslösen kann, reicht ein Modelltest nicht. Ich brauche eine Architektur, die Befugnisse, Nachweise und Abbruchmöglichkeiten sichtbar macht.

Was der EU AI Act tatsächlich regelt

Der EU AI Act schafft keine eigene Rechtskategorie namens agentic AI. Ein Agentensystem kann dennoch unter die Definition eines KI-Systems fallen. Welche Pflichten gelten, hängt unter anderem von Zweck, Risikokategorie und der Rolle der beteiligten Organisation ab.

Für Hochrisiko-KI verlangt die Verordnung unter anderem ein Risikomanagementsystem, automatische Protokollierung, menschliche Aufsicht sowie angemessene Genauigkeit, Robustheit und Cybersicherheit. Der Anwendungszeitplan ist gestaffelt. Ein großer Teil der Regeln gilt ab 2. August 2026, einzelne Vorgaben später.

DSGVO, NIS2 oder andere Regeln können je nach Verarbeitung, Organisation und Produkt ebenfalls relevant sein. Daraus folgt weder eine pauschale Regelungslücke noch eine pauschale Erlaubnis. Die Einordnung muss am konkreten System erfolgen. Dieser Text ersetzt keine Rechtsberatung.

Die Grenze bleibt prüfbar

Das Paper beschreibt eine begriffliche und regulatorische Spannung. Meine praktische Antwort darauf ist eine begrenzte Architektur. Ein Agent darf nur so weit handeln, wie Auftrag, Rechte, Logging und Freigabe später vor einem Audit erklärt werden können.