Was jetzt möglich ist, und was nicht

Das war ursprünglich als letzte Episode dieser Serie gedacht. Dann kam die Frage nach agentischer KI und Regulierung dazu. Diese Bilanz bleibt trotzdem der richtige Ort für einen nüchternen Zwischenstand.

Ehrlichkeit ist in diesem Feld selten. Die KI-Industrie produziert seit Jahren Ankündigungen, die größer sind als die Realität. Auf der anderen Seite gibt es berechtigte Skepsis, die manchmal in Verweigerung kippt. Beide Haltungen sind teuer, die eine durch falsche Erwartungen, die andere durch verpasste Möglichkeiten.

Ich habe zwei Jahre lang ernsthaft mit diesen Systemen gearbeitet. Hier ist mein ehrlicher Stand.

Was heute wirklich funktioniert

Informationsverarbeitung in großem Umfang.

Das ist der stärkste Anwendungsfall und bleibt es. Ein Modell kann in Sekunden einen Threat-Intelligence-Report lesen, strukturieren und die relevanten Punkte herausarbeiten. Es kann dutzende Reports in einer Stunde verarbeiten, die ich in einer Woche kaum durchlesen würde. Die Qualität ist nicht perfekt, aber sie ist gut genug, um meine Arbeit erheblich zu beschleunigen.

Erstentwürfe und Strukturierung.

KI schreibt keine guten Sicherheitsrichtlinien. Aber sie schreibt gute erste Entwürfe, die ich überarbeiten kann. Das ist ein anderer Workflow, schneller, nicht schlechter. Der Unterschied zwischen "vor der leeren Seite sitzen" und "einen Entwurf verbessern" ist für die meisten Menschen enorm.

Pattern Recognition in Logs und Artefakten.

Mit dem richtigen Prompt und dem richtigen Kontext kann ein Modell in Forensik-Daten Muster erkennen, die ich vielleicht übersehe, nicht weil ich schlechter bin, sondern weil ich nach bestimmten Dingen suche und das Modell ohne Vorurteil über die gesamten Daten geht.

Wissensbasis und Gedächtnis.

Ein RAG-System mit sauber aufgebauter Vektordatenbank ist ein echter Produktivitätsgewinn. Meine akkumulierten Analysen, Erkenntnisse, Bewertungen, abrufbar, durchsuchbar, verbindbar. Das ist kein Hype. Das ist ein Werkzeug, das funktioniert.

Was noch nicht funktioniert, oder nicht so, wie behauptet

Autonome Entscheidungen in sicherheitskritischen Kontexten.

Ich vertraue keinem KI-System autonome Entscheidungen in meinem Security-Workflow. Nicht weil ich Technik-Feind bin, sondern weil ich die Fehlerraten kenne. Ein Modell, das in 97% der Fälle richtig liegt, liegt in 3% der Fälle falsch. Im Security-Kontext sind diese 3% oft genau die Fälle, die entscheidend sind.

Verlässliche Faktenüberprüfung.

Modelle halluzinieren. Das hat sich seit meinen ersten Experimenten verbessert, aber nicht gelöst. Wer KI als Faktenquelle nutzt ohne Verifikation, begeht einen Fehler. Das gilt für CVE-Recherche, für Rechtsfragen, für technische Spezifikationen. Die Verbesserungen der letzten Monate sind real, aber noch keine Lösung.

Tiefes Domänenwissen in spezialisierten Bereichen.

Für generische Security-Themen sind die Modelle gut. Für sehr spezifische Bereiche, ICS/SCADA-Security, bestimmte proprietäre Systeme, hochspezialisierte Angriffsszenarien, sind sie oft oberflächlich. Das Modell weiß viel Allgemeines und wenig Spezifisches. Ich weiß das Gegenteil. Die richtige Arbeitsteilung liegt auf der Hand.

Emotionale Intelligenz und Organisationsverständnis.

KI versteht keine Organisationspolitik. Sie versteht nicht, warum der Vorstand einen bestimmten Ansatz ablehnen wird, obwohl er technisch richtig ist. Sie versteht nicht, warum ein Mitarbeiter trotz besseren Wissens eine schlechte Sicherheitsentscheidung trifft. Diese Dimension, das Menschliche in Sicherheitsprojekten, ist nach wie vor meine Arbeit.

Was sich in den nächsten Jahren verschieben wird

Ich bin kein Futurologe und mache keine Vorhersagen. Aber auf Basis dessen, was ich beobachte, gibt es einige Entwicklungen, die sich abzeichnen:

Lokale Modelle werden besser, schneller, kleiner. Die Qualitätslücke zu Cloud-Modellen schließt sich. In zwei Jahren werden Modelle, die heute Spitzenklasse in der Cloud sind, auf normaler Hardware lokal laufen. Das wird die Datenschutz-Debatte verändern.

Agentic AI wird produktionsreif, für bestimmte Aufgaben. Nicht für alles, aber für klar definierte, kontrollierbare Workflows wird Automatisierung durch KI-Agenten zur Normalität. Die Organisationen, die heute verstehen, wie man diese Systeme sicher baut, haben einen Vorsprung.

Governance wird regulatorisch erzwungen. Der EU AI Act ist in Kraft. ISO 42001 gewinnt an Bedeutung. In drei bis fünf Jahren werden Unternehmen, die KI ohne Governance betreiben, ähnliche Probleme haben wie Unternehmen heute ohne funktionierende Datenschutzprozesse. Der Unterschied: Die Bußgelder sind größer.

Was diese Serie war

Ich habe vor einem Jahr angefangen, kleine Python-Skripte zu schreiben. Heute betreibe ich ein mehrstufiges KI-System, berate Unternehmen bei der sicheren KI-Adoption und helfe Organisationen, ISO 42001 zu implementieren.

Das klingt nach einer Erfolgsgeschichte. Es war auch eine Geschichte aus vielen Iterationen, Fehlentscheidungen und Dingen, die nicht funktioniert haben.

Der Grund, warum ich diese Serie geschrieben habe, ist nicht Selbstdarstellung. Es ist die Überzeugung, dass KI in der IT-Sicherheit zu wichtig ist, um sie Hype-Zyklen zu überlassen. Sie braucht Leute, die sie wirklich verstehen, technisch und strategisch.

Und sie braucht ehrliche Stimmen, die sagen: Das funktioniert. Das funktioniert nicht. Das ist das nächste Problem.

Wenn Sie Fragen haben, Projekte diskutieren möchten oder einfach austauschen wollen, ich freue mich auf das Gespräch.