In einem Gespräch mit einem potenziellen Arbeitgeber wurde ich gefragt, was ich von KI-Agenten halte. Die Frage war ein Kompetenztest. Er wollte nicht nur meine Meinung hören. Er wollte wissen, wie tief ich wirklich drin bin.
Meine Antwort: Am Ende sind KI-Agenten orchestrierte Schleifen sprachbasierter Modelle. Tokenisierung, Wahrscheinlichkeiten, Verarbeitungsschritte. Plus etwas Speicher, etwas Tool-Anbindung, etwas Entscheidungslogik. Kein Bewusstsein. Keine Magie. Vor allem: die typischen Probleme wie (Bias, Halluzination etc.) sind nicht gelöst.
Ich habe gemerkt, dass ihn das überrascht hat. Er hat eine andere Art von Antwort erwartet. Mehr Hokuspokus. Mehr Simsalabim. Mehr „Das verändert alles“. Aber genau da liegt für mich das Problem: Begeisterung entsteht oft dort, wo das Innenleben eines Systems nicht verstanden wird. Je geheimnisvoller etwas wirkt, desto größer die Projektion.
Intelligente Systeme sind nicht neu. Neu ist, wie sehr wir sie aufladen. Und neu ist die Geschwindigkeit, mit der Organisationen glauben, sie müssten jetzt aufspringen.
In dem Gespräch wurde irgendwann klar, dass ich mich technisch deutlich tiefer auskenne als mein Gegenüber. Das ist nicht schlimm. Niemand muss jedes Detail verstehen. Schwierig wird es nur, wenn man nicht merkt, wo die eigene Grenze liegt. Dann werden Begriffe wie „Agent“ benutzt, als wären es eigenständige Akteure. Dabei sind es statistische Systeme, die Wahrscheinlichkeiten durchrechnen und Muster fortsetzen.
Für mich ist entscheidend: Wer die Verzerrungen, die Wahrscheinlichkeitslogik und die systemischen Grenzen nicht versteht, wird keinen echten Nutzen aus KI ziehen. Man wird entweder zu viel erwarten oder falsch implementieren.
Ich habe nichts gegen Begeisterung. Ich nutze sie gerne, um mich zu vertiefen. Nicht um zu verkaufen. KI ist kein Zaubertrick. Sie ist ein sozio-technisches System. Ihr Wert entsteht nicht durch ihre Existenz, sondern durch Kontext, Design und verantwortliche Nutzung. Wer kontrolliert das bei Agenten?
Und vielleicht ist genau das die unbequemere, aber ehrlichere Antwort.