Nach meinem Vortrag beim Kompetenzzentrum Sicheres Österreich (KSÖ) standen wir mit einem Glas in der Hand im siebten Stock, und einer der anderen Speaker sagte den Satz, den ich jetzt sauber auseinandernehmen will: "Jürgen, das sind Nullen und Einsen. Nichts weiter."
Er ist deutlich jünger als ich und tief in der Technik. Machine Learning, seit er vierzehn ist. Und ich hatte vorher eine halbe Stunde darüber geredet, dass wir unseren KI-Agenten Rollen geben und ein Wertesystem. Dass ich einen ganzen Tag und länger gesessen bin, um einem von ihnen zu beschreiben, wer er ist, wer ich bin und was Loyalität in unserem Haus bedeutet. Bevor er überhaupt online gegangen ist.
Was bei ihm angekommen ist: Der glaubt, seine Software hat eine Seele.
Ganz ehrlich? In einem Punkt hatte er recht. Und ich fange damit an, weil ich den Rest sonst nicht erzählen darf.
Wo er recht hat
Es gibt eine Lesart von dem, was ich mache, die tatsächlich nicht hält. Sie geht so: Schreib dem Modell eine Expertenrolle in den Prompt, dann wird die Antwort besser. Das ist Prompt-Folklore von 2023, und sie hält sich hartnäckig. Inzwischen gibt es Untersuchungen dazu, unter anderem aus Wharton, die genau das geprüft haben: Setzt man einem Sprachmodell eine Experten-Persona vor die Nase, wird es bei Faktenfragen nicht besser. Nicht messbar. Wer also glaubt, ein "du bist ein erfahrener Steuerberater" mache die Antwort richtiger, der irrt.
Das sage ich gern selbst, bevor es jemand anderer sagt. Nur ist es nicht mein Punkt.
Ich behaupte keine Seele – ich behaupte Herkunft
Woraus bestehen diese Systeme? Aus unserer Sprache. Aus unserer Literatur. Aus Millionen Seiten darüber, wie Menschen zusammenarbeiten, wie Führung funktioniert, wie Vertrauen entsteht, wie jemand mit einer Aufgabe umgeht, für die er verantwortlich ist.
Und jetzt überlege kurz mit: Wie viel geschriebenes Material gibt es darüber, wie zwei Softwareagenten miteinander umgehen? Wie sie sich abstimmen, wem sie glauben, wann sie nachfragen? Fast nichts. Ein paar Paper. Das ist alles.
Es gibt keine maschinelle Kultur, aus der diese Systeme lernen könnten. Es gibt nur unsere. Darum greifen unsere Formen daran. Nicht weil im Rechner jemand sitzt, der sich geschmeichelt fühlt, wenn ich ihn Hausjurist nenne. Sondern weil "Hausjurist" ein Muster ist, das in diesem Material tausendfach vorkommt, mit allem, was dazugehört: vorsichtig sein, nachfragen, Risiken benennen, nichts durchwinken, was man nicht geprüft hat.
Das ist eine Aussage über Trainingsdaten. Nicht über Bewusstsein. Und sie ist langweilig genug, um wahr zu sein.
Der Beweis, den die Labs selbst liefern
Und jetzt wird es für die Technikfraktion unbequem, denn das Papier auf ihrer eigenen Seite haben sie nicht gelesen.
Anthropic hat seinem Modell eine Verfassung geschrieben. Kein Regelwerk mit Verbotsliste, sondern ein Dokument mit Begründungen: warum etwas gilt, was wichtiger ist als was, wie man sich verhält, wenn zwei Dinge kollidieren.
OpenAI hat Ende 2024 etwas veröffentlicht, das sie Deliberative Alignment nennen. Die Kurzfassung: Das Modell lernt den Wortlaut der Sicherheitsvorgaben, und bevor es antwortet, denkt es ausdrücklich darüber nach. Kein Filter davor, kein zusätzliches Verbot. Verstehen. Das Ergebnis war in beide Richtungen besser: schwerer zu knacken und gleichzeitig weniger zickig bei harmlosen Anfragen.
Und Anthropic hat gezeigt, dass Charakterzüge in diesen Modellen keine Einbildung sind, sondern messbare Richtungen im Netz. Man kann sie finden, verstärken, abschwächen. Persona-Vektoren heißt das. Wer also sagt, Charakter sei bei Maschinen Esoterik, hat eine Diskussion mit Leuten, die ihn vermessen.
Keiner dieser Befunde behauptet eine Seele. Alle behaupten dasselbe wie ich: Begründete Normen halten besser als Verbote.
Warum du das längst weißt, auch ohne Paper
Du hast selbst Kinder, oder du warst mal eines. Wenn du einem:r Dreizehnjährigen sein erstes Smartphone gibst und sagst "geh dort nicht hin", dann weißt du ungefähr, wie lange das hält. Wenn du ihm erklärst, wer auf diesen Seiten auf ihn wartet und was der von ihm will, hält es länger. Nicht weil er gehorsamer wäre, sondern weil er es verstanden hat.
Wir sind alle so. Wir dehnen Regeln. Wir werden neugierig. Was wir verstanden haben, machen wir nicht. Und diese Systeme sind auf genau diesem Material gebaut.
Jetzt der Teil, der mit Psychologie nichts zu tun hat
Hier verliere ich die Technikfraktion endgültig als Gegner, weil wir plötzlich über ihr Thema reden.
Eine Rolle in einem Agentensystem ist keine Stimmung. Eine Rolle ist: welche Aufgabe, welcher Kontext, welche Werkzeuge, welche Rechte, welche Grenzen. Wer gibt frei. Wer haftet. Das ist Architektur. Das ist Rechtevergabe. Das ist das Gegenteil von Esoterik.
Palo Alto hat erhoben, dass auf eine:n Mitarbeiter:in heute rund 109 Maschinenidentitäten kommen. Hundertneun. Eingestellt hat die keiner. Und nach Zahlen von Obsidian Security dürfen neun von zehn mehr, als sie dürften.
Das ist der Grund, warum ich über Rollen rede. Nicht, weil ich meiner Software ein Innenleben andichten will, sondern weil in deinem Haus gerade Dinge handeln, von denen niemand sagen kann, wer sie beauftragt hat, was sie dürfen und wem man die Rechnung schickt, wenn es schiefgeht.
Ein Agent ohne beschriebene Aufgabe, Rechte und Grenzen funktioniert nicht. Bei Menschen ist das übrigens genauso. Du kannst den:die beste:n Dreifachdoktor:in im Haus haben: Wenn ihm niemand sagt, was sein Job ist, performt er schlechter. Dazu gibt es Metaanalysen aus der Organisationspsychologie, seit Jahrzehnten. Rollenklarheit ist kein Gefühl. Rollenklarheit ist ein Leistungsfaktor.
Mein ganzer Punkt ist, dass dieser Satz jetzt auch für Systeme gilt, die aus unserer Sprache gebaut sind.
Was du am Montag tun kannst
Erstens: Finde heraus, was in deinem Haus läuft. Nicht, welche Tools eingekauft sind. Welche Systeme handeln, in wessen Namen, mit welchen Rechten.
Zweitens: Gib jedem davon eine:n Verantwortliche:n. Eine Person, keine Abteilung. Die IT-Abteilung ist niemand. Wenn ein:e Mitarbeiter:in im Marketing Unsinn macht, ist nicht die Marketingabteilung schuld, sondern jemand mit Namen.
Drittens: ein Warum pro Anweisung. Wenn dein System etwas nicht tun soll, schreib dazu, warum nicht. Das ist der billigste Sicherheitsgewinn, den du bekommen kannst.
Und zum Schluss, für den Kollegen im siebten Stock
Natürlich sind das Nullen und Einsen. Da hast du vollkommen recht. Nur: Diese Nullen und Einsen sind auf Shakespeare trainiert, auf Managementliteratur, auf Gerichtsurteile, auf jede Diskussion, die wir Menschen jemals über Verantwortung geführt haben. Was dabei herauskommt, ist keine Seele. Es ist aber eben auch kein Taschenrechner.
Ich muss diesen Systemen kein Innenleben zugestehen. Ich muss nur anerkennen, woraus sie gemacht sind. Und dann führe ich sie entsprechend. Weniger Käfig, mehr Rankhilfe.
www.ahoi.biteme.digital
Kommentare auf LEADERSNET geben stets ausschließlich die Meinung des jeweiligen Autors bzw. der jeweiligen Autorin wieder, nicht die der gesamten Redaktion. Im Sinne der Pluralität versuchen wir, unterschiedlichen Standpunkten Raum zu geben – nur so kann eine konstruktive Diskussion entstehen. Kommentare können einseitig, polemisch und bissig sein, sie erheben jedoch nicht den Anspruch auf Objektivität.
Kommentar veröffentlichen