Mein neuester KI-Agent hat eine strikte Anweisung: Er darf dir nicht helfen. Jedenfalls nicht sofort. Und genau dafür werden Unternehmen ihn bezahlen.
Klingt absurd? Willkommen in der nächsten Phase der KI-Transformation. Wir haben jahrelang daran gearbeitet, Maschinen hilfreicher zu machen. Schneller. Freundlicher. Geduldiger. Präziser. Jetzt arbeiten wir daran, einer KI das Helfen wieder abzutrainieren. Nicht, weil Hilfe schlecht ist. Sondern weil Hilfe im falschen Moment gefährlich wird.
Ganz ehrlich? Was mich an der aktuellen KI-Euphorie stört, ist nicht die Geschwindigkeit. Ich liebe Geschwindigkeit. Ich baue Systeme, die Unternehmen Zeit sparen, Prozesse automatisieren und Menschen von stupider Routine befreien. Aber wir verwechseln gerade zwei völlig unterschiedliche Dinge: Arbeiten und Lernen.
Im Tagesgeschäft soll KI liefern. Volle Kraft. Angebote vorbereiten, Reports schreiben, Meetings zusammenfassen, CRM-Daten strukturieren, Wissensdatenbanken durchsuchbar machen. Bitte ja. Aber im Lernen? Da braucht KI andere Regeln. Denn wer jedem Mitarbeiter:innen sofort die perfekte Antwort serviert, baut keine Kompetenz auf. Er baut Abhängigkeit mit hübscher Benutzeroberfläche.
Die freundlichste Sabotage sitzt im Chatfenster
Vor ein paar Wochen habe ich an dieser Stelle beschrieben, wie man digitale Arbeitskräfte einstellt und führt. Heute geht es um die unbequeme Rückseite: Was macht permanente KI-Hilfe mit den menschlichen Kolleg:innen? Die Antwort ist unangenehm.
Eine MIT-Untersuchung aus 2025, noch im Preprint-Stadium, untersuchte 54 Teilnehmer:innen beim Essay-Schreiben: eine Gruppe ohne Tools, eine mit Suchmaschine, eine mit ChatGPT. Die LLM-Gruppe zeigte die schwächste neuronale Konnektivität und das geringste Gefühl von Ownership für den eigenen Text.
Die Texte waren da, aber das Denken hing irgendwo hinterher. Die Forschenden nennen dieses Risiko im Titel ihrer Arbeit "Cognitive Debt" – "Kognitive Schulden". Man merkt sie nicht sofort. Aber irgendwann werden sie fällig.
Besonders hängen bleibt eine Zahl: 83,3 Prozent der ChatGPT-Gruppe konnten unmittelbar nach dem Schreiben keine einzige Passage aus dem eigenen Text wiedergeben.
Kleine Stichprobe. Preprint. Kein endgültiges Urteil. Aber als Warnsignal stark genug.
Und bevor du jetzt denkst: "Na ja, Studierende halt" – leider nein. Noch härter wird es in der Medizin.
Eine Studie in The Lancet Gastroenterology & Hepatology vom August 2025 beobachtete erfahrene Endoskopiker:innen in Polen. Nach der Einführung KI-gestützter Polypen-Erkennung sank ihre Adenom-Erkennungsrate bei Untersuchungen ohne KI von 28,4 auf 22,4 Prozent.
Beobachtungsstudie, ja. Keine endgültige Kausalitätskeule. Aber als Signal laut genug, dass jede Führungskraft kurz den Stift fallen lassen sollte.
Wenn Fachärzt:innen innerhalb weniger Monate visuelle Routinen verlieren können, was passiert dann im Großraumbüro, wenn Copilot, ChatGPT und Agenten jede Denkarbeit charmant übernehmen?
Produktivität ist kein Lernziel
Der Denkfehler vieler Unternehmen ist brutal simpel: Sie rollen KI aus wie Strom. Überall verfügbar. Immer an. Gleiche Logik für alle. Das funktioniert für Produktivität. Aber nicht für Kompetenzaufbau.
Eine Produktiv-KI soll Reibung entfernen. Eine Lern-KI muss Reibung erzeugen. Genau dort entsteht Können. Nicht im perfekten Output. Sondern im Ringen mit dem Problem.
Wer einem:r neuen Mitarbeiter:in beim ersten Onboarding-Problem sofort die Lösung gibt, trainiert ihn nicht. Er trainiert ihn darauf, beim nächsten Problem wieder zu fragen. Wer einer Führungskraft jede schwierige Formulierung abnimmt, stärkt nicht ihre Kommunikationsfähigkeit. Er glättet ihre Unsicherheit weg. Wer einem HR-Team jede Entscheidungsvorlage automatisch ausspuckt, spart Zeit. Aber er riskiert, dass irgendwann niemand mehr sauber erklären kann, warum eine Entscheidung richtig war.
Und genau da beginnt die neue Führungsaufgabe. Nicht: "Welche KI geben wir unseren Leuten?" Sondern: "In welchem Modus arbeitet diese KI gerade?"
Eine gute Lern-KI muss Nein sagen dürfen
Wir bauen gerade ein Lernsystem für Unternehmen. Kein Produktname. Kein Marketing-Zauber. Nur so viel: Der spannendste Teil daran ist nicht, was die KI kann. Sondern was sie bewusst nicht darf. Fragt der:die Nutzer:in zu früh nach Hilfe, sagt sie: "Versuch es zuerst." Kommt nach drei Minuten der Wunsch nach der fertigen Lösung, gibt sie keinen Output, sondern eine Gegenfrage: "Was hast du schon ausgeschlossen?" In Prüfungssequenzen hilft sie gar nicht. Ein Satz reicht: "Diese Mission machst du ohne mich." Und wenn jemand nach drei Sekunden eine perfekte Antwort liefert, jubelt die KI nicht. Sie fragt: "Warum hast du es so gemacht?"
Das wirkt auf den ersten Blick unfreundlich. In Wahrheit ist es Respekt. Denn Lernen braucht Widerstand. Nicht als pädagogische Strafübung. Sondern als Trainingsreiz. Wer Muskeln aufbauen will, braucht Gewicht. Wer Denken aufbauen will, braucht Reibung. KI, die immer sofort hilft, nimmt genau diese Reibung weg. Und plötzlich wundern wir uns, warum alle schneller produzieren, aber weniger verstehen.
Cognitive Debt taucht in keiner Bilanz auf
Microsoft und Carnegie Mellon haben 2025 dann 319 Knowledge Worker und 936 reale GenAI-Arbeitsbeispiele untersucht. Ein Befund bleibt hängen: Je höher das Vertrauen in die KI, desto weniger kritisches Denken. Je höher das Vertrauen in die eigenen Fähigkeiten, desto mehr kritisches Denken.
Das ist die eigentliche Pointe. Selbstvertrauen schützt vor blindem Vertrauen in die Maschine. Aber Selbstvertrauen entsteht nicht durch Konsum. Es entsteht durch Übung, Fehler, Feedback, Wiederholung, Reibung.
Deshalb müssen Unternehmen jetzt eine unangenehme Entscheidung treffen: Wollen sie nur Output beschleunigen? Oder wollen sie Menschen befähigen? Beides braucht KI. Aber nicht dieselbe KI.
Im Tagesgeschäft soll KI der Turbo sein. Im Lernen muss sie der Sparringspartner sein. Und ein guter Sparringspartner schlägt nicht für dich. Er zwingt dich, selbst besser zu werden.
Die wertvollste KI sagt im richtigen Moment Nein
Eines muss klar sein: Ich bin nicht gegen KI-Hilfe. Ich bin gegen falsch designte Hilfe. Wir brauchen KI, die Arbeit erleichtert. Aber wir brauchen genauso KI, die Kompetenz schützt. Sonst kaufen wir Geschwindigkeit heute und bezahlen morgen mit Denkfaulheit, Kontrollverlust und einer Belegschaft, die zwar Tools bedienen kann, aber keine Probleme mehr durchdringt.
Cognitive Debt ist die einzige Schuldenart, die in keiner Bilanz auftaucht.
Bis sie fällig wird. Die wertvollste KI im Unternehmen ist nicht die, die immer antwortet. Sondern die, die im richtigen Moment Nein sagt.
PS: Am 24. September spreche ich auf der Applied Artificial Intelligence Conference 2026 in Wien, am Standort der Wirtschaftskammer Österreich, Wiedner Hauptstraße 63, genau über dieses Spannungsfeld: KI in HR zwischen Produktivität, Kompetenzaufbau und digitaler Abhängigkeit. Nicht als Tool-Show. Sondern als Reality-Check: Wann soll KI helfen, wann soll sie bremsen – und wann muss sie ganz bewusst den Mund halten?
www.ahoi.biteme.digital
Kommentare auf LEADERSNET geben stets ausschließlich die Meinung des jeweiligen Autors bzw. der jeweiligen Autorin wieder, nicht die der gesamten Redaktion. Im Sinne der Pluralität versuchen wir, unterschiedlichen Standpunkten Raum zu geben – nur so kann eine konstruktive Diskussion entstehen. Kommentare können einseitig, polemisch und bissig sein, sie erheben jedoch nicht den Anspruch auf Objektivität.
>
>
Kommentar veröffentlichen