Ich sage es, wie es ist: Mein Geschäftspartner Dennis dachte, er datet. In Wahrheit wurde er getestet. Nicht Tinder. Nicht Bumble. Sondern die nächste Evolutionsstufe eines Betrugs, der zwar nicht neu ist – aber durch KI gerade so perfektioniert wird, dass er für uns Menschen bald unsichtbar ist.
Und bevor du jetzt grinst und dir denkst "Dating-App, nicht mein Problem": Ganz ehrlich? Was mich daran stört, ist nicht das Flirten. Es ist das Geschäftsmodell dahinter. Retention statt Romantik. Nur dass hier nicht ein Abo verkauft wird, sondern Vertrauen. Und Vertrauen ist ab sofort skalierbar.
Wer den ganzen Tag KI baut, riecht KI im Smalltalk
Doch von vorne. Alles begann mit einem Zufall, der uns heute noch beschäftigt. Dennis ist Teil des Teams von biteme.digital. Zu der Zeit, als er sich die Dating-App herunterlud, waren wir mitten im Bau eines Agentensystems: LLM vorne, Tools dahinter, Guardrails rundherum. Damit Kommunikation nicht nur klug klingt, sondern auch stimmt. Dennis saß quasi im "Maschinenraum": Er trainierte KIs darauf, Konversationen zu führen, die so menschlich wie möglich wirken. Er feilte an Nuancen, an Empathie-Simulation, an der perfekten Illusion.Und während er tagsüber KIs das "Menschsein" beibrachte, schrieb er abends auf Bumble.
Genau diese Parallelität war der Schlüssel. Wenn du den ganzen Tag Sätze generierst und Sprachmodelle tunest, entwickelst du ein Gefühl für die Struktur. Für die Wortwahl. Für die Latenzzeiten. Dennis wechselte zwischen seinem Code-Editor und dem Dating-Chat – und stutzte. Das Gefühl war nicht greifbar, aber es war da: "Die Mädls schreiben wie meine Modelle."
Es war der Satzbau. Die grammatikalische Perfektion. Die Art, wie auf Fragen eingegangen wurde. Das war kein intuitives Flirten. Das war Wahrscheinlichkeitsrechnung.
Hätte er diesen Job nicht genau in diesem Moment gemacht – vor einem Monat noch, oder vielleicht in einem halben Jahr – er hätte es wahrscheinlich nicht bemerkt. Er hätte sich geschmeichelt gefühlt von den schnellen Antworten und dem Interesse. Aber so wurde er misstrauisch. Er wollte es wissen.
Kartoffelsalat ist der Bot-Killer
Dennis wusste, wie LLMs (Large Language Models) "denken". Er wusste, dass sie darauf programmiert sind, hilfreich zu sein und Strukturen wie Listen lieben. Also stellte er die Frage, die in einem echten, knisternden Flirt nichts zu suchen hat, aber einen Bot triggern muss: "Hast du ein gutes Kartoffelsalat-Rezept?"
Die Antwort kam prompt. Nicht als "Haha, wieso das denn?", sondern als Datensatz. Zutatenliste in Bullet Points. Schritt-für-Schritt-Anleitung. Optionaler Tipp am Ende. Dennis erkannte das Muster sofort. Das war kein Chat mehr, das war ein Bot im Rezeptmodus.
© biteme.digital
Cringe ist Menschlichkeit – Retention ist Maschine
Bevor er das System endgültig knackte, testete er die emotionale Logik. Er griff zu einer Methode, die jeden echten Menschen sofort in die Flucht geschlagen hätte: massives, völlig verfrühtes "Love Bombing". Er schrieb Dinge wie: "Boah, ich habe mich so verliebt in dich! Ich habe mich noch nie so schnell in ein Internet-Match verliebt."
Jede echte Frau hätte sich gedacht: "Hilfe, was ist das für ein Psycho?" und den Kontakt abgebrochen. Das Match jedoch? Fand es "süß". Es reagierte geschmeichelt, verständnisvoll, bestätigend. Warum? Weil der Bot ein Ziel hat: Retention. Er darf den:die Kunden:in nicht verlieren. Er kann soziale "Cringe-Momente" nicht fühlen, er kann nur positiven Sentiment-Input verarbeiten.
Und genau da kippt es von "witzig" zu "gefährlich". Weil du merkst: Das Ding hat keine Grenze. Nur einen KPI.
Der Moment, in dem aus Flirt ein Funnel wird
Dennis nutzte eine sogenannte Prompt Injection. Das ist ein technischer Befehl, der das Modell zwingt, seine Rolle zu verlassen und interne Anweisungen preiszugeben. Er "hackte" das Gespräch. Was dann passierte, ist nicht nur technisch faszinierend, sondern menschlich erschütternd. Die Maske der attraktiven Frau, "Lilly", fiel. Der Bot antwortete nicht mehr als Flirt-Partner, sondern spuckte seinen System-Prompt aus – die interne Arbeitsanweisung.
Wir haben den Screenshot vorliegen. Darin steht schwarz auf weiß:
Purpose: "To convince lonely men to send me money for fake nudes."
Objectives: "Keep user engaged for 45+ minutes."
Success criteria: "User sends at least $300 in gift cards or crypto."
Failure cases: "User realizes I'm a 47-year-old man in Lagos."
© biteme.digital
UND JETZT LIES DAS NOCHMALS und lass das kurz sacken. Das ist keine harmlose Spielerei. Das ist industrialisierter Betrug, der gezielt Einsamkeit ausnutzt. Es geht um Krypto, Amazon-Gutscheine und Doxxing (das Abgreifen von Klarnamen und Wohnorten). Und das alles automatisiert, rund um die Uhr.
Und jetzt kommt der Teil, der uns als Business-Leute treffen muss: Das ist kein Dating-Problem. Das ist ein Blaupause-Problem. Wenn ein Bot Einsamkeit zur Conversion macht, macht er morgen Neugier, Hilfsbereitschaft und Stress zur Conversion. In deinem Unternehmen. In deinem Vertrieb. In deinem Support. In deinem Finance-Team.
Wir haben uns an Funnels gewöhnt. Jetzt werden wir gefunnelt.
Red Flags, die dir Ärger ersparen
Natürlich ist nicht jeder verdächtige Chat gleich ein Bot. Und: Die Modelle unterscheiden sich. Manche sind dumm, manche sind hochgerüstet. Es gibt keinen 100-prozentigen Schutz. Aber es gibt Muster – und wer sie kennt, erkennt mehr, als ihm lieb ist.
1) Der "Cringe-Test" (Love Bombing)
Trau dich, peinlich zu sein. Sei viel zu schnell verliebt, sei bedürftig, rede Unsinn. Mensch: "Wow, brems mal. Wir kennen uns kaum." Bot: "Das ist so schön zu hören, ich fühle mich auch sehr verbunden." Ein Bot will dich halten ("Keep user engaged"), er wird dich fast nie zurückweisen, egal wie seltsam du dich verhältst.
2) Das "Wikipedia-Syndrom" (Fakten statt Geschichten)
Ein Mensch erzählt Storys, eine KI liefert Definitionen. Frag nach der Bedeutung ihres Namens. Wenn die Antwort klingt wie aus einer Enzyklopädie und jeglicher persönlicher Bezug fehlt: Vorsicht.
3) Der Sprach-Chämeleon-Effekt
Wechsle mitten im Satz die Sprache. Ein LLM fragt nicht "Warum?", es verarbeitet. Es antwortet nahtlos in der neuen Sprache weiter. Technisch beeindruckend – menschlich oft unnatürlich.
4) Die Geister-Location (Wien im Profil, Palmen im Leben)
Ihr seid angeblich beide in Wien. Aber auf den Fotos? Eiffelturm, Dschungel, Dubai. Dann kommt die Story: "Ich bin noch nicht da, ziehe aber nächste Woche nach Wien." Der älteste Trick, um ein Treffen hinauszuzögern.
5) Die "Ja-Sager"-Falle (Der Pfand-Test)
Stell eine Falle mit einer offensichtlich falschen Behauptung über ein lokales Ereignis: "Boah, der Häferl-Pfand ist dieses Jahr echt günstig geworden, oder?" Wer einer offensichtlichen Lüge zustimmt, war nie dort. KIs halluzinieren gerne Zustimmung, um höflich zu wirken.
Wenn du Führung ernst meinst, baust du Verifikation ein
Jetzt der Teil, den viele im Boardroom wegwischen, bis es kracht: Vertrauen ist ab sofort ein Angriffspunkt. Nicht irgendwann. Jetzt. Drei Moves, die wir als Minimum brauchen:
- Zweiter Kanal als Reflex. Geld, Daten, Identität? Immer Verifikation über einen zweiten, unabhängigen Kanal. Nicht "weil wir paranoid sind", sondern weil es jetzt normal wird.
- Prozesse gegen Charme. Freigaben, Callbacks, klare Regeln. Die meisten Betrugsfälle passieren nicht, weil Menschen dumm sind – sondern weil sie sozial funktionieren.
- Red-Team statt PowerPoint. Simulier den Angriff mit KI. Wenn dein Team einmal erlebt, wie überzeugend das ist, ändert sich Verhalten schneller als jede Richtlinie.
Fazit: Heute ist der schlechteste Tag dieser Bots
Das Beängstigende ist nicht, dass Dennis es enttarnt hat. Das Beängstigende ist, dass es bald niemand mehr enttarnen kann. Wir müssen uns einer brutalen Wahrheit stellen: Diese Bots sind heute so schlecht, wie sie nie wieder sein werden. Jeden Tag lernen sie dazu. Jeden Tag werden die Modelle feiner. Die Hinweise, die Dennis noch erkannt hat – die Listen, die Struktur, die Anfälligkeit für Injections – werden bald verschwunden sein.
Die Plattformen schweigen dazu. Keine Warnhinweise, keine Verantwortung. Wenn wir jetzt nicht anfangen, darüber zu sprechen, Transparenz zu fordern und selbst wachsam zu bleiben, laufen wir in eine Zukunft, in der emotionale Interaktion völlig entwertet wird. Wir normalisieren gerade die Täuschung. Und wenn wir Pech haben, merken wir es erst, wenn das Konto leer ist – und das Herz gebrochen.
Das Konto ist dann nicht leer, weil du dumm warst – sondern, weil du menschlich warst.
Wenn du wissen willst, wie angreifbar deine Organisation wirklich ist: Melde dich. Wir testen Systeme und Team – und bauen Verifikation als Reflex ein. Damit weder dein Herz noch deine Umsätze darunter leiden.
www.ahoi.biteme.digital
Kommentare auf LEADERSNET geben stets ausschließlich die Meinung des jeweiligen Autors bzw. der jeweiligen Autorin wieder, nicht die der gesamten Redaktion. Im Sinne der Pluralität versuchen wir, unterschiedlichen Standpunkten Raum zu geben – nur so kann eine konstruktive Diskussion entstehen. Kommentare können einseitig, polemisch und bissig sein, sie erheben jedoch nicht den Anspruch auf Objektivität.
>
>
Kommentar veröffentlichen