Überwachungskameras zeichnen längst nicht mehr nur Bilder auf, die im Bedarfsfall von Menschen ausgewertet werden. Moderne Systeme können mithilfe Künstlicher Intelligenz selbstständig Personen und Gegenstände erkennen oder bestimmte Verhaltensweisen als auffällig einstufen. Wie zuverlässig solche automatisierten Beobachter tatsächlich arbeiten, hängt allerdings stark davon ab, was sie während ihres Trainings zu sehen bekommen haben. Der Berliner Künstler und Designer Simon Weckert macht sich genau diese Schwachstelle zunutze. Sein auffällig gemustertes Hemd ist für Menschen kaum zu übersehen, kann seinen Träger für bestimmte Personenerkennungsmodelle aber dennoch verschwinden lassen.
Buntes Muster bringt Objekterkennung aus dem Takt
Das Kleidungsstück trägt den Namen "Digital Camouflage" und ist Teil eines seit 2025 laufenden Kunst- und Designprojekts. Auf den ersten Blick erinnert das grün, rosa und orange gemusterte Hemd an besonders auffällige Freizeitkleidung. Die Anordnung der Farben und Formen folgt jedoch nicht ausschließlich ästhetischen Überlegungen, sondern wurde gezielt auf die Schwächen computergestützter Bilderkennung abgestimmt. Derartige Systeme verstehen nämlich nicht im menschlichen Sinn, was eine Person ist. Stattdessen suchen sie in Bildern nach statistischen Merkmalen wie Kanten, Kontrasten, Oberflächen und Körperformen, die sie während ihres Trainings mit der Kategorie "Mensch" verknüpft haben.
Das Muster auf Weckerts Hemd soll diese Hinweise so stark überlagern und unterbrechen, dass die Software die einzelnen Körperteile nicht mehr zu einer Person zusammensetzen kann. In der Forschung wird eine solche gezielte Täuschung eines KI-Modells als "adversarial attack" bezeichnet. Getestet wurde das Kleidungsstück mit YOLO, einem frei verfügbaren System zur Erkennung von Menschen und Gegenständen in Echtzeit. Im Demonstrationsvideo versieht die Software nahezu alle Passant:innen im Bild mit einem Rahmen und der Bezeichnung "Person". Lediglich der Träger des bunten Hemdes läuft ohne entsprechende Markierung durch die Aufnahme.
Kein Unsichtbarkeitsmantel für jede Kamera
Zum universellen Tarnanzug wird "Digital Camouflage" dadurch allerdings nicht. Weckert weist selbst darauf hin, dass das Hemd ausschließlich mit einem allgemeinen, offenen Objekterkennungsmodell getestet wurde. Ob es auch proprietäre Systeme von Behörden oder Sicherheitsunternehmen täuschen könnte, lässt sich von außen nicht überprüfen. Zudem können Kamerawinkel, Lichtverhältnisse, Bewegungen und spätere Softwareupdates beeinflussen, wie zuverlässig das Muster funktioniert. Auch das Gesicht des Trägers bleibt vollständig sichtbar. Eine Software, die gezielt Gesichter analysiert, könnte daher unabhängig von der ausgetricksten Ganzkörpererkennung zu einem anderen Ergebnis kommen. Das Hemd sei dementsprechend weder ein Werkzeug zur Flucht vor der Polizei noch ein Versprechen auf Anonymität, betont Weckert. Vielmehr soll es sichtbar machen, dass auch vermeintlich objektive Überwachungstechnik blinde Flecken besitzt.
Entstanden ist das Projekt vor dem Hintergrund der automatisierten Videoüberwachung in Berlin. Am Kottbusser Tor wurden Ende August rund 30 Kameras installiert, deren Aufnahmen künftig von einem sogenannten Verhaltensscanner analysiert werden sollen. Das System befindet sich zunächst in einer Kalibrierungsphase und soll unter anderem Gewalt- und Notsituationen erkennen. Später ist ein Einsatz an weiteren stark frequentierten Orten geplant. Die genaue Funktionsweise des proprietären Gesamtsystems lässt sich öffentlich jedoch nicht im Detail prüfen. Ob Weckerts Hemd auch diese Technik täuschen könnte, wurde nicht getestet.
Weckert täuschte schon Google Maps
Dass Weckert digitale Systeme gerne mit einfachen Mitteln an ihre Grenzen bringt, ist nicht neu. Bereits 2020 zog er für seinen "Google Maps Hack" einen Handwagen mit 99 eingeschalteten Smartphones durch weitgehend leere Berliner Straßen. Die gebündelten Standortdaten ließen Google Maps dort einen vermeintlichen Stau anzeigen und konnten andere Verkehrsteilnehmer:innen dadurch auf alternative Routen umleiten. Mit "Digital Camouflage" knüpft er an dieses Prinzip an.
Mehr Informationen zum Projekt "Digital Camouflage" finden Sie hier.
www.simonweckert.com
Kommentar veröffentlichen