Menu Der säkulare Blick auf die Welt.

Der Philosoph Jeremy Bentham erfand das Konzept des Panoptikons (wörtlich: "alles sehend") Ende des 18. Jahrhunderts. Die architektonische Struktur eines Panoptikons ermöglicht die gleichzeitige Überwachung vieler Menschen von einem einzigen, zentral gelegenen Punkt aus.

Ursprünglich als Effizienzmaßnahme für Fabriken gedacht, entwickelte sich Benthams Idee rasch zum Modus Operandi eines anderen Gebäudetyps: dem vom Gefängnissen. In Deutschland existieren mit den Zellengefängnissen Moabit und Nürnberg sowie den JVAs Freiburg und Münster mehrere Beispiele für stern- statt kreisförmig angelegte panoptische Gefängnisse.

Ihre Vervollkommnung fand die Idee des zentralen Panoptikons 1928 in Kuba, mit dem Presidio Modelo ("Modellgefängnis"). Das Gefängnis besteht aus mehreren kreisrunden Gebäuden, je ein Wachturm in der Mitte, von dem aus man in jeden Winkel blicken kann.

Flock: Das dezentrale Panoptikon

„Flock“ ist ein 2017 gegründetes Unternehmen, das sich auf Videoüberwachung, akustische Erkennung von Schusswaffengeräuschen und automatisierte Kennzeichenerkennung spezialisiert hat. Seit einigen Jahren wächst die Zahl von in den USA installierten Flock-Kameras exponentiell – mehr als 90.000 sind es mittlerweile. Die Kameras werden nicht nur für Straßenüberwachung genutzt: Geschäfte, Schulen und Hausverwaltungen können diese auch auf Privatgrund installieren.

Mit „FlockOS“ bietet das Unternehmen sogar ein hauseigenes Betriebssystem. Wer bereits ein Überwachungssystem von einem anderen Hersteller hat, kann dieses mit Flock-Analysesoftware verknüpfen. Somit hat das Unternehmen einen weitaus größeren Datenpool als den, den die hauseigenen Kameras hergeben.

Anders als herkömmliche Überwachungskameras ist Flock-Hardware nicht closed circuit, die Daten und Aufzeichnungen liegen nicht in einem geschlossenen System. Sie funken direkt ins offene Internet. Und was ins Internet geht, kann gehackt werden. Glücklicherweise nimmt die Firma die Zugriffskontrolle sehr ernst und verlangt eine Zwei-Faktor-Authentifizierung… Kleiner Scherz, tut sie natürlich nicht. Und dank eines Malwareinfekts wurden bereits Logindaten kompromittiert.

Nächstes Problem: Diese Kameras sind wirklich überall. Auf Spielplätzen, in Schulen, in Gemeindezentren und in Sporthallen. Die Videoaufzeichnungen aus letzteren nutzt das Unternehmen irritierenderweise gerne für Marketingzwecke. "Warum beobachten die Angestellten von Flock unsere Kinder?", kommentierte ein Mitglied aus einer betroffenen Gemeinde in Georgia.

Das Missbrauchspotential ist unvorstellbar vielfältig. Flock wurde unter anderem genutzt, um Frauen zu verfolgen, die Schwangerschaftsabbrüche vornehmen, (Ex-)Partner*innen und Angehörige zu stalken und die No-Kings-Demonstrationen zu überwachen.

Von Transparenz dabei keine Spur: In den meisten Gemeinden wurden die Verträge mit Flock im Hinterzimmer verhandelt, die Zivilgesellschaft vor vollendete Tatsachen gestellt. Wenn Gemeinden sich entscheiden, diese Verträge zu kündigen, dürfen sie die Kameras nicht einfach abbauen. Das Unternehmen tut dies ebenfalls nicht, es kann sie laut eigener Aussage nicht einmal deaktivieren. Daher sehen sich manche Städte gezwungen, die Kameras mit schwarzen Müllsäcken zu verhüllen.

Hohe Rate von Falschalarmen

Gerechtfertigt wird die Totalüberwachung – selbstverständlich – mit Verbrechensaufklärung. Eine von Flock durchgeführte Studie behauptet, die Soft- und Hardware sei an der Aufklärung von zehn Prozent aller gemeldeten Verbrechen beteiligt. Einer der beiden beteiligten Wissenschaftler allerdings äußerte im Nachgang harsche Kritik am Studiendesign.

Am besorgniserregendsten jedoch ist, dass das System ein notorisches Problem damit hat, Buchstaben und Menschen auseinander zu halten. Es gibt eine regelrechte Epidemie falsch-positiver Alarme, die dazu führen, dass Unbescholtenen um drei Uhr morgens von einem SWAT-Team die Haustür eingetreten wird. Auch hier findet sich ein Wert von zehn Prozent – so hoch war die Rate von Falschalarmen in Testszenarien.

„Auf dass die Augen des Staates zu allen Zeiten auf euch gerichtet seien“ − Nein, das ist kein Zitat von George Orwell oder Aldous Huxley. Auch keins von Wladimir Putin. Das ist ein Zitat von Shabana Mahmood, Innenministerin Großbritanniens zwischen Juli 2024 und September 2025. Ihr Ziel, so Mahmood, bestehe darin, "mit Hilfe von KI und Technologie zu erreichen, was Jeremy Bentham mit seinem Panoptikon versuchte".

Egal, wie man diesen Satz liest: Am Ende steht ein Gefängnis. Künstliche Intelligenz ist für Überwachungs- und Schurkenstaaten genau das Werkzeug der Verhaltenssteuerung, das sie sich immer gewünscht haben. Es arbeitet geräuschlos, spurlos, depersonalisiert und automatisch. Es gibt nur ein Problem: Künstliche Intelligenz ist nichts weiter als ein leidlich komplexer Algorithmus. Computercode. Und wer diesen Code kontrolliert, kontrolliert die Augen des Staates. Aber dazu kommen wir morgen.