Smart und sicher
Die überwachte Stadt im digitalen Zeitalter
von Félix Tréguer
Am 28. Dezember 1948 veröffentlichte der Dominikanermönch und Logiker Dominique Dubarle in der französischen Tageszeitung Le Monde einen der ersten kritischen Artikel über die neuen Rechner, die in den USA während des Zweiten Weltkriegs entwickelt worden waren. Darin unternimmt Dubarle den Versuch, die politischen Folgen dieser neuen Technologie abzuschätzen. Den Überwachungskapitalismus1 antizipierend, warnt Dubarle davor, dass die wachsenden Kapazitäten in der Datenspeicherung und -verarbeitung zur „Entstehung eines außergewöhnlichen politischen Leviathans“ führen würden.
70 Jahre später ist mit der „intelligenten Stadt“ (smart city) Dubarles Vision Wirklichkeit geworden. Nach den USA, China, den Golfstaaten und Großbritannien ist nun auch in Frankreichs Rathäusern das Zeitalter der Verwaltung per Algorithmus angebrochen. Und wie Dubarle vorausgesagt hat, werden Informationstechnologien im öffentlichen Raum dafür genutzt, Menschen- und Warenströme zu überwachen, zu analysieren, zu antizipieren und zu kontrollieren. Neben der Bereitstellung von Daten und der intelligenten Steuerung der Straßenbeleuchtung oder Müllabfuhr dient die Smart City vor allem der Sicherheit. Deshalb spricht die Industrie auch nur noch von der „safe city“, der sicheren Stadt.
Im Juni 2018 einigte sich die Stadt Nizza mit einem Konsortium von 15 Unternehmen unter der Führung des Rüstungs- und Sicherheitskonzerns Thales auf eine Testphase für die Safe City. Wie tief die Doktrinen aus der Welt des Militärs bereits in die Verwaltungssprache eingedrungen sind, zeigen die Behördenmitteilungen.
Da ist die Rede von „immer größeren Bedrohungen“, und „klimabedingte Risiken“ werden auf die gleiche Stufe gestellt wie „menschliche Risiken“ (Kriminalität oder Terrorismus). Derweil werden Fragen zu deren ökonomischen, sozialen oder politischen Ursachen gar nicht erst gestellt, geschweige denn mögliche Maßnahmen erörtert.
Stattdessen werden generalstabsmäßig „Situationen“ bewertet, „um Vorfälle und Krisen zu antizipieren“, „schwache Signale zu identifizieren“, um „Hilfe für die Planung“ bereitzustellen beziehungsweise „Voraussagen auf der Basis von Szenarien“ zu treffen. All das geschieht im Rahmen einer „Echtzeitverwaltung“ durch die Verarbeitung eines „Maximums vorhandener Daten“ in einer „Hypervisions- und Kommandozentrale“.2
Die Stadt beschränkt ihre Arbeit nur noch darauf, die „Risikofolgen“ zu verwalten, während der Polizei in der Safe City ähnlich weitreichende Befugnisse erteilt werden wie im Spätabsolutismus. Sie soll Wissen über die Bevölkerung sammeln und deren Verhalten steuern, indem sie auf bestimmte Variablen einwirkt und damit Folgsamkeit und Produktivität sichert.
Wirklich neu ist daran lediglich, dass man das unscharfe Ziel, die „öffentliche Ordnung“ aufrechtzuerhalten, aufgegeben hat und sich jetzt darauf beschränkt, die Unordnung zu verwalten. Mit allen Trümpfen der Informationstechnik in der Hand glauben die Technokraten, sie könnten auch im
Chaos des Schwarms bestimmte Eigenschaften oder statistische Regelmäßigkeiten erkennen, anhand derer man kategorisieren, sortieren und korrelieren kann. Auf dieser Grundlage wird dann vorhergesagt, verhütet, vorweggenommen und neu justiert – wenn nötig aber auch ins Visier genommen und unterdrückt.
Zu diesem Zweck stützt sich die Safe City auf zwei große technische Innovationen. Heute ist es möglich, verschiedene Datenbestände wie Polizeiregister und online – vor allem über soziale Netzwerke – erhobene persönliche Daten zusammenzuführen, um Statistiken und Entscheidungshilfen für eine vorbeugende Polizeiarbeit zu erstellen. Die Überwachungsinstrumente, mit denen die großen Geheimdienste seit zehn Jahren experimentieren, werden nunmehr auf die Gesamtheit polizeilicher Aufgaben ausgedehnt.
In Marseille gibt es seit November 2017 eine „Big-Data-Beobachtungsstelle“ zur Aufrechterhaltung der öffentlichen Ordnung, die dem Privatkonzern Engie Ineo anvertraut wurde. Hier werden die Daten verschiedener kommunaler Einrichtungen (Polizei, Verkehrsbetriebe, Krankenhäuser) zusammengeführt und durch die Informationen „externer Partner“ ergänzt. Partner sind zum Beispiel das Innenministerium, das zahlreiche Register und Datenbanken zentral bündelt, oder Telefonanbieter, mit deren Daten zur Lokalisation von Mobiltelefonen in Echtzeit „Menschenströme“ kartografiert werden können.
Auch die Bürger selbst werden zur Mitarbeit aufgerufen, über die App CrowdSourcing sollen sie Informationen (Textnachrichten, Videos, Fotos, Standortveränderungen, Stresslevel …) direkt an die Behörden übermitteln. Zudem setzt man darauf, die Kommunikation in sozialen Netzwerken wie Twitter oder Facebook zu überwachen, um „Bedrohungen zu antizipieren“. Durch die Analyse von Posts und Tweets sollen die Risiken für „gefährliche Menschenansammlungen“ berechnet und Akteure „identifiziert werden“.3 Um derart riesige Datenmengen speichern und verarbeiten zu können, hat die Stadt Marseille mehrere Server der Firma Oracle gekauft. Damit verfügt sie über einen Speicherplatz von 600 Terabyte – genauso viel wie das Online-Archiv der französischen Nationalbibliothek.
Die zweite Säule der Safe City ist die automatische Auswertung der Videoüberwachung. Der französische Staat, Städte und Gemeinden haben seit 2007 Hunderte Millionen Euro für Überwachungskameras ausgegeben, ohne nennenswerte Ergebnisse vorweisen zu können. Doch die Automatisierung verspricht jetzt das Blaue vom Himmel – mit dem Pluspunkt, dass man keine Menschen mehr für die Sichtung des Materials bezahlen muss. Projekte für eine „intelligente“ Überwachung sind in Toulouse, Nizza, Marseille, Valenciennes und Paris angelaufen, aber auch in den Départements Gard (Okzitanien) und Yvelines (Île-de-France).
Der Bürgermeister von Nizza Christian Estrosi gehört zu den Politikern, die sich besonders für die neuen technischen Möglichkeiten begeistern. Im Dezember 2018 brachte er folgenden Antrag durch den Regionalrat der Region Provence-Alpes-Côtes d’Azur (Paca): In Zusammenarbeit mit dem US-Unternehmen Cisco durften in zwei Gymnasien an Ein- und Ausgängen Schleusen zur Gesichtserkennung installiert werden. Der letzte Karneval in der Stadt diente als Versuchsfeld, um ähnliche Instrumente auszuprobieren.
Nizza gehört auch zu den französischen Städten, die die Videoüberwachung mit Algorithmen zur Gefühlserkennung verbinden wollen. Die Stadtregierung hat sich dazu an das Start-up Two-i gewandt, das in Straßenbahnen seine Analysetools installieren soll. In Nancy und Metz arbeitet Two-i mit Wohnungsbaugesellschaften zusammen, um die Gefühle der Bewohner zu errechnen. In Irigny bei Lyon beauftragte die Polizei das Unternehmen DC Communications (DCC) damit, den „Gemütszustand“ der Menschen zu analysieren, die eine ihrer Wachen betreten.
Das von der Werbebranche übernommene Neuro-Marketing-Verfahren kann Freude, Trauer, Angst und sogar Verachtung identifizieren. „Der Algorithmus misst dann diese Gefühle und filtert das stärkste heraus“, erklärt Rémy Millescamps, Gründer von DC Communication und Reservepolizist.
Auch wenn an potenziellen Einsätzen der „intelligenten“ Videoüberwachung kein Mangel herrscht, steht die automatische Erkennung von verdächtigen Personen und Verhaltensweisen eindeutig im Vordergrund. Im Juni 2018 verkündete der frühere Innenminister Gérard Collomb in einer Grundsatzrede, die künstliche Intelligenz werde bald Werkzeuge bereitstellen, die „Einzelpersonen mit seltsamen Verhaltensweisen in einer Menge erkennen“ können.
Collombs Vision ploppte im Zusammenhang mit den Gelbwesten-Protesten wieder auf, als die Pariser Nationalversammlung im Februar 2019 in erster Lesung den Entwurf zu einem sogenannten Anti-Randalierer-Gesetz (Vermummungsverbot und individuelle Demonstrationsverbote) billigte. In der Debatte um die letztendlich nicht vollzogene Gesetzesänderung forderten Abgeordnete der konservativen Republikaner, die Vernetzung von Videoüberwachungsbildern mit verschiedenen Datenbanken zu legalisieren, um „die Identifizierung gefährlicher Individuen bei einer Kundgebung“ zu automatisieren.
Nizza setzt auf Gefühlserkennung
Im Fokus stehen jedoch nicht nur politische Aktivisten und Terrorverdächtige: Vor allem Einwohnermeldeämter und Ausländerbehörden horten seit 2016 immer größere Mengen biometrischer Daten, die ihnen jeder, der einen Personalausweis oder Pass beantragt oder sich um einen Aufenthaltstitel bewirbt, überlassen muss. Damit lässt sich die Gesichtserkennung auf immer größere Personenkreise ausweiten.
Gemeinsam mit Großbritannien ist Frankreich in Europa derzeit Spitzenreiter beim Einsatz solcher Techniken zur sozialen Kontrolle. Während die Geheimdienste 2016 noch Software der US-Firma Palantir kaufen mussten, hat die Förderung nationaler Big-Data-Unternehmen im Sicherheitsbereich mittlerweile oberste Priorität. Dank der Safe-City-Projekte können sich Dienstleistungsfirmen wie Engie Ineo oder Verteidigungs- und Sicherheitskonzerne wie Thales gegenüber der US-amerikanischen oder chinesischen Konkurrenz auf diesen neuen Märkten behaupten. Hauptaktionär mit über einem Drittel der Stimmrechte ist in beiden Unternehmen der französische Staat (mit 23,6 beziehungsweise 25,8 Prozent).
Neben Städten und Gemeinden beteiligen sich zahlreiche weitere öffentliche Institutionen an dieser Entwicklung. Das Safe-City-Projekt in Nizza unter der Regie von Thales ist dafür das beste Beispiel. Es soll den thematischen Vorgaben des Sicherheitsausschusses der Industrie folgen, der zwischen Regierung und Privatwirtschaft vermittelt. Zugleich erhielt das Projekt ein Label, das vom selben Ausschuss vergeben wird.
Im Rahmen des „Programms zur Investition in die Zukunft“ unterstützte die staatliche Investitionsbank BPI das Projekt mit Zuschüssen und Krediten in Höhe von 11 Millionen Euro; das Gesamtbudget (für eine Laufzeit von drei Jahren) liegt bei 25 Millionen Euro. Mehrere der eingesetzten Technologien wurden in Forschungsprojekten entwickelt, in denen Industrie und staatliche Stellen wie das Nationale Forschungsinstitut für Informatik und Automation (Inria) mit finanzieller Unterstützung der Nationalen Forschungsbehörde oder der EU-Kommission zusammengearbeitet haben.
Die Safe City führt zu einer umfassenden Privatisierung der Sicherheitspolitik. Die technische Expertise wird vollständig an die Unternehmen delegiert, und die Parameter für die Steuerung der Algorithmen werden vermutlich Geschäftsgeheimnis bleiben. Auf juristischer Ebene gibt es bis heute keine ernsthafte Untersuchung, ob solche Überwachungsinstrumente mit dem Recht auf Schutz der Privatsphäre oder der Gewissens- und Meinungsfreiheit vereinbar sind.
Im Augenblick wachen nur die Rechtsabteilungen der beteiligten Firmen ohne allzu großen Eifer über die Einhaltung der Gesetze, die zwar 2018 reformiert, aber von der technischen Entwicklung bereits wieder überholt wurden.
Die technische Aufrüstung wird bedeutende politische Auswirkungen haben: Manche Viertel werden noch stärker in den Fokus der Polizei geraten, die Diskriminierung bestimmter, jetzt schon marginalisierter Gruppen wird sich verschärfen, und soziale Bewegungen werden sich leichter unterdrücken lassen. All das wird von den Initiatoren dieser Projekte natürlich nicht erwähnt.
Die französische Datenschutzbehörde CNIL (Nationale Kommission für Informatik und Freiheitsrechte) schaut derweil tatenlos zu und verschanzt sich hinter Sachzwängen (fehlende Finanzmittel) und der Feststellung, die EU-Datenschutzregeln hätten ihr von vornherein die Entscheidungsbefugnis genommen. Zuletzt rief sie zu einer „demokratischen Debatte“ auf, um „geeignete Rahmenbedingungen festzulegen“4 – und erkannte damit indirekt an, dass es noch keinen rechtlichen Rahmen gibt. Gemäß der Rechtsprechung des Europäischen Gerichtshofs für Menschenrechte würde das schon genügen, um nachzuweisen, dass die Safe-City-Projekte schlicht und ergreifend illegal sind.
Die Regierung Macrons, die für 2020 eine Reform des Geheimdienstgesetzes angekündigt hat, könnte dennoch vom Aufruf der CNIL profitieren, um die laufenden Experimente nachträglich zu legalisieren und die Ausweitung polizeilicher Überwachung vorzubereiten. Es sei denn, die Bürgerinnen und Bürger gehen auf die Straße und machen ihr einen Strich durch diese Rechnung.
1 Siehe Shoshana Zuboff, „Google sucht dich“, LMd, Januar 2019.
Aus dem Französischen von Sabine Jainski
Félix Tréguer ist Wissenschaftler und Mitglied der NGO La Quadrature du Net, die sich für Bürgerrechte im Netz engagiert.