Weitere Schritte zur Überwachungsunion? Unter dem Vorwand Kindesmissbrauch und Kriminalität bekämpfen zu wollen, plant die EU-Kommission eine anlasslose automatisierte Überwachung sämtlicher Kommunikationen, aller Teilnehmer, auf allen Chat-Plattformen samt Vorratsdatenspeicherung. Diese sollen dann mit sog. „Datenbanken des Grauens“, die Bild und Videomaterial des gesuchten Verbrechens enthalten, abgeglichen werden. Pläne, die über die Vorratsdatenspeicherung weit hinaus gehen. Experten haben diese in ihrer Studie „Wanzen in unseren Taschen“ regelrecht zerpflückt. Es würden nicht nur Einfallstore für Kriminelle und Geheimdienste geschaffen, sondern ein regelrechtes „Polizeistaatsregime“.

Im Sommer 2021 haben EU-Kommission und Parlament privaten Betreibern bereits das automatisierte Durchsuchen aller Nachrichten der Benutzer privater Messengerdienste gesetzlich erlaubt. Möglich wurde dies durch die „Notfallsgesetzgebung“, für die EU-Kommissarin Ylva Johansson verantwortlich zeichnet, die im übrigen auch immer wieder versucht, die sichere Verschlüsselung der Datenübertragung zwischen Benutzern (E2E) zu knacken.

Nun plant die EU-Kommission jedoch eine Gesetzesgrundlage zu schaffen, welche private Betreiber von Messengerdiensten nicht nur dazu ermächtigt, in der Privatkorrespondenz (den Inhalten!) ihrer Nutzer zu wühlen, um eventuell kriminelle Inhalte zu finden, sondern sie sogar dazu verpflichten soll. Und das ohne richterliche Genehmigung. Menschenrechtsanwälte, NGOs und Internetaktivisten hatten schon Anfang 2021 gewarnt: dass dem „freiwilligen“ der gesetzlich verordnete Generalangriff auf die Privatsphäre drohen würde.

Diese totale „Chat-Kontrolle“ wäre eine vollautomatische präventive Massenüberwachung, die wie die Vorratsdatenspeicherung alle Menschen unter Generalverdacht stellen und die Unschuldsvermutung wohl völlig abschaffen würde, vorgeblich für die Bekämpfung von Kindesmissbrauch, aber auch für die „öffentlichen Sicherheit“ und zur Bekämpfung des „Terrorismus“.

Vorratsdatenspeicherung

Egal mit welcher Methode physische Speicher - ob Cloud oder die Smartphones der Benutzer - von sogenannter „Künstlicher Intelligenz“ (KI) routinemäßig durchsucht werden, braucht es danach eine Vorratsdatenspeicherung. All jene Fotos und Videos, bei denen die KI-Algorithmen eine bestimmte Wahrscheinlichkeit errechnen, dass es darin um das gesuchte Delikt gehen könnte, müssen an einen eigenen Speicherort kopiert und mit dem jeweiligen Benutzerprofil verknüpft werden.

Die Datenverarbeitungen laufen automatisch ab, noch ohne dass irgendein konkreter Verdacht besteht. Hier würde Data-Mining in allen Datensätzen passieren, etwas das bereits in der vom EuGH 2014 abgelehnten EU-Richtline zur Vorratsdatenspeicherung verboten wurde. Als nächstes folgt das sogenannte „Scoring“. Das heißt, ab einer von den KI-Betreibern selbst festgelegten kritischen Schwelle von solchen auf Vorrat gespeicherten „Treffern“ wird das Konvolut an betreffenden Bilder und Videos an die jeweiligen Strafverfolger übermittelt.
Je nach KI werden dann wohl weitere Datenverarbeitungen notwendig werden, um die Zahl der falschen Treffer („False Positives“) zu begrenzen. Die sind bei sämtlichen KI-Anwendungen nämlich das Hauptproblem.

Falsche Treffer

Alleine bei WhatsApp fielen durch eine solche Regelung weltweit täglich Millionen Bilder an, die entweder beim Betreiber bzw. bei der Meldestelle von Menschen überprüft werden müssten. Das heißt, sie wären damit beschäftigt, vor allem Urlaubsfotos von Familien mit Kindern durchzusehen, die via WhatsApp privat an Großeltern und andere Verwandte übermittelt werden. Dazu kämen noch die Teenager, die einander laszive Selfies schicken, wie das beim Sexting unter jungen Leuten jetzt üblich ist. Das sind die weitaus größten Benutzergruppen dieser Chat-Anwendung, die von falschen Treffern betroffen sein werden, wenn ihr Kommunikationsgeheimnis durch Algorithmen aufgehoben wird.

Angriff auf sichere Verschlüsselung

Sollte die Chat-Kontrolle wie geplant beschlossen werden, läuft es darauf hinaus, dass sichere Ende-zu-Ende (E2E) verschlüsselte Services, wie u.a. Signal, Wire bzw. WhatsApp, so nicht mehr angeboten werden können. Die direkten Verbindungen der Kommunikationsteilnehmer müssen dafür aufgebohrt werden, im technischen Jargon heißt derlei - je nach Perspektive - entweder „Überwachungsschnittstelle“ oder „Backdoor. Alle großen Plattformen müssten dann das wichtigste technische Instrument zum Schutz vor staatlicher Willkür und Überwachung rund um die Welt, die sichere E2E-Verschlüsselung, aufheben.

Dass Provider sichere Verschlüsselung durch Generalschlüssel aushebeln sollen, löste einen Sturm der Entrüstung in den Sicherheits-Communities und vor allem bei den Internetfirmen aus. Die bislang letzte dieser Art von „guten“ Ideen der EU war dann, den Serviceanbietern eine Durchsuchungspflicht von Fotos und Videos auf dem Gerät selbst - und zwar vor dem Upload und damit der Verschlüsselung - aufzuzwingen.
Im Oktober 2021 zerlegte etwa ein Dutzend führender akademische Kryptographen diese Überwachungsvorhaben der EU regelrecht - einer Untersuchung mit dem vielsagenden Titel „Wanzen in unsere Taschen“ (https://arxiv.org/pdf/2110.07450.pdf).
Das Vorhaben, Verbrechen im Netz durch automatische Scans aller Inhalte und den Einsatz „Künstlicher Intelligenz“ zu bekämpfen, sei „illusorisch“, so die Schlussfolgerung der ExpertInnen. Sicher sei nur, dass die geplanten Maßnahmen einen Gutteil der bestehenden Sicherheitsmaßnahmen aushebeln würden. Damit würden nicht nur Einfallstore für Kriminelle und Geheimdienste geschaffen, sondern ein regelrechtes „Polizeistaatsregime“, so die Experten.

Die Datenbanken des Grauens

Untersucht wurden alle technisch denkbaren Methoden und deren Varianten, um vor allem verdächtiges Bildmaterial schon vor oder während des Uploads zu entdecken und in Folge die Verbreitung dieser Inhalte zu verhindern. Vermeintliche Treffer sollten vielmehr automatisch an die Strafverfolger zur Beurteilung übermittelt werden. An einem solchen Automatismus hatten sich bereits Facebook und Apple versucht, diese Tests aber ziemlich schnell wieder eingestellt. Abgeglichen werden die Daten mit einer der „Datenbanken des Grauens“, im Falle Europas wohl die einschlägige Datenbank von Interpol.

„Rote Linie überschritten“

„Das bringt uns an einen entscheidenden Punkt. Dieser Ansatz, vorbeugend alle Endgeräte der Benutzer nach bestimmten Informationen zu durchsuchen, ist weitaus heimtückischer als alle früheren Ansätze wie etwa Schlüsselhinterlegung“, heißt in der Studie der Kryptographen abschließend. Anstatt gezielter Vorgangsweisen wie etwa die Überwachung eines einzelnen Telefons oder dessen forensische Untersuchung träten nun Massen-Scans aller privaten Daten, rund um die Uhr, ohne einen konkreten Verdacht und ohne einen richterlichen Durchsuchungsbefehl. Damit werde eine rote Linie überschritten.

Die geschilderten Methoden, mit denen alle Bild- oder Videoinhalte automatisch filterbar werden sollen, sind universell anwendbar und würden autoritären Regimes ein mächtiges Instrument in die Hand geben, um in ihrem Machtbereich unerwünschte Inhalte gar nicht erst ins Internet gelangen zu lassen.
Diese Untersuchungsergebnisse sind wohl mit ein Grund, weshalb die Umsetzung nun statt für Dezember 2021 auf Anfang 2022 verschoben wurde. Für die Zivilgesellschaft ist dies jedoch keine Entwarnung. Im Gegenteil: Es gilt unsere Grundrechte wie Privatsphäre, das Briefgeheimnis im digitalen Raum, zu verteidigen.

Unser Auge sollten wir in diesem Zusammenhang auch auf die geplante „E-Evidence“-Verordnung haben. Im Jänner 2017 haben Europol und das FBI unter dem reißerischen Titel „Going Dark“ - „Wir werden blind“ eine Kampagne für polizeiliche Überwachung von Cloud-Services gestartet. Dabei geht es um grenzüberschreitende Beweissicherung in der Cloud. Und geht es nach dem Willen von Kommission und Rat, soll es keine Benachrichtigungspflicht an die Justiz im betroffenen Staat geben, wenn ausländische Strafverfolger von dort niedergelassenen Providern die Herausgabe von Stamm- und Kommunikationsdaten verlangen. Damit würden weitere Überwachungsszenarien möglich, die tief in unsere Grund-und Freiheitsrechte, Pressefreiheit eingreifen. Wenn etwa ein Staat die Kommunikationsdaten von exilierten Politikern, Journalisten oder dort politisch Verfolgten verlangt.

In diesem Sinne – seien wir wachsam! Die EU nennt es Sicherheit – gemeint ist Überwachung. Viele Millionen Euro werden im Schatten der Pandemie zur Überwachung, Bespitzelung der meist nicht-kriminellen Bevölkerung für die Realisierung der o.a. Pläne ausgegeben - statt endlich Geld dafür in die Hand zu nehmen, soziale Sicherheit zu schaffen, sodass nicht immer mehr Menschen Angst haben müssen, abgehängt zu werden. Nein zum Überwachungsstaat - ja zur Stärkung des Sozialstaates!

Eveline Steinbacher
(Werkstatt-Blatt Dezember 2021)

Quellen:
https://www.heise.de/tp/features/EU-moechte-totale-Chat-Kontrolle-6259649.html
https://fm4.orf.at/stories/3018803/
https://fm4.orf.at/stories/3018437
https://fm4v3.orf.at/stories/1776635/index.html