Die EU-Kommission legt einen Verordnungsentwurf zur anlasslosen Massenüberwachung unserer gesamten digitalen Kommunikation in Echtzeit vor.
Am 6. Juli 2021 haben die EU-Parlamentarier mehrheitlich dem „freiwilligen“ Einsatz der Chatkontrolle zugestimmt, dem automatisierte Durchsuchen aller Nachrichten der Benutzer:innen privater Messengerdienste auf Gewalt und Kindesmissbrauch. Nun geht die EU-Kommission einen Schritt weiter: mit dem am 11. Mai 2022 vorgelegten Entwurf der Folgeverordnung zum „verpflichtenden“ Einsatz der Chatkontrolle.
Welche Anbieter sind betroffen?
Anbieter von Internetzugängen und Cloud Provider, Messenger-Dienste wie Whatsapp, Tinder, Signal & Co.,, App-Stores und Gaming-Plattformen mit Chatmöglichkeit, sollen nun verpflichtet werden, mit automatischen Filtern in der Privatkorrespondenz (Urlaubsfotos, Familien-Chats oder Nachrichten an Lebensgefährt:nnen, ..) all ihrer Nutzer:innen zu wühlen, und verdächtige Inhalte direkt an Behörden zu melden - ohne konkreten Verdacht und richterliche Genehmigung. Sie alle müssen sich auf sogenannte „Detection orders“ vorbereiten, die von einer neu zu schaffenden EU-Behörde, die schlicht „EU-Centre“ genannt wird, ausgegeben werden.
Unklar ist u.a. der Umfang der Datensätze, die über die „Detection order“ angefordert und vom Provider auf Vorrat zu speichern sind, um sie im Anschluss zu „durchsuchen“. Es müssen jedenfalls sehr große Datenmengen sein, gesucht wird nämlich nach Verhaltensmustern. Was diese Verordnung konsequent verschweigt, sind die Mittel und Methoden, die zwangsläufig eingesetzt werden müssen, um die im Text definierten Ziele zu erreichen. Soweit bekannt, will sich die Kommission jedenfalls nicht auf den Abgleich von Video- und Bilddateien beschränken, sondern auch die Analyse von Textinhalten einbeziehen.
„EU belügt Öffentlichkeit“
Die Begründung: Strafverfolgung von Kinderpornographie. Die Konsequenz: Eine nie dagewesene Massenüberwachung durch vollautomatisierte Echtzeit-Chatkontrolle und damit die Abschaffung des digitalen Briefgeheimnisses, ein Angriff auf unsere Privatsphäre. „Das wird das ausgefeilteste System zur Massenüberwachung, das jemals außerhalb Russlands oder Chinas eingerichtet wurde“, schrieb der prominente Kryptograph Matthew Green in einer ersten Reaktion auf den Entwurf auf Twitter.
In weiterer Konsequenz ist zu befürchten: dass die Chatkontrolle nicht die Täter trifft, denn diese organisieren sich u.a. über selbst betriebene geheime Foren, ohne Scanner; sondern jede/r kann unschuldig in Verdacht geraten, wenn z.B. Bilderkennungsfilter völlig legale Urlaubsfotos mit Kindern als verdächtig einstufen; die Vertraulichkeit der Kommunikation würde ausgehebelt und Schutzräume für Opfer sexualisierter Gewalt durch die Bespitzelung zerstört.
Der Kampf der EU gegen Kinderpornografie im Netz „ist nur Propaganda“, „EU belügt Öffentlichkeit“, warnt Univ.Prof. Rene Mayrhofer, Leiter des Instituts für Netzwerke und Sicherheit an der JKU, Linz. (OÖN print 13.5.2022). Die Chatkontrolle sei nur ein vorgeschobener Grund für geplante Maßnahmen. Seit vielen Jahren gibt es auf EU-Ebene Bemühungen, gegen Kryptografie vorzugehen mit unterschiedlichen Begründungen: Kampf gegen den Terror, gegen Raubkopien, gegen illegale Drogen. Im Kern gehe es dabei immer um einen Kampf der Sicherheitsbehörden gegen Verschlüsselungstechnologien.
„Heuhaufenproblem“
Lt. Univ.Prof. Mayrhofer sind die derzeitigen Scanner sehr fehleranfällig und „Selbst dann, wenn die Fehlerquote im niedrigen Promillebereich liegen würde, gäbe es täglich unzählige falsch positive Meldungen. Wer soll diese dann kontrollieren?“
Ein von der Plattform Netzpolitik veröffentlichter Leak zur Chatkontrolle zeigt, dass die Genauigkeit von aktueller Erkennungstechnologie für Grooming (wenn Erwachsene mit Minderjährigen einen sexualisierten Kontakt anbahnen) -dem Bericht zufolge bei etwa 90 Prozent liegt. Das entspricht bei einer Million als vermeintlich auffällig erkannten Nachrichten bereits 100.000 falschen Alarmen.
Langjährige deutsche Strafverfolger kritisieren hinter vorgehaltener Hand, dass die aktuellen Pläne nicht unbedingt dazu führen, mehr Pädokriminelle festzunehmen. Das Gesetz würde zu mehr Meldungen von Missbrauchsbildern führen. »Wir haben heute schon ein Heuhaufen-Problem. Die Masse der neuen Meldungen nach den EU-Plänen droht unsere Strafverfolgung eher lahmzulegen«, beschreibt es ein Ermittler.
Missbräuchlicher Einsatz „ist technisch trivial“
Expert:innen bezeichnen die Chatkontrolle als Dammbruch und die Technologie zum automatischen Mitlesen privater online-Kommunikation als gefährlich. Von den Gewöhnungseffekten und Rechtfertigungsnarrativen für weitere autoritäre Vorhaben ganz zu schweigen, macht es für Algorithmen keinen Unterschied, ob nach Kindesmissbrauch, nach Urheberrechtsverstößen, Drogenmissbrauch oder unliebsamen Meinungsäußerungen gesucht wird. Ist die Technik erst einmal flächendeckend etabliert, gibt es kein Zurück.
Unklar ist, welche Technologie genutzt werden soll. Client-Side-Scanning: Dabei werden private Nachrichten und Dateien auf Handy, Tablet oder Computer schon vor dem Verschicken per E-Mail oder Messenger durchsucht. Oder durch Knacken der sicheren Ende-zu-Ende Verschlüsselung: 78 Organisationen der Zivilgesellschaft betonen in ihrem Offenen Brief an die EU-Kommission: „Es gibt keine Möglichkeit, den Strafverfolgungsbehörden einen außergewöhnlichen Zugang zu Ende-zu-Ende-verschlüsselter Kommunikation zu gewähren, ohne Schwachstellen zu schaffen, die Kriminelle und repressive Regierungen ausnutzen können.“
„Wenn es die technische Infrastruktur für derartige Überwachungen der Kommunikation erst einmal gibt, ist es technisch trivial, sie auch für andere Zwecke einzusetzen“, sorgt sich auch Dr. Mayrhofer über die Möglichkeit des missbräuchlichen Einsatz dieser Überwachungstechnik.
Strafverfolgung wird privatisiert
Sinnbildlich auf das Analoge übertragen wäre das nicht nur so, als würde der Staat dann jeden unserer Briefe öffnen und jedes Paket durchsuchen, um verdächtige Inhalte zu finden und dabei die Lieferanten zwingen, mitzumachen – es wäre sogar eher so, als ob Behörden ihre Mitarbeiter:innen in unseren Wohnungen und Unterkünften hätten und dort alles durchwühlen und Unerwünschtes weitergeben würden. Im Fall des jetzigen Vorhabens der EU-Kommission beträfe das dann übrigens auch die Nacktbilder von jungen Erwachsenen, die dann irgendwer „prüft“ und wer weiß was damit anstellen könnte. Soweit dann auch zum Verfehlen des „eigentlichen Ziels“, meint der Chaos Computer Club.
In Zukunft würden Algorithmen von Unternehmen wie Facebook, Google und Microsoft entscheiden, welche Inhalte als verdächtig eingestuft werden und welche nicht. In einem Rechtsstaat gehört die Ermittlung von Straftaten, wie auch der verabscheuenswürdigen Sexuellen Gewalt, in die Hände unabhängiger Beamter unter gerichtlicher Aufsicht.
Briefgeheimnis wahren – Chatkontrolle stoppen!
Diese geplante neuartige Massenüberwachung der gesamten digitalen Kommunikation in Echtzeit ohne Verdacht stellt eine rote Linie dar, die in einer Gesellschaft nicht überschritten werden darf, die den Anspruch hat grundlegende Rechte zu garantieren. Verschlüsselte und sichere Kommunikation ist nicht nur Grundlage für politischen Aktivismus, für kritischen Journalismus, Whistleblowerschutz und Anwältinnen- und Ärztegeheimnis sondern für jede vertrauliche und intime Kommunikation und das Leben in einer demokratischen Gesellschaft.
Eveline Steinbacher
Chatkontrolle stoppen - was jede/r Einzelne tun kann!
Noch ist der Vorstoß zu dieser möglichen Massenüberwachung aller EU-Bürger*innen nicht beschlossen. Deshalb braucht es viel Öffentlichkeit und Widerspruch. Auf der Homepage des Bündnisses „Chatkontrolle stoppen“ (https://chat-kontrolle.eu) gibt es Infos zu Aktionen, Demos uvm.
Die Onlineunterschriftenaktion „Stoppen Sie die Chat-Kontrolle!“ an die EU-Kommissar:innen und zuständigen österreichischen Minister:innen kann unter https://actions.aufstehn.at/chatkontrolle unterstützt werden.
https://futurezone.at/netzpolitik/chatkontrolle-eu-verschluesselung-kritik/402039288
https://chat-kontrolle.eu/uncategorized/offener-brief-gegen-chatkontrolle/
https://digitalegesellschaft.de/chatkontrolle-hintergrund/
https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=COM:2022:209:FIN&from=EN.
https://fm4.orf.at/stories/3025341/
https://netzpolitik.org/2022/chatkontrolle-was-unternehmen-schon-freiwillig-tun/
https://netzpolitik.org/2022/eu-plaene-einfach-erklaert-warum-die-chatkontrolle-grundrechte-bedroht/