Der im Mai 2022 vorgelegte Vorschlag zum Scannen privater Kommunikationsdaten wird von der EU-Kommission weiter verfolgt, obwohl mehr als fragwürdige Aspekte zutage getreten sind. Da mich das Thema sehr beschäftigt, habe ich mal die aus meiner Sicht wichtigsten Sachverhalte und Links aufgeschrieben.

Worum geht es?

Der Entwurf der EU-Kommission sieht vor, dass Internetdienstleister in jeglicher Kommunikation, die versendet wird, egal ob verschlüsselt oder unverschlüsselt, nach Darstellungen sexuellen Missbrauchs von Kindern suchen:

"Anbieter von Hostingdiensten und Anbieter öffentlich zugänglicher interpersoneller Kommunikationsdienste sind auf einzigartige Weise in der Lage, potenziellen sexuellen Kindesmissbrauch im Internet im Zusammenhang mit ihren Diensten aufzudecken. … Daher sollten diese Anbieter verpflichtet werden, potenziellen Kindesmissbrauch im Internet in ihren Diensten zu melden, sobald sie Kenntnis davon erlangen, d.h., wenn hinreichende Gründe für die Annahme bestehen, dass eine bestimmte Handlung sexuellen Kindesmissbrauch im Internet darstellen könnte."

Vgl. Vorschlag EU-Kommission: Seite 33 (29)

Die Regulierung heißt "Child Sexual Abuse Regulation" (CSAR), in Deutschland hat sich in der öffentlichen Debatte der Begriff "Chatkontrolle" durchgesetzt. Und sie würde bedeuten, dass ein Suchalgorithmus die privatesten, intimsten, sensibelsten Daten aus unserer tagtäglichen Kommunikation ohne Anlass, ohne Unterschiede, massenhaft auf verdächtige Inhalte untersucht. Flirts, Nacktbilder, Videos, was auch immer, aus allen Chats, Nachrichten soll untersucht werden. Anlasslos.

Wie soll es durchgeführt werden?

Mit welchen Technologien die Anbieter das massenhafte Überprüfen der Chats und Nachrichten durchführen sollen ist offen bzw. wird einigermaßen schwammig erläutert:

"Anbieter von Hostingdiensten und Anbieter interpersoneller Kommunikationsdienste, die eine Aufdeckungsanordnung erhalten haben, führen diese durch die Installation und den Betrieb von Technologien aus, mit denen die Verbreitung von bekannten oder neuen Darstellungen sexuellen Kindesmissbrauchs oder die Kontaktaufnahme zu Kindern mithilfe der entsprechenden vom EU-Zentrum gemäß Artikel 46 bereitgestellten Indikatoren erkannt werden kann.

Vgl. Vorschlag EU-Kommission: Seite 59, Artikel 10 (1)

Randnotiz: Die Verweise öffnen sich in einem separaten Fenster, bitte ggf. auf "Aktualisieren" bzw. "neu laden" klicken, damit der Browser auf die richtige Seite im PDF springt.

Das "EU-Zentrum" ist eine neu zu schaffendes "Europäisches Zentrum zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern", das sicherstellt, dass die Anbieter ihren Verpflichtungen nachkommen und "das die Durchführung dieser Verordnung erleichtert und unterstützt".

An das EU-Zentrum müssen die Anbieter die mutmaßlichen Missbrauchs-Meldungen übermitteln, die anschließend von Mitarbeitern der Behörde gesichtet werden, um möglicherweise unbegründete "Treffer" zu identifizieren:

"Das EU-Zentrum sollte diese Meldungen bewerten, um Meldungen zu ermitteln, die offensichtlich unbegründet sind, d.h. bei denen ohne eine inhaltliche, rechtliche oder faktische Analyse klar ersichtlich ist, dass es sich bei den gemeldeten Tätigkeiten nicht um einen sexuellen Kindesmissbrauch im Internet handelt."

Vgl. Vorschlag EU-Kommission: Seite 41 (65)

Menschen sollen aber auch bei den Anbietern eingesetzt werden, um "die Leistungsfähigkeit der Erkennungstechnologien" zu bewerten und zu verbessern:

"Um die Leistungsfähigkeit der Erkennungstechnologien kontinuierlich zu bewerten und sicherzustellen, dass sie hinreichend zuverlässig sind, sowie um falsch-positive Ergebnisse zu erkennen und dementsprechend fehlerhafte Meldungen an das EU-Zentrum zu vermeiden, sollten die Anbieter für eine menschliche Aufsicht und gegebenenfalls menschliches Eingreifen sorgen, die an die Art der Erkennungstechnologien und die Art des sexuellen Kindesmissbrauchs im Internet angepasst sind."

Vgl. Vorschlag EU-Kommission: Seite 33 (28)

Welche Rolle spielt die EU-Kommissarin Ylva Johansson?

Die Chatkontrolle ist eine Initiative der EU-Kommission, konkret des Innenministeriums. Und diesem Ministerium steht zur Zeit die Schwedin Ylva Johansson vor, die federführend die Gesetzesinitiative vorbereitet hat.

"Der Vorschlag sieht vor, dass diese Anbieter Technologien einsetzen, die entsprechend dem neuesten branchenspezifischen Stand der Technik am wenigsten in die Privatsphäre eingreifen", schreibt sie in ihrem Blog.

Um sich über den Stand der Technik zu informieren, ist Johansson sogar extra ins Silicon Valley geflogen, um sich mit namhaften Vertretern der amerikanischen Tech-Industrie zu treffen und auszutauschen, vergl. Twitter Posting vom 26.01.2022.

Was hat Ashton Kutcher damit zu tun?

Auf besagter Reise hat die gute EU-Kommissarin auch Vertreter von Thorn getroffen - vergl. eureporter.co - und Thorn ist eine Kinderschutzorganisation, die 2012 von dem Schauspieler Ashton Kutcher gegründet wurde.

Johansson und Kutcher Zu Thorn wiederum gehört das Startup Safer, das Lösungen entwickelt, die - Überraschung! - genau das gewährleisten sollen, was in dem Chatkontrolle-Entwurf der EU-Kommission vorgesehen ist: "Safer is the only, all-in-one solution that combines advanced AI technology with regulatory and compliance expertise to detect, review, and report CSAM at scale."

Zu diesem Sachverhalt hat netzpolitik.org einen vielsagenden Text veröffentlicht:

"Gegenüber den EU-Institutionen tritt Thorn als Charity-Organisation auf, die sich aus idealistischen Gründen gegen Kindesmissbrauch einsetzt. Allerdings brachte die Organisation bei Treffen mit europäischen Behörden immer wieder seine eigens entwickelte Software zum Aufspüren von Kindesmissbrauch ins Spiel. Das zeigen mehr als ein dutzend E-Mails und Gesprächsnotizen, die netzpolitik.org durch Informationsfreiheitsanfragen bei der EU-Kommission, deutschen und schwedischen Behörden erhielt."

netzpolitik.org, Chatkontrolle vom 22.05.2022: Wie ein Hollywoodstar für mehr Überwachung wirbt

Und weiter heißt es in dem Artikel:

"In seinem Lobbying nutzt Thorn das Gewicht seines Hollywoodstar-Gründers. Organisationen fällt es oft schwer, hochrangige Treffen mit der Kommission einzufädeln. Wie wenig das auf Thorn zutrifft, verdeutlichen Bilder von einem Videotreffen zwischen Kutcher und Von der Leyen, die die Kommissionschefin im November 2020 auf Twitter postete.

netzpolitik.org, Chatkontrolle vom 22.05.2022: Wie ein Hollywoodstar für mehr Überwachung wirbt

Posting auf Twitter vom 13.11.2020: Happy to talk to Ashton Kutcher

Von der Leyen und Kutcher

Fazit

Da bleibt einem schon ein wenig die Spucke weg, wenn man das liest, nicht wahr? Unstrittig ist, dass der Gesetzesvorschlag zur Bekämpfung von Kindesmissbrauch ein wichtiges Ziel verfolgt. Darstellungen von Kindesmissbrauch müssen aktiv bekämpft, Täter müssen empfindlich bestraft werden.

Aber: Mit denen in dem Vorschlag vorgesehenen Maßnahmen zur Überwachung aller Kommunikationsinhalte würde man die Grundlagen einer vertraulichen und sicheren digitalen Kommunikation komplett und endgültig unterwandern.

Bei jeder noch so unwichtigen Anfrage auf einer Webseite dürfen die Nutzerdaten nur mit ausdrücklicher Genehmigung verarbeitet werden. Ein Tagebuch, intime Briefe oder Bilder gehören zu den Kernbereichen privater Lebensgestaltung, geschützt gegenüber jeglichem staatlichen Einfluss. Aber diese Bereiche sollen jetzt auf intimes Material massenhaft bei allen EU-Bürgern durchsucht werden? Mutmaßlich mit der Software eines US-amerikanischen Unternehmens?

Den Gesetzesvorschlag der Kommission begrüßt Thorn ausdrücklich. „Ich danke Kommissarin Ylva Johansson und ihrem Team für die großartige Arbeit, die sie in dieses Gesetz gesteckt haben“, sagte Cordua. Thorn sei „dankbar für die Pionierarbeit, die die EU leistet“.

netzpolitik.org, Chatkontrolle vom 22.05.2022: Wie ein Hollywoodstar für mehr Überwachung wirbt

Was sagt eigentlich Nancy Faeser dazu?

So richtig klar ist das nicht. Anfang Mai 2022 hies es noch in einem Twitter Beitrag:

"Ich will die Gangart gegenüber den Tätern, die Kindern furchtbare #sexualisierteGewalt antun, verschärfen. Wir müssen härter gegen diese widerwärtige Kriminalität vorgehen – gerade auch auf europäischer Ebene, um an die großen Plattformen ranzukommen."

Posting auf Twitter vom 22.05.2022: Ich will die Gangart …

Danach relativierte Frau Faeser diese Position zwar ein wenig. Aber in einem Beitrag vom 08. Dezember 2022 des EU-Abgeordneten Patrick Breyer (Piratenpartei) ist zu lesen (für Deutschland sitzt das Innenministerium am Verhandlungstisch):

"Während Innenministerin Faeser öffentlich beteuert, dass sie die Chatkontrolle ablehne, kommt davon hinter verschlossenen Türen kein Wort über die Lippen der deutschen Verhandler."

patrick-breyer.de: Chatkontrolle: Plan zur Massenüberwachung wird Kinder im Stich lassen

In der Schweiz schaut das ganz anders aus. Hier gibt es seitens der Regierung eine ganz klare und sauber formulierte Absage:

"Rund um die Uhr soll der gesamte elektronische Verkehr unbescholtener Menschen mit einer noch zu definierenden Technologie überwacht werden. Darin fallen ganz alltägliche Nachrichten, Familien- und Ferienfotos, private und intime Videos, aber auch der vertrauliche Austausch zwischen Unternehmen, Mitarbeitenden und Kunden. … Der unverhältnismäßige und andauernde Eingriff in unsere persönliche Freiheit lässt sich durch nichts rechtfertigen, auch nicht durch die legitime Bekämpfung von Kinderpornografie."

netzpolitik.org vom 26.09.2023: Schweiz gegen Chatkontrolle

Fragt sich, warum Nancy Faeser und unsere Bundesregierung das nicht hinbekommt, zumal im Koalitionsvertrag „allgemeine Überwachungspflichten“ und „Maßnahmen zum Scannen privater Kommunikation“ explizit ausgeschlossen werden.

Wie ist der aktuelle Stand?

Ofenbar wurde der ursprüngliche Zeitplan erneut verschoben, nach einem Bericht auf golem.de sind EU-Staaten weiter uneins über die Chatkontrolle. Und - oh Wunder - offenbar hat sich Deutschland "klar gegen den aktuellen Entwurf zur Chatkontrolle" ausgesprochen.

"Ein Sprecher des Ministerrats teilte … mit, dass auf der Sitzung vom 19. Oktober 2023 nicht über den Vorschlag der spanischen Ratspräsidentschaft abgestimmt werde. … Die Ratspräsidentschaft strebe jedoch weiterhin an, bis Ende des Jahres zu einer Einigung zu kommen. Dies könne bereits vor dem kommenden Ministerratstreffen vom Dezember auf Ebene der Ständigen Vertreter erreicht werden."

golem.de vom 17.10.2023: EU-Staaten weiter uneins über Chatkontrolle

Was kann man tun?

In jedem Fall: Sich eine eigene Meinung bilden und informiert bleiben.

Eine sehr gute Option ist auch, sich bei netzpolitik.org oder der Kampagne chat-kontrolle.eu zu engagieren und die Leute mit Geldspenden unterstützen. Beide machen einen guten Job und üben öffentlichen Druck aus. Denn natürlich gilt nach wie vor: Ohne öffentlichen Druck ist weder von unseren Abgeordneten noch der Bundesregierung irgend etwas zu erwarten.

Apropos Abgeordnete, ein probates Mittel ist freilich auch die direkte Ansprache der jeweiligen Bundestagsabgeordneten, im Raum Marburg-Biedenkopf sind das Sören Bartol (SPD) und Stefan Heck (CDU).

Weiterführende Links und Informationen

Weitere Artikel zum Thema

  1. Chatkontrolle?!
  2. Chatkontrolle, aktueller Stand - Die gute Nachricht: Eine verpflichtende Chatkontolle kommt - zunächst - nicht
  3. Chatkontrolle, sie lassen nicht locker - Der EU-Rat will offenbar am 19.06.2024 über die Chatkontrolle abstimmen
  4. Die Chatkontrolle steht wieder auf der Agenda - Mitte Oktober soll das Thema im EU-Innenausschuß besprochen werden, eine Abstimmung ist im Dezember geplant
  5. Abstimmung über Chatkontrolle gescheitert - Erfreulicherweise lehnen zu viele Staaten den von Ungarn eingebrachten Vorschlag ab