Die Europäische Kommission hat im Mai 2022 einen Verordnungsentwurf zur Bekämpfung der Verbreitung von Aufnahmen sexuellen Kindesmissbrauchs vorgelegt. Die Europäische Union hat sich dazu verpflichtet, die Rechte von Kindern (Recht auf sexuelle Selbstbestimmung, Recht auf körperliche Integrität) auch im digitalen Raum stärker zu schützen, wozu diese Verordnung dient. Sie beinhaltet unter anderem die Verpflichtung der Anbieter von Messenger-Diensten und Cloud-Services, jegliche über ihren Dienst versandten oder gespeicherten Bilder mittels eines sogenannten “Hash-Abgleichs” mit einer Datenbank von Darstellungen sexuellen Kindesmissbrauchs abzugleichen. Für den Hash-Abgleich wird mittels mathematischer Verfahren aus einer größeren Datei (z.B. einem Bild) eine eindeutige Zeichenfolge erzeugt. Die Ausgangsdatei ist dabei nicht aus der Zeichenfolge rekonstruierbar, aber durch den Abgleich mit gespeicherten Hashes lässt sich feststellen, ob eine bestimmte Datei schon mal erfasst wurde.
Ungleich höhere technische Voraussetzungen sind erforderlich für die ebenfalls geplante Überprüfung auf potentiell neue Darstellungen sexueller Misshandlung
mittels künstlicher Intelligenz. Außerdem sollen auch Kontaktmuster in Chats auf verdächtige Muster von Kontaktaufnahmen von Erwachsenen an Kinder
überprüft werden, wofür eine Ausweispflicht erforderlich wäre. Jeder Verdachtsfall aus einem der drei Verfahren soll daraufhin von nationalen Stellen individuell überprüft werden, die bei Bestätigung des anfänglichen Verdachts ein Strafverfahren nach nationalem Recht einleiten. Diese Bestätigung erfordert, insbesondere in Fällen potentiell bisher unbekannter Darstellungen, auch den Zugriff auf das Bild selbst. Dieses Verfahren greift massiv in das Recht auf informationelle Selbstbestimmung der EU-Bürger:innen ein, in die Pressefreiheit, in die unternehmerische Freiheit der Anbieter, und betrifft auch die sexuelle Selbstbestimmung, insbesondere von Kindern und Jugendlichen, für die der digitale Raum einen wichtigen Faktor der einvernehmlichen sexuellen Entwicklung darstellt.[1] Dennoch ist es wichtig, Kinder und Jugendliche über die Gefahren, die durch, auch einvernehmliche, digitale sexuelle Kommunikation entstehen, aufzuklären.
Diese Grundrechte sind nicht nur in Deutschland im Grundgesetz, sondern auch in der Grundrechte-Charta der Europäischen Union geschützt und müssen von der Europäischen Union in ihren Maßnahmen in einem angemessenen Maß berücksichtigt werden, bzw. in diesem Fall in ein ausgewogenes Verhältnis miteinander gebracht werden.
Nach Auffassung verschiedener Sachverständiger[2], dem Wissenschaftlichen Bundestags[3] und des Europäischen Parlaments[4] und sogar von Kinderschutzorganisationen[5] steht die Reichweite des Eingriffs, der im Prinzipveine allgemeine Überwachung von Chats ermöglicht – eine Chat-Kontrolle – nicht in einem angemessenen Verhältnis zum erreichten Mehrwert für den Schutz der Rechte der Kinder und anderer Internetnutzer:innen. Es ist gleichzeitig zweifelhaft, inwiefern die automatisierte Abgleichung und die Erkennung neuer Darstellungen überhaupt technisch funktioniert – oder einfach zu einer erhöhten Zahl fehlerhafter Meldungen führt.
Es ist auch unklar, in welchem Ausmaß die Verordnung die Rechte von Kindern maßgeblich besser schützt als aktuell, da es nach Aussage verschiedener Gutachten andere effektivere Möglichkeiten gibt, ihren Schutz zu verbessern, die weniger invasiv in die Grundrechte sind. Dazu gehören u.a. die verbesserte personelle Ausstattung der zuständigen nationalen Stellen und die Verpflichtung der entsprechenden Anbieter, die Meldemechanismen zu verbessern. Gleichzeitig würde die Verordnung in ihrer aktuellen Form auch schwerwiegend in die Grundrechte der Kinder selbst eingreifen.
Forderungen
Für junge Menschen ist das Internet Hauptkommunikationsmittel. Wir als Mitglieder der JEF und auch Vertreter:innen dieser Generation sollen einerseits mit dem Verordnungsentwurf geschützt werden, andererseits sind wir auch massiv betroffen.
Daher fordern wir:
- Als JEF sollten wir uns konkret bemühen, Politiker:innen auf allen politischen Ebenen auf die Sensibilität des Themas aufmerksam zu machen und dafür zu werben, die geplante Verordnung nicht zu verabschieden. Der Schutz europäischer Grundrechte darf nicht wirkungslos gegen Überwachung sein! Auch wenn eine für die Anbieter verpflichtende Risikobewertung, verbesserte Meldemechanismen und eine verstärkte europäische Zusammenarbeit in dem Bereich der Verordnung zu begrüßen sind, ermöglicht der aktuelle Entwurf eine unverhältnismäßige Überwachung von Bürger:innen – insbesondere durch das Erkennen neuer Darstellungen und Kontaktmustern.
- Dazu ist auch internationale Zusammenarbeit und JEF-interne Bildungsarbeit gefordert, um die Verordnung und die mit ihr einhergehenden Gefahren bekannter zu machen und das Thema auf die politische Agenda anderer JEF-Verbände und ihrer politischen Netzwerke zu setzen, denn schon im August 2023 läuft eine entsprechende Übergangsregelung aus.
- Außerdem macht die Verordnung deutlich, dass die Gefahr, durch künstliche Intelligenz und automatisierte Mechanismen ständig überwacht zu werden, steigt. Wir müssen in unserer politischen Arbeit, aber auch in der Bildungsarbeit digitale Rechte stärker gewichten, um insbesondere junge Menschen über ihre Rechte aufzuklären und für die politische Relevanz zu sensibilisieren.
1: https://netzpolitik.org/2023/csam-verordnung-chatkontrolle-verletzt-sexuelle-s
elbstbestimmung-von-jugendlichen/
2: https://www.bundestag.de/dokumente/textarchiv/2023/kw09-pa-digitales-928540; https://www.datenschutz.de/bfdi-fordert-einhaltung-der-grundrechte-bei-chatkontrolle/
3: https://www.bundestag.de/resource/blob/914580/9eba1ff3a5daa7708fca92e3184a1ae3/WD-10-026-%2022-pdf-data.pdf (insbesondere ab Seite 15)
4: https://netzpolitik.org/2023/chatkontrolle-studie-zerlegt-plaene-der-eu-kommission/
5: https://netzpolitik.org/2022/massenueberwachung-das-sagen-kinderschutz-org
anisationen-zur-chatkontrolle/