EU Chat Control: das ultimative Werkzeug für Premierminister Orbán, um ein autoritäres Regime zu errichten?

In verschiedenen Institutionen der Europäischen Union wird weiterhin darüber diskutiert, ob bestimmte bürgerliche Freiheiten im Namen größerer Sicherheit beschnitten werden dürfen – insbesondere zum Schutz von Kindern im Internet. Im Mittelpunkt der Diskussionen steht ein umstrittener Vorschlag, der gemeinhin als ‘Chat Control’ bezeichnet wird. Er würde es den Behörden ermöglichen, Nachrichten mit Hilfe künstlicher Intelligenz zu scannen, bevor sie überhaupt gesendet werden. Dies würde sogar für Ende-zu-Ende-verschlüsselte Dienste wie Telegram, Signal und WhatsApp gelten.

Was beinhaltet der Vorschlag – und warum ist er notwendig?

Es besteht ein breiter Konsens unter den Mitgliedsstaaten – und wohl auch unter ihren Bürgern – dass Kinder vor Online-Missbrauch, einschließlich sexueller Ausbeutung, geschützt werden müssen. Messaging-, Bild- und Video-Sharing-Plattformen müssen daher alles tun, um solche Handlungen zu verhindern. Die Frage ist, wie dieser Schutz umgesetzt werden kann.

Einige Politiker – wie António Tânger Corrêa, Schattenberichterstatter für die Patriots-Fraktion, zu der auch die Fidesz gehört – sind der Meinung, dass der Schwerpunkt auf der Verbesserung der Strafverfolgung, der internationalen Zusammenarbeit und gezielten Ermittlungsinstrumenten liegen sollte. Derzeit wird jedoch ein Gesetzesvorschlag diskutiert, der umgangssprachlich als Chat-Kontrolle bekannt ist. Dieser würde vorschreiben, dass relevante Apps alle ausgehenden Nachrichten, Bilder, Videos und Audiodateien direkt auf dem Gerät des Nutzers – vor der Verschlüsselung – mithilfe eines KI-basierten Tools scannen. Ziel ist es, die Verbreitung von Material über sexuellen Kindesmissbrauch zu verhindern.

Wie immer steckt der Teufel im Detail. Es gibt starke Argumente sowohl für als auch gegen die Initiative sowie scheinbar machbare technische Lösungen.

• Wollte das Kabinett Orbán deutsche Europaabgeordnete mit israelischer Spionagesoftware abhören?

Wie würde Chat Control in der Praxis funktionieren?

Dem Telex-Artikel zufolge würde die EU ein neues Kinderschutzzentrum einrichten, das sich auf die Bekämpfung der sexuellen Ausbeutung konzentriert. Bisher konnten Unternehmen freiwillig Maßnahmen ergreifen, um solche Inhalte zu verhindern. Dem Vorschlag zufolge wären sie auf Anfrage der neuen Behörde verpflichtet, eine Risikobewertung vorzunehmen. Wenn das Zentrum ihre Risikobewertung akzeptiert, würde der Fall nicht weiter verfolgt. Andernfalls würde eine Aufdeckungsanordnung ausgestellt werden – in diesem Stadium würden die Regierungen der Bundesstaaten die Ermittlungen nicht durchführen. Euronews berichtet, dass solche Anordnungen auch von nationalen Behörden beantragt werden können, sofern ein Gericht den Antrag mitunterzeichnet.

Die Europäische Kommission erklärt, dass das Scannen nur bestimmte Teile eines Dienstes oder bestimmte Nutzergruppen für eine begrenzte Zeit betreffen würde. Außerdem könnten nur von der neuen Kinderschutzbehörde “geschulte” KI-Tools eingesetzt werden. Wenn eine Gefahr entdeckt wird, würde der Dienstanbieter informiert und konsultiert werden und an der Untersuchung teilnehmen. Erst dann könnte die Überprüfung der gesendeten Nachrichten beginnen.

Die Kommission behauptet, dass das vorgeschlagene Zentrum auch Falschmeldungen herausfiltern und verhindern würde, dass die Mitgliedstaaten das System für andere Überwachungszwecke missbrauchen.

Bereits 2022 hatte der LIBE-Ausschuss des Europäischen Parlaments ähnliche Änderungsanträge gestellt: Er ist gegen eine pauschale Überwachung und unterstützt nur spezialisierte, risikobasierte Ansätze.

Was ist das Problem mit diesem Vorschlag?

Der Gesetzesentwurf, der unter dem Namen Chat Control bekannt ist, tauchte erstmals im Jahr 2022 auf, wurde aber aufgrund der Kontroverse, die er ausgelöst hat, noch nicht verabschiedet.

Das vielleicht umstrittenste Element ist die Umgehung der Ende-zu-Ende-Verschlüsselung. Um das Scannen von Nachrichten zu ermöglichen, müssten die Dienstanbieter Hintertüren einbauen, was Bedenken aufkommen lässt, dass andere, einschließlich autoritärer Regime, diese Schwachstelle ausnutzen könnten, um Dissidenten und NGOs zu überwachen. Ungarn zum Beispiel war bereits in einen Skandal um israelische Spionageprogramme verwickelt:

• Eine weitere israelische Spyware, die angeblich in Ungarn operiert – mutmaßliche Verbindungen zur Regierung

Das Europäische Parlament hat sich um Ausgewogenheit bemüht. Der Berichterstatter Javier Zarzalejos von der Mitte-Rechts-Partei EVP erkannte im April 2023 die Bedeutung der verschlüsselten Kommunikation an. Kritiker weisen jedoch darauf hin, dass die aktuelle Version des Vorschlags zur Chat-Kontrolle immer noch eine weitreichende Überprüfung von Dateien, Bildern, Texten und Links erlaubt.

Eine kürzlich von der deutschen Bürgerinitiative Netzpolitik veröffentlichte Version scheint die Verschlüsselung zu unterstützen, argumentiert aber auch, dass illegale Kommunikation auffindbar bleiben muss. Daher müssten die Nutzer dem Scannen zustimmen – wenn sie sich weigern, könnten sie keine visuellen Inhalte (wie Bilder oder Videos) oder Links versenden. Dies könnte das Nutzererlebnis auf Plattformen wie Signal oder Telegram erheblich verändern.

Was ist für die Einführung erforderlich?

Alle wichtigen EU-Institutionen – die Europäische Kommission, der Rat der EU und das Europäische Parlament – müssen der endgültigen Fassung zustimmen. Bislang gibt es noch keinen endgültigen Text.

Im Rat ist eine qualifizierte Mehrheit erforderlich: mindestens 15 Länder, die 65% der EU-Bevölkerung vertreten. Nach Angaben von Telex unterstützen derzeit 19 Regierungen den Plan, aber ihr Bevölkerungsanteil liegt unter 65%. TechRadar berichtete Ende August, dass es 15 Befürworter gibt, die nur 54% der Bevölkerung kontrollieren, so dass die Unterstützung Deutschlands entscheidend ist. Euronews bestätigt 15 Befürworter, sechs Gegner (darunter Polen) und sechs Unentschlossene. Interessanterweise unterstützt Ungarn den dänischen Textvorschlag.

Die Justiz- und Innenminister des Rates werden die Angelegenheit im Oktober erörtern, so dass eine Verabschiedung noch in weiter Ferne liegt, da der endgültige Text noch in der Entwicklung ist. Im Moment scheinen die Befürchtungen einer Massenüberwachung – zumindest bei diesem Vorschlag – unbegründet zu sein.

Weitere Nachrichten aus der Welt der Technik finden Sie hier.

Um diesen Artikel auf Ungarisch zu lesen oder zu teilen, klicken Sie hier: Helló Magyar