Ich war jetzt gut zwei Wochen nicht aktiv, weil ich endlich meine Prüfug zum ISO Auditor machen konnte und dann ab August eine neue Tätigkeit begonnen habe.
Aber natürlich habe ich mit einem Ohr auch immer die Meldungen zu verschiedenen Themen verfolgt.
So meldete heise schon am 07.07.2021
EU-Parlament erlaubt flächendeckende Scans nach Kinderpornografie (Quelle: heise)
Das ist jetzt schon einmal ein ganz heißes Thema – dass wir gegen jeglichen Missbrauch von Kindern energisch vorgehen müssen, ist keine Frage.
Jedoch – wie sieht das nun in der Praxis aus?
Anbietern von E-Mail-, Chat-, Dating- und Messenger-Diensten führen die Kontrollen durch. Melden ihre Suchalgorithmen einen Verdacht, werden Nutzer in der Regel – trotz hoher Fehlerquoten – automatisiert bei der Polizei angezeigt.
Um die Probleme etwas deutlicher zu machen, ein kurzes Beispiel:
An einem heißen Sommertag beschliessen Papa und Mama für das einjährige Kind einen absolut unkritischen und harmlosen “Event”.
Man stellt eine kleine, blaue Sandmuschel auf, füllt diese liebevoll mit lauwarmem Wasser und lässt das Kind planschen.
Als ich jung war, hatte damit niemand ein Problem.
Nun sollen auch Oma und Opa an der Freude des Kindes teilhaben dürfen. Also machen wir einen Schnappschuß mit dem Handy und teilen diesen – Wisch – Wisch.
Das Bild landet automatisch in der “ominösen” Cloud.
Jetzt geht eine künstliche Intelligenz (also ein dummes Programm) über das neue Bild und “erkennt” einen unbekleideten Babykörper.
Tja, was im familiären Umfeld absolut normal und unproblematisch sein sollte, ist in einem anderen Kontext eben Kinderpornografie.
Es erfolgt die automatische Anzeige bei der Polizei.
Ich will gar nicht darüber denken, zu welchem Ergebnis die KI kommen würde, hätte Papa gemeinsam mit seinem Kind gebadet und Mama hätte das fotografiert.
Um es noch einmal klar zu sagen – ich bin definitiv dafür, dass wir alles tun, um Kinder zu schützen.
Aber jetzt kommen private Bilder automatisiert in die Prüfschleife von Behörden?
Vielleicht badet auch Mama mit dem Kind? Will ich wirklich, dass nun eine fremde Person diese Nacktbilder meiner Frau sieht?
Nur weil eine KI das verdächtig findet?
Alles in mir sträubt sich gegen diesen Gedanken.
Am Ende des Artikels steht dann noch geschrieben:
Die Kommission arbeitet an einem Folgegesetz, das alle Dienstleister zur Überwachung verpflichtet. Die Auflagen könnten dann auch für Messenger-Dienste wie WhatsApp, Signal und Threema gelten, die bisher durchgehend verschlüsselt sind. Eine flächendeckende Inhaltskontrolle ist bei diesen derzeit nicht möglich. Sie müssten daher ihre Verschlüsselung aufweichen.
Im Klatext würden also die mühsam erarbeiteten Verschlüsselungen durch die Behörden wieder aufgeweicht.
Technisch werden dadurch die Verschlüsselungen unbrauchbar gemacht – so wie der Hausmeister den Zentralschlüssel zu allen Wohnungen haben könnte.
Jetzt wird es kritisch – ein Generalschlüssel könnte auch in falsche Hände kommen.
Schon vor Jahren hat mir in einem Seminar ein Polizist gesagt:
Es ist gut, dass die Bürger gar nicht wissen, wie oft die Polizei unberechtigt auf vertrauliche Daten und Verbindungsinformationen der Provider zugreift.
Eine schnelle Suche in Duck-Duck findet diese Schlagzeile:
Polizisten greifen hundertfach illegal auf Daten zu – Mehr als 400 Verfahren (Quelle: androidkosmos.de)
Ich kann gar nicht sagen, welche Alternative es gibt, aber dürfen wir unsere digitale Freiheit auf diese Art – still und heimlich – verlieren?
Meine kritische Einstellung zur Konzentration von Daten bei Clouddiensten habe ich ja schon oft in diesem Forum geäußert.
Man stelle sich nur vor, welche Auswirkungen es hat, wenn amazon, microsoft und andere Anbieter auf dieser Basis die vorhandenen Daten auswerten?
Manchmal wünsche ich mir eine wesentlich direktere Demokratie, bei der zumindest in wichtigen Themen auch der Bürger direkt abstimmen darf.
Ich hätte meine Zustimmung verweigert!
Nicht, weil mir der Schutz der Kinder nicht am Herzen liegt!
Sondern weil die wirklichen Verbrecher schon lange Verfahren nutzen, um die Bilder zu verbergen.
Diese Aktion wird also bei den wirklich kritischen Fällen wirkungslos bleiben und den unbescholteten Bürger unnötig einer großen Gefahr von falschen Beschuldigungen aussetzen.