Nach Porno-Fund

Vater entwickelt App gegen Mobbing und sexuelle Belästigung

Nachdem er Pornovideos auf dem Handy seines Sohnes entdeckte, entwickelte José Díaz aus Berlin einen Messenger-Dienst, der schädliche Nachrichten blockt.

Von Maria Neuendorff

Mobbing im Klassenchat, Gewalt- und Pornobilder, anrüchige Nachrichten von Fremden oder Betrugsmaschen über das Internet, das sind ganz reale Gefahren, die Eltern besonders Sorgen machen, wenn sie ihren Kindern und Jugendlichen die Handynutzung erlauben.

Auch José Díaz war geschockt, als er bei seinem Sohn Porno-Videos entdeckte, die diesem über Messenger-Dienste von anderen Kindern zugesandt worden waren. „Ich hatte ihm schon mit zehn Jahren ein Handy erlaubt, da ich nach der Trennung von seiner Mutter so Kontakt halten wollte“, erinnert sich der IT-Unternehmer. „Nach dem Fund musste ich ihm erst einmal erklären, dass das, was er da sieht, nichts mit Liebe zu tun hat und dass man Frauen nicht so behandelt.“

José Díaz ist Vater von insgesamt vier Kindern. Seine beiden jüngsten gehen noch zur Schule. „Kontrollieren will ich meine Kinder nicht. Also habe ich selbst einen Messenger gebaut, der schädliche Nachrichten stoppt, bevor sie beim Empfänger ankommen“, erklärt der gebürtige Spanier, der in Barcelona Ingenieurswissenschaften und in Berlin Betriebswirtschaft und Informatik studiert hat. Inzwischen blickt er auf über 30 Jahre Erfahrung in der IT-Branche zurück und hat mehrere  Firmen gegründet.

Die App, die er nun entwickelt hat, prüft jede Nachricht auf dem Handy, bevor sie rausgeht. „Beleidigungen oder Drohungen bleiben beim Absender hängen. Dem wird angezeigt, welche Regel er verletzt hat“, erklärt Díaz.

„Du bist ein Idiot“ wird von der App geblockt

Und tatsächlich, ein Test zeigt: „Du bist dämlich“ geht gerade noch durch. „Du bist ein Idiot“ wird von der App schon automatisch geblockt. „Die App nutzt inzwischen ein Lexikon mit über 400 000 Wörtern und über eine Million Datensätzen, um kritische Muster zu erkennen“, erklärt Díaz.

In seinem Büro im zweiten Stock in Berlin-Schöneberg steht ein Flipchart, auf dem er Kollegen und Besuchern die Funktionsweise skizziert. Auch das Alter der Nutzer spielt eine Rolle. Bei über 16-Jährigen werde mehr durchgelassen als bei Jüngeren. „Das ist natürlich alles noch nicht perfekt, aber das wollen wir auch nicht sein, denn wir wollen nicht die Flüssigkeit des Gesprächs unterbrechen“, berichtet der IT-Spezialist. „Pornografische Inhalte können wir aber zu 99,99 Prozent ausschließen“, versichert Díaz.

Auch Sätze wie „Alle Frauen sind doof“ oder „Ich hasse Schwule“ werden nicht durchgelassen. „Mein Nachbar ist ein Idiot“ wäre dagegen erlaubt, über andere in einer Chat-Gruppe lästern, wiederum nicht.

„Die Möglichkeit zur Diskussion soll natürlich gegeben bleiben, aber man muss sich eben zivil unterhalten“, betont der App-Entwickler. Die KI liest dabei aber auch zwischen den Zeilen. Damit will Díaz das Grooming, die gezielte Kontaktaufnahme Pädophiler zu Kindern, verhindern.

„Die Täter sagen ja nicht gleich: ,Ey, Süße, schick mir mal ein Nacktfoto‘“, erklärt der Berliner. Die Anbahnungsversuche seien häufig viel subtiler. So ploppen nach Sätzen wie „Du siehst aber viel reifer aus“ oder „Behalt das mal für dich, ja?“ auch beim Empfänger eine Art Warnhinweis auf, der lautet: „Manchmal fühlt sich ein Chat-Gespräch unangenehm an, auch wenn man nicht genau sagen kann, warum.“ Es folgt der Rat, mit Vertrauenspersonen darüber zu reden, sowie eine Nummer gegen Kummer.

Auch der Satz „Ich bringe mich um“ wird geblockt. Der Schreiber bekommt ebenfalls drei Hilfsnummern, an die er sich anonym wenden kann.

Díaz bezeichnet seinen KindChat als europäische Antwort auf WhatsApp. „Auch dort könnte man die Sicherheitsstandards einbauen. Nur haben die Amis kein Interesse daran, weil damit auch eine Menge Nutzer wegbrechen würden“, sagt Díaz.

Er hat in Berlin als Informatiker auch bei der Polizei gearbeitet und weiß, wie einfach es ist, zum Beispiel jemanden über die Nummer zu orten. Über KindChat sehen die Kontakte nur den beliebigen Nutzernamen, nie die Nummer. Eingeladen werden neue Freunde über einen Code. Auch bei Bildern werden Standort- und Kameradaten vor dem Senden entfernt.

Die Ende-zu-Ende-Verschlüsselung bleibt dagegen erhalten. „Niemand liest mit. Auch wir nicht“, versichert der Gründer. Während die EU weiter über die Chatkontrolle verhandelt, zeige seine App, dass Kinderschutz und Verschlüsselung durchaus zusammen funktionieren.

Derzeit besucht Díaz Schulen, Kinderschutzorganisationen und Politiker, um seine Erfindung vorzustellen. Die App ist in der Grundvariante kostenlos. Es gibt aber auch zwei Plusvarianten. Die teuerste ist ein Familien-Abo für bis zu sechs Personen für 5,99 Euro im Monat, bei dem nicht nur Eltern mitentscheiden können, wer mit dem Kind chattet.

„Aus Gesprächen mit Elternvertretern weiß ich, dass auch die Masse an Nachrichten Kinder heute überfordern kann“, sagt Díaz. „Wenn manche Schüler morgens das Handy anmachen, ploppen schon 300 Nachrichten im Chat auf. Deswegen hat er die Möglichkeit einer Begrenzung eingerichtet, damit das Spammen verhindert wird. Dazu können Eltern auch Schlummer-Zeiten einstellen, in denen dann auf dem Kanal gänzlich Ruhe herrscht.