EU: TikTok gefährdet mentale Gesundheit – Strafe droht

TikTok gefährdet seine Nutzer nach vorläufigen Ermittlungsergebnissen der EU-Kommission durch die Video-Empfehlungen auf seiner Plattform. Dem Unternehmen drohe eine Strafe, weil sein Algorithmus selbst schutzbedürftigen Nutzern einen endlosen Strom aus personalisierten Videos anzeige, der psychische Probleme verstärken könne, teilte die Brüsseler Behörde mit.

Die Kommission wirft TikTok vor, dieses Risiko nicht ausreichend eingedämmt zu haben. Der Algorithmus werte Ansehen und Liken als Interesse und spiele danach mehr ähnliche Inhalte aus, die sich um Traurigkeit, Isolation, Gewicht und Körperbild drehten. Die bisherigen Gegenmaßnahmen seien nicht wirksam. Auch der Button „Nicht interessiert“ reiche nicht aus, um den Feed zu ändern.

Verloren im Kaninchenbau? 

Die sogenannte For You-Page („Für Dich“-Seite), die besonders schnell Inhalte anzeigen soll, die Nutzer interessieren, steht im Fokus des Verfahrens. Die EU-Kommission verlangt hier Änderungen, da sie sogenannte Rabbit-Hole-Effekte (auf Deutsch: Kaninchenbau) befürchtet.

Damit ist gemeint, dass man sich so tief in einem Thema verliert, dass man nicht mehr herausfindet – ähnlich wie sich die Hauptfigur in der Geschichte Alice im Wunderland in einem Kaninchenbau verliert. Algorithmen – vereinfacht gesagt von Menschen geschriebene Anleitungen für Computer – können theoretisch solche Verhaltensmuster erkennen und ausnutzen, damit Nutzerinnen und Nutzer mehr Zeit auf einer Plattform verbringen.

Die EU-Kommission teilte mit, der TikTok-Algorithmus personalisiere auf diese Art und Weise selbst Inhalte, die potenziell belastend sein könnten und gefährde dadurch insbesondere auch Kinder und Jugendliche. Zwar habe TikTok bereits bestimmte Maßnahmen gegen diese Mechanismen ergriffen, diese seien aber nicht wirksam, heißt es in den vorläufigen Ermittlungsergebnissen.

Weitere EU-Verfahren gegen TikTok laufen bereits

Die EU-Kommission treibt damit das nächste Verfahren gegen die von der chinesischen Firma Bytedance betriebene App voran. Es ist das dritte Mal, dass Brüssel den Online-Riesen mit Untersuchungsergebnissen konfrontiert und ihm Verstöße gegen das Gesetz über digitale Dienste (Digital Services Act, kurz DSA) vorwirft. Eine Strafe gab es seit der Eröffnung des ersten Verfahrens gegen TikTok im Februar 2024 nicht. 

Der DSA gilt eigentlich als scharfes Schwert gegen den Einfluss großer Plattformen. Kritiker halten der EU-Kommission aber immer wieder vor, zu zögerlich zu agieren. Brüssel verweist darauf, dass Entscheidungen auch vor Gericht standhalten müssten und entsprechend sorgfältig bewiesen sein sollten.

TikTok könnte empfindliche Strafe drohen 

Gegen TikTok läuft auch ein Verfahren wegen anderer Funktionsweisen der App. So befürchtet die EU-Kommission, dass Minderjährige süchtig werden könnten. Konkret geht es bei den suchtfördernden Mechanismen etwa um das ununterbrochene, automatische Abspielen von Videos. 

Zudem warfen die Brüsseler Internetwächter dem Konzern in einem separaten Verfahren im Juli vor, Kinder und Jugendliche nicht genug vor übergriffigem Verhalten anderer Nutzer schützen. Die Behörde kritisiert unter anderem, dass Fremde die öffentlichen Benutzerkonten von Minderjährigen sehen und die jungen Nutzer auch mit missbräuchlichen Absichten kontaktieren könnten. 

Das Unternehmen hat in allen Verfahren die Möglichkeit, sich gegen die Vorwürfe zu verteidigen oder mit entsprechenden Änderungen die Bedenken der EU auszuräumen. Findet sich keine einvernehmliche Lösung, könnte es für TikTok teuer werden.

Die EU-Kommission würde dann formell einen Verstoß feststellen und könnte eine Strafe von bis zu sechs Prozent des jährlichen Konzernumsatzes verhängen. Auch tägliche Strafen wären möglich, um TikTok zum Einlenken zu bewegen.