KI im Kinderzimmer – Begleiter oder Gefahr?

Von Harald Czycholl

ChatGPT, digitale Assistenten, generierte Fotos: Künstliche Intelligenz (KI) ist längst allgegenwärtig – und erhält zunehmend auch im Alltag von Familien Einzug. Während die Politik noch über Social-Media-Verbote diskutiert, nutzen viele Jugendliche nämlich längst selbstverständlich KI-Tools.

So ist die Nutzung von KI zur Informationssuche ist laut JIM-Jugendstudie 2025 gegenüber dem Vorjahr um 27 Prozentpunkte auf 70 Prozent gestiegen. Eine Umfrage des Digitalverbands Bitkom zeigt zudem, dass jeder dritte Jugendliche (31 Prozent) KI-Tools nutzt, um sich bei den Hausaufgaben helfen zu lassen. 23 Prozent der Kinder und Jugendlichen sind dabei der Auffassung, KI könne ihnen Sachverhalte besser erklären als ihre Lehrkräfte.

Was bringt ein Social-Media-Verbot?

Doch während über TikTok- und Meta-Verbote debattiert wird, stellt sich kaum jemand die Frage, wer Kinder und Jugendliche vor den Risiken von KI schützt – wie etwa der Verbreitung von Fake News, dem Missbrauch von Daten oder auch sexualisierter Gewalt durch Deepfakes.

Laut Angaben von Wolfgang Kreißig, Präsident der Landesanstalt für Kommunikation Baden-Württemberg, die an der Erstellung der JIM-Jugendstudie beteiligt war, ist KI für viele Jugendliche in kurzer Zeit zu einem zentralen Alltagswerkzeug geworden. „Umso wichtiger ist es, Medienkompetenz zu fördern und Kinder und Jugendliche darin zu stärken, Informationen kritisch einzuordnen und vertrauenswürdige Quellen zu erkennen“, so Kreißig.

Denn, so ein weiteres Ergebnis der JIM-Studie: 57 Prozent der Minderjährigen nehmen KI-generierte Informationen für bare Münze – und laufen somit Gefahr, auf Fake News hereinzufallen. So gaben im Rahmen der aktuellen Studie 67 Prozent der Jugendlichen an, in der jüngeren Vergangenheit Fake News begegnet zu sein. „Die Plattformen sind in der Pflicht, problematische Inhalte konsequent zu löschen“, betont Kreißig. „Denn mit großer Reichweite geht große Verantwortung einher.“

Realitätsfern

Mit der Nutzung von ChatGPT und ähnlichen Anwendungen sind zudem erhebliche Datenschutzrisiken verbunden, warnt Maurice Brumund, Mitbegründer und CEO der Inno KI GmbH. „Bei den kostenlosen Versionen der großen KI-Anbieter landen sensible Daten – von Hausaufgaben über persönliche Fragen bis zu hochgeladenen Dokumenten – häufig außerhalb Europas und werden für das Training der KI-Modelle verwendet.“

Viele Kinder und Jugendliche seien sich dieser Datenschutzrisiken nicht bewusst. Verbieten sei allerdings keine Lösung, so der Experte. „KI-Tools sind für Jugendliche bereits unverzichtbare Lernbegleiter geworden. Ein Verbot wäre realitätsfern.

Die Frage ist nicht ob, sondern wie Kinder und Jugendliche diese Technologie sicher nutzen können.“ Bitkom-Hauptgeschäftsführer Bernhard Rohleder pflichtet ihm bei: „Richtig eingesetzt kann KI ein wichtiges Werkzeug sein, Schülerinnen und Schüler individuell beim Lernen zu unterstützen und auch Lehrkräfte zu entlasten.“ Wichtig sei es, den Einsatz von KI an den Schulen zu trainieren und das Verständnis für die Funktionsweise zu verbessern.

Räume im Sinne der Kinder gestalten

Künstliche Intelligenz sei für Kinder und Jugendliche Chance und Risiko zugleich, gibt Holger Hofmann, Bundesgeschäftsführer des Deutschen Kinderhilfswerks, zu bedenken. Bei der rasanten technischen Entwicklung in diesem Bereich gelte es, die Rechte und Perspektiven von Kindern im Blick zu behalten.

„KI kann neue Lern- und Kreativchancen eröffnen. Wenn Kinder KI altersgerecht erleben, stärkt das ihre Neugier, ihr Selbstbewusstsein und ihr Urteilsvermögen“, so Hofmann. Wichtig sei es daher, Kinderperspektiven stärker in die Entwicklung digitaler Angebote und Regeln einfließen zu lassen. „Nur so entstehen Räume, die Kinder nicht nur schützen, sondern stärken und in denen KI im Sinne der Kinder gestaltet wird.“

Digitale Teilhabe beinhalte dabei insbesondere auch den Aufbau von Medienkompetenz, betont Hofmann. „Wir brauchen kindgerechte digitale Rückzugsräume und konsequente Ansätze für die Vermittlung von Medienerziehungskompetenz an Eltern schon im frühkindlichen Bildungsbereich.“

Eltern müssen am Ball bleiben

Wichtig für Eltern ist es dabei in jedem Fall, die Entwicklung ihrer Kinder im virtuellen Raum nachzuvollziehen und auch in technischer Hinsicht am Ball zu bleiben. Genauso wie Eltern sich mit Social Media-Angeboten wie TikTok und Instagram auseinandersetzen müssen, müssen sie auch in Sachen KI auf der Höhe der Zeit bleiben, um ihren Kindern einen verantwortungsvollen Umgang mit den neuen Tools beizubringen. „Kinder können sehr kompetente KI-Nutzer sein, wenn man sie früh dazu befähigt und ihnen die nötigen Kompetenzen an die Hand gibt“, so der Kinderrechtsexperte Hofmann.

Umgekehrt gilt: Haben die Kinder nicht die notwendige Medienkompetenz für den Umgang mit KI, nehmen schnell die negativen Seiten der neuen Technologie überhand. „Aktuell sind viele Kinder und Jugendliche mit sogenannten Deepfakes konfrontiert“, warnt Hofmann. Deepfakes sind mit KI erstellte Bild- und Videobearbeitungen, in denen die Gesichter oder Körper realer Personen in fremde Kontexte eingefügt werden.

„Die Tools für die Erstellung solcher Bilder und Videos erfreuen sich hoher Beliebtheit in den App-Stores und die erstellten Bilder und Videos verbreiten sich auch auf Schulhöfen rasant schnell“, warnt Hofmann. „Insbesondere sexualisierte Darstellungen von Mitschülerinnen und Mitschülern verstören die Betroffenen und stellen eine bisher kaum regulierte Form digitaler Gewalt dar.”

„Wir können KI nicht aus dem Leben unserer Kinder verbannen – aber wir können ihnen beibringen, verantwortungsvoll damit umzugehen. Und das funktioniert am besten gemeinsam als Familie, nicht durch Verbote“, sagt auch Digitalexperte Brumund.

Sein Unternehmen hat ein Familien-Abo für die datenschutzkonforme Plattform innoGPT auf den Markt gebracht, das 34,90 Euro monatlich kostet und fünf Zugänge für Familienmitglieder beinhaltet.

Damit haben die Nutzer Zugriff auf führende KI-Modelle von Anbietern wie OpenAI, Google, Meta oder Mistral, ohne dabei ihre persönlichen Daten wie E-Mail-Adressen, Namen, Geburtsdaten oder ähnliches preisgeben zu müssen – sie werden vor der Übermittlung an die KI-Plattformen durch Platzhalter ersetzt. „Bei uns verlassen keine sensiblen Daten Europa, und keine Daten werden für KI-Training verwendet oder verkauft.“

Die Teilhabe junger Menschen sicherstellen

Kinder und Jugendlichen hätten ein Recht darauf, am digitalen Raum teilzuhaben und soziale Medien wie auch KI-Tools zu nutzen, ohne dass ihre mentale Gesundheit oder ihre Sicherheit gefährdet werden, betont Ramona Pop, Vorständin des Verbraucherzentrale Bundesverbands. „Damit das gelingen kann, müssen sich das Design und die Grundeinstellungen digitaler Dienste ändern.“ Plattformen müssten so gestaltet sein, dass weder Suchtgefahren noch Datenschutzrisiken für Kinder bestehen würden.

Es gehe darum, „Minderjährige zu schützen, ohne sie auszuschließen“, so Pop. „Die sichere Teilhabe junger Menschen an der der digitalen Welt muss weiter sichergestellt sein.“