KI und Kinder: Besserer Schutz, mehr Bildung und klare Regeln
Künstliche Intelligenz prägt den Alltag von Kindern und Jugendlichen, oft
bevor sie die Technologie selbst verstehen oder kritisch einordnen können.
Bereits Grundschulkinder begegnen KI in Lern-Apps, sozialen Netzwerken,
Chatbots oder digitalen Spielzeugen. Damit wächst nicht nur das Potenzial
für Bildung und Teilhabe, sondern auch die Herausforderung, Kinder im
digitalen Raum wirksam zu schützen und zu begleiten.
Ein Whitepaper der
Plattform Lernende Systeme zeigt: Der Umgang mit KI ist keine rein
technische Frage mehr. Es geht der Frage nach, welche rechtlichen,
pädagogischen und gestalterischen Rahmenbedingungen notwendig sind, um
einen sicheren und selbstbestimmten Umgang zu ermöglichen.
Kinder und Jugendliche sind im Umgang mit KI besonders vulnerabel.
Aufgrund ihres kognitiven und emotionalen Entwicklungsstands fällt es
ihnen häufig schwerer als Erwachsenen, KI-generierte Inhalte kritisch zu
hinterfragen. Gleichzeitig werden generative KI-Systeme immer
leistungsfähiger: Sie erzeugen täuschend echte Texte, Bilder oder Stimmen
und können Desinformation, manipulative Inhalte oder stereotype
Rollenbilder verstärken.
Besonders problematisch sind sogenannte Deepfakes, bei denen die Grenze
zwischen Realität und Fiktion zunehmend verschwimmt. Dadurch können
Risiken wie Cybermobbing, Radikalisierung, extremistische Inhalte oder
sexualisierte Gewalt im digitalen Raum weiter zunehmen. Hinzu kommt, dass
digitale Plattformen das Verhalten junger Nutzerinnen und Nutzer
kontinuierlich analysieren, um Inhalte zu personalisieren und
Aufmerksamkeit gezielt zu steuern. Dies wirft grundlegende Fragen nach
Datenschutz, Privatsphäre und Einflussnahme auf.
Auch die sozialen Folgen von KI rücken stärker in den Fokus. KI-basierte
Chatbots und virtuelle Begleiter treten zunehmend als scheinbar soziale
Interaktionspartner auf. Gerade Kinder und Jugendliche neigen dazu,
solchen Systemen menschliche Eigenschaften zuzuschreiben und ihnen
besonderes Vertrauen entgegenzubringen. Daraus ergeben sich pädagogische
und gesellschaftliche Herausforderungen.
Kindgerechte Gestaltung und Medienkompetenz sicherstellen
„Kinder und Jugendliche benötigen im Umgang mit KI Unterstützung und
besonderen Schutz. Gleichzeitig sollten sie befähigt werden, KI-Systeme
kritisch und selbstbestimmt zu nutzen“, erklärt Prof. Dr. Jessica Heesen,
Eberhard Karls Universität Tübingen. „Deshalb braucht es nicht nur
Regulierung, sondern auch eine kindgerechte Gestaltung von KI-Systemen und
den Ausbau von Medien- und KI-Kompetenzen.“
Für einen verantwortungsvollen KI-Einsatz nennt das Whitepaper zentrale
Anforderungen: KI-Systeme sollen transparent, verständlich und
altersgerecht gestaltet sein. Kinder müssen erkennen können, wann sie mit
einem KI-System interagieren und wie Inhalte entstehen. Gleichzeitig
sollen Schutzmechanismen wie klare Altersgrenzen, datenschutzfreundliche
Voreinstellungen und nachvollziehbare Kennzeichnungen KI-generierter
Inhalte etabliert werden. Ebenso wichtig ist die Förderung von Medien- und
KI-Kompetenz in Schulen und außerschulischen Bildungsangeboten, damit
Kinder und Jugendliche lernen, KI-Systeme kritisch zu hinterfragen und
verantwortungsvoll zu nutzen.
Das Whitepaper betont zugleich die Potenziale von KI für Bildung und
Inklusion. Richtig eingesetzt können KI-Systeme individuelle Lernwege
unterstützen, Barrieren abbauen und den Zugang zu Wissen erleichtern.
„Entscheidend ist, dass technologische Innovationen nicht isoliert
betrachtet werden“, so Bernhard Hüngsberg, Deutsche Telekom AG. „Damit
Kinder von den Potenzialen Künstlicher Intelligenz profitieren können,
müssen technologische Entwicklung, pädagogische Konzepte und
regulatorische Rahmenbedingungen gemeinsam gedacht werden.“
Über das Whitepaper
Das Whitepaper „KI und Kinder. Ein Überblick zur Einordnung“ wurde von
Mitgliedern der Unterarbeitsgruppe „Recht und Ethik“ der Arbeitsgruppe
„IT-Sicherheit, Privacy, Recht und Ethik“ der Plattform Lernende Systeme
verfasst. Es steht zum kostenfreien Download bereit.
Ein Kurzinterview mit Klaus Heine, Mit-Autor des Whitepapers und Mitglied
der Plattform Lernende Systeme, steht zur redaktionellen Verwendung zur
Verfügung.
Über die Plattform Lernende Systeme
Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und
Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes
Fachwissen und fördert als unabhängiger Makler den interdisziplinären
Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus
Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen
Positionen zu Chancen und Herausforderungen von KI und benennen
Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen
sie den Weg Deutschlands zu einem führenden Anbieter von
vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in
Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom
Bundesforschungsministerium auf Anregung von acatech – Deutsche Akademie
der Technikwissenschaften gegründet und wird von einem Lenkungskreis
gesteuert. Die Leitung der Plattform liegt bei Dorothee Bär
(Bundesministerin für Forschung, Technologie und Raumfahrt) und Claudia
Eckert (Präsidentin acatech). Mehr Info.
Originalpublikation:
https://www.plattform-lernende
/ki-und-kinder-2026-pls.pdf
zur Einordnung“.
https://www.plattform-lernende
systeme.de/ergebnisse/standpun
suchtgefahr-ist-ungleich-groes
Kurzinterview mit Klaus Heine, Mit-Autor des Whitepapers und Mitglied der
Plattform Lernende Systeme.
