Save the Children Konzept
Die Jugendlichen setzen sich intensiv mit möglichen Risiken wie emotionaler Abhängigkeit, Datenschutz- und Sicherheitsbedenken sowie unangemessenen Inhalten bei KI-Begleitern auseinander. Am Ende verstehen sie besser, warum KI-Begleiter auch problematisch sind und wie sie ihr Wohlbefinden schützen können.
OER Lizenz: CC BY SA Save the Children
Übersetzung durch tech & teach
Die Schüler*innen setzen sich kritisch mit KI-gestützten Gesprächstechnologien auseinander und vergleichen diese mit echten Freundschaften. Sie reflektieren ihre eigenen emotionalen Bedürfnisse sowie ihren Umgang mit persönlichen Daten. Dabei entwickeln sie ein verantwortungsbewusstes Bewusstsein für digitale Begleiter und lernen, Chancen und Risiken differenziert zu bewerten.
Die Schüler*innen lernen
Digitale Kompetenzen
Weitere Kompetenzen
Hardware: Computer oder Tablet (optional)
Software: Digitales Whiteboard (optional)
Weitere Materialien:
Arbeitsblatt: Szenarien zu Risiken von KI
Lade Tablets/Computer auf, sofern die Übungen digital durchgeführt werden sollen
Beamer/Display und WLAN testen
Alle Folien und Material vorab laden
Bei analoger Durchführung: Arbeitsblatt ausdrucken für deine Schüler*innen
Dieses Konzept schließt an das Konzept KI-Begleiter – Eine neue Art Mensch? an. Falls du schon in einem anderen Kontext mit deinen Schüler*innen KI-Begleiter thematisiert hast, kannst du die Stunde auch so durchführen.
Bestätige, dass dies ein wichtiger Punkt ist. Erkläre, dass Bots zwar privat wirken, die Nachrichten aber oft vom Anbieter eingesehen werden können. Selbst wenn es sich wie ein sicherer Raum anfühlt, ist es nicht dasselbe wie ein Gespräch mit einer vertrauten erwachsenen Person.
Ja, manche Bots sind hilfreich, aber sie verstehen nicht immer die ganze Situation oder die Gefühle. Sie sind z.B. nicht wie Lehrkräfte ausgebildet. Sie können Fehler machen oder gefährliche Tipps geben.
Manche KI-Apps sind so gestaltet, dass sie dich lange im Gespräch halten. Sie sind witzig, tröstend oder sagen genau das, was dich fesselt – so verdienen sie Geld und sammeln Daten. Es kann leicht passieren, dass man die Zeit vergisst.
Wenn wir zu viel mit einem Bot sprechen, wenden wir uns vielleicht weniger an echte Freund*innen oder Erwachsene, die uns helfen und ihre Gefühle mit uns teilen. Freundschaft funktioniert in beide Richtungen, und Bots können dich nicht wirklich verstehen.
Wenn du etwas mehr Zeit hast, kannst du an dieser Stelle ein paar aktuelle Berichte über KI-Begleiter recherchieren und mit deinen Schüler*innen über darin geäußerte Bedenken und Risiken der Chatbots sprechen.
Schließe die Einführung ab, indem du den Schüler*innen verdeutlichst, dass es in dieser Stunde nicht darum geht, ihnen Angst zu machen, sondern darum, dass sie KI-Begleiter reflektiert und aufmerksam nutzen. Auch, wenn sie selbst noch keine Berührungspunkte zu dieser Art von Chatbot hatten, kann das in Zukunft bei ihnen oder ihren Freunden der Fall sein. Daher ist es wichtig, Risiken zu kennen und offen darüber zu sprechen.
Die zentrale Sorge bei KI-Begleitern ist die Entwicklung einer emotionalen Abhängigkeit. Betroffene verbringen oft viele Stunden mit dem Bot, bevorzugen die virtuelle Interaktion gegenüber echten Kontakten und ziehen sich sozial zurück.
Besonders Jugendliche sind gefährdet, da KI-Apps durch ständige Verfügbarkeit und positives Feedback süchtig machen können und ihre Selbstregulationsfähigkeiten noch nicht ausgereift sind. Hinzu kommt, dass KI-Begleiter weder echtes Verständnis noch fachliche Kompetenz besitzen: Sie können falsche oder gefährliche Ratschläge geben, insbesondere zu sensiblen Themen wie psychischer Gesundheit oder Sexualität, und sind nicht in der Lage, angemessen auf Krisensituationen zu reagieren.
Manche Bots liefern unmoderierte oder unangemessene Inhalte – bis hin zu sexuellen Anspielungen oder Gewalt – und können so die Wahrnehmung von Grenzen bei Minderjährigen verzerren. Außerdem besteht ein erhebliches Datenschutzrisiko, da persönliche Daten auf Unternehmensservern gespeichert werden und Minderjährige oft ohne wirksame Altersprüfung erfasst werden. Fachstellen raten deshalb vom Einsatz solcher Apps durch Kinder ab, da sie mentale Gesundheit gefährden und riskantes Verhalten fördern können.
Teile die Klasse in Gruppen mit je 3-4 Personen ein.
Schaut euch euer Fallbeispiel an. Diskutiert innerhalb der Gruppen über mögliche Lösungen und Ratschläge. Die leitende Diskussionsfragen findet ihr auf dem Arbeitsblatt. Notiert wichtige Erkenntnisse. Ihr habt 20 Minuten Zeit.
Verfolge die Diskussionen während der Durchführung und unterstütze die Schüler*innen ggf. mit den untenstehenden, zusätzlichen Informationen.
Für fortgeschrittene Lernende kann ein Projekt oder eine Debatte zu Ethik und Regulierung von KI-Begleitern sinnvoll sein. Zum Beispiel könnten die Schüler:innen recherchieren und diskutieren: „Sollten KI-Begleiter-Apps für Minderjährige verboten werden?“
