Save the Children Konzept

Verantwortung im Netz: Gemeinsam gegen sexualisierte Deepfakes

Die Schüler*innen analysieren die Auswirkungen von KI-generierten Nacktbildern sowie deren Verbreitung. Sie lernen, in verschiedenen Phasen eines Vorfalls angemessen zu handeln, betroffene Personen zu unterstützen und konkrete Maßnahmen zu ergreifen, um eine weitere Verbreitung zu verhindern.

OER Lizenz: CC BY SA Save the Children

Übersetzung durch tech & teach

Bild Verantwortung im Netz: Gemeinsam gegen sexualisierte Deepfakes
So geht's

 Verantwortung im Netz: Gemeinsam gegen sexualisierte Deepfakes

Wichtige Informationen vorab

Um sexualisierte Deepfakes unter Jugendlichen wirksam entgegenzuwirken, reicht es nicht aus, lediglich Verbote auszusprechen. Schüler*innen müssen konkrete Handlungsmöglichkeiten kennenlernen, damit sie in entsprechenden Situationen schnell und verantwortungsvoll reagieren können. 

Diese Unterrichtseinheit soll dazu beitragen, impulsive Reaktionen wie Neugier oder belustigtes Weiterleiten durch reflektiertes und verantwortungsbewusstes Handeln zu ersetzen. 

Durch die Arbeit mit den verschiedenen Verbreitungsstufen erkennen die Lernenden, wie Schaden Schritt für Schritt entsteht und wie sie selbst dazu beitragen können, diese Entwicklung zu stoppen. Sie lernen, dass das Nicht-Weiterleiten eines Bildes kein Zeichen von Schwäche ist, sondern verantwortungsvolles Handeln. 

Darüber hinaus erwerben sie praktische Kenntnisse darüber, wie Beweise gesichert werden können und an wen sie sich wenden sollten. Ziel ist es, sie vom passiven Zuschauen hin zu aktivem Schutzverhalten zu befähigen.  

Weise die Klasse darauf hin, 

  • keine realen Personen, Schulen oder Accounts zu nennen, 
  • keine Apps oder Werkzeuge zur Erstellung solcher Inhalte zu diskutieren, 
  • keine realen sexualisierten Bilder zu zeigen oder danach zu suchen. 

Mache deutlich, dass persönliche Erfahrungen freiwillig geteilt werden können. Falls Inhalte belastend wirken oder aktuelle Vorfälle betreffen, sollen sich die Schüler*innen vertraulich an dich oder eine zuständige Vertrauensperson wenden können. 

Einführung (20 Minuten)

  1. Erkläre den Schüler*innen, dass heute ein Thema behandelt wird, das durch neue Technologien zunehmend an Bedeutung gewonnen hat: sexualisierte Deepfakes.
  2. Besprecht anschließend gemeinsam folgende Fragen: 
Was versteht man unter sexualisierten Deepfakes?

Dies ist eine Form sexualisierter bildbasierter Gewalt ohne Einwilligung der dargestellten Person. Dabei werden digitale Werkzeuge – häufig auf Basis künstlicher Intelligenz – genutzt, um Bilder von Personen zu erstellen oder zu verändern und sie in intimen Situationen darzustellen, ohne dass die betroffene Person zugestimmt hat. 

Auch wenn die Inhalte künstlich erzeugt wurden und kein reales Ereignis zeigen, werden Identität und Erscheinungsbild einer Person ohne deren Zustimmung verwendet. 

Mache deutlich, dass es sich nicht um einen harmlosen Scherz oder eine bloße Bildbearbeitung handelt, sondern um einen Eingriff in Privatsphäre, Würde und digitale Rechte. 

Erläutere, dass die emotionale Belastung für Betroffene erheblich sein kann. Obwohl das Bild künstlich erzeugt wurde, sind Gefühle wie Scham, Angst und Kontrollverlust real. Insbesondere im Jugendalter, in dem Identität und soziale Zugehörigkeit eine wichtige Rolle spielen, können solche Vorfälle das Selbstwertgefühl nachhaltig beeinträchtigen. 

Darüber hinaus können Betroffene Vertrauen in ihr Umfeld verlieren, soziale Situationen vermeiden, sich aus Freundeskreisen zurückziehen und den Schulbesuch als belastend empfinden. 

Mache deutlich, dass nicht nur die betroffene Person leidet. Auch Mitschüler*innen können Verunsicherung oder Angst entwickeln, selbst Opfer eines ähnlichen Vorfalls zu werden. Dies kann das Klassenklima und das Sicherheitsgefühl innerhalb der Schule erheblich beeinträchtigen. 

Erkläre den Schüler*innen die unterschiedlichen Rollen: 

Betroffene Person: Die Person, deren Bild erstellt oder verbreitet wird. 

Verbreitende Person: Gibt den Inhalt aktiv weiter. 

Stille*r Zuschauer*in: Sieht den Inhalt, greift jedoch nicht ein. 

Unterstützende Person: Hilft der betroffenen Person und meldet Vorfälle. 

Widersprechende Person: Spricht problematisches Verhalten an und setzt Grenzen. 

Vertrauensperson oder Erwachsener: Unterstützt bei Schutzmaßnahmen und Intervention. 

Betone, dass nicht alle Rollen zur Schädigung beitragen. Jede Person hat die Möglichkeit, aktiv zu handeln und Schaden zu begrenzen. 

  1. Nachdem die Schüler*innen einen Überblick bekommen haben, sollen sie nun eine anonyme Umfrage durchführen, um gemeinsam über Gefühle, Wahrnehmungen und Reaktionen in solchen Situationen nachzudenken.  
  2. Nutze hierfür die vorbereitete Umfrage, digital oder analog, je nach Vorbereitung. Verteile bei analoger Durchführung die Fragebögen an die Schüler*innen. Bei digitaler Durchführung benötigen die Schüler*innen nun Tablets oder Laptops.

Sollten nicht genug Geräte für eine 1:1 Ausstattung der Schüler*innen zur Verfügung stehen, bilde Kleingruppen. In diesem Fall sollten die Antworten eher als Gruppenmeinung formuliert werden.

  1. Gehe bei der Umfrage die Fragen/Folien nacheinander durch und gib ausreichend Zeit zum Nachdenken und Antworten. Besprecht die Ergebnisse anschließend gemeinsam in der Klasse. Achte dabei darauf, die Anonymität jederzeit zu wahren, unterschiedliche Sichtweisen wertschätzend aufzugreifen und niemanden zur Teilnahme zu drängen.

Übung: Die Verbreitungskette sichtbar machen (20 Minuten)

  1. Erkläre den Schüler*innen, dass sie nun die verschiedenen Phasen der Verbreitung eines solchen Bildes genauer untersuchen werden. Ziel der Aktivität ist es zu verstehen,
    • wie sich die Situation Schritt für Schritt verschärfen kann,
    • welche Auswirkungen dies auf die betroffene Person hat,
    • und wie Mitschüler*innen aktiv dazu beitragen können, die Verbreitung zu stoppen.
  2. Verteile an jede*n Schüler*in die Materialien für die Übung: vier Post-Its, davon zwei in einer Farbe und zwei in einer anderen Farbe, sowie Stifte.
  3. Stelle den Schüler*innen zunächst die vier Eskalationsstufen bei der Veröffentlichung eines sexualisierten Deepfakes vor und erläutere diese kurz:
    • Veröffentlichung in einer kleinen Freundesgruppe
    • Verbreitung in der Klassengruppe
    • Verbreitung im schulischen Umfeld
    • Öffentliche Verbreitung im Internet
  4. Bringe die entsprechenden Arbeitsblätter mit den Eskalationsstufen an verschiedenen Stellen im Klassenraum an.
  5. Verteile nun das Arbeitsblatt mit den Handlungsstrategien an die Schüler*innen (1 pro 2 Kinder ist ausreichend). Erkläre der Klasse, dass sie auf diesem Blatt allgemeine Hinweise und Handlungsempfehlungen finden, die dabei helfen können, die Verbreitung solcher Inhalte zu stoppen und betroffene Personen zu unterstützen. Dieses können sie als Gedächtnisstütze in der Aufgabe verwenden.
  6. Jetzt legt ihr die Farben der Post-Ist fest. Eine Farbe steht für unterstützende Botschaften an Betroffene, die andere für konkrete Handlungsmöglichkeiten zur Unterstützung oder Eindämmung der Verbreitung eines sexualisierten Deepfakes.
  7. Die Aufgabe der Schüler*innen ist es jetzt, sich ihre Ideen in den Kategorien „Botschaften an Betroffene“ und „Handlungen zur Eindämmung der Verbreitung“ auf den Post-Its zu notieren und diese anschließend der Verbreitungsstufe zuzuordnen, die am ehesten passt. Dort können sie die Zettel aufkleben.

Während die Schüler*innen arbeiten, kannst du:

  • die verschiedenen Beiträge lesen,
  • interessante oder besonders hilfreiche Ideen markieren,
  • wiederkehrende Themen beobachten,
  • mögliche Missverständnisse erkennen und später aufgreifen,
  • Beiträge notieren, die du in der Abschlussphase gemeinsam besprechen möchtest.

Hintergrundinformationen für Lehrkräfte

Mache deutlich, dass Schüler*innen in realen Situationen niemals selbst Ermittlungen durchführen, Bilder weiterleiten oder erneut verbreiten sollten. 

Der sicherste Umgang besteht darin, 

  • die Verbreitung sofort zu stoppen, 
  • nur notwendige Beweise zu sichern, 
  • eine Vertrauensperson oder zuständige Ansprechperson einzubeziehen, und vorhandene Meldefunktionen der jeweiligen Plattform zu nutzen.

Stufe 1: Veröffentlichung in einer kleinen Freundesgruppe 

  • Das Bild löschen, ohne es weiterzuleiten. 
  • Darauf hinweisen, dass das Teilen solcher Inhalte schwerwiegende Folgen haben kann. 
  • Eine erwachsene Vertrauensperson informieren. 
  • Die Gruppe dazu ermutigen, das Verhalten nicht zu unterstützen. 
  • Andere davon überzeugen, das Bild weder zu speichern noch weiterzugeben. 
 

Stufe 2: Verbreitung in der Klassengruppe 

  • Screenshots als Beweissicherung erstellen, bevor Inhalte gelöscht werden. 
  • Öffentliche Unterstützungsbotschaften an die betroffene Person richten. 
  • Automatische Downloads auf Geräten deaktivieren. 
 

Stufe 3: Verbreitung im schulischen Umfeld 

  • Lehrkräfte oder zuständige Vertrauenspersonen umgehend informieren. 
  • Sachlich darauf hinweisen, dass es sich um ein manipuliertes oder nicht einvernehmlich verbreitetes Bild handelt. 
  • Die betroffene Person im Schulalltag unterstützen und begleiten. 
  • Auf Beratungs- und Unterstützungsangebote aufmerksam machen. 
 

Stufe 4: Öffentliche Verbreitung im Internet 

  • Beiträge über offizielle Meldewege der Plattform melden. 
  • Weitere Personen dazu ermutigen, problematische Inhalte ebenfalls zu melden. 
  • Links und relevante Informationen dokumentieren. 
  • Die gesammelten Informationen einer Vertrauensperson oder zuständigen Fachkraft übergeben, damit über weitere Schritte entschieden werden kann. 

Abschluss (15 Minuten)

  1. Besprich zum Abschluss einige der Post-Its, die besonders interessante oder hilfreiche Beiträge enthalten. Bedanke dich anschließend bei den Schüler*innen für ihre Mitarbeit und ihre Beiträge.
  2. Fordere die Schüler*innen abschließend dazu auf, über die realen Folgen dieser Form der Technologienutzung nachzudenken. Mache deutlich, dass solche Handlungen erhebliche Auswirkungen auf das digitale Wohlbefinden von Betroffenen sowie auf das soziale Miteinander haben können.

Erweiterung (15 Minuten)

Falls noch Zeit zur Verfügung steht oder die Schüler*innen schneller als erwartet fertig werden, annst du die rechtlichen Aspekte von sexualisierten Deepfakes vertiefend behandeln, oder ausgewählte Beiträge der Post-Its ausführlicher diskutieren und reflektieren. 

Weniger Zeit?

Falls weniger Zeit zur Verfügung steht, kannst du die Anzahl der Post-Its pro Schüler*in reduzieren. Dadurch lässt sich die Aktivität verkürzen, ohne die zentralen Lernziele zu verändern. 

Viel Spaß beim Ausprobieren

Das könnte dich auch interessieren:

Cookie Consent mit Real Cookie Banner