Künstliche Intelligenz

KI Detektive: Dem Bias auf der Spur

In dieser Selbstlerneinheit für Schüler*innen erkundest du, wie vielfältig KI wirklich ist. Du verwendest einen Text-zu-Bild-Generator und erstellst mithilfe verschiedener Prompts Bilder. Durch praktische Übungen wirst du zum Detektiv oder zur Detektivin und analysierst die Ergebnisse, um zu verstehen, wie Künstliche Intelligenz manchmal voreingenommen sein kann. Lass uns lernen, wie wir KI gerechter machen können!

Übersicht

Kompetenzen

Material

Übersicht

Kompetenzen

Material

KI Detektive

Vorbereitung

Lade und starte deinen Laptop oder dein Tablet
Öffne den KI Bildgenerator https://imggen.ai oder einen Ähnlichen

Einführung und theoretischer Hintergrund (15min)

Hast Du schon mal einen KI-Bildgenerator verwendet und dich gefragt, wie dieser ein paar Wörter oder eine kurze Beschreibung sofort in ein Bild verwandeln kann? Das ist keine Zauberei – dahinter steckt jede Menge fortschrittliche Technologie. Um zu verstehen, wie ein Text-zu-Bild-Generator funktioniert, solltest Du die technischen Prozesse kennen, die hinter den Kulissen ablaufen. Lese dir die folgenden Schritte durch, um einen Überblick darüber zu erhalten, wie eine KI aus Texten Bilder erstellen kann:

Verstehen deines Textes: Zuerst liest die KI die Wörter, die du eingegeben hast. Sie verwendet ein großes Sprachmodell (Large Language Model), um zu verstehen, was du mit diesen Wörtern meinst oder ausdrücken willst.

Lernen aus Daten: Die KI wurde mit riesigen Mengen an Bildern und Texten aus dem Internet trainiert. Sie lernt, wie verschiedene Objekte aussehen und wie die Objekte von Menschen beschrieben werden.

Erstellen des Bildes: Wenn du deinen Prompt* eingibst, nutzt die KI ihr Wissen aus der Datenbank, um ein Bild zu erzeugen, das deiner Beschreibung entspricht. Sie beginnt mit zufälligen Mustern und verfeinert diese Schritt für Schritt, bis ein klares Bild entsteht.

Anpassen der Details: Die KI achtet auf die Details in deinem Prompt. Wenn du zum Beispiel „ein weißer Vogel, der über einem blauen Schloss fliegt“ schreibst, wird sie versuchen, alle diese Elemente im finalen Bild zu berücksichtigen.

Anzeigen des Ergebnisses: Zum Abschluss des Prozesses zeigt dir die KI das generierte Bild. Manchmal entspricht es genau deinen Vorstellungen, ein anderes Mal kann die KI ein wenig danebenliegen – hier kommst du ins Spiel, um eventuelle Fehler oder Biases zu erkennen.

* Ein Prompt ist eine spezifische Anweisung oder ein Text, den du einer KI gibst, um ihr mitzuteilen, was du von ihr möchtest. Zum Beispiel könnte ein Prompt für eine KI, die ein Bild erstellen soll, lauten: „Zeichne eine Katze, die mit einem Wollknäuel spielt.“ Die KI liest den Prompt und nutzt ihn, um das Bild zu erzeugen, das du beschrieben hast. Prompts helfen der KI, die von dir gewünschten Ergebnisse zu liefern.

Jetzt, wo du verstanden hast, wie ein Text-zu-Bild-Generator funktioniert, zeigen wir dir einige Bilder, die wir mit Hilfe von KI erstellt haben. Für unsere KI-Kunstsammlung wollten wir ein Bild generieren, das eine elegante Gala zeigt, bei der besondere Kunstwerke ausgestellt werden. In unserem KI-Bildgenerator haben wir den Prompt „Eine Gruppe wohlhabender Menschen in einem luxuriösen Ballsaal mit barocken Kunstwerken an der Wand“ eingegeben. Als Ergebnis haben wir die folgenden Bilder erhalten:

Aufgabe: Betrachte die Bilder und den dazugehörigen Prompt. Schaue dir die verschiedenen Personen genauer an und überlege, wie du das Bild gestaltet hättest. Hättest du etwas anders gemacht? Fehlt etwas auf dem Bild? Nimm dir 5 Minuten Zeit und schreibe deine Gedanken oder Erwartungen auf, was du dir anders vorgestellt hättest.

Bilder erstellen mit KI (ca. 20 Minuten)

Wie du vielleicht schon vermutet hast, sind uns beim ersten Blick auf die Bilder einige Dinge aufgefallen. Da wir die Gruppe der Menschen in unserem Prompt, abgesehen von „wohlhabend“, nicht näher definiert haben, hatte die KI bei der Generierung der Personen viel Spielraum für Kreativität. Bei genauer Betrachtung der Menschenmenge fiel uns Folgendes auf:

Die meisten Bilder zeigen mehr Männer als Frauen
Alle abgebildeten Personen sind Weiß
Die Personen auf den Bildern haben eine schlanke Statur

Generell stellt die KI die Gruppe der „wohlhabenden Menschen“ nicht sehr vielfältig dar. Das deutet darauf hin, dass selbst eine KI, die oft als neutral oder emotionslos betrachtet wird, Vorurteile haben oder voreingenommen sein könnte. Wir haben uns gefragt, ob dies ein einmaliger Fehler war oder ob es häufiger vorkommt. Um das zu untersuchen, schlüpfst du nun in die Rolle eines Bias-Detektivs oder einer Bias-Detektivin und nimmst die Ergebnisse eines Bildgenerators genauer unter die Lupe.

Aufgabe: Öffne https://imggen.ai oder einen KI-Bildgenerator deiner Wahl. Tippe die vorgegebenen Prompts nacheinander ein. Am besten generierst du zu jedem Prompt 2-3 Bilder, um hinterher eine Auswahl an Ergebnissen zu haben, die du miteinander vergleichen kannst. Sammle alle Bilder mit dem jeweiligen Prompt in einem Dokument oder auf einem digitalen Whiteboard.

Prompts:

Zeig mir eine erfolgreiche Führungskraft in einem Büro
Realistisches Foto: Eine Arbeitskraft im Kindergarten umgeben von Kindern
Eine Person, die in der Küche einen Kuchen backt
Zeig mir zwei Personen, die im Ring gegeneinander boxen

Untersuche jetzt deine Ergebnisse und vergleiche die verschiedenen Bilder miteinander. Achte auf die Darstellung einiger Merkmale wie Geschlecht, Ethnie, Alter und Körperbau der abgebildeten Personen. Zeigen die Ergebnisse vielfältige Menschen? Oder sehen sie ziemlich ähnlich oder stereotypisch aus? Markiere alle Bilder, die dir voreingenommen erscheinen, mit einem X.

Abschluss (ca. 10 Minuten)

Es ist sehr wahrscheinlich, dass du einige Bilder als biased empfunden hast. Beispielsweise wird die erfolgreiche Führungskraft in einem Büro oft als Mann dargestellt, während die Person, die einen Kuchen backt, meist als Frau porträtiert wird. Aber warum ist das so?

Bias in KI-Bildgeneratoren
KI-Bildgeneratoren können verzerrte Ergebnisse zeigen, da die KI auf großen Datensätzen aus dem Internet trainiert wird, die bereits Vorurteile und Stereotypen enthalten. Diese Vorurteile erlernt die KI, weshalb sie sich in den Bildern widerspiegeln können, die sie generiert. Wenn die Trainingsdaten keine Diversität aufzeigen oder zu bestimmten Darstellungen neigen, wird der Bias durch die Ergebnisse der KI aufrechterhalten und es entstehen unfaire oder ungenaue Darstellungen. Wenn die Trainingsdaten beispielsweise viel mehr Bilder von Männern als Führungskräfte enthalten, ist es weniger wahrscheinlich, dass die KI Bilder von Frauen generiert, wenn sie diesen Prompt erhält. Das kann zu einer ungleichen Darstellung der Geschlechter in verschiedenen Berufen führen.

In diesem Kurs hast du viel zum Thema Bias in KI-Bildgeneratoren gelernt. Um alles Gelernte zusammenzufassen, haben wir ein kleines Quiz für dich. Pro Frage ist nur eine Antwort richtig!

Erweiterung (15 Miuten)

Wenn du dich weiter mit dem Thema Bias in KI-Bildgeneratoren beschäftigen möchtest, kannst du noch ein bisschen mehr mit deinen Prompts experimentieren. Da die Bildgeneratoren sehr empfindlich auf Wörter und Sprache reagieren, kannst du versuchen die Vielfalt in deinen Ergebnissen zu verbessern, indem du deine Prompts spezifischer formulierst. Nutze dafür klare Beschreibungen, probiere verschiedene Formulierungen aus und nutze wichtige Schlagwörter. Wenn du dich mit der englischen Sprache sicher fühlst, kannst du deine Fähigkeiten im Prompten auch mit dem Spiel “Say what you see” von Google Arts and Culture trainieren.

Alle Bilder in diesem Kurs wurden mit KI oder Canva kreiert.

KI Detektive: Dem Bias auf der Spur

KI Detektive

Vorbereitung

Einführung und theoretischer Hintergrund (15min)

Bilder erstellen mit KI (ca. 20 Minuten)

Abschluss (ca. 10 Minuten)

Erweiterung (15 Miuten)

Das könnte dich auch interessieren:

Face-Filter mit KI in Scratch programmieren

KI im Alltag – Reflexion über die tägliche Nutzung

Fake News erkennen und kritisches Denken fördern

Smarte Gesundheit: KI in der Medizin

Künstliche Intelligenz für den guten Zweck

KI-Begleiter und der Umgang mit Risiken

Chatbots und ein gesunder Umgang mit Gefühlen

Freundliche Bots und echte Emotionen

KI und Fake News: Erstellung eines Podcasts

KI-Begleiter: Eine neue Art Mensch?

Smart recyceln mit Künstlicher Intelligenz (KI)

KI für die Umwelt: Mülltrennung mit neuronalen Netzwerken

KI-Ethik: Ethische Dilemmata in KI City erleben

KI-Ethik: Ethische Dilemmata kritisch betrachten

Bias in KI aufdecken, verstehen und nachvollziehen

Mit KI unsere Umwelt kennenlernen

KI in Anwendung: Baue einen Wetter-Chatbot

KI im Kunstunterricht – Kann KI kreativ sein?

Einführung in NLP (Natural Language Processing)

KI analog - Wie funktioniert maschinelles Lernen?