Mithilfe dieser Einheit gelingt es den Schüler*innen, die Entstehung von Bias in der KI zu verstehen und nachzuvollziehen, welche gesellschaftlichen Auswirkungen damit einhergehen. Sie beschäftigen sich mit Systematiken des maschinellen Lernens und das kritische Denken wird gestärkt.
Die Schüler*innen lernen
Digitale Kompetenzen
Informations- und Datenkompetenz
Kommunikation und Kollaboration
Problemlösung
Weitere Kompetenzen
Das benötigst du:
Aufgabe: Schau dir die Abbildung an und beschreibe, was du siehst. Überlege welcher Kontext oder welches Szenario dargestellt sein könnte. Gibt es Besonderheiten oder Merkmale, die dir auffallen?
Blitzlichtmethode
Die Lehrkraft gibt einen Input zu einem bestimmten Themenkomplex oder stellt eine Frage. Die Schüler*innen dürfen nun in ein bis zwei Sätzen ihre Assoziationen, Ideen und spontanen Gedanken kundgeben. Die Äußerungen der Schüler*innen werden währenddessen weder kommentiert noch bewertet. Optional hält die Lehrkraft die Gedanken, z.B. auf einem digitalen Whiteboard, fest.
Wenn die Schüler*innen beim Nachdenken über die Skizze ein wenig Hilfe benötigen, kannst du den Denkprozess mit den folgenden Fragen unterstützen:
Nachdem die Schüler*innen ihre Eindrücke geteilt haben, fasst du die Ergebnisse zusammen und erklärst die Abbildung ausführlicher: Sie zeigt eine KI, die den besten Bewerber/die beste Bewerberin basierend auf zuvor gesammelten Daten auswählt.
In diesem Szenario haben sowohl der männliche als auch die weibliche Bewerberin vergleichbare Erfahrungen in verschiedenen Fähigkeiten, die in ihren Lebensläufen aufgeführt sind. Trotzdem hat die KI die weibliche Kandidatin nicht für den Job ausgewählt, obwohl ihre Qualifikationen genauso stark sind wie die des männlichen Bewerbers. Das könnte auf mehrere Faktoren zurückzuführen sein. Wenn in der Vergangenheit häufiger Männer für technische Positionen eingestellt wurden, könnte die KI dieses Muster verinnerlicht haben und weiterhin Männer für diese Rollen bevorzugen. Zusätzlich könnten die verwendeten Daten das Vorurteil widerspiegeln, das Frauen besser für andere Bereiche geeignet seien, was dazu führt, dass ihnen Positionen angeboten werden, die weniger technische Fähigkeiten erfordern.
Damit die Schüler*innen tiefergehend verstehen, was Bias oder Voreingenommenheit in KI-Systemen bedeutet, kannst du ihnen ein paar Hintergrundinformationen geben:
Was bedeutet Bias in KI?
Das Wort „Bias“ bedeutet im Wesentlichen, dass jemand oder etwas unfair ist und bestimmte Personen oder Dinge bevorzugt. Es ist eine Form von Vorurteil oder Voreingenommenheit, die dazu führt, dass nicht alle gleich behandelt werden.
Künstliche Intelligenz lernt aus den von Menschen bereitgestellten Daten. Leider haben Menschen im Laufe der Geschichte verschiedenste Vorurteile und Verzerrungen entwickelt. Beim Training eines KI-Systems mit Daten ist es möglich, dass Menschen solche voreingenommene oder unvollständige Informationen an die Technologie weitergeben. So können sich bei der KI dieselben Vorurteile entwickeln. Darüber hinaus sind die Personen, die KI-Systeme entwickeln und trainieren, traditionell überwiegend Männer, oft Weiß, und stammen typischerweise aus gut situierten sozioökonomischen Verhältnissen. Das liegt daran, dass sie häufig besseren Zugang zu der Bildung und den Möglichkeiten haben, die für eine Arbeit im KI Bereich notwendig sind. Die Entwicklerteams sind deshalb teilweise nicht sehr divers aufgestellt. All diese Faktoren können dazu führen, dass die KI ungerechte oder ungenaue Entscheidungen trifft, die die Vorurteile in den ursprünglichen Daten widerspiegeln.
Bias in der KI wird jedoch nicht nur durch unvollständige oder voreingenommene Daten verursacht. Fehlerhafte Algorithmen sowie Fehlinterpretationen der KI-Ergebnisse können ebenfalls zu systematischer und unfairer Diskriminierung von bestimmten Personen oder Gruppen aufgrund von Merkmalen wie Ethnie, Geschlecht, Alter, sozioökonomischem Status und mehr führen.
Um ungerechte Verhältnisse zu vermeiden, ist es wichtig sicherzustellen, dass unsere KI-Systeme aus vielfältigen Daten lernen, algorithmische Fairness gewährleisten und regelmäßig auf Verzerrungen überprüft werden, um diese zu verhindern.
Im nächsten Schritt erfahren die Schüler*innen mehr über reale Beispiele für Bias in der KI. Je nach Alter und Medienkompetenz der Schüler*innen kannst du eine der folgenden beiden Optionen wählen, um tiefer in das Thema einzusteigen.
Option 1: Stelle deinen Schüler*innen die untenstehenden Beispiele vor. Du kannst die Textpassagen vorlesen oder (digitale) Kopien an die Klasse verteilen, sodass die Schüler*innen sie selbst lesen können. Lasse die Schüler*innen über die verschiedenen realen Beispiele nachdenken. Sie sollen sich dann die drei Steckbriefe anschauen und im Plenum besprechen, welche Person von welcher Bias-Art betroffen ist.
Option 2: Die Schüler*innen recherchieren Beispiele für Bias in der KI im Internet. Für diese Übung werden sie in Zweiergruppen aufgeteilt. Jedem Paar wird eine von drei Bias-Arten zugewiesen: rassistischer Bias, geschlechtsspezifischer Bias oder geografischer Bias. Sie sollen sich mit dem Thema vertraut machen und ein bis zwei Beispiele finden, bei denen diese Art von Bias im wirklichen Leben aufgetreten ist. Die untenstehenden Beispiele können während der Recherche auch als Anhaltspunkte verwendet werden. Die Schüler*innen sammeln ihre Ergebnisse, zum Beispiel auf einem digitalen Whiteboard. Anschließend trifft sich die Klasse zu einer Gruppendiskussion, um die Ergebnisse vorzustellen und die drei Steckbriefe zu betrachten. Die Schüler*innen sollen dann darüber diskutieren, welche Person von welcher Art von Bias betroffen ist.
Bei Online-Recherchen sollten die Schüler*innen darauf achten, die Quellen ihrer gesammelten Informationen anzugeben, damit sie nachvollziehen können, woher die Informationen stammen. Zeige den Schüler*innen bei Bedarf, wie sie richtig zitieren.
Name: Sofia
Alter: 35
Beruf: Managerin im Verkauf, Automobilindustrie
Wohnort: München
Aktuelle Situation: Seit einigen Wochen bin ich auf der Suche nach einem neuen Job in der Automobilbranche. Ich verfüge über viel Praxiserfahrung aus verschiedenen Praktika bei führenden Automobilherstellern und arbeite seit 10 Jahren in der Branche. Trotz hervorragender Referenzen bekomme ich oft nicht einmal eine Einladung zu einem Vorstellungsgespräch.
Name: Jeremia
Alter: 19
Beruf: Ausbildung zum Krankenpfleger
Wohnort: St. Louis, Missouri
Aktuelle Situation: Ich habe letztes Jahr die Schule abgeschlossen und vor vier Monaten meine Krankenpflegeausbildung in einem Krankenhaus in St. Louis begonnen. Obwohl mir mein Job und das Kollegium gefallen, muss ich wahrscheinlich das Krankenhaus wechseln, da meine Familie aufgrund der hohen Kriminalitätsrate in unserem Viertel umziehen möchte. Letzte Woche wurde mein Bruder Steven fälschlicherweise eines Einbruchs beschuldigt, was ich komisch fand und mir Angst gemacht hat.
Name: Daniela
Alter: 16
Beruf: Schülerin
Wohnort: Barcelona
Aktuelle Situation: Letzte Woche habe ich mir ein cooles neues Smartphone gekauft! Ich habe es eingerichtet und alles lief auch gut, bis ich versucht habe, es zu entsperren. Irgendwie konnte das Telefon mein Gesicht nicht erkennen und fragte ständig nach dem PIN-Code, was nervig ist. Ich werde es zurück in den Laden bringen, um es überprüfen zu lassen.
Reale Beispiele verschiedener Arten von Bias in der KI
Diese Beispiele aus der Praxis können den Schüler*innen helfen, besser zu verstehen, wie sich Bias und Verzerrungen in der KI auf das persönliche Leben der Menschen auswirken kann.
Ein Bereich, in dem Bias häufig auftritt, ist auf dem Arbeitsmarkt. Ein Problem in der Technologiebranche besteht darin, dass Frauen, trotz Fortschritten in den letzten Jahren, in den MINT-Bereichen (Mathematik, Informatik, Naturwissenschaften und Technik) weiterhin unterrepräsentiert sind. Als ein großer Online-Händler ein automatisiertes Einstellungssystem einführte, stellte sich schnell heraus, dass dabei unfaire Ergebnisse herauskamen. Das System sollte Bewerberinnen und Bewerber auf Basis ihrer Eignung für die Stelle bewerten, indem es Lebensläufe früherer Kandidaten analysierte. Dabei entwickelte die KI jedoch einen Bias gegenüber Frauen. Da Frauen in technischen Berufen zuvor unterrepräsentiert waren, nahm das KI-System fälschlicherweise an, dass männliche Bewerber besser für die Stellen geeignet seien. Daraufhin erhielten Lebensläufe von weiblichen Bewerberinnen schlechtere Bewertungen. Trotz Bemühungen, die Voreingenommenheit zu korrigieren, entschied sich der Online-Händler letztlich, das KI-System nicht weiter zu nutzen.
Ein reales Beispiel für rassistischen Bias in der KI hat sich in der Technologie für Gesichtserkennung herausgestellt. Im Jahr 2018 stellte eine Studie des MIT Media Lab fest, dass Gesichtserkennungssysteme großer Technologieunternehmen viel höhere Fehlerquoten bei der Identifizierung von People of Color im Vergleich zu Weißen Menschen aufwiesen. Die Studie zeigte, dass die Fehlerquote bei der Identifizierung von Schwarzen Frauen bis zu 34,7 % betrug, während sie bei Weißen Männern unter 1 % lag. Dies lag daran, dass die Trainingsdaten hauptsächlich Bilder von Weißen Personen enthielten. Infolgedessen war die KI nicht so gut darin, People of Color zu erkennen, was zu voreingenommenen Ergebnissen führte.
In den USA verwenden Strafgerichte Algorithmen, um die Wahrscheinlichkeit vorherzusagen, ob Angeklagte und Verurteilte zukünftig erneut Straftaten begehen. Für die Vorhersagen werden historische Daten, wie etwa Kriminalstatistiken, herangezogen. Richter*innen berücksichtigen diese Einschätzungen bei ihren Urteilsentscheidungen. Einige Gruppen, die in der Vergangenheit unfairerweise ins Visier genommen oder häufiger verurteilt wurden, erhalten durch die KI schlechtere Einschätzungen. Diese Diskriminierung betrifft oft Menschen aus bestimmten geografischen Gebieten im immer noch segregierten US-amerikanischen Raum, wie BIPoC (Black, Indigenous, and People of Color) oder finanziell benachteiligte Bürger*innen, obwohl dies in Einzelfällen keine Rolle spielen sollte. Infolgedessen werden bestehende Vorurteile und Diskriminierungen weiter verstärkt.
Falls noch etwas Zeit übrig ist, kannst du eine Art Rollenspiel durchführen, bei der die Schüler*innen die realen Auswirkungen von Bias in der KI erkunden, indem sie verschiedene Rollen übernehmen, wie z.B. KI-Entwickler, betroffene Personen, politische Entscheidungsträger oder Ethik-Experten. Nachdem die Rollen zugewiesen wurden, präsentierst du einen weiteren realen Fall von KI-Bias (z. B. rassistischer Bias in der Gesundheitsversorgung durch KI). Jede Gruppe soll das Problem aus der Perspektive ihrer zugewiesenen Rolle diskutieren. Sie sollen überlegen, wie sich die Voreingenommenheit der KI auf sie auswirkt, welche Herausforderungen es bei der Behebung des Bias gibt und was unternommen werden kann, um den Bias zu verhindern. Die Gruppen teilen ihre Erkenntnisse und diskutieren aus ihrer Sichtweise.
