Schüler und Schülerinnen arbeiten im eigenen Tempo an ihren Schreibkompetenzen oder üben Funktionsgleichungen, die ihrem individuellen Niveau entsprechen – welche Lehrperson sähe darin keinen Vorteil? Dem KI-unterstützten adaptiven Lernen wird zurzeit viel Zukunftspotential zugesprochen, aber auch mit Skepsis begegnet. In ihrem Aufsatz Learning Analytics und Diskriminierung (2023)^[1], zeigen Rzepka, Simbeck und Pinkwart auf, wann dabei Diskriminierung oder sogenannte Bias-Effekte entstehen können.

Learning Analytics erweitern das digitale Lernen um das Sammeln, Analysieren und Interpretieren von Lerndaten mit dem Ziel, Lernprozesse transparent zu machen und diese für die Schülerinnen und Schüler zu optimieren. Beim adaptiven Lernen wird die Lernumgebung in Echtzeit dem individuellen Niveau angepasst und mittels algorithmischer Verarbeitung der Daten eine personale Lernerfahrung ermöglicht. Um dabei Bias-Effekte zu vermeiden, haben die Autor:innen verschiedene Problemfelder skizziert, die bis heute noch wenig erforscht sind.  

Eine wesentliche Ursache für Bias-Effekte liegt gemäss Rzepka, Simbeck und Pinkwart darin, dass im Bildungskontext oft nur auf eine demografische Gruppe fokussiert wird (z.B. Geschlecht oder Ethnie). Haüfig wird aber erst in der Kombination von gruppenbezogenen Merkmalen (sozio-ökonomischer Status der Familie, Erstsprache der SuS, Vorliegen einer Behinderung, Lage der Schule usw.)  der Schwellenwert zur Diskriminierung überschritten. Ein weiteres Problem wird in der marginalen Behandlung der Thematik gesehen.

Welche Daten meiner Schülerinnen und Schüler soll ich also erheben? Ist beispielsweise die Muttersprache von Bedeutung, wenn ich von der KI Grammatikübungen mit unterschiedlichem Schwierigkeitsgrad erzeugen lasse? Oder soll Legasthenie bei der maschinellen Erstellung und Bewertung von mathematischen Textaufgaben berücksichtigt werden? Diese und ähnliche Fragen spielen vor allem bei der Zusammenstellung von Trainingsdaten KI-basierter Lernumgebungen eine Rolle. Davon leiten die Autor:innen ihre Handlungsempfehlungen ab: So sollten u.a. bei der Zusammenstellung der Trainingsdaten möglichst verschiedene demografische Gruppen und gruppenbezogene Merkmale berücksichtigt werden. Zudem sei es von grosser Bedeutung, dass alle Stakeholder (auch z.B. Eltern oder Schulleitungen) transparent über Zweck und die Vorhersage-Variablen des verwendeten Systems informiert werden. Weiter wird eine differenzierte Evaluation vor, nach und während des Einsatzes des Learning Systems im Unterricht empfohlen. Nur so könne die Akzeptanz bei allen Stakeholdern gefördert und ein wichtiger Beitrag zur Nutzung von technischen Möglichkeiten im Bildungsbereich geleistet werden.

Den Originalartikel lesen Sie hier.

^[1]Rzepka, N., Simbeck, K., Pinkwart, N.: Learning Analytics und Diskriminierung, aus: Datafizierung (in) der Bildung kritische Perspektiven auf digitale Vermessung in pädagogischen Kontexten, hrsg. v. Schiefner-Rohs, M., Hofhues, S. und Breiter, A. Bielefeld 2023, S. 211 – 228. (abgerufen am 5.4.2024)