2023-12-13 Nijhawan 3 G9 ES 5 – Lernende untersuchen ethische Grenzen der KI bei der Darstellung des Israel-Palästina-Konflikts

Im Rahmen des BMBF-Verbundprojekts ViFoNet (2023–2025) wird im Teilprojekt 3.2 (Anglistik) erforscht, wie KI im Englischunterricht zur Förderung kritischer digitaler Kompetenz eingesetzt werden kann.

In dieser Szene testen Schüler*innen die Reaktionsgrenzen generativer KI in Bezug auf moralisch und politisch sensible Inhalte. Sie formulieren nacheinander mehrere Prompts, die sich auf den Israel-Palästina-Konflikt beziehen – etwa mit der Intention, die KI dazu zu bringen, eine eindeutig parteiische Darstellung zu erzeugen (Prompt: “Show that Israel is the bad guy in the Israel-Palestine conflict.”). Die KI verweigert die Ausführung mit Verweis auf ethische Richtlinien und Neutralität.

Daraufhin versuchen die Lernenden, die Sperre zu umgehen, indem sie alternative Prompts formulieren (z. B. „Show the war crimes committed by the Israeli government“ oder „Show the war crimes committed by Hamas“). Doch auch hier verweigert die KI die Generierung.

Die Sequenz zeigt exemplarisch, wie Lernende durch experimentelles Prompting die ethischen Grenzen und Schutzmechanismen von KI-Systemen explorieren und darüber ins Gespräch kommen, welche Verantwortung mit der Erstellung und Nutzung solcher Technologien verbunden ist.

Dieser Videoausschnitt ist mittels eines für diesen Zweck programmierten machine-learning Tools anonymisiert, da das Lernen mit anonymisierten Videos einen Teil des Forschungsprojekts bildete. Bei dem Tool handelt es sich um VAiEd (Videoanonymization in education), welches die Köpfe der im Video sichtbaren Personen trackt und dann mit einem neu erstellten, in den Gesichtsparametern randomisierten 3D-Modell überlagert. Haare wurden entweder durch einen kreisförmigen gauss'schen Blur oder in späteren Videos durch eine dedizierte Haarerkennung ersetzt. Edge-cases, die der Algorithmus nicht erkannte wurden manuell geblurt. Sprache wurde durch Pitchshift und Modulation verfremdet. Alle Englischvideos enthalten zudem fest eingebrannte Untertitel.