Schüler*innen testen, wie die KI auf einen ethisch sensiblen Prompt reagiert, und reflektieren die Ablehnung durch das System.
2023-12-11 Nijhawan G5 ES 6 – KI verweigert die Bildgenerierung zu einem ethisch problematischen Prompt
Im Rahmen des BMBF-Verbundprojekts ViFoNet (2023–2025) untersucht das Teilprojekt 3.2 (Anglistik) den reflektierten Einsatz von KI-Tools im Englischunterricht. Ziel ist es, Lernende für ethische, kulturelle und inhaltliche Grenzen automatisierter Systeme zu sensibilisieren.
Die Unterrichtsintervention wurde im Design-Based-Research-Ansatz in Kooperation mit Schulen umgesetzt. Lehrkräfte erhielten Materialien, um KI-basierte Lernaufgaben mit kritischer Reflexion zu verbinden.
In dieser Szene geben Schüler*innen in DALL·E bzw. ChatGPT den Prompt ein:
“Make a picture of an Ethiopian poacher.”
Die KI verweigert daraufhin die Bildgenerierung, da der Prompt gegen ethische Richtlinien verstößt. Die Lernenden äußern im Anschluss: „Wir haben ausprobiert“ und diskutieren implizit über die Grenzen dessen, was KI darstellen darf.
Die Szene bietet ein Beispiel für kritische Auseinandersetzung mit ethischen Beschränkungen von KI-Systemen sowie für die Förderung von digitaler Urteilskompetenz.
Dieser Videoausschnitt ist mittels eines für diesen Zweck programmierten machine-learning Tools anonymisiert, da das Lernen mit anonymisierten Videos einen Teil des Forschungsprojekts bildete. Bei dem Tool handelt es sich um VAiEd (Videoanonymization in education), welches die Köpfe der im Video sichtbaren Personen trackt und dann mit einem neu erstellten, in den Gesichtsparametern randomisierten 3D-Modell überlagert. Haare wurden entweder durch einen kreisförmigen gauss'schen Blur oder in späteren Videos durch eine dedizierte Haarerkennung ersetzt. Edge-cases, die der Algorithmus nicht erkannte wurden manuell geblurt. Sprache wurde durch Pitchshift und Modulation verfremdet. Alle Englischvideos enthalten zudem fest eingebrannte Untertitel.
Anmeldung erforderlich
Viele Inhalte sind nach einer Anmeldung verfügbar.
🔑 Identifikatoren
- Public ID
- 0115c62f-c809-4724-bbeb-4a762f4a909c
- Link
- http://vigor-db.studiumdigitale.uni-frankfurt.de/portal/item/0115c62f-c809-4724-bbeb-4a762f4a909c
📅 Datum
- Erstellt
- 11.12.2023
- Veröffentlicht
- 11.12.2023
- Zuletzt aktualisiert
- 06.11.2026 05:31 Uhr
🎓 Bildungskontext
- Schularten
- Gymnasium
- Jahrgangsstufen
- 10. Klasse
- Schulfächer
- Englisch
📁 Klassifikation
- Begleitmaterialtypen
- Lehrmaterial Lernendenprodukt
- Kameraperspektiven
- Lerngruppe
- Lernformat
- -
⭐ Qualitätsfokus
- Unterrichtsqualität
- 1. Auswahl und Thematisierung von Inhalten, Methoden und Lernzielen 1.1 Adäquate Auswahl von Lernzielen 1.2 Passung von Inhalten und (Fach-)Methoden 1.3 Relevanz der Inhalte für die Schüler*innen 1.4 Strukturierte Einbindung von Inhalten 1.5 Präzise und korrekte Darstellung der Inhalte 2.2 Nutzung der Lernzeit 6.1 Lehrkraft-Lernenden-Beziehung 7.1 Direkte Förderung der Eigenverantwortung für das Lernen
- Digitale Kompetenzen
- 1.5 Reflexion des digitalen Medieneinsatzes 3.1 Unterrichtsplanung mit digitalen Tools/Medien 3.2 Unterricht mit digitalen Tools/Medien 3.5 Kollaboratives Lernen mit digitalen Tools/Medien 3.6 Selbstgesteuertes Lernen mit digitalen Tools/Medien 5.3 Aktives, kreatives und authentisches Lernen mit digitalen Tools/Medien
🏷 Themen & Schlagworte
- Themen
- -
- Schlagworte
- ChatGPT Dall:E LLM Large Language Model KI im Unterricht Fachspezifische KI Nutzung KI und Ethik KI und Urheberrecht Critical Digital Literacy
⚖️ Lizenzierung
- Lizenz
- Copyright
- Zugriffsbeschränkungen
-
Sonstige Zielgruppe 🔴 Kein Zugriff Lehramtsstudierende 🔴 Kein Zugriff Lehrkräfte 🔵 Meta-Videoportal Hochschullehrende/r 🔵 Meta-Videoportal Seminarleitung (Vorbereitungsdienst) 🔵 Meta-Videoportal Fortbildner/in 🔵 Meta-Videoportal Lehrkräfte 🔵 Meta-Videoportal Unterrichtsforscher/in 🔵 Meta-Videoportal🔴 Kein Zugriff · 🟡 Goethe-Universität + MVP · 🔵 Meta-Videoportal · 🟢 ÖffentlichZugriff kann auch über Gruppen- oder Einzelfreigaben gewährt werden. Zugangsinformationen
⚙️ Technisch
- Sprache
- GB English DE Deutsch
- Urheber*in
-
GND: 35074-6
0000-0002-0359-6810
0009-0007-8790-5265
0009-0006-4842-7099
0009-0008-9038-9318
0000-0003-2145-0361
0000-0002-5173-0252 - Bearbeitungszeit
- ⏱ 53 Sekunden
- Dauer
- 🎬 53 Sekunden
Zitation
Wenn Sie die Lerneinheiten in Forschung oder Lehre verwenden, zitieren Sie diese bitte abhängig von der Sprache der Lerneinheit in der unten angegebenen Form.
Zitation für Französisch-Lerneinheiten
Korell, J. L., Irion, M., Ißler, R., Breitenbach, S., Pliushch, I., Horz, H. (2025). Der Einsatz Künstlicher Intelligenz beim Lehren und Lernen der französischen Sprache. #Name der genutzten Lerneinheit oder des Learning Nuggets [Online-Lerneinheit]. https://vigor.studiumdigitale.uni-frankfurt.de/vifonet-lerneinheiten/.
Zitation für Spanisch-Lerneinheiten
Korell, J. L., Irion, M., Ißler, R., Breitenbach, S., Pliushch, I., Horz, H. (2025). Der Einsatz Künstlicher Intelligenz beim Lehren und Lernen der spanischen Sprache. #Name der genutzten Lerneinheit oder des Learning Nuggets [Online-Lerneinheit]. https://vigor.studiumdigitale.uni-frankfurt.de/vifonet-lerneinheiten/.
Zitation für Englisch-Lerneinheiten
Nijhawan, Subin, Gomes, D., van den Brink, L., Viebrock, B., Breitenbach, S., Pliushch, I., Horz, H. (2025). Der Einsatz Künstlicher Intelligenz (KI) beim Lehren und Lernen der englischen Sprache. #Name der genutzten Lerneinheit oder des Learning Nuggets [Online-Lerneinheit]. https://vigor.studiumdigitale.uni-frankfurt.de/vifonet-lerneinheiten/.
Förderung
Finanziert durch die Europäische Union – NextGenerationEU und gefördert durch das Bundesministerium für Bildung und Forschung. Die geäußerten Ansichten und Meinungen sind ausschließlich die des Autors/der Autorin und spiegeln nicht unbedingt die Ansichten der Europäischen Union, Europäischen Kommission oder des Bundesministeriums für Bildung und Forschung wieder. Weder Europäische Union, Europäische Kommission noch Bundesministerium für Bildung und Forschung können für sie verantwortlich gemacht werden.