Schüler*innen testen, wie die KI auf einen ethisch sensiblen Prompt reagiert, und reflektieren die Ablehnung durch das System.

2023-12-11 Nijhawan G5 ES 6 – KI verweigert die Bildgenerierung zu einem ethisch problematischen Prompt

Authentischer Unterricht ⏱ 53 Sekunden

Im Rahmen des BMBF-Verbundprojekts ViFoNet (2023–2025) untersucht das Teilprojekt 3.2 (Anglistik) den reflektierten Einsatz von KI-Tools im Englischunterricht. Ziel ist es, Lernende für ethische, kulturelle und inhaltliche Grenzen automatisierter Systeme zu sensibilisieren.

Die Unterrichtsintervention wurde im Design-Based-Research-Ansatz in Kooperation mit Schulen umgesetzt. Lehrkräfte erhielten Materialien, um KI-basierte Lernaufgaben mit kritischer Reflexion zu verbinden.

In dieser Szene geben Schüler*innen in DALL·E bzw. ChatGPT den Prompt ein:

“Make a picture of an Ethiopian poacher.”

Die KI verweigert daraufhin die Bildgenerierung, da der Prompt gegen ethische Richtlinien verstößt. Die Lernenden äußern im Anschluss: „Wir haben ausprobiert“ und diskutieren implizit über die Grenzen dessen, was KI darstellen darf.

Die Szene bietet ein Beispiel für kritische Auseinandersetzung mit ethischen Beschränkungen von KI-Systemen sowie für die Förderung von digitaler Urteilskompetenz.

Dieser Videoausschnitt ist mittels eines für diesen Zweck programmierten machine-learning Tools anonymisiert, da das Lernen mit anonymisierten Videos einen Teil des Forschungsprojekts bildete. Bei dem Tool handelt es sich um VAiEd (Videoanonymization in education), welches die Köpfe der im Video sichtbaren Personen trackt und dann mit einem neu erstellten, in den Gesichtsparametern randomisierten 3D-Modell überlagert. Haare wurden entweder durch einen kreisförmigen gauss'schen Blur oder in späteren Videos durch eine dedizierte Haarerkennung ersetzt. Edge-cases, die der Algorithmus nicht erkannte wurden manuell geblurt. Sprache wurde durch Pitchshift und Modulation verfremdet. Alle Englischvideos enthalten zudem fest eingebrannte Untertitel.

🔐

Anmeldung erforderlich

Jetzt anmelden

Viele Inhalte sind nach einer Anmeldung verfügbar.

ℹ️ Mehr über Zugangsebenen erfahren

🔑 Identifikatoren

Public ID
0115c62f-c809-4724-bbeb-4a762f4a909c
Link
http://vigor-db.studiumdigitale.uni-frankfurt.de/portal/item/0115c62f-c809-4724-bbeb-4a762f4a909c

📅 Datum

Erstellt
11.12.2023
Veröffentlicht
11.12.2023
Zuletzt aktualisiert
06.11.2026 05:31 Uhr

🎓 Bildungskontext

Schularten
Gymnasium
Jahrgangsstufen
10. Klasse
Schulfächer
Englisch

📁 Klassifikation

Begleitmaterialtypen
Lehrmaterial Lernendenprodukt
Kameraperspektiven
Lerngruppe
Lernformat
-

⭐ Qualitätsfokus

Unterrichtsqualität
1. Auswahl und Thematisierung von Inhalten, Methoden und Lernzielen 1.1 Adäquate Auswahl von Lernzielen 1.2 Passung von Inhalten und (Fach-)Methoden 1.3 Relevanz der Inhalte für die Schüler*innen 1.4 Strukturierte Einbindung von Inhalten 1.5 Präzise und korrekte Darstellung der Inhalte 2.2 Nutzung der Lernzeit 6.1 Lehrkraft-Lernenden-Beziehung 7.1 Direkte Förderung der Eigenverantwortung für das Lernen
Digitale Kompetenzen
1.5 Reflexion des digitalen Medieneinsatzes 3.1 Unterrichtsplanung mit digitalen Tools/Medien 3.2 Unterricht mit digitalen Tools/Medien 3.5 Kollaboratives Lernen mit digitalen Tools/Medien 3.6 Selbstgesteuertes Lernen mit digitalen Tools/Medien 5.3 Aktives, kreatives und authentisches Lernen mit digitalen Tools/Medien

🏷 Themen & Schlagworte

Themen
-
Schlagworte
ChatGPT Dall:E LLM Large Language Model KI im Unterricht Fachspezifische KI Nutzung KI und Ethik KI und Urheberrecht Critical Digital Literacy

⚖️ Lizenzierung

Lizenz
Copyright
Zugriffsbeschränkungen
Sonstige Zielgruppe 🔴 Kein Zugriff Lehramtsstudierende 🔴 Kein Zugriff Lehrkräfte 🔵 Meta-Videoportal Hochschullehrende/r 🔵 Meta-Videoportal Seminarleitung (Vorbereitungsdienst) 🔵 Meta-Videoportal Fortbildner/in 🔵 Meta-Videoportal Lehrkräfte 🔵 Meta-Videoportal Unterrichtsforscher/in 🔵 Meta-Videoportal
🔴 Kein Zugriff · 🟡 Goethe-Universität + MVP · 🔵 Meta-Videoportal · 🟢 Öffentlich
Zugriff kann auch über Gruppen- oder Einzelfreigaben gewährt werden. Zugangsinformationen

⚙️ Technisch

Sprache
GB English DE Deutsch
Urheber*in
GND: 35074-6
ORCID 0000-0002-0359-6810
ORCID 0009-0007-8790-5265
ORCID 0009-0006-4842-7099
ORCID 0009-0008-9038-9318
ORCID 0000-0003-2145-0361
ORCID 0000-0002-5173-0252
Bearbeitungszeit
⏱ 53 Sekunden
Dauer
🎬 53 Sekunden

Zitation

Wenn Sie die Lerneinheiten in Forschung oder Lehre verwenden, zitieren Sie diese bitte abhängig von der Sprache der Lerneinheit in der unten angegebenen Form.

Zitation für Französisch-Lerneinheiten

Korell, J. L., Irion, M., Ißler, R., Breitenbach, S., Pliushch, I., Horz, H. (2025). Der Einsatz Künstlicher Intelligenz beim Lehren und Lernen der französischen Sprache. #Name der genutzten Lerneinheit oder des Learning Nuggets [Online-Lerneinheit]. https://vigor.studiumdigitale.uni-frankfurt.de/vifonet-lerneinheiten/.

Zitation für Spanisch-Lerneinheiten

Korell, J. L., Irion, M., Ißler, R., Breitenbach, S., Pliushch, I., Horz, H. (2025). Der Einsatz Künstlicher Intelligenz beim Lehren und Lernen der spanischen Sprache. #Name der genutzten Lerneinheit oder des Learning Nuggets [Online-Lerneinheit]. https://vigor.studiumdigitale.uni-frankfurt.de/vifonet-lerneinheiten/.

Zitation für Englisch-Lerneinheiten

Nijhawan, Subin, Gomes, D., van den Brink, L., Viebrock, B., Breitenbach, S., Pliushch, I., Horz, H. (2025). Der Einsatz Künstlicher Intelligenz (KI) beim Lehren und Lernen der englischen Sprache. #Name der genutzten Lerneinheit oder des Learning Nuggets [Online-Lerneinheit]. https://vigor.studiumdigitale.uni-frankfurt.de/vifonet-lerneinheiten/.

Förderung

Finanziert durch die Europäische Union – NextGenerationEU und gefördert durch das Bundesministerium für Bildung und Forschung. Die geäußerten Ansichten und Meinungen sind ausschließlich die des Autors/der Autorin und spiegeln nicht unbedingt die Ansichten der Europäischen Union, Europäischen Kommission oder des Bundesministeriums für Bildung und Forschung wieder. Weder Europäische Union, Europäische Kommission noch Bundesministerium für Bildung und Forschung können für sie verantwortlich gemacht werden.