Die Einführung von ChatGPT 3.5 im November 2022 markiert einen bedeutsamen Wendepunkt für den Einsatz KI-basierter Systeme in der Bildung. Bis Sommer 2023 gaben mindestens 50% der Schüler:innen zwischen 14 und 19 Jahren an, ChatGPT bereits genutzt zu haben (bitkom, 2023). Im Vergleich zu etablierten KI-Anwendungen wie Google Maps (Hennig & Vogler, 2011) oder YouTube (Honkomp-Wilkens et al., 2022), die bereits fest im schulischen Bereich integriert sind, bieten generative KI-Systeme, die Texte, Bilder oder Videos erzeugen, einerseits vielfältige Potenziale, gehen gleichzeitig aber auch mit umfassenden ethischen Herausforderungen einher. Als aktuelles Beispiel ist hier das am 21. Mai 2024 final verabschiedete und bereits 2021 vorgeschlagene KI-Gesetz der EU -Staaten zu nennen (“Einigung Der EU-Staaten: KI-Gesetz Ist Endgültig Beschlossen,” 2024; Europäisches Parlament, 2023), welches KI-Systeme zur Leistungsbewertung im Bildungskontext als hochriskant einstuft und damit die Bedeutsamkeit ethischer und rechtlicher Fragestellungen in Bezug auf die Nutzung von KI im Bildungskontext hervorhebt.

Der Beitrag skizziert daher überblicksartig ethische, rechtliche und soziale Implikationen (ELSI, Boden et al., 2021; Parker et al., 2019) aktueller KI-Anwendungen im Schulkontext, wobei der Fokus insbesondere auf generativen KI-Anwendungen, vor allem Large-Language-Modellen (LLM) wie ChatGPT und Microsoft Pilot, und Intelligenten Tutoriellen Systemen liegt.

Dafür wird zunächst die grundlegende Funktionsweise dieser Systeme kurz erläutert und deren Potenziale für den Schulkontext aufgezeigt. Anschließen wird in das Forschungsfeld ELSI eingeführt, wobei zu Beginn allgemeine ELSI der Nutzung von KI dargelegt werden, wie etwa die algorithmische Verzerrung, bei der bestimmte Personengruppen durch eine KI-Anwendung diskriminiert werden können (Buolamwini, 2017; Raji et al., 2020) oder das Halluzinieren von Textinhalten durch LLM (Athaluri et al., 2023; Yao et al., 2023), welche Textinhalte und Quellen ausgeben, die inhaltlich falsch oder nicht existent sind.

Anschließend werden schulspezifische ELSI der Nutzung von KI dargelegt. Rechtliche Herausforderungen umfassen hier insbesondere den Datenschutz, weswegen verschiedene Ansätze zur datenschutzkonformen Nutzung von KI-Systemen vorgestellt werden. Auch Urheberrechts- und Plagiatsfragen, die im Schulkontext zunehmend an Bedeutung gewinnen, da derzeit keine valide Unterscheidung zwischen von Menschen und von KI verfassten Texten möglich ist (Liang et al., 2023; SWK, 2024), werden thematisiert.

Als ethisch-soziale Herausforderungen werden mögliche Veränderungen der Lehr-, Lern- und Prüfungskultur, das Risiko der Verschärfung von Bildungsungerechtigkeit sowie ein potenzieller Verlust der Autonomie von Schüler:innen und Lehrkräften diskutiert. Zudem wird das Risiko einer Reduktion der sozialen Interaktion zwischen Schüler:innen und mit Lehrkräften erörtert sowie zentrale KI-Kompetenzen wie Prompting, kritisches Denken und KI-bezogenes Grundlagenwissen dargelegt, die Schüler:innen und Lehrende benötigten, um KI-Systeme in der Kultur der Digitalität (Stalder, 2016; SWK, 2024) lernförderlich nutzen zu können.

Abschließend werden konkrete Vorschläge für eine rechtlich korrekte, ethisch vertretbare und menschenzentrierte Nutzung von KI-basierten System in Schule und Unterricht gemacht. Als Ausblick wird die Notwendigkeit der Lehrkräfteprofessionalisierung hinsichtlich des Themenkomplexes KI hervorgehoben, welche Kögler et al. im Beitrag 3 dieses Symposiums aufgreifen.

Soziale Roboter haben das Potenzial, ein wichtiger Bestandteil der Bildungsinfrastruktur zu werden (Belpaeme et al., 2018; Woo et al., 2021). Ein sozialer Roboter kann definiert werden als „an autonomous or semi-autonomous robot that interacts and communicates with humans by following the behavioral norms expected by the people with whom the robot is intended to interact” (Bartneck & Forlizzi, 2004, S. 592). Die physische Natur ist das zentrale Merkmal, das soziale Roboter von anderen KI-Anwendungen im Bildungssystem (z.B. Intelligente Tutorielle Systeme) unterscheidet. Ihre Realisierung verursacht im Vergleich zu non-physischer KI höhere Kosten, weswegen der Einsatz sozialer Roboter explizit zu begründen wäre. Die Literaturübersicht von Li (2015) kommt zu dem Schluss, dass Menschen auf physische Roboter positiver reagieren als auf virtuelle Roboter. Auch wenn somit ein grundsätzlicher Mehrwert gegeben scheint, ist die Nutzung sozialer Roboter im Bildungskontext mit zahlreichen Herausforderungen verbunden. Der vorliegende Beitrag geht der Frage nach, welche rechtlichen, ethischen und sozialen Herausforderungen mit dem Einsatz sozialer Roboter im Bildungskontext einhergehen. Dazu wird die Funktionsweise sozialer Roboter dargestellt, beispielsweise wie diese mit Lernenden unter Rückgriff auf Large Language Models (LLM) interagieren (Sonderegger, 2022) oder wie Empathie simuliert werden kann (Leite et al., 2014).

Hinsichtlich rechtlicher Vorgaben ist insbesondere das KI-Gesetz der Europäischen Union relevant. Der Einsatz sozialer Roboter im Bildungskontext ist als Hochrisiko-Anwendung zu werten (Kellermann, 2023). Daraus ergeben sich strenge Anforderungen an die Nutzung. Der Beitrag erörtert Vorgaben im Bereich der Überwachung sozialer Roboter, der Realisierung menschlicher Aufsicht, der Transparenz und des Datenschutzes (Kaulartz & Hirzle, 2024). Dabei wird auf empirische Befunde zu Sicherheitsmängeln bei sozialen Robotern eingegangen (Giaretta et al., 2018). Diese Sicherheitsmängel sind aufgrund der zahlreichen Sensoren, beispielsweise Kameras und Mikrophone, besonders virulent.

Im Bereich der ethischen Herausforderungen werden spezifische für den Robotereinsatz relevante Aspekte diskutiert. Dabei spielt das Ausmaß an Autonomie, mit dem der soziale Roboter agiert, eine wichtige Rolle (Smakman, Vogt & Konijn, 2021). Das wirft die Frage auf, inwiefern soziale Roboter Macht über Lernende ausüben sollen. Des Weiteren thematisiert der Beitrag das Verhältnis von sozialen Robotern und Lehrkräften. Eine vollständige Übernahme der Tätigkeiten einer Lehrkraft scheint gegenwärtig weder wünschenswert noch realisierbar (Belpaeme & Tanaka, 2021). Dennoch stellt sich die Frage, in welchem Ausmaß soziale Roboter von Lehrkräften Aufgaben übernehmen sollen. Ein weiterer Aspekt, der gegen eine (übermäßige) Interaktion mit sozialen Robotern spricht, ist die mögliche Beeinträchtigung der sozio-emotionalen Entwicklung der Lernenden (Serholt et al., 2017; Sharkey, 2016; Smakman, Vogt & Konijn, 2021): Deren Sozialkompetenz, d.h. der angemessene Umgang mit anderen Menschen, könnte abnehmen, weil der Roboter vorhersehbar und stark an den Bedürfnissen der Lernenden ausgerichtet agiert.

Im Bereich der sozialen Herausforderungen wird erörtert, inwiefern der Einsatz sozialer Roboter Akzeptanz bei wichtigen Anspruchsgruppen findet. Diese sind im Fall sozialer Roboter im Bildungskontext Lehrende, Lernende und Eltern (Serholt et al., 2017). Selbst wenn soziale Roboter Vorteile beim Lernen generieren, ist deren Nutzen beschränkt, wenn diese von wichtigen Anspruchsgruppen abgelehnt werden. Der vorliegende Beitrag stellt wichtige Befunde aus (eigenen) empirischen Studien zur Akzeptanz sozialer Roboter vor (Fridin & Belokopytov, 2014; Naneva et al., 2020; Reich-Stiebert & Eyssel, 2015; Smakman, Konijn et al., 2021). Diese zeigen eine große Varianz hinsichtlich latenter Personengruppen und übernommener Rolle des sozialen Roboters, z.B. Lehrassistent vs. Präsentator. Interessanterweise zeigt sich, dass wahrgenommene Bedenken hinsichtlich der Beeinträchtigung der Privatsphäre durch soziale Roboter die Nutzungsintention nicht negativ beeinflussen (Lutz & Tamó-Larrieux, 2020).

Abschließend wird das Potenzial sozialer Roboter als eine Form der KI, die andere Formen wie LLM und Intelligente Tutorielle Systeme integriert, kritisch gewürdigt. In diesem Zusammenhang werden auch die mit dem Einsatz sozialer Roboter verbundenen hohen Kosten thematisiert.

Der nächste große Innovationsschub innerhalb der digitalen Transformation von Wirtschaft und Gesellschaft ist vom breiten Einsatz von Verfahren und Methoden der KI zu erwarten (Wittpahl, 2019). Spätestens mit der sprunghaften Verbreitung von generativer KI seit Ende 2022 ist KI auch zum Gegenstand umfangreicher Erwägungen zur Gestaltung und Unterstützung von Bildungsprozessen geworden (Chiu, 2023). Der Erwerb von KI-bezogenen Kompetenzen stellt fachübergreifend eine wichtige Zielsetzung der hochschulischen Ausbildung dar. Insbesondere in der beruflichen Lehrkräftebildung ist dieser jedoch für die Sicherstellung zukünftiger Wettbewerbs- und Innovierungsfähigkeit von hoher gesellschaftlicher Relevanz. Während verschiedene Kompetenzframeworks und KI-bezogene onlinebasierte Lehr-Lern-Ressourcen inzwischen breit verfügbar sind (Almatrafi et al., 2024), existieren nur relativ wenige Erkenntnisse darüber, wie KI-bezogene Bildungsressourcen genutzt und in formale Bildungskontexte eingebunden werden können. Dort fungieren diese nicht nur als alleinstehende Bildungsangebote im Rahmen individueller (oder auch institutionalisierter) Bildungsaktivitäten, sondern werden auch im Rahmen der hochschulischen Ausbildung von zukünftigem Bildungspersonal eingesetzt. Hierbei zeichnen sich nicht nur sehr unterschiedliche Implementierungsmöglichkeiten im Rahmen von Blended-Learning Szenarien (Littenberg-Tobias & Reich, 2020) oder modularen Ausbildungskonzepten (Serth, Staubitz, von Elten & Meinel, 2022) ab, sondern auch spezifische Herausforderungen, die mit der Heterogenität der Adressatengruppen bzgl. Vorkenntnissen, Teilnahmemotiven und Erwartungen assoziiert sind und nicht selten auch Qualitätsfragen der Kursgestaltung berühren (Egloffstein, Kögler & Ifenthaler, 2019; Egloffstein & Kögler, 2023).

Der vorliegende Beitrag setzt an diesen Fragestellungen an und zielt auf die Systematisierung KI-bezogener Professionalisierungskonzepte sowie auf die Analyse von Implementierungsansätzen in der hochschulischen Lehrkräftebildung und Ableitung von Implikationen für das Design der Bildungsressourcen.

Für Bereich der beruflichen Bildung wurden auf der Basis einer umfangreichen Anforderungsanalyse vier niedrigschwellige Online-Angebote zu KI als Inhalt und Methode erstellt (Egloffstein et al., 2024) und ab 2022 auf der Lernplattform des KI-Campus (Rampelt et al., 2022) als offene Bildungsressourcen zur Verfügung gestellt. Die Zielgruppe der als Micro-Degree konzipierten Kursreihe erstreckt sich von Studierenden bis hin zu Lehrkräften und betrieblichen pädagogischen Professionals, diese ausgeprägte Heterogenität ist nicht zuletzt Spezifikum wie auch Herausforderung bei der Nutzung offener, KI-bezogener Bildungsressourcen in der Hochschullehre.

Vor diesem Hintergrund fokussiert sich der Beitrag auf folgende Forschungsfragen:

1) Welche Implementierungsszenarien KI-bezogener Bildungsressourcen lassen sich in der Hochschullehre umsetzen und inwiefern sind diese für die berufliche Lehrerbildung relevant?

2) Welche Implikationen ergeben sich mit Blick auf das Design und die Qualität offener Bildungsressourcen mit heterogenen Zielgruppen?

Im Hinblick auf die erste Forschungsfrage sollen unterschiedliche Szenarien der hochschuldidaktischen Einbindung der Angebote von der Designphase bis hin zur Implementation als Micro-Degree vorgestellt und auf ihre Relevanz für die Lehrkräftebildung diskutiert werden. Die Systematisierung der Nutzungsszenarien erfolgt entlang der Logik des ADDIE-Modells aus dem Instruktionsdesign und anhand einschlägiger Lernziele in der beruflichen Lehrkräftebildung. 

Die zweite Forschungsfrage nach Gestaltungsimplikationen für KI-bezogene Bildungsressourcen wird auf der Grundlage eines Design-Reviews von N=41 offenen Kursen zu KI adressiert. Die Ergebnisse weisen auf Optimierungspotenziale bezüglich zentraler didaktischer Kriterien wie Problem- oder Lernendenzentrierung sowie Individualisierung und Differenzierung hin, die im Rahmen hochschulischer Professionalisierungskonzepte gezielt adressiert werden müssen.

Der Vortrag leistet einen Beitrag zur gegenwärtigen Diskussion um die Nutzung und nachhaltige Verankerung von Online-Ressourcen in institutionalisierten Bildungskontexten, die nicht zuletzt im Zuge der digitalen Transformation der Lehrerbildung zunehmende Bedeutung erlangt.