Veranstaltungsprogramm

Eine Übersicht aller Sessions/Sitzungen dieser Veranstaltung.
Bitte wählen Sie einen Ort oder ein Datum aus, um nur die betreffenden Sitzungen anzuzeigen. Wählen Sie eine Sitzung aus, um zur Detailanzeige zu gelangen.

 
 
Sitzungsübersicht
Sitzung
S08: Die Zukunft des Lernens: Ethische, rechtliche und soziale Implikationen bei der Nutzung von KI-basierten Systemen im Bildungskontext
Zeit:
Montag, 30.09.2024:
15:30 - 17:00

Chair der Sitzung: Janne Mesenhöller
Chair der Sitzung: Katrin Böhme
Ort: H04

Hörsaal Erdgeschoss

Zeige Hilfe zu 'Vergrößern oder verkleinern Sie den Text der Zusammenfassung' an
Präsentationen

Die Zukunft des Lernens: Ethische, rechtliche und soziale Implikationen bei der Nutzung von KI-basierten Systemen im Bildungskontext

Chair(s): Janne Mesenhöller (Universität Potsdam, Inklusionspädagogik im Bereich Sprache), Katrin Böhme (Universität Potsdam, Inklusionspädagogik im Bereich Sprache), Josef Guggemos (Pädagogische Hochschule Schwäbisch Gmünd, Berufspädagogik)

Diskutant:in(nen): Johannes Schleiss (Otto-von-Guericke-Universität Magdeburg, Institut für Intelligente Kooperierende Systeme (IKS), AG Artificial Intelligence Lab)

Das Bildungssystem ist konfrontiert mit einer zunehmenden Heterogenität der Lernenden (vgl. bspw. Stanat et al., 2019) sowie einem wachsenden Mangel an Lehrkräften (vgl. bspw. Statista Research Department, 2023). Generative KI-Systeme wie ChatGPT und andere KI-basierte Anwendungen wie Intelligente Tutorielle Systeme oder soziale Roboter bieten Potenziale, dem zu begegnen. Diese Systeme können das Lernen verbessern, indem sie personalisierte Rückmeldungen geben und als stets verfügbare 1:1-Tutoren fungieren (Holmes et al., 2018; Kasneci et al., 2023; Ständige Wissenschaftliche Kommission der Kultusministerkonferenz [SWK], 2024). Zudem können sie Lehrende bei administrativen Aufgaben entlasten und Unterstützung bei der Bereitstellung differenzierender Lerngelegenheiten bieten (Schaumburg, 2020, 2021; Schmid et al., 2021).

Komplexe KI-Systeme bieten zwar einerseits weitreichende Möglichkeiten für den Bildungskontext, stellen Schulen und Hochschulen aber auch vor umfassende ethische und rechtliche Herausforderungen (Baker & Hawn, 2022; Costa-Mendes et al., 2021; Guggemos et al., 2022).

Im Kontext der Entwicklung und Nutzung KI-basierter Systeme für den Bildungsbereich gewinnt das interdisziplinäre Forschungsfeld ELSI daher zunehmen an Bedeutung. ELSI adressiert ethische, rechtliche und soziale Implikationen (Boden et al., 2021; Parker et al., 2019), die sich durch die neuartige Interaktion zwischen Mensch und Maschine im Bildungskontext ergeben (können). Ziel des Symposiums ist es, ethische, rechtliche und soziale Herausforderungen bei der Implementierung von KI im Bildungsbereich zu skizzieren sowie Ansätze zur Professionalisierung von Lehrenden hinsichtlich bedeutsamer ELSI darzulegen, um ein fundiertes Verständnis für den verantwortungsvollen Umgang mit KI im Bildungskontext zu entwickeln.

In Beitrag 1 wird in das Forschungsfeld ELSI im Kontext der Nutzung KI-basierter Systeme in Schule und Unterricht eingeführt. Der theoretisch-konzeptionelle Beitrag erläutert rechtliche Herausforderungen, die sich durch die Nutzung von KI in der Schule (neu) ergeben und fokussiert dabei vor allem Fragen nach umfassender Datensicherheit sowie nach der Urheberschaft von Texten. Auch ethische und soziale Herausforderungen wie mögliche Veränderungen in der Lehr-, Lern- und Prüfungskultur, das Risiko der Verschärfung von Fragen der Bildungsungerechtigkeit sowie ein möglicher Autonomieverlust durch den Einsatz von KI in der Schule werden skizziert.

Beitrag 2 thematisiert ELSI-Aspekte in Bezug auf den Einsatz sozialer Roboter im Bildungsbereich. Soziale Roboter sind eine Bildungstechnologie, die KI nutzt und andere Bildungstechnologien wie Intelligente Tutorielle Systeme integrieren kann. Aufgrund der physischen Präsenz und zahlreicher Sensoren sind spezifische Herausforderungen mit der Nutzung sozialer Roboter verbunden, die über jene non-physischer KI hinausgehen. Der konzeptionelle Beitrag erörtert rechtliche Vorgaben beim Einsatz sozialer Roboter, insbesondere aufgrund des KI-Gesetzes der EU sowie spezifische ethische Herausforderungen. Ferner diskutiert der Beitrag, basierend auf empirischen Studien, die Akzeptanz sozialer Roboter bei wichtigen Anspruchsgruppen wie Lehrende, Lernende und Eltern.

Beitrag 3 adressiert Professionalisierungskonzepte für Lehrende im Kontext von KI. Eine solide Wissensbasis im Bereich KI ist nötig, um ethische, rechtliche und soziale Implikationen des Einsatzes von KI in der Bildung beurteilen zu können (Guggemos et al., 2024). Im Bildungskontext spielen dabei (angehende) Lehrkräfte eine besonders wichtige Rolle. Auf konzeptioneller Basis erörtert der Beitrag, wie sich Bildungsressourcen zu KI in die Hochschulbildung (Lehrkräftebildung) integrieren lassen. Auf Grundlage einer Analyse von 41 offenen Onlinekursen zum Thema KI untersucht der Beitrag Gestaltungsimplikationen für KI-bezogene Bildungsressourcen. Dabei zeigt sich Optimierungspotential in der didaktischen Gestaltung der betrachteten Onlinekurse.

In der abschließenden Diskussion der drei Beiträge wird Johannes Schleiss, Experte im Bereich EdTech im Bildungswesen mit Fokus auf KI, die zentralen Ergebnisse diskutieren und aus EdTech Perspektive einen Ausblick auf zukünftige Entwicklungen im Bereich KI im Bildungswesen geben.

 

Beiträge des Symposiums

 

Ethische, rechtliche und soziale Implikationen bei der Nutzung von KI-basierten Systemen in Schule und Unterricht

Janne Mesenhöller, Katrin Böhme
Universität Potsdam, Inklusionspädagogik im Bereich Sprache

Die Einführung von ChatGPT 3.5 im November 2022 markiert einen bedeutsamen Wendepunkt für den Einsatz KI-basierter Systeme in der Bildung. Bis Sommer 2023 gaben mindestens 50% der Schüler:innen zwischen 14 und 19 Jahren an, ChatGPT bereits genutzt zu haben (bitkom, 2023). Im Vergleich zu etablierten KI-Anwendungen wie Google Maps (Hennig & Vogler, 2011) oder YouTube (Honkomp-Wilkens et al., 2022), die bereits fest im schulischen Bereich integriert sind, bieten generative KI-Systeme, die Texte, Bilder oder Videos erzeugen, einerseits vielfältige Potenziale, gehen gleichzeitig aber auch mit umfassenden ethischen Herausforderungen einher. Als aktuelles Beispiel ist hier das am 21. Mai 2024 final verabschiedete und bereits 2021 vorgeschlagene KI-Gesetz der EU -Staaten zu nennen (“Einigung Der EU-Staaten: KI-Gesetz Ist Endgültig Beschlossen,” 2024; Europäisches Parlament, 2023), welches KI-Systeme zur Leistungsbewertung im Bildungskontext als hochriskant einstuft und damit die Bedeutsamkeit ethischer und rechtlicher Fragestellungen in Bezug auf die Nutzung von KI im Bildungskontext hervorhebt.

Der Beitrag skizziert daher überblicksartig ethische, rechtliche und soziale Implikationen (ELSI, Boden et al., 2021; Parker et al., 2019) aktueller KI-Anwendungen im Schulkontext, wobei der Fokus insbesondere auf generativen KI-Anwendungen, vor allem Large-Language-Modellen (LLM) wie ChatGPT und Microsoft Pilot, und Intelligenten Tutoriellen Systemen liegt.

Dafür wird zunächst die grundlegende Funktionsweise dieser Systeme kurz erläutert und deren Potenziale für den Schulkontext aufgezeigt. Anschließen wird in das Forschungsfeld ELSI eingeführt, wobei zu Beginn allgemeine ELSI der Nutzung von KI dargelegt werden, wie etwa die algorithmische Verzerrung, bei der bestimmte Personengruppen durch eine KI-Anwendung diskriminiert werden können (Buolamwini, 2017; Raji et al., 2020) oder das Halluzinieren von Textinhalten durch LLM (Athaluri et al., 2023; Yao et al., 2023), welche Textinhalte und Quellen ausgeben, die inhaltlich falsch oder nicht existent sind.

Anschließend werden schulspezifische ELSI der Nutzung von KI dargelegt. Rechtliche Herausforderungen umfassen hier insbesondere den Datenschutz, weswegen verschiedene Ansätze zur datenschutzkonformen Nutzung von KI-Systemen vorgestellt werden. Auch Urheberrechts- und Plagiatsfragen, die im Schulkontext zunehmend an Bedeutung gewinnen, da derzeit keine valide Unterscheidung zwischen von Menschen und von KI verfassten Texten möglich ist (Liang et al., 2023; SWK, 2024), werden thematisiert.

Als ethisch-soziale Herausforderungen werden mögliche Veränderungen der Lehr-, Lern- und Prüfungskultur, das Risiko der Verschärfung von Bildungsungerechtigkeit sowie ein potenzieller Verlust der Autonomie von Schüler:innen und Lehrkräften diskutiert. Zudem wird das Risiko einer Reduktion der sozialen Interaktion zwischen Schüler:innen und mit Lehrkräften erörtert sowie zentrale KI-Kompetenzen wie Prompting, kritisches Denken und KI-bezogenes Grundlagenwissen dargelegt, die Schüler:innen und Lehrende benötigten, um KI-Systeme in der Kultur der Digitalität (Stalder, 2016; SWK, 2024) lernförderlich nutzen zu können.

Abschließend werden konkrete Vorschläge für eine rechtlich korrekte, ethisch vertretbare und menschenzentrierte Nutzung von KI-basierten System in Schule und Unterricht gemacht. Als Ausblick wird die Notwendigkeit der Lehrkräfteprofessionalisierung hinsichtlich des Themenkomplexes KI hervorgehoben, welche Kögler et al. im Beitrag 3 dieses Symposiums aufgreifen.

 

Ethische, rechtliche und soziale Implikationen der Nutzung sozialer Roboter im Bildungskontext

Josef Guggemos1, Michel Meß1, Stanley Schilling-Friedmann2, Roland Happ2
1Pädagogische Hochschule Schwäbisch Gmünd, Abteilung Berufspädagogik, 2Universität Leipzig, Institut für Wirtschaftspädagogik

Soziale Roboter haben das Potenzial, ein wichtiger Bestandteil der Bildungsinfrastruktur zu werden (Belpaeme et al., 2018; Woo et al., 2021). Ein sozialer Roboter kann definiert werden als „an autonomous or semi-autonomous robot that interacts and communicates with humans by following the behavioral norms expected by the people with whom the robot is intended to interact” (Bartneck & Forlizzi, 2004, S. 592). Die physische Natur ist das zentrale Merkmal, das soziale Roboter von anderen KI-Anwendungen im Bildungssystem (z.B. Intelligente Tutorielle Systeme) unterscheidet. Ihre Realisierung verursacht im Vergleich zu non-physischer KI höhere Kosten, weswegen der Einsatz sozialer Roboter explizit zu begründen wäre. Die Literaturübersicht von Li (2015) kommt zu dem Schluss, dass Menschen auf physische Roboter positiver reagieren als auf virtuelle Roboter. Auch wenn somit ein grundsätzlicher Mehrwert gegeben scheint, ist die Nutzung sozialer Roboter im Bildungskontext mit zahlreichen Herausforderungen verbunden. Der vorliegende Beitrag geht der Frage nach, welche rechtlichen, ethischen und sozialen Herausforderungen mit dem Einsatz sozialer Roboter im Bildungskontext einhergehen. Dazu wird die Funktionsweise sozialer Roboter dargestellt, beispielsweise wie diese mit Lernenden unter Rückgriff auf Large Language Models (LLM) interagieren (Sonderegger, 2022) oder wie Empathie simuliert werden kann (Leite et al., 2014).

Hinsichtlich rechtlicher Vorgaben ist insbesondere das KI-Gesetz der Europäischen Union relevant. Der Einsatz sozialer Roboter im Bildungskontext ist als Hochrisiko-Anwendung zu werten (Kellermann, 2023). Daraus ergeben sich strenge Anforderungen an die Nutzung. Der Beitrag erörtert Vorgaben im Bereich der Überwachung sozialer Roboter, der Realisierung menschlicher Aufsicht, der Transparenz und des Datenschutzes (Kaulartz & Hirzle, 2024). Dabei wird auf empirische Befunde zu Sicherheitsmängeln bei sozialen Robotern eingegangen (Giaretta et al., 2018). Diese Sicherheitsmängel sind aufgrund der zahlreichen Sensoren, beispielsweise Kameras und Mikrophone, besonders virulent.

Im Bereich der ethischen Herausforderungen werden spezifische für den Robotereinsatz relevante Aspekte diskutiert. Dabei spielt das Ausmaß an Autonomie, mit dem der soziale Roboter agiert, eine wichtige Rolle (Smakman, Vogt & Konijn, 2021). Das wirft die Frage auf, inwiefern soziale Roboter Macht über Lernende ausüben sollen. Des Weiteren thematisiert der Beitrag das Verhältnis von sozialen Robotern und Lehrkräften. Eine vollständige Übernahme der Tätigkeiten einer Lehrkraft scheint gegenwärtig weder wünschenswert noch realisierbar (Belpaeme & Tanaka, 2021). Dennoch stellt sich die Frage, in welchem Ausmaß soziale Roboter von Lehrkräften Aufgaben übernehmen sollen. Ein weiterer Aspekt, der gegen eine (übermäßige) Interaktion mit sozialen Robotern spricht, ist die mögliche Beeinträchtigung der sozio-emotionalen Entwicklung der Lernenden (Serholt et al., 2017; Sharkey, 2016; Smakman, Vogt & Konijn, 2021): Deren Sozialkompetenz, d.h. der angemessene Umgang mit anderen Menschen, könnte abnehmen, weil der Roboter vorhersehbar und stark an den Bedürfnissen der Lernenden ausgerichtet agiert.

Im Bereich der sozialen Herausforderungen wird erörtert, inwiefern der Einsatz sozialer Roboter Akzeptanz bei wichtigen Anspruchsgruppen findet. Diese sind im Fall sozialer Roboter im Bildungskontext Lehrende, Lernende und Eltern (Serholt et al., 2017). Selbst wenn soziale Roboter Vorteile beim Lernen generieren, ist deren Nutzen beschränkt, wenn diese von wichtigen Anspruchsgruppen abgelehnt werden. Der vorliegende Beitrag stellt wichtige Befunde aus (eigenen) empirischen Studien zur Akzeptanz sozialer Roboter vor (Fridin & Belokopytov, 2014; Naneva et al., 2020; Reich-Stiebert & Eyssel, 2015; Smakman, Konijn et al., 2021). Diese zeigen eine große Varianz hinsichtlich latenter Personengruppen und übernommener Rolle des sozialen Roboters, z.B. Lehrassistent vs. Präsentator. Interessanterweise zeigt sich, dass wahrgenommene Bedenken hinsichtlich der Beeinträchtigung der Privatsphäre durch soziale Roboter die Nutzungsintention nicht negativ beeinflussen (Lutz & Tamó-Larrieux, 2020).

Abschließend wird das Potenzial sozialer Roboter als eine Form der KI, die andere Formen wie LLM und Intelligente Tutorielle Systeme integriert, kritisch gewürdigt. In diesem Zusammenhang werden auch die mit dem Einsatz sozialer Roboter verbundenen hohen Kosten thematisiert.

 

KI-bezogene Professionalisierungskonzepte in der beruflichen Lehrkräftebildung: Implementierung von Online-Bildungsressourcen in der Hochschullehre und Konsequenzen für das Kursdesign

Kristina Kögler1, Marc Egloffstein2, Dirk Ifenthaler2
1Universität Stuttgart, Abteilung für Berufs-, Wirtschafts- und Technikpädagogik, 2Universität Mannheim, Lehrstuhl für Wirtschaftspädagogik – Learning, Design & Technology

Der nächste große Innovationsschub innerhalb der digitalen Transformation von Wirtschaft und Gesellschaft ist vom breiten Einsatz von Verfahren und Methoden der KI zu erwarten (Wittpahl, 2019). Spätestens mit der sprunghaften Verbreitung von generativer KI seit Ende 2022 ist KI auch zum Gegenstand umfangreicher Erwägungen zur Gestaltung und Unterstützung von Bildungsprozessen geworden (Chiu, 2023). Der Erwerb von KI-bezogenen Kompetenzen stellt fachübergreifend eine wichtige Zielsetzung der hochschulischen Ausbildung dar. Insbesondere in der beruflichen Lehrkräftebildung ist dieser jedoch für die Sicherstellung zukünftiger Wettbewerbs- und Innovierungsfähigkeit von hoher gesellschaftlicher Relevanz. Während verschiedene Kompetenzframeworks und KI-bezogene onlinebasierte Lehr-Lern-Ressourcen inzwischen breit verfügbar sind (Almatrafi et al., 2024), existieren nur relativ wenige Erkenntnisse darüber, wie KI-bezogene Bildungsressourcen genutzt und in formale Bildungskontexte eingebunden werden können. Dort fungieren diese nicht nur als alleinstehende Bildungsangebote im Rahmen individueller (oder auch institutionalisierter) Bildungsaktivitäten, sondern werden auch im Rahmen der hochschulischen Ausbildung von zukünftigem Bildungspersonal eingesetzt. Hierbei zeichnen sich nicht nur sehr unterschiedliche Implementierungsmöglichkeiten im Rahmen von Blended-Learning Szenarien (Littenberg-Tobias & Reich, 2020) oder modularen Ausbildungskonzepten (Serth, Staubitz, von Elten & Meinel, 2022) ab, sondern auch spezifische Herausforderungen, die mit der Heterogenität der Adressatengruppen bzgl. Vorkenntnissen, Teilnahmemotiven und Erwartungen assoziiert sind und nicht selten auch Qualitätsfragen der Kursgestaltung berühren (Egloffstein, Kögler & Ifenthaler, 2019; Egloffstein & Kögler, 2023).

Der vorliegende Beitrag setzt an diesen Fragestellungen an und zielt auf die Systematisierung KI-bezogener Professionalisierungskonzepte sowie auf die Analyse von Implementierungsansätzen in der hochschulischen Lehrkräftebildung und Ableitung von Implikationen für das Design der Bildungsressourcen.

Für Bereich der beruflichen Bildung wurden auf der Basis einer umfangreichen Anforderungsanalyse vier niedrigschwellige Online-Angebote zu KI als Inhalt und Methode erstellt (Egloffstein et al., 2024) und ab 2022 auf der Lernplattform des KI-Campus (Rampelt et al., 2022) als offene Bildungsressourcen zur Verfügung gestellt. Die Zielgruppe der als Micro-Degree konzipierten Kursreihe erstreckt sich von Studierenden bis hin zu Lehrkräften und betrieblichen pädagogischen Professionals, diese ausgeprägte Heterogenität ist nicht zuletzt Spezifikum wie auch Herausforderung bei der Nutzung offener, KI-bezogener Bildungsressourcen in der Hochschullehre.

Vor diesem Hintergrund fokussiert sich der Beitrag auf folgende Forschungsfragen:

1) Welche Implementierungsszenarien KI-bezogener Bildungsressourcen lassen sich in der Hochschullehre umsetzen und inwiefern sind diese für die berufliche Lehrerbildung relevant?

2) Welche Implikationen ergeben sich mit Blick auf das Design und die Qualität offener Bildungsressourcen mit heterogenen Zielgruppen?

Im Hinblick auf die erste Forschungsfrage sollen unterschiedliche Szenarien der hochschuldidaktischen Einbindung der Angebote von der Designphase bis hin zur Implementation als Micro-Degree vorgestellt und auf ihre Relevanz für die Lehrkräftebildung diskutiert werden. Die Systematisierung der Nutzungsszenarien erfolgt entlang der Logik des ADDIE-Modells aus dem Instruktionsdesign und anhand einschlägiger Lernziele in der beruflichen Lehrkräftebildung. 

Die zweite Forschungsfrage nach Gestaltungsimplikationen für KI-bezogene Bildungsressourcen wird auf der Grundlage eines Design-Reviews von N=41 offenen Kursen zu KI adressiert. Die Ergebnisse weisen auf Optimierungspotenziale bezüglich zentraler didaktischer Kriterien wie Problem- oder Lernendenzentrierung sowie Individualisierung und Differenzierung hin, die im Rahmen hochschulischer Professionalisierungskonzepte gezielt adressiert werden müssen.

Der Vortrag leistet einen Beitrag zur gegenwärtigen Diskussion um die Nutzung und nachhaltige Verankerung von Online-Ressourcen in institutionalisierten Bildungskontexten, die nicht zuletzt im Zuge der digitalen Transformation der Lehrerbildung zunehmende Bedeutung erlangt.



 
Impressum · Kontaktadresse:
Datenschutzerklärung · Veranstaltung: Digitale Transformation 2024
Conference Software: ConfTool Pro 2.6.151
© 2001–2024 by Dr. H. Weinreich, Hamburg, Germany