Aufruf

KĂŒnstliche Intelligenz (KI), Offenheit und PĂ€dagogik

Eine Einladung zum gemeinsamen Weiterdenken von Nele Hirsch (eBildungslabor), Regina Schulz, Britta Kölling, Maria Klar, Leena Simon (muendigkeit.digital), Kirsten Scholle, Michael Töpel (Zukunft Lernen gGmbH) und Uwe Kranz.

Das Thema KI beschĂ€ftigt aktuell viele PĂ€dagog*innen und Gestalter*innen von Bildung. Angestoßen wurde diese Diskussion insbesondere durch die Veröffentlichung des Chatbots ChatGPT im November 2022. Der hauptsĂ€chliche Grund fĂŒr das große Interesse ist, dass traditionelles Lehren und Lernen, das auf der Vermittlung von Inhalten und deren ÜberprĂŒfung durch Reproduktion basiert, angesichts dieser neuen technologischen Möglichkeiten kaum noch praktikabel scheint. Wir begrĂŒĂŸen es sehr, dass auf diese Weise in der pĂ€dagogischen Debatte vieles in Bewegung gerĂ€t und KI als ein willkommener Lernkultur-VerĂ€nderungsimpuls wirkt. Doch die Intransparenz und Geschlossenheit von proprietĂ€ren KI-Tools stehen unserem Leitbild einer offenen und demokratischen Gestaltung von Bildung entgegen. Wir rufen deshalb dazu auf, auf der Basis von Offenheit gemeinsam nach Alternativen fĂŒr proprietĂ€re KI-Tools in der PĂ€dagogik zu suchen. Wir haben noch keine fertigen Lösungen, sondern laden alle Interessierten dazu ein, sich uns bei der Entwicklung von Fragen und Antworten anzuschließen. Wir sind nicht der Auffassung, dass Offenheit alle Probleme rund um KI löst. Ohne Offenheit bei der Entwicklung von KI-Tools entbehrt eine offene und demokratische Gestaltung von Bildung allerdings jeglicher Grundlage.

1. Warum ist Offenheit grundlegend fĂŒr KI in der PĂ€dagogik?

Wir halten Offenheit aus mehreren GrĂŒnden fĂŒr grundlegend bei der Entwicklung und Nutzung von KI in der PĂ€dagogik.

1.1 Bildung ist eine öffentliche Aufgabe. Es muss demokratisch entwickelt und entschieden werden, was in öffentlichen Bildungseinrichtungen wie Schulen, Fachhochschulen und UniversitĂ€ten gelehrt und gelernt wird. Da eine KI trainiert wird, lĂ€sst sich nicht vorab festlegen, was am Ende als Ergebnis angezeigt wird.  Bei proprietĂ€ren KI-Tools sind allerdings weder Datenbasis noch verwendete Filtermechanismen transparent. Somit ist nicht demokratisch gestaltbar, welche Inhalte bei der Nutzung von KI-Tools auf welche Weise angezeigt werden und was ausgeblendet wird.

1.2 Das Ziel von Bildung ist gesellschaftliche HandlungsfĂ€higkeit. Bildung unter den Bedingungen der DigitalitĂ€t heißt in diesem Sinne auch, dass eine aktive Gestaltung von Technologien und ihrer Anwendung erlernt werden muss. Durch die Geschlossenheit proprietĂ€rer KI-Tools wird dieser Anspruch negiert. LehrkrĂ€fte und Lernende haben keine Möglichkeiten zur Gestaltung dieser. 

1.3 Gute und damit nachhaltige und demokratische Bildung zielt auf digitale MĂŒndigkeit. Es muss eine selbstbestimmte und verantwortliche Entscheidung getroffen werden können, ob und wie eine Technologie genutzt wird. Angesichts fehlender Alternativen zu proprietĂ€ren KI-Tools ist solch eine Entscheidung nicht möglich. Zu einer mĂŒndigen Entscheidung gehört auch, dass persönliche Daten geschĂŒtzt werden können. Auch das ist bei den vorherrschenden proprietĂ€ren Tools nicht gegeben.

1.4 In einer immer komplexeren Welt steht Bildung vor großen Herausforderungen. Nötig ist insbesondere Kompetenzentwicklung zu kritischem und kontextuellem Denken. Um diese Herausforderung auch mithilfe von KI angehen zu können, muss KI-Entwicklung dezidiert mit einem pĂ€dagogischen Fokus erfolgen. Da proprietĂ€re KI-Tools nicht offen entwickelt werden, gibt es nur die Option, das einzusetzen, was angeboten wird. Es fehlt somit an einer pĂ€dagogischen Debatte darĂŒber, welche Funktionen eine ‚Lern-KI‘ optimalerweise bieten mĂŒsste. Derzeit wird die Gestaltung von KI-Tools Anbietern von Software ohne pĂ€dagogisches und didaktisches Fundament ĂŒberlassen.

1.5 Alle Menschen mĂŒssen die Möglichkeit zur Teilhabe an Bildung haben. Derzeitige KI-Systeme bieten noch einen niederschwelligen Zugang und fĂŒr alle Benutzer*innen (fast) gleichwertige Funktionen. Im Zuge zukĂŒnftig wachsender Monetarisierung der Angebote steht allerdings infrage, inwieweit hier echte Bildungsgerechtigkeit gewĂ€hrleistet werden kann. Das öffentliche Bildungssystem darf sich auch vor diesem Hintergrund nicht von Anbieter*innen proprietĂ€rer KI-Tools abhĂ€ngig machen.

2. Wie lĂ€sst sich Offenheit fĂŒr KI in der PĂ€dagogik realisieren? 

Wir sehen mehrere Ansatzpunkte, wie sich KI mit Offenheit fĂŒr die Bildung realisieren lĂ€sst.

2.1 UnerlĂ€sslich ist fĂŒr uns die Entwicklung, Förderung und Verbreitung von Open Source-KI. Nur so kann demokratische Gestaltung und Nutzung ermöglicht werden. Erste vielversprechende AnsĂ€tze fĂŒr eine Open-Source-KI zeigen beispielsweise Modelle wie Alpaca von der Stanford UniversitĂ€t. Es ist allerdings zu beachten, dass solche Open-Source-Projekte ohne massive öffentliche Förderung immer deutlich hinter proprietĂ€ren KI-Tools zurĂŒckbleiben werden. Nötig ist deshalb eine konsequente Umsetzung des Grundsatzes ‚Public Money – Public Code‘ auf Ebene der EU.

2.2 Die Entwicklung von KI-Tools fĂŒr die Bildung ist nicht nur eine technische Herausforderung, sondern auch eine pĂ€dagogische Aufgabe. Wir setzen uns deshalb fĂŒr interdisziplinĂ€re RĂ€ume ein, in denen KI-Tools ko-kreativ an der Schnittstelle von PĂ€dagogik und Informatik entwickelt und reflektiert werden. Dazu gehört beispielsweise Forschung und Entwicklung zu intelligenten Lernassistenten, die Open Source sind und lokal auf EndgerĂ€ten laufen können. Dies könnte eine Möglichkeit darstellen, dass Lernende von LernunterstĂŒtzung wie Feedback und AdaptivitĂ€t profitieren und gleichzeitig die Hoheit ĂŒber ihre Daten erhalten.

Ein weiterer Bereich wĂ€re die Entwicklung pĂ€dagogisch-didaktischer Datensets. Diese Datensets können zum transparenten Training von pĂ€dagogischen KI-Tools eingesetzt werden. Eine Vielfalt an Datensets ermöglicht eine Vielfalt an pĂ€dagogischen Modellen, die beispielsweise konstruktivistischen Lehr- und LernansĂ€tzen folgen. Die Einbindung in ein pĂ€dagogisch genutztes KI-System könnte fĂŒr Datengeber*innen wie Bibliotheken, Archive, Sammlungen, usw. geeignete Anreize schaffen, um ihre Angebote im Sinne eines öffentlichen Bildungsauftrags offen, digital und breitenwirksam zur VerfĂŒgung zu stellen.  

Entscheidend bei dieser ko-kreativen Gestaltung ist außerdem, das Interface der Tools in den Blick zu nehmen, sodass insbesondere inklusive Lernprozesse ermöglicht werden. 

2.3 Offenheit bei der KI-Entwicklung bedeutet ebenfalls, Lehren und Lernen nicht als von der Gesellschaft separierte RĂ€ume zu verstehen, sondern ethische Dimensionen mit zu reflektieren. Eine ressourcenintensive KI, deren Training auf Ausbeutung menschlicher Arbeitskraft insbesondere von Menschen im globalen SĂŒden basiert, lĂ€sst sich mit einem aufklĂ€rerischen Bildungssystem, das auch nachhaltige Entwicklung als Bildungsziel fördert, nicht in Einklang bringen. Im Rahmen einer offenen Entwicklung wĂ€re aber Raum, um genau solche Herausforderungen zu reflektieren und Alternativen zu entwickeln.

2.4 Demokratische Entscheidungsprozesse erfordern Transparenz, um sicherzustellen, dass alle beteiligten Akteur*innen fair und gerecht beteiligt werden. Im Gegensatz dazu kann die Intransparenz von KI aufgrund ihrer KomplexitĂ€t und der Verwendung von geschlossenen DatensĂ€tzen, intransparenten Algorithmen und Machine Learning-Prozessen die Möglichkeit von Diskriminierung verstĂ€rken. Es ist daher von entscheidender Bedeutung, dass die Auswirkungen von KI auf die Gesellschaft und Bildung ausreichend berĂŒcksichtigt werden. In diesem Zusammenhang mĂŒssen angemessene Maßnahmen zur GewĂ€hrleistung der Transparenz von KI-Entscheidungen entwickelt und implementiert werden, um die demokratischen Werte und Prinzipien zu wahren.

2.5 Wichtig ist fĂŒr uns, dass die durch neu entwickelte offene KI-Werkzeuge eventuell freiwerdende Ressourcen im Bildungssystem verbleiben. Wir sehen diese mögliche Dividende als eine Chance, um zu einer ĂŒberfĂ€lligen, verĂ€nderten Lernkultur zu gelangen. Denn die von uns angestrebte Transformation von Bildung hin zu mehr Open Educational Practices (OEP) erfordert zahlreiche Ressourcen, die aktuell im Bildungssystem fehlen.

2.6 Im Kontext von KI, Offenheit und PĂ€dagogik sehen wir große Potentiale zur UnterstĂŒtzung von Open Educational Resources (OER). Insbesondere könnten KI-Tools weiterentwickelt werden, die die Auffindbarkeit durch Metadaten verbessern oder den Remix durch Veröffentlichung von Inhalten in unterschiedlichen Formaten oder in unterschiedlichen Sprachen unterstĂŒtzen. Dieser Aspekt sollte in der OER-Strategie der Bundesregierung BerĂŒcksichtigung finden.  

2.7 Zu Offenheit im Kontext der KI-Debatte gehört fĂŒr uns schließlich auch dazu, dass der grĂŒndlich abgewogene Verzicht auf die Nutzung von KI-Tools in der Schule eine Option bleiben sollte, sofern sich grundlegende Probleme nicht auflösen lassen. Schule muss sich jedoch immer mit aktueller RealitĂ€t auseinandersetzen, deshalb ist der ggf. ko-kreative, immer kritische Umgang mit KI Teil der in der Schule zu vermittelnden Kompetenzen.

3. Was sind nÀchste Schritte?

Mit diesem Aufruf möchten wir Organisationen, Initiativen und Einzelpersonen, die an der Entwicklung und Nutzung offener KI-Technologie fĂŒr die PĂ€dagogik Interesse haben, zu einer Vernetzung einladen. Gemeinsam können wir unsere Ideen konkretisieren, unsere KrĂ€fte bĂŒndeln und mit konkreten Forderungen an politische EntscheidungstrĂ€ger*innen herantreten.   

Gerne kannst Du den Aufruf auch kommentieren:

5 Antworten

  1. Avatar von Sabine Haselbeck Datenschutznet.de
    Sabine Haselbeck Datenschutznet.de

    Den Ansatz der Demokratie und Niederschwelligkeit in alles Ehren, aber das Training der KI basiert leider grĂ¶ĂŸtenteils auf DatenschutzverstĂ¶ĂŸen und Urheberrechtsverletzungen.
    Könnte man dies in ethische Verantwortliche HĂ€nde legen, wĂ€re es eine prima Idee. Die Idee der nicht nur reproduktiven, bulemischen Auswendiglernerei und dessen Abfrage- scheint in der Bildung durch mediale Kompetenzen nun endgĂŒltig ein ĂŒberholtes Modell zu sein!
    In HĂ€nden von Microsoft und Google hat es aber einen faden und unkoscheren Beigeschmack.!

    1. Avatar von Kristin Neuhaus
      Kristin Neuhaus

      Danke fĂŒr den Beitrag. Sehe ich leider ganz genauso

  2. Avatar von Christine Kolbe
    Christine Kolbe

    Super wichtige Gedanken fĂŒr einen öffentlichen, demokratische Begleitdiskurs zu KI – danke fĂŒr eure Arbeit.

    Ich möchte noch zwei weitere Aspekt hinzufĂŒgen: soziale und ökologische Nachhaltigkeit. Also zum Einen der Blick auf die Menschen, die KIs trainieren; oftmals unter unwĂŒrdigen Arbeitsbedingungen und zum anderen die erwartbar immer höheren Anteile an Ressourcen- und EnergieverbrĂ€uche innerhalb des IT-Sektors.

    Milagros Miceli (Wiezenbaum Institut) schreibt bezogen auf Clickworker*innen:
    „Far from the sophisticated, sentient machines portrayed in media and pop culture, so-called AI systems are fueled by millions of underpaid workers around the world, performing repetitive tasks under precarious labor conditions. And unlike the “AI researchers” paid six-figure salaries in Silicon Valley corporations, these exploited workers are often recruited out of impoverished populations and paid as little as $1.46/hour after tax. Yet despite this, labor exploitation is not central to the discourse surrounding the ethical development and deployment of AI systems.“

    https://www.noemamag.com/the-exploited-labor-behind-artificial-intelligence/

    1. Danke, Christine fĂŒr Deinen Kommentar. Wir haben diese Herausforderung unter 2.3 ganz knapp angesprochen. Ich teile sehr, dass die Frage der Ressourcen ein ganz entscheidender Aspekt gerade auch bei der Reflexion in Schulen ist. Danke fĂŒr den Link!

  3. Avatar von Christoph Merian (merian.speicher@bluewin.ch)
    Christoph Merian (merian.speicher@bluewin.ch)

    Ich bin nicht so pessimistisch, dass durch den Einfluss von kĂŒnstlicher Intelligenz traditionelles Lehren und Lernen praktisch nicht mehr praktikabel sei. Neu- und Weiterentwicklungen von digitalen Medien mĂŒssen in der Neuausrichtung von Lehr- und Lernprozessen effizienzsteigernd genutzt werden. Eigene Versuche mit Chat GPT bestĂ€tigen mir beispielsweise die Erkenntnisse aus meiner jahrelangen Auseinandersetzung mit systemebenenĂŒbergreifenden Schulentwicklung.

    Stellung von proprietÀren KI-Tools

    Die ursprĂŒngliche Non-Profit-Organisation «OpenAI» verfolgt je lĂ€nger, je mehr zusammen mit Investoren profitorientierte Ziele. Ein bedeutender Geldgeber dabei ist Microsoft.

    Dieser Sachverhalt befeuert den Konkurrenzkampf zwischen Microsoft und Google. ZusÀtzlich werden auch deren proprietÀres Verhalten zementiert und die herrschende Vormachtstellung der beiden Konkurrenten verstÀrkt.
    Diesem Sachverhalt könnte durch die Entwicklung entsprechender alternativen und innovativen Open-Source-Anwendungen entgegengewirkt werden. DafĂŒr mĂŒssten – wie im Bericht erwĂ€hnt – zuerst Anreize fĂŒr Finanzierung entsprechender Projekte durch die Öffentlichkeit und Investoren geschaffen werden.

    Begriff «offene und demokratische Gestaltung von Bildung»

    Die Reaktion auf VerĂ€nderungen in den UmweltsphĂ€ren der Bildung (Umwelt, Gesellschaft, Technologie, Wissenschaft, Politik und Wirtschaft) stellen grosse Herausforderungen fĂŒr die Vertreter aller Ebenen eines Bildungssystem dar.
    Die geforderte offene Gestaltung von Bildung muss im Rahmen eines strukturierten Zusammenspiels der betroffenen Stakeholder stattfinden. Dabei muss zwingend eine der Situation ausgehandelte Corporate Governance eingehalten werden. Wichtig dabei ist auch der Einsatz der Arbeitsinstrumente Bildungsmonitoring, Didaktische Konzeption und Schulentwicklung und deren Zusammenspiel.

    Durch die demokratische Gestaltung von Bildung muss die Chancengleichheit fĂŒr alle sichergestellt werden. Deshalb beschrĂ€nkt sich der Begriff «demokratisch» auf die Wahl der politischen Behörden, welche den Willen der Mehrheit einer Bevölkerung eines Bildungssystems durchsetzt.

    Konstruktivistische Lehr- und LernansÀtze

    Im Rahmen meiner Versuche mit Chat GPT habe ich folgende Ziele verfolgt:

    ‱ ÜberprĂŒfung von Erkenntnissen, welche ich im Rahmen meiner jahrelangen Auseinandersetzung mit einer Fragestellung gewonnen habe.
    ‱ Optimierung der Literaturrecherchen bei wissenschaftlichen Arbeiten.

    Ähnlich wie bei der Formulierung eines Suchbegriffs fĂŒr eine Internetrecherche ist die Aufforderungen an Chat GPT vermutlich die wichtigste Gelingensbedingung fĂŒr die Arbeit damit.

    Grundvoraussetzung dafĂŒr bleibt anwenderbezogene Wissenskonstruktion. Zur effizienten Anwendung von KI-Tools und weiteren Anwendungen mĂŒssen digitale Anwenderkompetenzen im Sinne von Pfiffner, Sterel und Hassler (Pfiffner, M. Sterel, S. Hassler, D. (2021) 4K und digitale Kompetenzen. Chancen und Herausforderungen. Bern: Hep) entwickelt und gefördert werden:

    ‱ Kritisches Denken
    ‱ Kommunikation
    ‱ Kooperation
    ‱ KreativitĂ€t und Innovation

    Mit Hilfe dieser Kompetenzen werden die von Tillmann (Tillmann, T. (2023) Lernen mit Chat GPT. Sechs Nutzungsweisen zum Start. URL: https://www.linkedin.com/posts/thomastillmann_ai-lernen-lernenmitki-activity-7047473765185650690-7SSP?utm_source=share&utm_medium=member_ios) gefunden am 6.04.2023) nachfolgenden praktischen Anwendungsmöglichkeiten erleichtert:

    ‱ Übersetzen
    ‱ PrĂŒfen
    ‱ Korrigieren
    ‱ Verbessern
    ‱ Vergleichen
    ‱ Zusammenfassen

    Diese beiden Beispiele zeigen, dass pĂ€dagogische Debatten nicht ĂŒber die Funktionen von «Lehr-KI», sondern ĂŒber die Entwicklung von Kompetenzen im Umgang mit entsprechenden Tools gefĂŒhrt werden sollte.

    BezĂŒglich Datenschutzverstössen und Urheberrechtsverletzungen bei der Arbeit mit Chat GPT erhielt ich am 11.04.2023 vom Tool selbst folgende Informationen.

    «Meine Antworten und ErklĂ€rungen sollten in einer schriftlichen Arbeit wie jede andere Quelle zitiert werden. Da ich ein kĂŒnstlicher Intelligenz-Assistent bin, basieren meine Antworten auf Algorithmen und Daten, die von menschlichen Entwicklern bereitgestellt wurden. Daher ist es wichtig, die Quelle meiner Antworten anzugeben, um eine korrekte und transparente Zitation zu gewĂ€hrleisten.»

    Die von Chat GPT bereitgestellten Informationen mĂŒssten prĂ€zise zitiert werden, um Plagiat zu vermeiden und die Richtigkeit der Arbeit zu gewĂ€hrleisten. Die Quellenangaben mĂŒssten anlog dem Hinweis auf einen Referenten in einem Vortrag direkt im Text selbst festgehalten werden (Beispiel: «ChatGPT, 2023»). Einen Eintrag im Literaturverzeichnis brauche es nicht.

    Interessant in diesem Zusammenhang ist folgender Hinweis von Chat GPT: «Wenn du im Nachhinein auf meine Antworten zurĂŒckgreifen möchtest, empfehle ich dir, sie auf deinem Computer oder einem anderen elektronischen GerĂ€t zu speichern. […] Es ist jedoch wichtig zu beachten, dass meine Antworten nicht als alleinige Informationsquelle fĂŒr deine Arbeit oder Forschung verwendet werden sollten. Du solltest immer andere Quellen und Ressourcen heranziehen, um sicherzustellen, dass deine Informationen korrekt und zuverlĂ€ssig sind.»

    BezĂŒglich Datenschutzverstössen und Urheberrechtsverletzungen habe ich folgende praktische Erfahrungen gemacht, welche die entsprechenden BefĂŒrchtungen zumindest abschwĂ€chen. Aufgrund einer weiteren Abfrage resp. Aufforderung erhielt ich von Chat GPT neben gewĂŒnschten Zitaten auch die dazugehörigen konkreten Quellenangaben.