Deutsches Schulportal: Teilen Sie die Erklärung von ChatGPT?
Felicitas Macgilchrist: Im Groben stimmt es. Fehlerhaft an der Erklärung ist, dass das Programm entwickelt wurde, um natürliche Sprache zu verstehen, denn ChatGPT basiert auf „natural language processing“ (der algorithmischen Verarbeitung natürlicher Sprache). Diese Art von KI kann Sprache aber nicht verstehen, sie hat keinen Sinn für Bedeutung, und das führt zu Problemen.
Was sind denn die größten Probleme?
Macgilchrist: Es gibt inhaltliche und ethische Probleme. Zum Inhaltlichen: ChatGPT gibt keine Quellen an, das heißt, die Texte sind nicht verifizierbar. Und der Chatbot macht auch viele Fehler. Darauf weist OpenAI selbst auf der Startseite hin. ChatGPT wurde basierend auf Millionen von Texten trainiert. Auf Basis statistischer Modelle generiert das Programm, wie Textversatzstücke aufeinanderfolgen können. Diese Verknüpfungen stimmen aber nicht immer.
Hier mal zwei Beispiele: Jemand hat über ChatGPT Buchempfehlungen zu einem Thema gesucht und diese Buchtitel von einer Bibliothekarin suchen lassen. Die hat dann aber festgestellt, dass es diese Bücher gar nicht gibt. Das Problem ist, dass ChatGPT Autorinnen und Autoren sowie Begriffe zusammengefasst hat und daraus dann Buchtitel generiert hat.
Und meine Studierenden haben nach einer Gedichtanalyse von „John Maynard“ gefragt. ChatGPT hat eine Gedichtanalyse geschrieben, das Gedicht aber nicht Theodor Fontane, sondern fälschlicherweise Bertolt Brecht zugeordnet.
Außerdem sehe ich ethische Probleme: Sie betreffen unter anderem die Ausbeutung von Arbeiterinnen und Arbeitern in Kenia bei der Entwicklung von ChatGPT, aber auch die Werte, die in den Texten erscheinen. ChatGPT hat zwar einen starken Filter, damit die Inhalte nicht toxisch, also zum Beispiel extremistisch werden. Das war bei anderen KI-Modellen in der Vergangenheit auf sozialen Kanälen oft ein Problem. Aber das, was ChatGPT ausgibt, beruht auf den Werten und Normen, die den meisten Texten zugrunde liegen. Im Deutschen gendert Chat-GPT zum Beispiel nicht, weil das in den meisten Texten im Netz auch noch nicht geschieht. So wird also ein bestimmtes Verständnis von der Welt reproduziert. Marginalisierte Personen und Bevölkerungsgruppen können auf diese Weise dennoch stärker marginalisiert werden.
Wie wird sich Schule durch Chatbots wie ChatGPT verändern?
Macgilchrist: Es gibt viele, die jetzt sagen: ChatGPT revolutioniert die Schule. Aber das wurde bei jedem neuen Medium gesagt. In den 20er-Jahren waren es die Filme, in den 60er-Jahren war es das Fernsehen. Wenn man das historisch betrachtet, hat sich die Schule tatsächlich aber nicht sehr verändert. Sicher ermöglicht ChatGPT neue Aufgabenformate, aber ansonsten wird die Technologie innerhalb des Rahmens der Schule, innerhalb der Curricula und der Fächer verwendet werden.
Können Lehrkräfte erkennen, ob ein Aufsatz von der Schülerin bzw. dem Schüler oder von ChatGPT geschrieben wurde
Macgilchrist: Das hängt von der Art der Aufgabe ab. Wenn eine Lehrkraft zum Beispiel die Aufgabe gibt: „Schreiben Sie einen Essay zum Thema Vor- und Nachteile von KI in der Schule“, dann wird man nur schwer erkennen können, ob eine Schülerin, ein Schüler oder die KI den Text geschrieben hat. ChatGPT schreibt klassische, gute Texte, die aber ein bisschen langweilig sind.
Es gibt zwar auch KI-Erkennungssoftware, aber die funktioniert nicht gut. Ich kenne eine Person, die einen Text, den sie selbst geschrieben hat, mit der Erkennungssoftware geprüft hat. Das Ergebnis lautete: Mit 96 Prozent Wahrscheinlichkeit ist der Text von der KI geschrieben. Außerdem scheint es eine Tendenz zu geben, dass Texte von Personen mit ADHS oder Autismus eher als KI-geschrieben eingestuft werden. Wenn man also generell Texte über eine KI-Erkennungssoftware laufen ließe, würden diese Menschen noch stärker benachteiligt werden.
Worauf kommt es an, um Aufgabenformate in der Schule zu entwickeln, die ChatGPT und KI einbeziehen und für das Lernen sinnvoll nutzen?
Macgilchrist: In sozialen Netzwerken diskutieren Lehrkräfte zurzeit viele interessante Formate, sowohl für den Einsatz als auch für die kritische Reflexion. Man kann zum Beispiel den Chatbot bitten, eine Gedichtanalyse zu machen, und dann schaut man sich das gemeinsam an und beantwortet diese Fragen: Wo gibt es Fehler? Wo müsste man den Text ergänzen? Wo muss man Quellen hinzufügen? Auf dieser Basis machen die Schülerinnen und Schüler dann selbst eine Gedichtanalyse und zugleich eine KI-Kritik.
Aber Schülerinnen und Schüler können natürlich auf vielen Wegen an ChatGPT kommen und das Programm zum Beispiel für Hausaufgaben nutzen. Übernimmt die KI in Zukunft die Hausaufgaben?
Macgilchrist: Die Diskussion, ob Hausaufgaben sinnvoll sind oder nicht, stellt sich nicht erst, seit es ChatGPT gibt, sondern zum Beispiel auch, weil einige Eltern die Hausaufgaben für ihre Kinder übernehmen. Wenn Lehrkräfte eine Aufgabe stellen, die KI machen kann, die zum Beispiel eher produktbezogen und weniger prozessbezogen ist, dann wird ChatGPT sicher von einigen Schülerinnen und Schülern genutzt werden.
Allerdings gab es auch schon vorher KI-basierte Anwendungen, die Texte umschreiben konnten. Eine klassische Aufgabe wie: „Fassen Sie diesen Text in eigenen Worten zusammen“, kann die KI schon seit Jahren lösen. Dafür braucht man nicht ChatGPT. Nur gab es jetzt eben einen riesigen PR-Hype, der den Chatbot viel bekannter gemacht hat als frühere Anwendungen.
Ab welcher Klasse ist ein lernförderlicher Umgang mit ChatGPT in der Schule denkbar?
Macgilchrist: Da gibt es zwei Antworten: gar nicht und von Anfang an. Gar nicht, weil ChatGPT erst ab 18 Jahren zugelassen ist. Und sofort, weil KI in der Gesellschaft ist und es daher wichtig erscheint, sich damit auseinanderzusetzen. Wenn die Aufgaben altersentsprechend aufbereitet sind, kann man schon in der Grundschule über solche Chatbots kritisch reflektieren, denn schon Kinder verstehen die Konstruktion von Bedeutung und was es heißt, wenn jemand eine Geschichte erzählt, die nicht stimmt.
In New York hat das Bildungsministerium den Einsatz von ChatGPT an öffentlichen Schulen verboten. Ist das aus Ihrer Sicht sinnvoll, und funktioniert so etwas überhaupt?
Macgilchrist: Ich glaube nicht, dass ein Verbot funktioniert. Aber das Bildungsministerium hat auch nicht gesagt, dass es die Nutzung für immer verbieten will, sondern dass es erst einmal überlegen will, wie ein sinnvoller Umgang aussehen kann. Dafür habe ich große Sympathie. Es gibt den Drang, auf jede neue Technologie sofort zu reagieren. Aber Schule muss vor allem agieren, nicht nur reagieren. Es ist wichtig, dass Schülerinnen und Schüler, Lehrkräfte, Schulleitungen und Schulverwaltung überlegen, wofür sie ChatGPT überhaupt nutzen wollen, wo die Vor- und die Nachteile für ihren spezifischen Kontext liegen, wer davon profitieren kann und wer nicht. Dieser intensive Austausch ist wichtig. Und der braucht Zeit.
Halten Sie ein Verbot von ChatGPT an der Schule für sinnvoll?
Bis zum 8. Februar 2023 haben wir das unsere Leserinnen und Leser gefragt. Hier sehen Sie das Umfrageergebnis:
315 Personen haben an der Abstimmung teilgenommen.
Neues zu ChatGPT in der Schule
Kein Verbot von ChatGPT an Schulen in NRW und Hessen
Die Arbeit mit Text-Robotern soll an Nordrhein-WestfalensSchulen nicht kategorisch verboten werden. Das geht aus einem Leitfaden zum Umgang mit Künstlicher Intelligenz (KI) hervor, den das nordrhein-westfälische Schulministerium Ende Februar veröffentlicht hat.
Schülerinnen und Schüler, die zur Erledigung ihrer Aufgaben Künstliche Intelligenz nutzen, müssen dies aber angeben. Wenn das nicht erfolgt oder wahrheitswidrig verneint wird, wird dies als Verwendung unzulässiger Hilfsmittel und als Täuschungsversuch gewertet.
Solche Fälle hätten dann, den einschlägigen Prüfungsordnungen und Vorschriften entsprechend, die gleichen Konsequenzen wie alle anderen Täuschungen oder Unregelmäßigkeiten, erläutert der Leitfaden. Auch wenn es sich nicht um Plagiate im eigentlichen Sinne handele, gehe es hier um eine Täuschung über die Autorenschaft. Aufgaben sollten bereits präventiv möglichst so gestellt werden, dass sie nicht ausschließlich mit Hilfe von KI erledigt werden könnten.
Auch Hessen will an den Schulen KI-Anwendungen nutzen. Der Einsatz von KI-Anwendungen im Unterricht unter anderem durch ChatGPT kann Schülerinnen und Schüler individuell in ihrem Lernprozess unterstützen
, heißt es seitens des Hessischen Kultusministeriums.
KI-basierte Anwendungen seien nicht nur eine Unterstützung für Schülerinnen und Schüler, sondern auch für die Lehrkräfte eine Entlastung
. Die Anwendungen seien als Weiterentwicklung des digital gestützten Unterrichtens gedacht. Hessen entwickelt daher gemeinsam im Rahmen der länderübergreifenden Vorhaben mit weiteren Ländern ein Intelligentes Tutorielles System zum Einsatz im Unterricht
, teilte das Kultusministerium mit. Das Projekt stecke jedoch noch in der Anfangsphase. dpa
Erkennungssoftware für ChatGPT
Das Software-Unternehmen OpenAI hat nicht nur ChatGPT entwickelt, sondern hat Ende Januar 2023 auch eine Erkennungssoftware auf den Markt gebracht, den Classifier
. Dieses Sprachmodell soll erkennen, ob ein Text durch künstliche Intelligenz oder von einem Menschen geschrieben wurde.
OpenAI räumte allerdings in seinem Blog selbst ein, dass die Software noch nicht zuverlässig arbeitet. In Tests habe Classifier
in nur 26 Prozent der Fälle Texte erkannt, die von einer KI-Software geschrieben wurden. Allerdings ordnete das Programm fälschlicherweise 9 Prozent der Texte der KI zu, obwohl ein Mensch sie geschrieben hat.
Mittlerweile arbeiten auch schon andere Unternehmen daran, eine verlässliche Erkennungssoftware zu entwickeln.
Anpassung der Lehrerausbildung
Wegen der Fähigkeiten von Sprachsoftware mit künstlicher Intelligenz sieht Bundesbildungsministerin Bettina Stark-Watzinger (FDP) eine Anpassung der Lehrerausbildung als erforderlich. Es ist unbenommen, dass die neuen KI-Modelle wie ChatGPT natürlich das Lernen und das Abfragen von Wissen verändern werden
, sagte die sie Ende Januar im ARD-Morgenmagazin. Um den Umgang mit modernen Technologien zu lernen und weiterzugeben, müssten Lehrerinnen und Lehrern daher verstärkt digitale Kompetenzen an die Hand gegeben werden.
Damit Schülerinnen und Schüler lernen, eigenständig ein Gedicht oder einen Aufsatz zu verfassen, sei es besonders wichtig, ihnen nicht nur den Umgang, sondern vor allem auch die Anwendung von modernen Technologien beizubringen, so Stark-Watzinger.
Leitlinien zum Umgang mit ChatGPT gefordert
Die Linke fordert von der Bundesregierung Unterstützung der Schulen beim Thema künstliche Intelligenz (KI). Die Schulen dürfen mit dieser Entwicklung nicht allein gelassen werden. Die Bundesministerien müssen hier vorangehen und den Bundesländern und der Kultusministerkonferenz schnellstmöglich Unterstützung bieten
, sagte die bildungspolitische Sprecherin der Linksfraktion im Bundestag, Nicole Gohlke, Ende Januar der Deutschen Presse-Agentur. Sie forderte Handlungsleitfäden und eine Verständigung darüber, wie KI-Systeme in Schulen gewinnbringend
eingesetzt werden könnten und wo Grenzen gesetzt werden sollen.
Die Linke hatte in einer Anfrage an die Bundesregierung wissen wollen, ob es bereits eine Verständigungen der Bundesregierung
über das Thema gebe. Das Bundesbildungsministerium verneinte das in seiner Antwort und verwies darauf, dass Regelungen dazu in erster Linie Aufgabe der Länder sind
. Ein Sprecher der Kultusministerkonferenz der Länder (KMK) hatte kürzlich gesagt, dass sich eine Kommission der KMK mit dem Thema beschäftigen werde. dpa
Neue Prüfungsformate entwickeln
Durch Chatbots wie ChatGPT werde sich die Aufgabenkultur in Zukunft noch stärker ausdifferenzieren, sagte Bayerns Kultusminister Michael Piazolo (CSU) Anfang Februar der dpa.Beispielsweise werden noch mehr Aufgabenformate entwickelt werden, die die eigene, kreative Leistung der Schülerinnen und Schüler und deren reflektierten Umgang mit Inhalten in den Mittelpunkt stellen und den Lern- bzw. Lösungsprozess transparent machen
, betonte er. Zur Kontrolle seien auch begleitende mündliche Gespräche und Rechenschaftsberichte zu abgegebenen Schülerarbeiten vorstellbar.
So denkt das #Twitterlehrerzimmer
Ob ChatGPT das Potenzial hat, den Schulunterricht umfassend zu verändern, und wie die KI eingesetzt werden kann, darüber wird auch im #Twitterlehrerzimmer diskutiert:
Die Angst vor Kontrollverlust führt zu nie dagewesenen Anmeldezahlen bei KI-Fortbildungen. Wäre das Interesse an inhaltlich-struktureller Schulentwicklung und/oder dem Wohlergehen von Kindern und Jugendlichen nur annähernd so gefragt… Das stimmt mich nachdenklich. #twlz
— Valentin Helling (@valentinhelling) January 19, 2023
#ChatGPT im Geschichtsunterricht als guter Einstieg beim Verfassen kreativer und spannender Texte als Alternative zu den oft sehr langweiligen Verfassertexten im Schulbuch. Ein paar Ideen.#twlz pic.twitter.com/EulE0ieoEu
— Edukathi (@edukathi) January 27, 2023
#chatgpt und jetzt? Wie wird #Schule jetzt auf den Zugang zu Wissen schauen? Meine Befürchtung: die Antwort lautet wie immer Kontrolle und Verbote. #twlz https://t.co/ORlyY9qscm
— Caroline Münch (@carolinemuench) January 26, 2023
Mich erinnert #chatGPT an Prüfungssituationen, wo Schüler*innen eine Frage nicht beachten, sondern einfach, getriggert durch Schlagworte, alles abspulen, was sie dazu auswendiggelernt haben. #prüfungskultur
(Video) ChatGPT: Der meistunterschätzte Skill, den du nicht ignorieren solltest (2023) 🤖— Gesine Hopstein (@GesineHopstein) January 4, 2023
Eine Vokabelliste anfertigen lassen, eine Fabel schreiben lassen, eine Kurzzusammenfassung für die Recherche, die Strukturierung eines Themas…
Bei all diesen Dingen konnte #ChatGPT sehr gut eingesetzt werden. Wo hat es bei euch gut funktioniert? #twlz
— Nᴇᴛᴢʟᴇʜʀᴇʀ (@blume_bob) January 5, 2023
Ich bin sehr zögerlich #ChatGPT in der #Schule zu thematisieren, weil disruptive Kräfte in der #schule nicht wirken. Sie führen im schlimmsten Fall zur Verhärtung von Zuständen die wir dabei sind zu überwinden. #twlz
— Frank Zinecker (@FrankZinecker) January 1, 2023
Workshop zu ChatGPT auf dem Campus des Deutschen Schulportals
Am 7. Februar 2023 hat Tim Kantereit, Lehrer und Ausbilder in der Lehrerbildung, auf dem Campus des Deutschen Schulportals den Workshop ChatGPT – Ein Weg in die Zukunft der Bildung?!
geleitetet. Die Veranstaltung wurde aufgezeichnet:
Weiteres Infos zum Thema
- Der Deutsche Bildungsserver bietet in einem Dossier einen umfangreichen Überblick über verschiedene Modelle und Einsatzmöglichkeiten von Künstlicher Intelligenz in der Schule. Außerdem gibt es hier viele Unterrichtsmaterialien zu KI.
- Einen guten Überblick zu ChatGPT und Schule hat die Pädagogische Hochschule Schwyz zusammengestellt. Hier gibt es eine umfangreiche Begriffserklärung und auch Beispiele für Aufgaben, die den Chatbot nutzen.
- Die englischsprachige Seite
Ditch That Textbook
beschäftigt sich damit, wie neue Technologien Unterricht und Schule verändern. Dabei beschreibt der ehemalige Lehrer und heutige Influencer und Blogger Matt Miller auch ausführlich, wie ChatGPT im Unterricht und für das Lernen genutzt werden kann, wie sinnvoll Verbote sind und was ein Chatbot überhaupt ist.