Orientierungsrahmen Künstliche Intelligenz und Schule

© putilov_denis stock.adobe.com

KI-Technologien haben bereits in vielen alltäglichen Lebensbereichen Einzug gehalten. Ob in Form von Empfehlungsalgorithmen beim Streamen oder Online-Shopping, beim Verwenden der Gesichtserkennung zum Entsperren des Smartphones oder bei der Verwendung eines Smartspeakers.
Wenn Schule ihrer Verantwortung gegenüber jungen Menschen gerecht werden will, muss sie diese gut auf ihre Zukunft vorbereiten: zum einen auf die weitere Ausbildung, zum anderen auf die Arbeitswelt, wie sie sich jetzt und in Zukunft darstellt.

Schülerinnen und Schüler mit den notwendigen Kompetenzen auszustatten, sie im Umgang mit den neuen Technologien zu stärken und ihnen die Fähigkeiten zu vermitteln, die sie brauchen, um sich an zukünftige Entwicklungen anzupassen – das sind Aufgaben einer zeitgemäßen Schule. Die Welt, in die wir unsere Schülerinnen und Schüler entlassen, wird sicherlich stärker von Künstlicher Intelligenz geprägt sein als die heutige.

Deshalb ist es richtig, die neuen KI-Technologien nicht mit einem pauschalen Verbotsszenario zu begleiten, sondern einen offenen und verantwortungsvollen, aktiven und kritischen Umgang mit ihnen zu fördern. Den wichtigen Beitrag, den Schule hier leisten kann, gilt es nun zu gestalten.

Um Schulen zu ermutigen, sich auf den Weg zu machen, soll der folgende Orientierungsrahmen eine erste - vorläufige - Einschätzung geben. Die Entwicklung im Bereich der Künstlichen Intelligenz ist sehr dynamisch; deswegen werden die Hinweise zum Umgang mit KI-Technologien auf dieser Homepage fortlaufend aktualisiert und mit der weiteren Entwicklung der Technologien angepasst und differenziert ausgestaltet.

In den Bereichen

sollen Lehrkräfte und Erziehungsberechtigte Informationen und Hilfestellungen erhalten, um die Kinder und Jugendlichen bestmöglich unterstützen zu können.

Allgemeine Informationen zur Künstlichen Intelligenz

Was ist Künstliche Intelligenz?

Der Begriff Künstliche Intelligenz, KI,  (engl. artificial intelligence,  AI) wurde bereits im Jahr 1956 geprägt. Wenn auch keine einheitliche, exakte Definition existiert, so repräsentiert die knappe Beschreibung, die auf der Informationsseite des Europäischen Parlaments zu lesen ist, doch ein allgemeines Verständnis dessen, was KI ist:

"Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren."  (https://www.europarl.europa.eu/news/de/headlines/society/20200827STO85804/was-ist-kunstliche-intelligenz-und-wie-wird-sie-genutzt)

Der Turing-Test

Alan Turing beschäftigte sich bereits 1950 mit der Frage, wie man feststellen kann, ob die Fähigkeiten einer KI denen eines Menschen gleichwertig sind und erfand dazu den später nach ihm benannten Turing-Test. Im Kern geht es bei diesem Test darum, dass ein Mensch nach einem intensiven (schriftlichen) Gespräch nicht sagen kann, ob sein Gesprächspartner ein Mensch oder eine Maschine war.

KI-Verfahren

Man unterscheidet zwei grundlegende Verfahren der KI: wissensbasierte Systeme (insbesondere Expertensysteme) und maschinelles Lernen. Während wissensbasierte Systeme Aufgaben lösen, indem sie mit Hilfe einer vorgegebenen Wissensbasis logische Schlussfolgerungen ziehen können, ermöglicht maschinelles Lernen einem KI-System, aus Erfahrungen zu lernen, ohne explizit programmiert zu werden.

Starke und schwache KI

Alle aktuellen Verfahren der KI gehören in den Bereich der „schwachen KI“; damit werden KI-Systeme bezeichnet, die in begrenzten Anwendungsbereichen (z.B. Gesichtserkennung) aus vorgegebenen Daten selbstständig lernen oder aus eingegebenen Regeln durch Anwendung von Logik neue Daten oder Modelle erzeugen können. Innerhalb dieser begrenzten Bereiche erzielt „schwache KI“ dennoch beachtliche und durchaus intelligent erscheinende Leistungen.

Unter „starker KI“ versteht man dagegen eine KI, die der Flexibilität und Emotionalität menschlicher Intelligenz in nichts nachsteht. Eine „starke KI“ hat also auch eine Art Bewusstsein, sie kann aus sich heraus Emotionen empfinden und hat einen eigenen, nicht vorprogrammierten Willen. Von einer starken KI sind die aktuellen Entwicklungen noch weit entfernt, sie ist aber ein beliebtes Motiv der Science Fiction.

Weitere Informationen finden Sie auch im mebis-Magazin.

Welche Rolle spielt KI an Schulen?

KI ist Zukunftsthema und Alltagstechnologie zugleich. Aufgrund der großen Fortschritte bei KI-basierten Anwendungen, die den Schulbereich unmittelbar betreffen, wird KI als Werkzeug zunehmend an Bedeutung gewinnen. Schülerinnen und Schüler nutzen KI-Werkzeuge bereits heute z.B. als Rechercheunterstützung, Schreibassistenz (Rechtschreibprüfung, Sprachübersetzer, neu: KI-Textgeneratoren wie ChatGPT) oder in adaptiven Lern-Apps, die beim Lernen und Üben Feedback geben, individuell angepasste Aufgaben und Lösungswege anbieten etc. Solche Lern-Apps stellen der Lehrkraft ggf. auch diagnostische Informationen über den Lernstand des einzelnen Lernenden zur Verfügung.

KI als Lerngegenstand ist unter besonderer Berücksichtigung der technologischen Perspektive (Wie funktioniert KI?) vor allem ein Thema für das Fach Informatik bzw. Informationstechnologie. Aus der gesellschaftlich-kulturellen Perspektive (Wie wirkt KI?) und der anwendungsorientierten Perspektive (Wie setze ich KI effektiv und effizient ein?) sind darüber hinaus zahlreiche Aspekte der KI von fächerübergreifendem Interesse, hier sind beispielsweise ethische und rechtliche Fragestellungen im Zusammenhang mit der Filterung von Informationen in allen Lebensbereichen zu nennen.

Die Verfügbarkeit von KI-Werkzeugen wirft auch Fragen hinsichtlich der Auswirkungen auf Aufgabenformate, Prüfungsformate und Formen der Leistungsfeststellung auf.  Siehe hierzu „Künstliche Intelligenz und Bewertung von Lernprozessen bzw. Arbeitsergebnissen“.

Was sind KI-Textgeneratoren und wie funktionieren sie?

KI-Textgeneratoren wie ChatGPT sind für die Kommunikation mit Menschen konzipiert und basieren in der Regel auf einer Art der Natural Language Processing (NLP) - Technologie. Das Grundprinzip ist die Textvorhersage. Ein maschinelles Lernmodell wird so trainiert, dass es aus einer Anfangsliste von Wörtern das wahrscheinlichste nächste Wort vorhersagt. Als Trainingsdaten können bspw. große Textmengen aus dem Internet dienen.

Die Grundlage von Textgeneratoren ist ein „künstliches neuronales Netz“.

Alle Ausgaben KI-basierter Textgeneratoren sind wahrscheinlichkeitsbasiert. Es wählt das nächste Wort nicht mit hundertprozentiger Sicherheit aus, sondern es wird eine Liste möglicher Wörter mit unterschiedlichen Wahrscheinlichkeiten erzeugt, aus denen das nächste Wort zufällig ausgewählt wird. Dies erklärt auch, warum es nicht möglich ist, denselben Text mit derselben Eingabeaufforderung zu reproduzieren.

Was ist ein künstliches neuronales Netz?

Der Begriff "künstliches neuronales Netz" leitet sich vom (natürlichen) neuronalen Netz ab, das Vorbild bei dessen Entwicklung war. Ähnlich wie ein Gehirn besteht ein künstliches neuronales Netz aus (künstlichen) Neuronen, die miteinander vernetzt sind, allerdings geht es bei einem künstlichen neuronalen Netz nicht um eine Nachbildung des Gehirns, es stellt vielmehr ein (mathematisches) Modell zur Informationsverarbeitung und zum maschinellen Lernen dar. Ein künstliches neuronales Netz lernt, indem es anhand von Trainingsdaten, deren korrekter „Output“ bekannt ist, die Datenweiterleitung zwischen den Neuronen entsprechend gewichtet. Besitzt das künstliche neuronale Netz sehr viele Neuronen, spricht man von "Deep Learning".

Was können KI-Textgeneratoren leisten?

KI-Textgeneratoren sind in der Lage, schnell, effizient und auf der Basis großer Datenmengen Texte zu erzeugen, die – eine verantwortungsvolle und reflektierte Perspektive vorausgesetzt – vielfältig genutzt werden können. Zudem unterstützen sie die Erstellung von Programmcodes oder Inhalten von Webseiten bis hin zur Konzeption von Unterrichtsstunden.

Wo liegen die Grenzen der KI-Textgeneratoren?

Bei KI-Textgeneratoren kann es zu Fehlinformationen kommen. Grundsätzlich basieren die Ergebnisse auf den Trainingsdaten und den verwendeten Algorithmen des maschinellen Lernens. Grundsätzlich „würfeln“ KI-Textgeneratoren auch mit Wörtern und haben daher kein reflektiertes Wissen wie menschliches Denken. Solche Systeme geben selbst wenn sie auf keine passenden Daten für eine Antwort zurückgreifen können, eine Antwort, die auf den ersten Blick plausibel erscheint. Sie erfinden daher nachweislich auch Informationen. Daher können neutrale und ausgewogene Informationen nicht per se vorausgesetzt werden.

Wenn man bspw. "Der Bundeskanzler von Deutschland 2023 ist" als Text vorliegen hat, wird ein mit aktuellen Daten trainierter Textgenerator mit sehr hoher Wahrscheinlichkeit "Olaf" als nächstes Wort einfügen. ChatGPT-3 wurde jedoch beispielsweise bisher (Stand 23.03.2023) nur mit Daten bis einschließlich 2021 trainiert, so dass er „Angela“ angeben würde (mitsamt einem Hinweis auf seinen Datensatz und daraus resultierende mögliche Mängel in der Aktualität der Antwort).

Die Sprachmodelle von KI-Textgeneratoren werden mit sehr großen Textmengen trainiert. Auch wenn die Trainingsdaten in gewissem Umfang von Menschen vorgefiltert, die Trainingsergebnisse validiert und das resultierende Sprachmodell durch menschliches Feedback verfeinert werden können, kann das Sprachmodell Vorurteile und Stereotypen enthalten (siehe auch „Bias“), die in den Trainingsdaten enthalten sind. Es kann daher nicht ausgeschlossen werden, dass ein Sprachmodell voreingenommene und unverhältnismäßige Passagen in seine Antwort aufnimmt.

KI-Textgeneratoren erwecken selbst bei Erwachsenen leicht den Eindruck menschenähnlicher Intelligenz, obwohl es sich in vielen Fällen nur um Wortwahrscheinlichkeiten handelt. Der technische Hintergrund ist für den ungeschulten Nutzer jedoch nicht transparent.

Vorlese-Funktion

Das bayerische Staatsministerium für Unterricht und Kultus stellt auf seiner freizugänglichen Website eine Vorlesefunktion zur Verfügung. Beim Aktivieren dieser Funktion werden Inhalte und technische Cookies von dem Dienstanbieter Readspeaker geladen und dadurch Ihre IP-Adresse an den Dienstanbieter übertragen.

Wenn Sie die Vorlesefunktion jetzt aktivieren möchten, klicken Sie auf „Vorlesefunktion aktivieren“.

Ihre Zustimmung zur Datenübertragung können Sie jederzeit während Ihrer Browser-Session widerrufen. Mehr Informationen und eine Möglichkeit zum Widerruf Ihrer Zustimmung zur Datenübertragung finden Sie in unserer Datenschutzerklärung im Abschnitt „Vorlesefunktion“.

Sofern Sie uns Ihre Einwilligung erteilen, verwenden wir Cookies zur Nutzung unseres Webanalyse-Tools Matomo Analytics. Durch einen Klick auf den Button „Zustimmen“ erteilen Sie uns Ihre Einwilligung dahingehend, dass wir zu Analysezwecken Cookies (kleine Textdateien mit einer Gültigkeitsdauer von maximal zwei Jahren) setzen und die sich ergebenden Daten verarbeiten dürfen. Sie können Ihre Einwilligung jederzeit mit Wirkung für die Zukunft in unserer Datenschutzerklärung widerrufen. Dort finden Sie auch weitere Informationen.