Wie funktionieren Sprachmodelle, warum irren sie sich und wie nutzt du KI so, dass du mehr lernst statt weniger? Diese Seite verbindet Erklärungen, Experimente und Strategien für die Oberstufe.
Verstehen
Grundlagen und Sprachmodelle
„Wahrscheinlich ist nicht wahr.“
Von der Begriffsordnung bis zum Temperatur-Labor: Wie erzeugt ein Modell Text?
Grundlagen lesenPrüfen
Grenzen, Verzerrungen, Quellen
„Was belegt das?“
Bias-Labor, Quellen-Detektiv und die wichtigsten Risiken im Überblick.
Risiken erkundenAnwenden
Strategien für den Alltag
„Sparringspartner, nicht Autor.“
Prüfmethoden, Prompt-Werkstatt und Kennzeichnung der KI-Nutzung.
Strategien nutzenSo arbeitest du: Die Abschnitte bauen aufeinander auf, du kannst aber auch gezielt springen. Nichts wird gespeichert. Alle Beispiele für KI-Antworten in den Übungen sind erfunden. Der Stand der Technik ändert sich schnell: Prüfe Aussagen zu konkreten Produkten immer neu.
Ihr nutzt an unserer Schule ausschließlich KI-Anwendungen, die die Schule zugelassen hat. Das gilt für Unterricht, Hausaufgaben, Präsentationen, Facharbeiten und alle Leistungsnachweise.
Zugelassene Anwendungen wurden geprüft, unter anderem auf Datenschutz (DSGVO), Vertragslage, Jugendschutz und Altersgrenzen. Außerdem sorgt eine gemeinsame Regelung dafür, dass für alle dieselben Bedingungen gelten.
Welche Anwendungen zugelassen sind, steht in der Nutzungsordnung der Schule oder wird von den Lehrkräften bekannt gegeben. Diese Seite nennt bewusst keine Produkte.
Für Schulisches nutzt du nur Anwendungen, die die Schule freigegeben hat, mit dem dafür vorgesehenen Zugang.
Namen, Noten, Fotos, Gesundheits- oder andere private Daten von dir und von anderen gehören nicht in Dienste, die nicht ausdrücklich dafür zugelassen sind.
Ob und wie KI bei einer Aufgabe erlaubt ist, legt die Lehrkraft fest. Im Zweifel: vorher fragen, nicht hinterher rechtfertigen.
Erlaubte KI-Nutzung machst du transparent: Werkzeug, Zweck und deine eigene Prüfung. Dafür gibt es unten eine Vorlage.
Was du abgibst, verantwortest du, auch wenn ein Fehler von der KI stammt. Es gelten die Regeln der Schule und des Landes.
Nicht erlaubte oder nicht gekennzeichnete Nutzung kann als Täuschungsversuch gewertet werden. Bei Unklarheit hilft frühes Nachfragen.
Datenschutz (DSGVO): Die Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage und klare Verträge mit den Anbietern. Für Minderjährige gelten besondere Regeln. Deshalb entscheidet die Schule, welche Dienste genutzt werden.
Urheberrecht: Texte, Bilder und Musik anderer sind geschützt. Ob und wie KI-Modelle mit geschützten Werken trainiert werden dürfen, ist Gegenstand laufender Rechtsstreitigkeiten und teils ungeklärt. Für dich gilt: Fremde Inhalte kennzeichnen und nicht unbedacht in KI-Dienste hochladen.
EU-KI-Verordnung: Die Verordnung ist seit 2024 in Kraft und wird schrittweise wirksam. Sie ordnet KI-Anwendungen nach Risikostufen und stellt Anforderungen an Anbieter und Betreiber. Im Bildungsbereich gelten zum Beispiel Systeme, die Lernergebnisse bewerten oder über den Zugang zu Bildung mitentscheiden, als Hochrisiko-Anwendungen. Auch das ist ein Grund, warum Schulen KI nicht einfach „freigeben“.
„Künstliche Intelligenz“ ist kein einheitlich definierter Begriff, sondern ein Sammelbegriff für Systeme, die Aufgaben lösen, für die wir menschliche Intelligenz für nötig halten: wahrnehmen, schlussfolgern, Sprache verarbeiten, planen. Im Alltag ist meist maschinelles Lernen gemeint. Die Begriffe stehen in einem Verhältnis wie ineinandergesteckte Schachteln. Klicke auf die Schachteln.
| Lernart | Idee | Beispiel |
|---|---|---|
| Überwachtes Lernen | Trainingsdaten enthalten die richtige Antwort („Label“). Das Modell lernt, sie vorherzusagen. | Spam-Filter, Bilderkennung mit beschrifteten Fotos |
| Unüberwachtes Lernen | Keine Vorgaben. Das Modell sucht selbst Struktur in den Daten, zum Beispiel Gruppen. | Kundengruppen finden, Auffälligkeiten erkennen |
| Bestärkendes Lernen | Ein Agent probiert Handlungen aus und bekommt Belohnungen oder Strafen. | Spiele wie Schach oder Go, Robotersteuerung |
Enge und allgemeine KI: Alle heute genutzten Systeme sind „enge“ KI: Sie sind für bestimmte Aufgabenfamilien trainiert, auch wenn Sprachmodelle sehr vielseitig wirken. Eine „allgemeine“ KI mit menschenähnlicher Breite ist ein Forschungsziel. Ob und wann sie möglich ist, ist unter Fachleuten stark umstritten.
Ordne jedes Beispiel der passenden Kategorie zu.
Chatbots basieren auf großen Sprachmodellen (Large Language Models, LLMs). Ihr Kern ist eine erstaunlich einfache Aufgabe: das nächste Textstück vorhersagen. Klicke dich durch die Stationen vom Rohtext bis zur Antwort.
Moderne Sprachmodelle nutzen meist die Transformer-Architektur (2017). Ihr Kernmechanismus ist die Attention: Für jedes Token berechnet das Modell, welche früheren Tokens im Kontext für die Vorhersage wichtig sind, und gewichtet sie entsprechend. So kann sich ein „es“ am Satzende auf das richtige Nomen weiter vorne beziehen. Diese Gewichte und Millionen bis Milliarden weiterer Parameter werden im Training durch schrittweise Anpassung (Gradientenverfahren) so eingestellt, dass die Vorhersagefehler sinken.
Ein Sprachmodell berechnet für das nächste Token eine Wahrscheinlichkeitsverteilung. Danach wird ein Token gezogen. Die Temperatur steuert, wie stark die wahrscheinlichsten Tokens bevorzugt werden. Die Zahlen hier sind stark vereinfacht und erfunden.
…
1. Wähle „Die Hauptstadt von Frankreich ist“ und ziehe bei Temperatur 0,1 und bei 2,0 je 50 Mal. Was fällt auf?
2. Wähle „Es war einmal ein“. Bei welcher Temperatur klingen die Ergebnisse kreativer? Bei welcher verlässlicher?
3. Warum ist auch bei sehr niedriger Temperatur die Antwort nicht automatisch wahr?
Auswertung: Niedrige Temperatur macht die Ausgabe fast deterministisch. Sie wählt fast immer das wahrscheinlichste Token. Hohe Temperatur macht die Verteilung flacher, seltene Tokens kommen häufiger vor: mehr Vielfalt, aber auch mehr Unsinn und Fehler. Auch das wahrscheinlichste Token ist nur das, was in den Trainingsdaten und im Kontext am plausibelsten wirkt. Es ist nicht geprüft. Deshalb gilt bei Fakten: Temperatur senken hilft ein wenig gegen Zufallsfehler, ersetzt aber nie die Überprüfung.
Das Training belohnt Vorhersagen, die zu echten Texten passen, nicht überprüfte Wahrheit. Ein glatt klingender, falscher Satz kann sehr wahrscheinlich sein.
„Wissen“ steckt verdichtet in den Gewichten, nicht in einer Datenbank mit Belegen. Seltene Fakten sind schwach repräsentiert, und Details werden gemischt.
Modelle werden dafür optimiert, hilfreich zu antworten. „Ich weiß es nicht“ wird seltener belohnt als eine plausible Antwort. Daran wird geforscht, gelöst ist es nicht.
Jedes neue Token baut auf den vorherigen auf. Ein früher Fehler bleibt im Kontext und wird oft fortgeführt und gerechtfertigt.
Wichtig: Auch die Nachfrage „Wie sicher bist du?“ ist nur begrenzt verlässlich. Die Selbsteinschätzung ist wieder ein erzeugter Text. Ebenso können erfundene Quellen sehr überzeugend formatiert sein, mit Autorennamen, Zeitschrift, Seitenzahlen und Adresse.
Position A: Eine bekannte Kritik (Bender et al., 2021) nennt große Sprachmodelle „stochastische Papageien“: Sie kombinieren Textmuster wahrscheinlichkeitsbasiert, ohne Bedeutung im menschlichen Sinn zu verstehen.
Position B: Andere verweisen darauf, dass Modelle im Training interne Repräsentationen bilden, mit denen sie Aufgaben lösen, die über reines Nachplappern hinausgehen, etwa Programmieren oder Rätsel.
Stand: Die Fachdiskussion ist offen, auch weil Begriffe wie „Verstehen“ unterschiedlich verwendet werden. Für deinen Umgang mit KI ist die Praxisfolge dieselbe: Die Ausgabe kann nützlich sein, ist aber kein geprüftes Wissen. Frage dich: Was würde für dich als „Verstehen“ zählen? Woran würdest du es erkennen?
Wer KI kritisch nutzt, kennt ihre typischen Schwächen. Wähle ein Thema.
Ein Unternehmen trainiert ein Modell mit den Bewerbungen der letzten Jahre (120 erfundene Datensätze). Früher wurden Männer bei gleicher Qualifikation häufiger eingestellt. Das Modell soll nun neue Bewerbungen bewerten. Es benutzt nur die Merkmale, die du auswählst. Vergleiche zwei Bewerbende mit gleicher Qualifikation.
| Gruppe | Bewerbungen | eingestellt | Quote |
|---|
1. Nutze nur „Qualifikation“. Wie bewertet das Modell Bewerber A (Fußball, männlich) und Bewerberin B (Theater, weiblich)?
2. Füge „Hobby“ hinzu, aber nicht „Geschlecht“. Was passiert? Erkläre.
3. Füge auch „Geschlecht“ hinzu. Dann gleiche die Daten aus. Was verändert sich?
Auswertung: Mit nur der Qualifikation sind beide gleich. Mit „Hobby“ bewertet das Modell Bewerberin B schlechter, obwohl das Geschlecht gar nicht benutzt wird: „Theater“ ist in den Daten mit Frauen und damit mit früher selteneren Einstellungen verbunden. Das Hobby wirkt als Proxy (Stellvertreter). Das Modell reproduziert die historische Benachteiligung. Das Ausgleichen der Daten verringert den Unterschied, ist aber nur eine von mehreren Methoden und löst das Grundproblem nicht: Wer legt fest, was „fair“ ist, und wer prüft es?
Realer Hintergrund: Ein experimentelles Bewerbungs-Tool eines großen Konzerns wurde nach Presseberichten (2018) eingestellt, weil es Frauen benachteiligte. Die Zahlen hier sind erfunden und vereinfachen stark.
SIFT ist eine Methode der Medienkompetenz (Mike Caulfield). Sie lässt sich gut auf KI-Antworten übertragen.
Halte an, bevor du übernimmst. Wozu brauche ich die Aussage? Wie folgenreich wäre ein Fehler: Übung, Facharbeit oder Gesundheit?
Woher stammt die Information? Bei KI: Welches Modell? Nutzt es Suche? Nennt es Quellen? Und wer steht hinter diesen Quellen?
Suche unabhängig nach dem Kern der Aussage („laterales Lesen“): Was sagen Lehrbuch, Fachliteratur oder eine Online-Quelle?
Verfolge Zitate, Zahlen und Studien zum Original zurück. Öffne die Quelle, lies den Kontext und prüfe, ob sie das wirklich aussagt.
| Aussageart | Typisches Risiko | Prüfstrategie |
|---|---|---|
| Zahlen, Rechnungen | Rechenfehler, erfundene Statistik | Nachrechnen, Primärquelle suchen |
| Zitate | Frei formuliert oder erfunden | Original suchen, Wortlaut und Seite vergleichen |
| Literaturangaben | Es gibt sie nicht oder sie sind gemischt | Im Bibliothekskatalog oder in Fachdatenbanken suchen, Autor:innen prüfen, Text lesen |
| Fakten, Jahreszahlen | Verwechslungen, Mythen | Zwei unabhängige seriöse Quellen |
| Fachbegriffe, Definitionen | Ungenau oder aus anderem Kontext | Lehrbuch, Fachlexikon, Unterrichtsmaterial |
| Recht, Medizin | Veraltet, nicht auf den Fall passend | Originaltext (Gesetz), Fachstelle, Arzt oder Apotheke. Keine Entscheidung allein nach KI |
| Programmcode | Läuft nicht oder ist unsicher | Ausführen, testen, Dokumentation lesen |
| Interpretationen, Argumente | Oberflächlich, einseitig | Textbelege suchen, Gegenargumente selbst formulieren |
KI-Detektoren sind keine Lösung. Programme, die angeblich erkennen, ob ein Text von einer KI stammt, sind unzuverlässig. Sie markieren ehrliche Texte fälschlich, in Studien besonders häufig Texte von Menschen, die nicht in ihrer Muttersprache schreiben, und lassen sich leicht umgehen. Deshalb setzen Schulen auf klare Regeln, Offenlegung und Aufgaben, die dein Denken sichtbar machen.
Eine (für diese Übung erfundene) KI antwortet auf die Frage „Wie wirken sich soziale Medien auf den Schlaf von Jugendlichen aus?“. Beurteile jede Aussage der Antwort.
(1) Soziale Medien sind seit den 2000er-Jahren fester Bestandteil des Alltags vieler Jugendlicher. (2) Laut Schneider und Alvarez (2021, Journal of Teen Media Studies 14(2), S. 233–251) verringern soziale Medien die Schlafdauer um genau 47 Minuten pro Nacht. (3) Studien zeigen Zusammenhänge zwischen intensiver Nutzung und Schlafproblemen. Ob die Nutzung die Ursache ist, ist häufig unklar. (4) In Deutschland ist die Nutzung von Instagram für unter 13-Jährige gesetzlich verboten.
(5) Nach Angaben der Weltgesundheitsorganisation nutzen 91,2 % aller Jugendlichen weltweit täglich mehr als fünf Stunden soziale Medien. (6) Der Begriff „Filterblase“ wurde 2011 durch Eli Pariser bekannt. (7) Daher sollten soziale Medien für Jugendliche grundsätzlich verboten werden.
Beurteile jede Aussage der Antwort oben. Wie gehst du damit um?
Ein guter Prompt spart Zeit und macht Ergebnisse prüfbarer. Baue dir einen Prompt aus Bausteinen. Die Werkstatt ruft keine KI auf, sie zeigt nur die Struktur. Trage keine personenbezogenen Daten ein und nutze den Prompt nur in einer zugelassenen Anwendung.
„Stelle mir erst drei Fragen, um mein Vorwissen zu prüfen. Erkläre dann nur die Lücken.“
„Hier ist meine These. Nenne die drei stärksten Einwände, ohne meine These umzuschreiben.“
„Markiere unklare Stellen in meinem Text und begründe kurz. Formuliere nichts um.“
Hast du mit Erlaubnis der Lehrkraft eine zugelassene KI genutzt, dokumentiere es. Die Vorlage erstellt einen Text, den du an deine Arbeit anhängen kannst. Prüfe und ergänze ihn nach den Vorgaben deiner Lehrkraft.
Wie würdest du entscheiden? Nach jeder Antwort bekommst du eine Begründung. Hier siehst du auch, wie viele Aufgaben du auf der ganzen Seite gelöst hast.
Wähle die beste Entscheidung.
Zu diesen Fragen gibt es keine eindeutige Antwort. Lege dich zuerst fest. Dann siehst du Argumente beider Seiten. Nutze sie für Diskussion oder Erörterung.
Zehn Fragen zum ganzen Material.