Dr. Oliver Nahm (Bundesinstitut für Berufsbildung)
Faszination mit Fragezeichen
In meinen nunmehr 41 Jahren auf dieser Welt hat mich kaum eine Technologie so fasziniert wie die generative KI. Das hat zwei Gründe.
Der erste ist die fast schon universelle Einsetzbarkeit des neuen Werkzeugs. Egal in welchem Bereich ich unterwegs bin: Ich kann mit der KI über alles sprechen – inzwischen sogar wortwörtlich – kann mir Texte, Programmcode oder auch Bilder und Videos erstellen lassen. Die Grenze zwischen Mensch und Maschine ist damit wie weggeschmolzen und ganz neue Perspektiven tun sich auf.
Der zweite Grund ist, dass wir trotz oder vielleicht gerade wegen dieses gigantischen Einsatzspektrums auch drei Jahre nach der Veröffentlichung von ChatGPT immer noch keine Ahnung haben, ob sich der Einsatz überhaupt lohnt. OpenAI, die Firma hinter ChatGPT, verbrennt pro Jahr Milliarden $ und ist damit nicht allein. Rein wirtschaftlich ist das ganze Unterfangen eine Katastrophe, eine teure Wette darauf, dass entweder die Kosten irgendwann in den Keller rauschen, uns endlich das „KI-Wachstumswunder“ überrollt oder die Modelle so schlau werden, dass wir den Rest unserer Tage auf der tropischen Insel in der Hängematte verbringen dürfen.
Aktuell sieht es aber, ehrlich gesagt, noch mehr nach Büro als nach Bali aus.
Für die Bildung ist KI längst Realität
Unabhängig davon, ob sich diese Wette auszahlt: Es gibt kaum einen Bereich, der schon jetzt so stark betroffen ist – im Guten wie im Schlechten – wie die Bildung.
Hier gibt es, ganz ohne Spekulation, enorme Potenziale und handfeste Gefahren. Ich möchte im Folgenden aufzeigen, wo die relevanten Schwächen der Modelle liegen, wie wir sie am besten für unsere Ausbildungspraxis nutzen können, welche Risiken damit verbunden sind und worauf wir unseren Schwerpunkt legen sollten.
Die Limitationen – drei Baustellen mit Dauergerüst
- Sie halluziniert.
Im Kern reihen große Sprachmodelle Wörter aneinander, die wahrscheinlich aufeinander folgen. Es ist erstaunlich, dass das überhaupt so gut funktioniert aber ein Konzept von „Wahrheit“ sucht man dabei vergeblich. Wenn falsche Wörter wahrscheinlich klingen, liefert die KI sie trotzdem, nur eben in ganzen Sätzen.
Oder anders gesagt: Sie lügt nicht, sie fabuliert und das leider auch noch sehr überzeugend. - Sie hat Vorurteile.
Da die Modelle mit Wahrscheinlichkeiten arbeiten, reproduzieren sie, was sie häufig gesehen haben. Wenn ich ein Bild von einer Baustelle generieren lasse, sind meistens Männer am Werk. Wenn ich ein Klassenzimmer anfordere, steht vorne fast immer eine Lehrerin.
Ob Sie das stört oder nicht, müssen Sie selbst entscheiden, bewusst sein sollte man sich dessen auf jeden Fall. Und noch wichtiger: Fast alle Modelle werden von ihren Betreibern inhaltlich „nachtrainiert“. Das heißt: politische Filter, ethische Leitplanken, Sicherheitsmechanismen und entsprechend verzerrt sind auch die Ergebnisse. Auch hier gilt also: KI ersetzt kein kritisches Denken, sie fordert es heraus. - Sie ist nicht sicher.
Wenn man einer KI sagt, dass sie bestimmte Daten nicht preisgeben soll, dann macht sie es auch nicht. Zumindest so lange, bis sie es doch macht.
Bei unwichtigen Dingen ist das vielleicht egal, aber bei sensiblen Daten ist Vorsicht geboten.
Dass man sich auf KI in etwa so gut verlassen sollte wie auf die Deutsche Bahn, durften auch große Konzerne schon erfahren. McDonald’s hat nach einer Testphase entschieden, doch keine KI-Bestellungen am Schalter anzubieten – nachdem Kunden Schinken auf ihr Eis und Nuggets für mehrere hundert Dollar als Beilage erhielten.
Was heißt das nun alles? Fachkompetenz und kritisches Denken sind keine Auslaufmodelle. Ganz im Gegenteil, sie werden immer wichtiger.
Wofür KI in der Ausbildung nützlich ist
Nach all den theoretischen Fragezeichen stellt sich die praktische Frage:
Was bringt das Ganze eigentlich für die Ausbildung?
Die kurze Antwort: Eine Menge. Die lange: KI kann fast jeden Arbeitsschritt unterstützen – wenn man weiß, was man tut.
Vorbereitung & Materialerstellung
KI hilft, Routinen zu beschleunigen. Aus einem Lernfeld kann sie ein Rollenspiel, eine Diskussion oder eine handlungsorientierte Aufgabe entwickeln – auf Wunsch sogar mit Zeitvorgabe und Musterlösung.
Das Ergebnis ist oft gut, selten perfekt. Die Expertise des Ausbilders bleibt entscheidend: prüfen, nachschärfen, kontextualisieren.
Auch das Individualisieren von Aufgaben oder das Vereinfachen komplexer Texte funktioniert hervorragend und spart Zeit, ohne Anspruch zu senken.
Feedback & Beurteilung
KI kann Vorschläge machen, Antworten vorstrukturieren oder Hinweise auf unklare Formulierungen geben. Aber natürlich ersetzt sie kein pädagogisches Urteil.
Lernunterstützung & Simulation
Lernbots eröffnen neue Übungsräume. Ein Chatbot kann etwa den prüfenden Meister, den schwierigen Kunden oder den nervigen Kollegen spielen oder den Lernenden Schritt für Schritt im eigenen Tempo durch den Lernstoff begleiten oder auch sprachliche Unterstützung liefern – so oft und genau auf die Art, die der Lernende braucht. Gerade in diesem Bereich liegt meiner Überzeugung nach aktuell die größte Chance für das Bildungswesen.
Wie man KI am besten betrachtet – der belesene Praktikant
Die beste Art, sich generative KI vorzustellen, ist nicht als allwissendes Orakel, sondern als belesenen Praktikanten.
Der kennt unglaublich viel, redet gerne – auch dann, wenn er keine Ahnung hat.
Er will gefallen, ist hilfsbereit, aber leicht zu verwirren. Und wenn man ihm zu viele Aufgaben auf einmal gibt, erzählt er Dinge, die zwar nett klingen, aber einfach nicht stimmen.
Wer also mit KI arbeitet, sollte sich eher als Manager denn als Nutzer verstehen. Gute Ergebnisse bekommt nur, wer Anweisungen klar formuliert und regelmäßig prüft, ob der Praktikant nicht schon wieder auf Abwegen ist.
Ein gutes Prompr – also die Eingabe – ist wie eine Arbeitsanweisung:
„Mach mal was zum Thema Arbeitssicherheit“ führt zu Blabla.
„Schreibe eine praxisnahe Aufgabe für Metallbauer im zweiten Lehrjahr zum Thema Arbeitssicherheit beim Schweißen, 15 Minuten Bearbeitungszeit, mit Musterlösung“ – das führt fast immer zu etwas Brauchbarem.
KI liebt Kontext – aber den richtigen.
Eine Studie zeigte: Wenn man am Ende eines Prompts noch hinzufügt, dass Katzen tagsüber viel schlafen, werden die Ergebnisse schlechter. Verständlich. Auch unser Praktikant würde panisch versuchen, diese Information irgendwie unterzubringen.
Zwei große Probleme
Natürlich hat der Praktikant auch seine dunklen Seiten – einige technischer, andere gesellschaftlicher Natur. Zwei davon stechen heraus.
- Deskilling – die leise Gefahr
Das größte Risiko ist kein technisches, sondern ein kognitives.
Je mehr wir Aufgaben an Maschinen delegieren, desto weniger trainieren wir die Fähigkeiten, die uns menschlich machen: kritisches Denken, Sprache, Urteilskraft, Sinnstiftung.
Wenn KI uns beim Schreiben, Planen und Formulieren „entlastet“, dann verlernen wir auf Dauer das, wofür wir eigentlich bezahlt werden: Denken.
Ich nenne das gern das „Seepocken-Phänomen“. Dabei handelt es sich um ein Meerestier, dass sich in jungen Jahren einen passenden Felsen im Meer raussucht, sich an diesen andockt – und dann erstmal das eigene Gehirn verdaut, weil es das ja jetzt nicht mehr braucht.
Wir sollten diesen evolutionären Fehler nach Möglichkeit vermeiden.
- Desinformation & Vertrauensverlust
Bilder, Videos und Stimmen lassen sich heute täuschend echt fälschen.
Wenn Wahrheit nur noch schwer erkennbar ist, gerät das Fundament unserer Kommunikation ins Wanken.
Gerade für Ausbilder, die Werte, Verantwortung und Ethik vermitteln, ist das eine echte Herausforderung:
Wie bringt man jungen Menschen bei, was „echt“ ist – wenn die Welt selbst zunehmend synthetisch wird?
Die gute Nachricht: Das sind keine Gründe, Technik abzulehnen – es sind Gründe, sie bewusst zu gestalten.
Ausblick – warum das Menschliche gewinnt
Wenn man sich all die Widersprüche ansieht, könnte man leicht den Glauben verlieren. Aber der tröstlichste Gedanke ist: KI kann viel – aber sie hat kein „Warum“.
Sie hat keine Werte, keine Intention, keine Sehnsucht.
Menschen schaffen Bedeutung
Während KI uns Text liefert, entscheiden wir, was davon wichtig, wahr oder sinnvoll ist.
Wir geben Arbeit Bedeutung, erzählen Geschichten, stiften Sinn.
In einer Welt, in der alles berechnet werden kann, wird das Unberechenbare zum höchsten Gut: Intuition, Empathie, Urteilskraft, Humor.
Lernen bleibt menschlich
Als 1997 ein Computer den Schachweltmeister schlug, war das kein Ende, sondern ein Neuanfang. Das Spiel wurde populärer, nicht sinnloser.
Genauso wird Ausbildung nicht verschwinden – sie verwandelt sich.
Routineaufgaben werden vereinfacht, aber Gespräch, Feedback und das „Ich sehe dich“ bleiben menschlich.
Vielleicht erleben wir sogar eine Rehumanisierung durch Technik:
Je mehr generisch wird, desto wertvoller wird das Echte.
Je mehr KI produziert, desto größer der Hunger nach Authentizität.
Kritisches Denken, Ausdrucksfähigkeit, Verantwortungsbewusstsein – und ja, die gute alte Fachkompetenz – werden wichtiger denn je.
Einladung – Mitgestalten statt Abwarten
Damit wir im Rauschen zwischen Euphorie und Alarmismus den Überblick behalten, braucht es mehr als Meinungen: Daten, Erfahrungen, Raum für gemeinsames Lernen.
Genau das ist das Ziel eines laufenden Forschungsprojekts des Bundesinstituts für Berufsbildung (BIBB):
Wir untersuchen, wie generative KI tatsächlich in der Ausbildungspraxis eingesetzt wird – wo sie hilft, wo sie schadet und welche Kompetenzen dafür nötig sind.
Beteiligt sind Ausbildungsbetriebe, Berufsschulen, Fernlehrinstitute und überbetriebliche Bildungsstätten – also genau die Orte, an denen sich entscheidet, ob KI am Ende zu mehr Menschlichkeit führt oder zum Gegenteil.
Wer Lust hat, mitzumachen, zu testen oder einfach neugierig zu bleiben, ist herzlich eingeladen:
Online-Umfrage: https://umfragen.bibb.de/index.php/855392
Fragen oder Anregungen: oliver.nahm@bibb.de
Wir wissen nicht genau, wohin die Reise geht aber zum Aussteigen ist es zu spät. Ein wenig ist es mit der KI wie mit einem neuen Wilden Westen und es liegt an uns, die Claims abzustecken und sicherzustellen, dass die neue Welt auch eine wird in der wir und unsere Nachfahren, gerne leben möchten.
