31 KI, AIED und menschliches Handeln

Der Künstlichen Intelligenz (KI) wird oft vorgeworfen, dass sie die menschliche Handlungsfähigkeit bedroht (siehe z. B. die Zusammenfassung von 979 „Expertenmeinungen” in Artificial intelligence and the future of humans¹). Dies gilt insbesondere für die Anwendung von KI in der Bildung (AIED), wie auch in meiner eigenen Forschung. In einem Bericht für den Europarat schreiben wir zum Beispiel, dass der Ansatz fast aller AIED-Tools „dem Erinnern Vorrang vor dem Denken und dem Faktenwissen Vorrang vor der kritischen Auseinandersetzung einräumt und damit die Handlungsfähigkeit der Lernenden und solides Lernen untergräbt”. Derarte Behauptungen lassen sich leicht aufstellen, und ich stehe dazu, aber sie werden selten richtig ausgelegt. Deshalb soll in dieser kurzen Darstellung untersucht werden, was genau mit „menschlicher Handlungsfähigkeit” gemeint ist, außerdem sollen die Auswirkungen von KI und AIED betrachtet werden.

Allgemein gesprochen ist menschliches Handeln die Fähigkeit des Einzelnen, unabhängig zu handeln und auf der Grundlage seiner eigenen Überzeugungen, Werte und Ziele zwischen verschiedenen Optionen frei wählen zu können. Mit anderen Worten, es ist die Fähigkeit des Menschen, Entscheidungen zu treffen und Handlungen zu initiieren und auszuführen, die sein Leben und seine Umwelt beeinflussen. Menschliches Handeln kann mehrere Dimensionen umfassen. Dazu gehören Intentionalität (bewusstes Handeln mit einem bestimmten Ziel vor Augen), Autonomie (Unabhängigkeit, Selbstbestimmung und die Freiheit, eine Auswahl zu treffen und Entscheidungen zu treffen, die die eigenen Präferenzen, Werte und Ziele widerspiegeln), Anpassungsfähigkeit (die Fähigkeit, zu lernen, das eigene Verhalten zu ändern und als Reaktion auf sich ändernde Umstände erfolgreich zu sein) und Verantwortung (die ethische und moralische Dimension des Handelns: für die Folgen der eigenen Entscheidungen und Handlungen verantwortlich zu sein).

Menschliche Handlungsfähigkeit ist entscheidend für persönliches Wachstum und ein erfolgreiches Leben. Sie befähigt den Einzelnen, sein eigenes Leben zu gestalten und die Welt um ihn herum zu beeinflussen. Sie fördert das Gefühl der Kontrolle und der Selbstwirksamkeit und ist mit einem höheren Maß an psychologischem Wohlbefinden verbunden. Wenn der Einzelne das Gefühl hat, dass er die Kontrolle über sein Leben hat und sinnvolle Entscheidungen treffen kann, mit anderen Worten, wenn er das Gefühl hat, dass er eine echte Handlungskompetenz hat, ist die Wahrscheinlichkeit größer, dass er Zufriedenheit und Erfüllung erlebt. Einer der führenden Wissenschaftler auf dem Gebiet des menschlichen Handelns erklärt dies wie folgt: „Wenn Menschen nicht glauben, dass sie durch ihr Handeln die gewünschten Wirkungen erzielen können, haben sie wenig Anreiz zu handeln oder angesichts von Schwierigkeiten durchzuhalten.”³.

Im Bildungskontext bezieht sich die menschliche Handlungsfähigkeit auf die Fähigkeit von Lernenden und Lehrenden Entscheidungen zu treffen, autonom zu handeln und Kontrolle über das Lehren und Lernen im Klassenzimmer zu übernehmen. Der Schwerpunkt liegt dabei auf der Rolle des Einzelnen bei der Gestaltung seines Bildungsweges und bei der Entscheidung darüber, was, wie und warum etwas gelernt wird. Die menschliche Handlungsfähigkeit im Bildungskontext umfasst mehrere Aspekte. Die Handlungskompetenz der Schülerinnen und Schüler kann beispielsweise gestärkt werden, wenn sie nicht als passive Wissensempfänger, sondern als aktive Teilnehmende am Lernprozess behandelt werden und die Autonomie erhalten, Themen zu erforschen, die sie interessieren, Fragen zu stellen, ihre eigenen schulischen Ziele zu ermitteln und festzulegen und Verantwortung für ihr Lernen zu übernehmen. Zur Stärkung der Handlungskompetenz von Schülerinnen und Schüler gehört auch die Förderung von Problemlösefähigkeiten und des kritischen Denkens (bezogen auf reale Probleme) sowie der Fähigkeiten zur Selbstkontrolle (z. B. Zeitmanagement, Prioritätensetzen und Selbstkontrolle des Lernfortschritts), die allesamt für die Entwicklung unabhängiger und selbstbestimmter Individuen und für den schulischen und lebenslangen Erfolg wichtig sind. Schließlich spielen die Lehrkräfte zwar eine zentrale Rolle bei der Unterstützung und Förderung der Handlungsfähigkeit der Schüler:innen, aber zur menschlichen Handlungsfähigkeit im Bildungskontext gehört auch die Handlungsfähigkeit der Lehrkräfte selbst, indem sie ihre fachliche und pädagogische Kompetenz und Professionalität wahrnehmen, die ihnen die Möglichkeit geben, Entscheidungen darüber zu treffen, wie sie ihren Unterricht am besten gestalten und ihre Schülerinnen und Schüler optimal unterstützen können.

Die nächste Frage lautet also: Welche Auswirkungen hat die KI auf die menschliche Handlungsfähigkeit? Jede potenzielle Auswirkung hat zwangsläufig sowohl eine positive als auch eine negative Seite.  Einige KI-gestützte Technologien können beispielsweise repetitive Aufgaben übernehmen, sodass sich die Menschen möglicherweise auf die kreativeren Aspekte ihrer Arbeit konzentrieren und selbst entscheiden können, wie sie ihre Zeit und ihren Aufwand einsetzen, was ihre Handlungsfähigkeit erhöht. Andererseits kann der Einsatz von KI-gestützten Technologien zur Erledigung alltäglicher Aufgaben dazu führen, dass menschliche Fähigkeiten oder Fachkenntnisse verloren gehen. Mit der zunehmenden Abhängigkeit von KI könnte dies im Laufe der Zeit die Wahlmöglichkeiten des Einzelnen einschränken und damit seine Handlungsfähigkeit schwächen. In ähnlicher Weise wird oft argumentiert, dass KI-gestützte Technologien die Interaktion der Nutzer mit verschiedenen Diensten (wie Online-Videos und Shopping-Plattformen) personalisieren und ihnen auf ihre Präferenzen zugeschnittene Vorschläge unterbreiten können, was ihr Gefühl der Handlungsfähigkeit stärkt. Kritisch betrachtet ist die Personalisierung solcher Dienste jedoch in der Regel eher auf die Bedürfnisse des Anbieters und der Werbetreibenden zugeschnitten als auf die des Nutzers, was bedeutet, dass das Gefühl des Einzelnen, selbst bestimmen zu können, die Realität verschleiert – nämlich eine Verringerung der individuellen Entscheidungsfreiheit, da der Nutzer in eine bestimmte Richtung gedrängt wird. Drittens können KI-gestützte Datenanalysen Zugang zu wertvollen Erkenntnissen verschaffen, die sonst vielleicht nicht ohne Weiteres verfügbar wären und so die menschliche Entscheidungsfindung und Handlungsfähigkeit verbessern. Es ist jedoch bekannt, dass KI-Systeme Vorurteile, die in ihren Trainingsdaten vorhanden sind, übernehmen und fortbestehen lassen, was zu ungerechten und diskriminierenden Ergebnissen führt, die wiederum unweigerlich die menschliche Handlungsfähigkeit untergraben, da dadurch die Möglichkeiten eingeschränkt werden. KI-gestützte Technologien oder zumindest die Art und Weise, in der sie in der Praxis eingesetzt werden, können weitere negative Auswirkungen auf die menschliche Handlungsfähigkeit haben. So wirft der weit verbreitete Einsatz von KI zur Überwachung (oder Kontrolle) und zur KI-gesteuerten Entscheidungsfindung erhebliche Bedenken hinsichtlich des Datenschutzes auf, schränkt die Handlungsmöglichkeiten ein und kann zu einem Gefühl der Machtlosigkeit oder Abhängigkeit von der Technologie führen. Das alles kann die individuelle Handlungsfähigkeit untergraben.

Die nächste Frage lautet also: Wie wirkt sich AIED auf die Handlungsfähigkeit von Lernenden und Lehrenden aus?

Die Möglichkeiten sind vielfältig. Erstens: Wenn Jede potenzielle Auswirkung hat zwangsläufig sowohl eine positive als auch eine negative Seite häufig mit KI gestützten Technologien arbeiten, könnten sie sich allzu leicht zu sehr auf die inhaltlichen Empfehlungen, das sofortige Feedback oder die angebotenen „Lösungen” verlassen. Dementsprechend könnten sie Möglichkeiten verpassen, kritisches Denken, unabhängiges Problemlösen, Selbstreflexion, Selbstregulierung und metakognitive Fähigkeiten zu entwickeln, was die Fähigkeit der Lernenden einschränken könnte, den vollen Nutzen aus ihrem eigenen Lernen zu ziehen. Zweitens bieten die meisten AIED-Systeme hochgradig vorgeschriebene Lernpfade, die den Schülerinnen und Schülern wenig Raum für die Erkundung ihrer eigenen Interessen lassen. Dies kann die Handlungsfähigkeit der Lernenden einschränken, da ihnen vorgeschrieben wird, was, wann und wie sie lernen sollen. Darüber hinaus kann es auch dazu führen, dass sie weniger Gelegenheit haben, sich mit verschiedenen Perspektiven und neuartigen Themenfeldern auseinanderzusetzen. Drittens verfolgen AIED-Systeme in der Regel das Verhalten der Schüler:innen, was zu einem Gefühl der Überwachung und einer eingeschränkten Autonomie führt und auch die Möglichkeit eröffnet, die Privatsphäre der Schülerinnen und Schüler zu untergraben, was wiederumg die Folge hat, dass sie sich möglicherweise nicht mehr trauen, sich frei zu äußern. Viertens können KI-gesteuerte Empfehlungen unbeabsichtigt die Ambitionen der Schülerinnen und Schüler einschränken und ihre Handlungsfreiheit bei der Erreichung selbst gesteckter Ziele einschränken. Fünftens: KI-gestützte Technologien, die für die Bewertung eingesetzt werden, führen zu einer Überbetonung standardisierter Tests (und damit unweigerlich zu einem Lernen für den Test). Darüber hinaus ist kein KI-gestütztes System in der Lage, die Nuancen in der Arbeit eines Schülers oder einer Schülerin zu verstehen oder zu erfassen. Dies kann die Handlungsfähigkeit der Schüler:in im Bewertungsprozess einschränken und so möglicherweise kreatives oder unkonventionelles Denken verhindern.

Was schließlich die Lehrkräfte betrifft, so wirkt sich der Einsatz von KI-gestützten Technologien in den Klassenzimmern unweigerlich auf die Auswahl des Lehrplans, der Lerninhalte und der pädagogischen Ansätze aus, wodurch die Rolle der Lehrkräfte geschmälert wird und sie das Gefühl haben, dass ihr professionelles Urteilsvermögen unterbewertet oder durch die Technologie außer Kraft gesetzt wird. In jedem Fall können AIED-Tools Lehrerinnen und Lehrer entmündigen, indem sie sie zu Technologievermittlern und Verhaltenskontrolleuren machen, was ein grundlegend falsches Verständnis von der Arbeit guter Lehrkräfte ist. Sie könnten zudem die Handlungsfähigkeit der Lehrenden beim Aufbau sinnvoller Beziehungen zu ihren Schülerinnen und Schülern untergraben, die für eine effektive Bildung entscheidend ist.  Und schließlich kann die Abhängigkeit von KI-generierten Statistiken (manchmal aufgrund von Anweisung von oben) Druck auf die Lehrkräfte ausüben, damit sie sich datengesteuerten Entscheidungsprozessen anpassen. Das kann dazu führen, dass weniger Wert auf die ganzheitliche Entwicklung der Lernenden gelegt wird.

Die letzte Frage, die sich hier stellt, ist, was getan werden muss, um die Handlungsfähigkeit von Lernenden und Lehrenden zu gewährleisten, wenn leistungsstarke KI-gestützte Technologien zunehmend in den Klassenzimmern zur Verfügung stehen. Kurz gesagt: Lehrerinnen und Lehrern müssen Möglichkeiten geboten werden, die ihre Handlungsfähigkeit respektieren und es ihnen ermöglichen, Entscheidungen zu treffen, die ihrer beruflichen Expertise und den spezifischen Bedürfnissen ihrer Schülerinnen und Schüler entsprechen. Gleichzeitig müssen die Lernenden die Möglichkeit haben, ihr kritisches Denken, ihre Selbstkontrolle und ihre metakognitiven Fähigkeiten zu entwickeln und ihre Intentionalität, Autonomie, Anpassungsfähigkeit und Verantwortlichkeit zu entfalten – entweder mit dem Einsatz geeigneter, effektiver und sicherer KI-gestützter Technologien oder ohne sie.

¹ Anderson et al., Artificial intelligence and the future of humans, Pew Research Center, 2018

² Holmes et al., Artificial intelligence and Education, A critical view through the lens of human rights, democracy and the rule of law, Council of Europe, p. 34, 2022

³ Bandura, A., Toward a Psychology of Human Agency: Pathways and Reflections, Perspectives on Psychological Science, 13(2), 130-136, 2018