Archiv für den Tag: 13. August 2021

Künstliche Intelligenz in der Schule?

Überwachungstechnologie in der Schule als
„Bildungskonzept“

„Skepsis gegenüber Versprechen von Künstlicher Intelligenz in der Bildung: Eine aktuelle Studie untersucht Risiken und Chancen der KI beim Lernen und Fördern.“

Besprechung der Trendstudie „KI@Bildung“ für Schulforum-Berlin[1]
Autor: Manfred Fischer


Mit der Überschrift „Kritischer Blick auf KI in der Schule“ machte „Der Tagesspiegel“ am 2.7.2021 in einem Beitrag[2] aufmerksam auf die am 1.7.2021 veröffentlichte Trendstudie „KI@Bildung“[3] mit dem Titel „Lehren und Lernen in der Schule mit Werkzeugen Künstlicher Intelligenz“. Die Studie war im Auftrag der Deutschen Telekom-Stiftung vom mmb Institut Gesellschaft für Medien und Kompetenzforschung in Essen durchgeführt worden.[4]

Neben der Online-Expertenbefragung[5] (40 Teilnehmer) wurde noch ein zweieinhalbstündiger Experten-Workshop mit dem Titel: „KI@Schule – Zwischen Wunsch und Wirklichkeit“ veranstaltet. An diesem Workshop haben 20 Expertinnen und Experten – deren Auswahl mit der Deutschen Telekom Stiftung abgestimmt wurde[6] – teilgenommen. Von diesen zwanzig ausgesuchten Teilnehmern kamen sieben von der „Deutschen Telekom“ oder deren Stiftung.

Für diejenigen Teilnehmer aus der Online-Expertenbefragung, die mehr zum Thema „Künstliche Intelligenz und Schule“ erfahren wollten, wird ein Beitrag der „Initiative D21“[7] empfohlen.

Der Titel der Trendstudie „Lehren und Lernen in der Schule mit Werkzeugen Künstlicher Intelligenz“ lässt aufhorchen: Mitglieder aus dem „Akteurs-Netzwerk der Digitalisierungsagenda von Bildung“[8] stellen ihr „digitales Bildungskonzept“[9] für die zahlreichen Herausforderungen an unseren Schulen als „revolutionierend“ für die „Bildung“ dar. Zu dem Netzwerk zählen u.a. die „Deutsche Telekom“, die „Deutsche Telekom-Stiftung“ sowie die „Initiative D21“. Ein vertiefter Blick in die Studie ist angesagt!

Das „digitale Evangelium“

Bereits im ersten Absatz der Studie unter der Überschrift „Management Summary“ wird die Richtung und Absicht der Studie mit folgender Aussage deutlich: „KI-gestützte, lernförderliche Technologien, d.h. Lösungen, die auf Technologien wie Machine Learning, Educational Data Mining oder Learning Analytics basieren, bieten erhebliche Potenziale für alle Bereiche der schulischen Bildung“. […]

Educational Data Mining (EDM) ermöglicht, die im Zuge des „technologiebasierten“ Lernens anfallenden Unmengen an Daten – sei es zum Lernverhalten einzelner Schüler, dem Lernfortschritt der gesamten Klasse oder der Akzeptanz des Unterrichtskonzepts – zu ordnen und in Zusammenhang zu bringen, um sie für weitere Analysen und Prognosen zu nutzen (ausführlich M. Ebner und S. Schön (Hrsg.): Lehrbuch für Lernen und Lehren mit Technologien.)

Learning Analytics hat die Interpretation der gesammelten Daten zum Ziel. Beim „technologiebasierten“ Lernen geht es darum, den individuellen Lernprozess zu optimieren. Dies geschieht nicht nur durch eine umfassende Abbildung des bisherigen Lernverhaltens, vielmehr sollen aus dem vorhandenen Datenbestand zugleich Erkenntnisse und Prognosen für die Zukunft abgeleitet werden. (ausführlich M. Ebner und S. Schön (Hrsg.))

Neben der Makro-Ebene (Schul-Organisation) und der Meso-Ebene (Unterrichtsgeschehen) eröffnen vor allem „auf der Mikro-Ebene `intelligente´ Lernanwendungen – also für den Lernprozess selbst – vielfältige neue Möglichkeiten, indem individualisiertere Lernformen und Assistenzsysteme sowie automatisierte Leistungsbewertungen, Lernempfehlungen und Prognosen realisiert werden können.“ (S. 4)

Diese zusammenfassende Aussage wird von den weltweit agierenden Medien- und IT-Unternehmen im Bildungsbereich und deren konzernnahen Stiftungen immer wieder vorgetragen. So fordert Jörg Dräger, Mitglied des Vorstands der Bertelsmann-Stiftung eine, „Pädagogische Revolution“ um die digitalen Medien in den Schulen unterzubringen. Für die Unternehmen ist es ein milliardenschweres Geschäft![10]

Im „Diskurs“ mit sich selbst

Bereits im nächsten Absatz der Studie werden die „Erfolgsversprechen“ scheinbar relativiert. Erkenntnisse aus Forschungsbefunden aus Pädagogik, Neurowissenschaft, Lernpsychologie werden mit „Zweifel“ an den KI-gestützten Lerntechnologien beschrieben und herabsetzend als „Kritik“ dargestellt.

Die Verfasser schreiben:
„Aus Sicht der empirischen Bildungsforschung sowie der Lerntheorie werden jedoch auch immer wieder Zweifel an den Verheißungen KI-gestützter Lerntechnologien vorgebracht. Kritik macht sich u.a. an den zugrundeliegenden didaktischen Konzepten vermeintlich „intelligenter“ Lernanwendungen fest; auch sind die behaupteten lernfördernden Effekte KI-gestützter Anwendungen bislang zu wenig untersucht, und es fehlt generell an Evaluationen der verschiedenen Anwendungspotenziale (z.B. im Bereich des Automated Assessments und Gradings). Nicht zuletzt sind datenschutzrechtliche und ethische Fragestellungen gerade im Bereich der schulischen Bildung von vorrangiger Bedeutung.“ (S. 4)

Die zusammengefassten und unvollständig dargestellten Forschungsbefunde bleiben von den Autoren unberücksichtigt, denn für sie war bei der Auswahl der Lehr-/Lern-Produkte mit „Künstlicher Intelligenz“ ausschließlich die „Übertragbarkeit und Anwendbarkeit im deutschen Schul- und Bildungssystem“ von Bedeutung, d.h. der praktische Einsatz in unseren Schulen. Neben der Anwendung war auch der „Innovationsgrad“, d.h. der Markterfolg der „neuen“ Produkte für sie von Relevanz.[11] (S. 21, Hervorhebungen durch Schulforum-Berlin)

Unter der Überschrift: „Fragestellung“ wird an einem Beispiel erläutert, was die „Schülerinnen und Schüler“ in verschiedenen „KI-Szenarien“ zu erwarten haben:

Was jedem Zuschauer bei Fußball-TV-Übertragungen und Spielanalysen aus der „Sportschau“ bekannt ist, sind „ausführliche statistische Auswertungen“ des Spielverlaufs. Permanent erfasst und getrackt werden z.B. der „Ballbesitz“, „Antrittsgeschwindigkeit“ und „Laufstrecken“, „Passgenauigkeit“, „Schusswinkel“ und „Torschüsse“ sowie „Atemfrequenz und Fitness“. Das permanente Erfassen, Auswerten und Festhalten dieser Daten gelingt keinem Trainerteam. Möglich wird dies jedoch mit Hilfe von „Videoüberwachung, Wearables (körpernahen Sensoren) und automatischer Gesichtserkennung.“ (S. 7)

Die Berichterstatter der Trendstudie folgern daraus: „Was Startups […] für Fußball und andere Sportarten erfolgreich realisieren, findet selbstverständlich auch Eingang in den Bildungs- und Schulbereich, denn wieso sollte, was im Sport-Coaching funktioniert, nicht auch schulische Lernprozesse befördern?“ (S. 7) Soll hier schulische Bildung auf Quantifizierbares reduziert werden?

Überwachungstechnologie in der Schule

Wie das „Vermessen“ (z.B. Körpertemperatur, Gehirnströme, Puls- und Herzfrequenz, Augen- und Körperbewegungen etc.) der Schülerinnen und Schüler einer chinesischen Schulklasse bereits praktiziert wird[12], wird durch einen in der Studie angegebenen Videofilm[13] deutlich. (S. 7)

Screenshot aus Videofilm https://www.youtube.com/watch?v=JMLsHI8aV0g

Aus den gesammelten Daten sollen „Rückschlüsse auf Aufmerksamkeit, Verständnisprobleme und Konzentrationsstörungen“ gezogen werden, außerdem geht es auch darum, „künftige Leistungen oder Prüfungserfolge zu prognostizieren. […] [D]iese automatisch generierten Daten fließen ein in komplexe statistische Auswertungen und bilden die Grundlage für intelligente, selbstlernende Algorithmen („Machine Learning“) […]. Dies, so wird beschworen, ermögliche „eine Vielzahl von Anwendungen und Services rund um schulische Lernprozesse.“ (S. 7f)

Ziel der Marktanalyse, so die Verfasser der Studie, war es, „einen ersten systematischen Überblick über die im engeren Sinn „intelligenten“, d.h. KI-unterstützten Angebote zu geben, die überdies bereits als Produkte im Markt vorfindbar sind. […] Datengrundlage waren Deutsch- und Englischsprachige Webseiten und Texte.“ (S. 19)

In der Studie werden von den insgesamt 99 recherchierten und erfassten Anwendungen „fünf typische Beispiele für die Einsatzfelder steckbriefartig vorgestellt“. (S. 21)

Dies sind auf der
– Mikroebene („intelligente“ Lernanwendungen): Squirrel AI Learning von Squirrel, China und Bettermarks, Lernsystem für Mathematik aus Deutschland
– Mesoebene (Unterrichtsgeschehen): Knowledge Analysis Technology (KAT) von Pearson, USA und die Plattform für den Sprachunterricht, iFLYTEK, IT-Unternehmen, Spracherkennungssoftware, China
– Makroebene (Schul-Organisation): Watson Education Classroom von IBM, USA

Wirksamkeit und Belastbarkeit der Ed-Tech[14]-Produkte

Die Verfasser der Studie bemerken zu ihrer Arbeit: „Eine differenzierte Produktanalyse ist nicht intendiert.“ (Hervorhebung durch die Verfasser, S. 21) D.h., eine genaue und vertiefte Analyse der digitalen Ed-Tech-Produkte ist von den Verfassern der Studie nicht vorgenommen worden. Dieses „oberflächliche“ Betrachten der digitalen Produkte wird auch in der Beschreibung der fünf ausgewählten Applikationen deutlich.

Als Quellen für die Produktbeschreibung und -analyse werden die „Website des Unternehmens“ genannt, ein „Link zum Produktangebot“ sowie [Zeitungs-]„Berichte über Software und Unternehmen“ angegeben. (siehe Beispiele S. 22ff)

Es gibt in der Studie keine Angaben über die Wirksamkeit (Effektstärke) sowie die Belastbarkeit (Vertrauenswürdigkeit/Glaubwürdigkeit) der fünf beschriebenen digitalen Produkte und Lernwerkzeuge. Es gibt keine randomisierten kontrollierten Studien (randomised controlled trials, RCTs) über die Wirksamkeit/Lernwirksamkeit der ausgewählten Produkte.

Diese Feststellung wird in der Studie unter der Überschrift „Potentiale, Herausforderungen und Risiken“ bestätigt. Die Verfasser schreiben: Für die Forschungsveröffentlichungen liegen „jedoch noch keine Untersuchungen in großem Stil“ vor. „Insbesondere Data Mining-/ Machine Learning-basierte Verfahren müssen ihre Effektivität noch in großen Feldstudien beweisen.“ (S. 29)

Ein Blick auf „Squirrel AI Learning“

Die Verfasser der Studie verweisen auf „einige wenige KI-basierte Bildungstechnologien, die gut erforscht sind [!] und einen Effektivitätsgewinn [!] in Bezug auf Lernergebnisse zeigen.“ Hier wird z.B. auf „Berichte aus China von Squirrel Al“ hingewiesen. (S. 29) Als Basis für diese Aussage gelten nachfolgende Quellen für die Produktbeschreibung[15]:

Quellen
– Squirrel: Nr. 45 in der Rechercheliste
– Webeite des Unternehmens: http://squirrelai.com
– Berichte über Software und Unternehmen:
https://www.freitag.de/autoren/the-guardian/schoenes-neues-lernen
http://secinfinity.net/china-begann-mit-kunstlicher-intelli-genz-statt-mit-lehrern-zu-unterrichten/
https://www.heise.de/hintergrund/4-4616136.html (S. 22)

Der CEO von Squirrel hat auf einer internationalen Startup- und Investorenkonferenz sein Produkt wie folgt beworben: „Angetrieben durch KI-Technologie wird die Lernmaschine eingesetzt, um viele Probleme in Chinas traditioneller Bildungsindustrie zu lösen, wie die ungleiche Verteilung von Bildungsressourcen und die geringe Lerneffizienz der Schüler. Die KI-Bildung wird sich schließlich zu einer personalisierten Bildung entwickeln und jedem Schüler eine eigene Lernlösung und einen KI Experten als Lehrer zur Verfügung stellen.“[16] (S. 22f)

Screenshot aus Website http://squirrelai.com

Alex Beard schreibt dazu: „Squirrel-Gründer Derek Li ist überzeugt, dass sie [die Unternehmen] das Bildungswesen, wie wir es kennen, grundlegend verändern werden. Überall auf der Welt schießen Unternehmen mit einem ähnlichen Ansatz aus dem Boden. Und nicht nur das: Immer mehr Geld fließt in den Bereich. Im Silicon Valley in den USA arbeiten Unternehmen wie „Knewton“[17] oder „ALTSchool“[18] [Altitude Learning] daran, das Lernen über Tablet-Computer zu personalisieren. In Indien hat sich „Byju’s“, eine Learning-App, die sechs Milliarden Dollar wert sein soll, die Unterstützung von Facebook und des chinesischen Internetgiganten Tencent gesichert.“[19]

Empfehlungen aus der Studie

Die Verfasser halten resümierend fest: Durch den starken Wettbewerb „mit chinesischen und amerikanischen Lerntechnologie-Anbietern [sollte] nicht nur stärker in Forschung und (Produkt-) Entwicklung investiert werden, sondern vor allen Dingen auch die praktische Erprobung und „Erdung“ dieser Technologien im Schulalltag ermöglicht […] werden.“ (S. 37)

Die „Strategie“ für das Vorgehen und das Unterbringen der „digitalen Bildungskonzepte mit künstlicher Intelligenz“ in der Schule wird aus der abschließenden Zusammenfassung deutlich:

„Es geht mithin um das ´Ineinander` bildungstechnologischer und didaktischer Prozesse und eine immer stärkere Verschränkung von autonomen [KI-gestützten Technologien wie Machine Learning, Educational Data Mining oder Learning Analytics], technologiebasierten Lernphasen einerseits und sozialen Lernprozessen im Unterricht andererseits.“ (S. 39) Verschleiernd wird von den Autoren noch der Hinweis auf die „sozialen Lernprozesse im Unterricht“ angehängt.

Fazit:

Ziel von Bildungspolitik kann nicht sein, privatwirtschaftlichen EdTech-Unternehmen zu ermöglichen, ihr gewinnbringendes „digitales Bildungskonzept“ an unseren Schulen umzusetzen[20] – ganz ohne demokratische Kontrolle[21] und öffentliche Diskussion, aber mit vielen Erfolgsversprechen! Dieses Vorgehen der Akteure dient der Verschleierung, z.B. von ideologischen oder ökonomischen Interessen, und schafft bewusst Verwirrung.[22]

Entscheidend bei der Auswahl von Lehr- und Lernmitteln – egal ob digital oder analog – kann nur sein, was die Wissenschaft als essenziell für das Lernen erforscht hat, wie auf dieser Grundlage Schule und Unterricht zu gestalten sind und wofür der Begriff „Bildung“ in unserer Gesellschaft steht.[23]

In der Gesamtschau der Trendstudie wird deutlich, dass deren Verfasser „Chinesische Verhältnisse“ und „künstliche Intelligenz“ für eine Alternative im Klassenzimmer halten![24] Es ist offensichtlich, dass der Einsatz von “künstlicher Intelligenz“ im Unterricht von den Autoren als mögliche „Steuerung der Lehr- Lernprozesse“ gesehen wird: Big Brother is teaching you! Das Vorgehen wird zu einem „innovativen Ansatz“,[25] ohne wissenschaftliche Belege, hochstilisiert! Die Abschaffung des Unterrichts, die Auflösung der Klassengemeinschaft, die Vereinzelung beim Lernen, der Verlust von Sozialkompetenzen wird kommentarlos hingenommen. Die Beziehung und Empathie im Lernprozess wird durch „Überwachungstechnologie“ und „Ranking“ ersetzt.

Gerade bei als „innovativ“, „revolutionär“ oder „alternativlos“ beschriebenen digitalen und technologiebasierten Ansätzen im Bildungsbereich müssen die zuständigen Ministerien, Schulleitungen, Lehrkräfte und Eltern und gerade auch die Schülerinnen und Schüler sich die Frage stellen:

Wer steckt dahinter, welche Netzwerke sind hier aktiv, was sind deren Absichten, wer sind die Profiteure – kurz:
Wem nutzt es?

In diesem Sinne nimmt Marc Mattiesson, Lehrer am Städtischen Gymnasium Wermelskirchen, Stellung zum manipulativen Vorgehen der Akteure: Wir Lehrerinnen und Lehrer sind aufgerufen die „neoliberalen gesellschaftlichen Rahmenbedingungen und Grundlagen unserer Arbeit mitzudenken. Nur so können wir verhindern, dass unser soziales Engagement für unsere Schülerinnen und Schüler instrumentalisiert wird. Voraussetzung dafür bleibt, dass wir insbesondere in Krisenzeiten wohlklingende Begriffe, forcierte Entwicklungen und uns als alternativlos präsentierte einfache Lösungen kritisch in den Blick nehmen. Sozialer Spaltung im Bildungssystem werden wir erst wieder etwas entgegenzusetzen haben, wenn Etikettenschwindel nicht mehr Schule machen kann.“[26]

Künstliche Intelligenz in der Schule? als PDF-Datei

Literatur zur Vertiefung:

Förschler, Annina (2018): Das „Who is Who?“ der deutschen Bildungs-Digitalisierungsagenda. In: Pädagogische Korrespondenz, Heft 58, 2018, S. 31-52.

Krautz, Jochen (2020): Digitalisierung als Gegenstand und Medium von Unterricht. Keine digitale Transformation von Schule. GBW-Flugschriften Nr. 1, Köln 2020

Lankau, Ralf (2020): Alternative IT-Infrastruktur für Schule und Unterricht. GBW-Flugschriften Nr. 2, Köln 2020


Anmerkungen:

[1] Das Schulforum-Berlin ist eine nichtkommerzielle und unabhängige Website unter Mitwirkung von Lehrkräften verschiedener Berliner Schulen. Schulforum-Berlin
[2] Tagesspiegel, 2.7.2021, Katharina Schneider, Lernhilfen und Leistungsanalysen – Kritischer Blick auf KI in der Schule
[3] KI@Bildung: Lehren und Lernen in der Schule mit Werkzeugen Künstlicher Intelligenz – Schlussbericht –
[4] Das „mmb Institut – Gesellschaft für Medien und Kompetenzforschung mbH“ versteht sich als Denkwerkstatt und Impulsgeber für die Innovation von Bildung und Lernen. Sie schreiben auf ihrer Website: „Die Digitalisierung der Bildung eröffnet vielfältige Chancen für neue Bildungsprodukte, Technologien und Unternehmen. Unerlässlich sind jedoch belastbare Informationen zu Marktpotenzialen und Markteintrittshürden, zu Trends und Zielgruppen.“
[5] Aus dem Einführungstext der Befragung: „Um die aktuelle Situation besser einschätzen zu können, möchten wir gerne Ihre Sichtweise und Meinung zu diesem Thema kennenlernen. Dabei geht es einerseits um Ihre Bewertung der didaktischen Potenziale und Herausforderungen, andererseits aber auch um die Frage, welche Rolle KI in der Schulorganisation spielen könnte. Wir würden uns freuen, wenn Sie sich etwa 10 Minuten Zeit nehmen könnten, um die folgenden Fragen zu dieser Thematik zu bewerten.“
[6] Eine Teilnehmerin war vom „Schulministerium NRW, Referat 412: Lehren und Lernen in der Digitalen Welt, Medienberatung, Lernmittel“. (S. 58)
[7] Zu den Aktivitäten der „Initiative D21“ schreibt Förschler: „2013 brachten die Bertelsmann Stiftung mit drei Gesprächsrunden im Rahmen ihres „Education Innovation Circle“ sowie die Initiative D21 mit ihrer seit 2013 jährlich erscheinenden Studie „D21-Digital-Index“ zum „Lagebild der digitalen Gesellschaft“ (unter anderem in Kooperation mit Google und Texas Instruments) weitere Dynamik in den Diskurs um digitale Bildung.“ Aus: Förschler, Annina (2018): Das „Who is Who?“ der deutschen Bildungs-Digitalisierungsagenda. In: Pädagogische Korrespondenz, Heft 58, 2018, S. 39. Anzumerken ist: Die „Telekom“ nimmt auch einen Sitz im Gesamtvorstand der „Initiative D21“ ein.
[8] ebd.: Förschler stellt die politischen Aktivitäten sowie die Verbindungen und Aktivitäten (neuer) intermediärer Akteure (NROs, NGOs, Wissenschaftliche Institute, Stiftungen, Vereine, For-Profit-Unternehmen) in Richtung Datafizierung und Digitalisierung von Bildung dar.
[9] ebd.: „[E]s ist kritisch anzumerken, dass die Bezeichnung „digitale Bildung“ irreführend ist und eher als positiv konnotiertes, euphemistisches Synonym für die Einführung digitaler Lehr- und Lernmittel sowie das Forcieren digitaler Kompetenzen im Diskurs genutzt wird.“ (Fußnote S. 32)
[10] Wiederholt und in aggressiver Form versuchen dies auch Vertreter der Bertelsmann-Stiftung für den weltweit agierenden Bertelsmann Konzern. So fordert Jörg Dräger, Mitglied des Vorstands der Bertelsmann-Stiftung, eine „Pädagogische Revolution“ um die digitalen Medien in den Schulen unterzubringen. Die „Bildungskonzepte“ der Akteure als Experiment an den Schülerinnen und Schülern. Siehe auch: „Perfektes Zusammenspiel“ – Die Bertelsmann Stiftung wirbt intensiv für die Digitalisierung in Schulen und Hochschulen. Das passt perfekt in die Strategie des gleichnamigen Konzerns: Das Bildungsgeschäft ist seine neue „Cash-Kuh“, Christian Füller.
[11] Eine vergleichbare verwirrende Vorgehensweise in der Studienpräsentation wird auch bei der Studie: „Personalisiertes Lernen mit digitalen Medien. Ein roter Faden.“ der Robert Bosch Stiftung (2018) deutlich.
[12] Siehe: Schulen in China – Totale Überwachung mit Künstlicher Intelligenz | Schulforum-Berlin
[13] Siehe: Überwachungstechnologie in der Schule
[14] EdTech = Education Technology, globaler Sektor digitaler Bildungstechnologien, der sich nicht nur auf Unterrichtssoftware, sondern ebenso auf Plattformen, Schulverwaltung und/oder Steuerungsaufgaben bezieht. Siehe Sigrid Hartung, http://denk-doch-mal.de/wp/sigrid-hartong-algorithmisierung-von-bildung/
[15] Für die anderen Produktbeschreibungen ist die Vorgehensweise analog.
[16] Derek Li, der Gründer von Squirrel AI Learning, beschloss, seine Lehrkräfte durch einen unermüdlichen, perfekten, virtuellen Lehrer zu ergänzen: „Stellen Sie sich einen Kursleiter vor, der alles weiß – auch über Sie.“ Aus: der Freitag, Schönes neues Lernen–Können Computer das Klassenzimmer ersetzen? Weltweit arbeiten Firmen daran – Überwachung der Schüler inklusive, von Alex Beard, Ausgabe 21/2020
[17] „Knewton durchleuchtet jeden, der das Lernprogramm nutzt. Die Software beobachtet und speichert minutiös, was, wie und in welchem Tempo ein Schüler lernt. Jede Reaktion des Nutzers, jeder Mausklick und jeder Tastenanschlag, jede richtige und jede falsche Antwort, jeder Seitenaufruf und jeder Abbruch wird erfasst. `Jeden Tag sammeln wir tausende von Datenpunkten von jedem Schüler´, sagt Ferreira [Co-Founder & CEO von Knewton] stolz. Diese Daten werden analysiert und zur Optimierung der persönlichen Lernwege genutzt.“ Dräger, Jörg/Müller-Eiselt, Ralph (2018): Die digitale Bildungsrevolution. München, S. 24f.
[18] Bei der ALTSchool-Open-Plattform „lässt sich nicht überprüfen, wie die Algorithmen der künstlichen Intelligenz die Playlists der Schüler*innen erstellen und steuern. Ebenso bleibt offen, wie genau die Playlists die Entscheidungen und den Lernfortschritt der Lernenden unterstützen. Die Verwendung wandmontierter Kameras zur Aufzeichnung sämtlicher Aktivitäten im Klassenzimmer wirft zudem datenschutzrechtliche und ethische Fragen auf. Beispielsweise steht die Frage im Raum, inwieweit eine solche digitale Überwachung soziale Ungleichheiten verstärken könnte.“ Aus: Holmes, W., Anastopoulou S., Schaumburg, H. & Mavrikis, M. (2018): Personalisiertes Lernen mit digitalen Medien. Ein roter Faden, Stuttgart, Robert Bosch Stiftung, S. 66
[19] Aus: der Freitag, Schönes neues Lernen–Können Computer das Klassenzimmer ersetzen? Weltweit arbeiten Firmen daran – Überwachung der Schüler inklusive, von Alex Beard, Ausgabe 21/2020
[20] Schul-Digital-Pakt: Bildungs-Stiftungen planen den „Systemwechsel“ – Ihr Geschäft ist die Digitalisierung
[21] Die Bertelsmann-Stiftung, so Josef Kraus, ehemaliger Präsident des Deutschen Lehrerverbands, reduziere Bildung auf „Quantifizierbares“, um sie wirtschaftlich verwertbar zu machen – im Dienste des Bertelsmann-Konzerns: „Die Bertelsmann-Stiftung ist eine Krake, die sich jeder demokratischen Kontrolle entzieht.“ Weiter Informationen unter: „Bildung“ ist ihr Geschäft! | Schulforum-Berlin
[22] Siehe Kommentar zum Forschungsbericht „Personalisiertes Lernen mit digitalen Medien. Ein roter Faden“ der Robert Bosch Stiftung in der FAZ vom 30.08.2018, Dr. Hannah Bethke, Berlin, „Digital unterstütztes Lernen:  Hundertzwanzig Seiten Verblödungslektüre.“
[23] Krautz, Jochen (2021): Worum es geht – und worum nicht. In: Lankau, Ralf (Hrsg.): Autonom und mündig am Touchscreen, Weinheim und Basel: Beltz, S. 153-167.
[24] Man erinnere sich an die eingangs zitierte Aussage in der Studie: „KI-gestützte, lernförderliche Technologien, d.h. Lösungen, die auf Technologien wie Machine Learning, Educational Data Mining oder Learning Analytics basieren, bieten erhebliche Potenziale für alle Bereiche der schulischen Bildung“. (S. 4)
[25] Für die Verfasser der Studie war für die Auswahl der Applikationen „neben der Übertragbarkeit und Anwendbarkeit im deutschen Schul- und Bildungssystem auch der Innovationsgrad“ von Bedeutung. (S. 21)
[26] Streitschrift veröffentlicht auf der Website der Gesellschaft für Bildung und Wissen (GBW), Marc Mattiesson: „Die Geister die wir rufen…“ – Bildungspolitik und soziale Spaltung, S.13