Key Takeaways
- Eine Reihe neuer Apps kann möglicherweise die Emotionen der Schüler erkennen.
- Intel und der Klassenzimmer-Softwarehersteller Class entwickeln Berichten zufolge eine Software, die die Gesichter und die Körpersprache digitaler Schüler überwacht.
- Einige Experten befürchten, dass die Verwendung von KI zur Überwachung von Schülern zu Verletzungen der Privatsphäre führen könnte.
Schulen könnten bald künstliche Intelligenz (KI) einsetzen, um die emotionalen Zustände der Schüler zu überwachen.
Intel und der Klassenzimmer-Softwarehersteller Class entwickeln eine Software, die die Gesichter und die Körpersprache digitaler Schüler überwacht. Berichten zufolge kann das System erkennen, ob Schüler gelangweilt, abgelenkt oder verwirrt sind, aber einige Experten befürchten, dass die Software zu Eingriffen in die Privatsphäre führen könnte.
"Solche KI-basierten Überwachungsprodukte sollten transparent darüber sein, wie diese Daten verwendet werden", sagte Michael Huth, Mitbegründer der Firma Xayn und Leiter der Computerabteilung am Imperial College London, in einer E-Mail an Lifewire Interview. „Wenn es verwendet wird, um das Engagement in einer Studentenkohorte zu verfolgen, wo das Engagement auf individueller Ebene nicht erfasst wird, ist dies aus Sicht des Datenschutzes etwas weniger problematisch. Wenn irgendwelche dieser Daten verwendet werden sollten, um die Bewertung der Studenten zu beeinflussen, würde ich es jedoch tun kann alle möglichen auftretenden Probleme sehen."
Auf Schüler aufpassen
Class und Intel haben sich zusammengetan, um eine KI-basierte Technologie zu integrieren, die zusammen mit der Videokonferenzsoftware Zoom läuft, berichtete das Protokoll. Die Software kann zur Überwachung von Schülern verwendet werden, heißt es in dem Bericht.
"Durch unsere Partnerschaft mit Intel werden wir in der Lage sein, neue, immersive Funktionen in die Class-Software einzubringen, die von forschungsgestützten Funktionalitäten angetrieben werden", heißt es auf der Website des Unternehmens. „Wir werden auch mit Intel zusammenarbeiten, um Ressourcen zu nutzen und Pädagogen und Studenten wertvolle Einblicke, gemeinsame Fallstudien, Whitepaper, Webinare und vieles mehr zu bieten.“
Intel teilte Protocol mit, dass sich die Klassenzimmer-Software in einem frühen Stadium befinde und es keine Pläne gebe, das Produkt auf den Markt zu bringen.
Die Partnerschaft mit Class ist nicht die einzige potenzielle Zusammenarbeit zwischen Intels Software zum Lesen von Emotionen und anderen Herstellern. Eine Online-Broschüre von Intel wirbt für ein neues elektronisches Whiteboard namens Viewboard für Schulen. Intel-Software „ermöglicht es myViewboard, die emotionalen Zustände von Lernenden als unmittelbares Feedback für Pädagogen einzuschätzen und anzuzeigen“, heißt es in der Broschüre.
Class ist eines von vielen Softwareprodukten, die vorgeben, die Emotionen der Schüler mithilfe von KI zu verfolgen. Es gibt auch 4Little Trees, eine Lernplattform zur Emotionserkennung, die „ein virtueller Lehrassistent ist, [der] hilft, indem er die am besten geeigneten Fragen für Sie auswählt oder Sie bei Bedarf herausfordert“, so die Website des Unternehmens.
Ashish Fernando, der CEO des KI-Unternehmens iSchoolConnect, sagte Lifewire in einem E-Mail-Interview, dass KI trainiert werden kann, um menschliches Verh alten und menschliche Merkmale zu beurteilen, ohne die Auswirkungen subjektiver Vorurteile, die Einzelpersonen haben.
"KI kann eine wesentlich größere Anzahl menschlicher Verh altensweisen, einschließlich leicht zu übersehender Mikroausdrücke, viel schneller als ein Mensch bewerten", sagte Fernando. "Wo Feedback Stunden hätte dauern können, kann AI jetzt dasselbe innerhalb weniger Minuten liefern."
Datenschutzbedenken
Der Einsatz von KI zur Überwachung von Menschen nimmt zu. Snapchat verfügt über KI-Technologie, die das emotionale Niveau einer Gruppe von Menschen bei einem Live-Event bewertet. Mad Street Den nutzt Computer-Vision-KI, um Einzelhändlern dabei zu helfen, die Gesichtsausdrücke und Emotionen potenzieller Käufer zu erkennen. BrainQ nutzt KI, um zu verstehen, wie Fahrgäste mit den von ihnen genutzten autonomen Fahrzeugen interagieren. Und Unternehmen verwenden KI, um die Ermüdung der Fahrer zu verfolgen.
"Dies ist ein großartiger Anwendungsfall für die Verkehrssicherheit, aber es wirft Fragen bezüglich der Datenschutzrechte von Fahrern in ihren Privatfahrzeugen auf", sagte Huth. „Werden Müdigkeitsinformationen an die Versicherungsgesellschaft oder den Autohersteller weitergegeben? Oder wird der Fahrer nur gewarnt, anzuh alten und sich auszuruhen? Dies ist weniger ein Problem für gewerbliche Fahrzeugflotten wie Lastwagen, Lieferwagen oder Taxis.“
Ein Problem ist, dass die Informationen der KI, wie z. B. Muskelbewegungen, um auf den emotionalen Zustand zu schließen, möglicherweise nicht zuverlässig sind, sagte Huth. "Dies schafft ein Dilemma, da eine zuverlässigere KI möglicherweise den Zugriff auf noch sensiblere Daten wie EEG-Signale erfordert", fügte er hinzu.
Für Studenten kann KI nützlich sein, um die Compliance bei Online-Prüfungen zu überwachen, wenn eine Aufsichtsperson nicht physisch anwesend sein kann. Aber diese Verwendung von KI dafür ist umstritten, sagte Huth, weil das System versucht festzustellen, ob ein Schüler zu betrügen beabsichtigt oder betrügt, und es ein echtes Potenzial für Fehlalarme gibt, die zur ungerechtfertigten Bestrafung von Schülern führen, die nichts falsch gemacht haben.
"Jede KI, die für diesen Zweck verwendet wird, müsste robust genug sein, um mit Toilettenpausen, nervösen Ticks einzelner Schüler (wie unregelmäßigen Augenbewegungen) und so weiter fertig zu werden", sagte Huth.
