Key Takeaways
- Unternehmen nutzen künstliche Intelligenz, um ihre Mitarbeiter zu überwachen.
- Amazon installierte Anfang dieses Jahres Kameras mit maschinellem Lernen in seinen Lieferwagen.
- KI-Überwachung könnte zu Datenschutz- und Sicherheitsproblemen führen, wenn sie von skrupellosen Unternehmen eingesetzt wird.
Arbeitgeber verfolgen ihre Arbeitnehmer zunehmend mithilfe künstlicher Intelligenz, und Beobachter sagen, dass diese Praxis Bedenken hinsichtlich des Datenschutzes aufwirft.
Amazon installierte Anfang des Jahres Kameras mit maschinellem Lernen in seinen Lieferwagen. Das Unternehmen hat seinen Fahrern kürzlich mitgeteilt, dass sie der Verwendung zustimmen müssen. Die Praxis der Überwachung am Arbeitsplatz mag legal sein, aber nicht jeder stimmt zu, dass sie ethisch vertretbar ist.
"Unternehmen verwenden seit Jahrzehnten Mitarbeiterüberwachungstools, aber mit fortschreitender Technologie werden sie immer invasiver", sagte Aimee O'Driscoll, Sicherheitsforscherin bei der Technologievergleichs-Website Comparitech, in einem E-Mail-Interview.
"Die meisten Mitarbeiterüberwachungen könnten als Eingriff in die Privatsphäre angesehen werden, und man könnte argumentieren, dass das, was Amazon tut, sich nicht wesentlich von der Verwendung von Überwachungskameras in einem Büro unterscheidet."
Beobachtet werden oder gefeuert werden
Die rund 75.000 Lieferfahrer von Amazon in den USA müssen jetzt eine „biometrische Einwilligungserklärung“unterschreiben. Mit dem Genehmigungsformular können KI-gestützte Kameras den Standort, die Bewegung und biometrische Daten der Fahrer überwachen. Mitarbeiter, die das Dokument nicht unterschreiben, könnten entlassen werden.
KI-Überwachung verfolgt alles, was die Amazon-Fahrer tun, und dringt in die vermeintliche Privatsphäre des Subjekts ein, sagte Chris Hauk, Datenschutzforscher auf der Datenschutz-Website Pixel Privacy, in einem E-Mail-Interview.
"Dazu gehört auch jedes Mal, wenn die Person gähnt oder sich an einer sensiblen Stelle kratzt", fügte er hinzu. "Ein Fahrer hat zumindest ein gewisses Recht auf einen Anschein von Privatsphäre, während er sich in seinem Fahrzeug befindet."
Mitarbeiterüberwachung durch KI ist ein wachsendes Problem. Walmart hat eine KI-Technologie patentiert, die es ermöglicht, die Interaktionen der Mitarbeiter mit Kunden an den Kassen abzuhören, betonte O’Driscoll.
Softwareentwickler Enaible bietet Produktivitätstools auf Basis von KI-Software. Verschiedene Unternehmen, darunter Macy’s, verwenden das Analysesystem von Microsoft, das das Verh alten der Mitarbeiter überwachen kann. Domino's hat KI-Technologie verwendet, um zu überprüfen, ob Pizzas richtig zubereitet werden.
"Eines der Hauptprobleme ist, dass mangelnde Privatsphäre bei falscher Verwendung zu Sicherheitsproblemen führen kann", sagte O'Driscoll.
"Überwachungsdaten könnten in die Hände von Kriminellen gelangen, oder schlechte Akteure selbst könnten die KI-Überwachung nutzen, um Opfer anzugreifen."
Biometrische Gesichtsscans führen zu einer mathematischen Darstellung des Gesichts der betroffenen Person, die genutzt werden kann, um sie für den Rest ihres Lebens überall zu identifizieren und zu verfolgen, sagte Ray Walsh, ein Datenschutzexperte der Website ProPrivacy, in einem E-Mail-Interview.
"Dies birgt ernsthafte Datenschutz- und Sicherheitsrisiken für Amazon-Fahrer, deren Daten verletzt, durchgesickert oder möglicherweise sogar von staatlichen Schnüfflern mit einem Haftbefehl ausgenutzt werden könnten", fügte er hinzu.
Da die KI-Technologie relativ neu ist, gibt es keine konkreten Richtlinien für ihre Verwendung in Bezug auf den Datenschutz, sagte O’Driscoll. „Allerdings wird Sicherheit wahrscheinlich immer eine legitime Entschuldigung für die Verletzung der Privatsphäre sein, daher ist Amazon von seinen derzeitigen Absichten abgedeckt“, fügte sie hinzu.
Während Mitarbeiter das Recht haben, die vorgeschlagene KI-Überwachung zu beenden oder ihr zuzustimmen, tun sie dies angesichts eines enormen Machtungleichgewichts, O’Driscoll sagte, dass die KI-Überwachung reguliert werden sollte. „Unternehmen sollten idealerweise legitime Gründe (z. B. Sicherheit) für die KI-Überwachung haben“, fügte sie hinzu.
Einige Staaten haben Gesetze verabschiedet, die den Einsatz von Überwachung am Arbeitsplatz einschränken und regulieren, aber Bundesgesetze fehlen, wies Walsh darauf hin.
Im Jahr 2019 wurde der Algorithmic Accountability Act in das Repräsentantenhaus und den Senat eingebracht, aber letztendlich abgelehnt. Ein ähnliches Gesetz könnte dieses Jahr eingeführt werden, und „es ist zu hoffen, dass ein von Demokraten geführter Kongress und ein Weißes Haus ihre Chancen auf ein Bestehen verbessern“, sagte Walsh.
Erwarten Sie keine Privatsphäre bei der Arbeit
Nicht jeder denkt, dass Amazons Überwachung seiner Fahrer eine Verletzung der Privatsphäre darstellt.
"Ich denke, es ist schwer zu argumentieren, dass ein Mitarbeiter eine vernünftige Erwartung an die Privatsphäre in einem firmeneigenen Fahrzeug hat", sagte Will Griffin, der Chief Ethics Officer des KI-Unternehmens Hypergiant, in einem E-Mail-Interview.
"Die größere Sorge ist, dass alle diese Fahrer in wenigen Jahren durch autonome Fahrzeuge ersetzt werden. Daher wird jede Debatte über die Fahrerpolitik zu einem strittigen Punkt, wenn die Flotte vollständig autonom wird."
Der Amazon-Fall unterstreicht die Notwendigkeit einer Gewerkschaft oder einer gezielten Bundesintervention, um das Machtgleichgewicht zwischen den Arbeitern von Amazon und dem Unternehmen wiederherzustellen, sagte Griffin.
"Obwohl Mitarbeiter das Recht haben, die vorgeschlagene KI-Überwachung zu beenden oder ihr zuzustimmen, tun sie dies angesichts eines enormen Machtungleichgewichts", fügte er hinzu.
