Key Takeaways
- KI- und maschinelle Lernalgorithmen beobachten menschliches Verh alten und können lernen, es zu manipulieren, sagen Experten.
- Forscher haben kürzlich einen Weg gefunden, um Schwachstellen in der Art und Weise zu finden und auszunutzen, wie Menschen mithilfe von KI Entscheidungen treffen.
- Der derzeit ausgefeilteste Social-Media-Algorithmus ist TikTok, sagt ein Beobachter.
Künstliche Intelligenz (KI) und maschinelle Lernalgorithmen lernen zunehmend, wie sie das Verh alten der Benutzer beeinflussen können, sagen Experten.
Forscher der australischen Nationalen Wissenschaftsagentur haben kürzlich einen Weg gefunden, Schwachstellen in der Art und Weise zu finden und auszunutzen, wie Menschen mithilfe von KI Entscheidungen treffen. Die neueste Forschung ist nur eine von vielen KI-gesteuerten Systemen, die darauf ausgelegt sind, die menschliche Entscheidungsfindung zu manipulieren.
"Es gibt unendlich viele Möglichkeiten, wie KI das Verh alten bereits beeinflusst", Kentaro Toyama, Professor an der University of Michigan School of Information und Autor von Geek Heresy: Rescuing Social Change from the Cult of Technology, sagte in einem E-Mail-Interview.
"In der Tat, wenn Sie jemals eine Google-Suche durchgeführt und einen Link verfolgt haben, wurden Sie von einem KI-System beeinflusst, das Ihre Interessen erraten und Ergebnisse zurückgegeben hat, die es für Sie am relevantesten hielt."
KI vs. Menschen
In der australischen Studie, die kürzlich in einer Veröffentlichung veröffentlicht wurde, spielten menschliche Teilnehmer in verschiedenen Experimenten Spiele gegen einen Computer. Beim ersten Experiment klickten die Teilnehmer auf rote oder blaue Kästchen, um Geld zu gewinnen.
Die KI war in etwa 70 % der Fälle erfolgreich, lernte die Wahlmuster der Teilnehmer und führte sie zu einer bestimmten Wahl.
In einem anderen Experiment sahen sich die Teilnehmer einen Bildschirm an und drückten eine Taste, wenn ihnen ein bestimmtes Symbol gezeigt wurde, oder drückten sie nicht, wenn ihnen ein anderes angeboten wurde. Die KI lernte, die Symbole neu anzuordnen, sodass die Teilnehmer mehr Fehler machten.
Das Ergebnis der Experimente, so die Schlussfolgerung der Forscher, war, dass die KI aus den Antworten der Teilnehmer lernte. Die Maschine identifizierte und zielte dann auf Schwachstellen in der Entscheidungsfindung der Menschen. Tatsächlich könnte die KI die Teilnehmer manipulieren, damit sie bestimmte Aktionen ausführen.
Die Tatsache, dass KI oder maschinelles Lernen Menschen manipulieren können, sollte nicht überraschen, sagen Beobachter.
"AI beeinflusst jeden Tag unser Verh alten", sagte Tamara Schwartz, Assistenzprofessorin für Cybersicherheit und Betriebswirtschaft am York College of Pennsylvania, in einem E-Mail-Interview.
"Wir hören ständig von Algorithmen in Social-Media-Anwendungen wie Facebook oder Twitter. Diese Algorithmen lenken unsere Aufmerksamkeit auf verwandte Inh alte und erzeugen den 'Echokammereffekt', der wiederum unser Verh alten beeinflusst."
TikTok schaut zu
Der derzeit ausgeklügeltste Social-Media-Algorithmus ist TikTok, sagte Schwartz. Die App analysiert, was Sie interessiert, wie lange Sie sich etwas ansehen und wie schnell Sie etwas überspringen, und verfeinert dann ihre Angebote, damit Sie weiterschauen können.
"TikTok macht viel süchtiger als andere Plattformen wegen dieses KI-Algorithmus, der versteht, was Sie mögen, wie Sie lernen und wie Sie Informationen auswählen", fügte sie hinzu. „Wir wissen das, weil die durchschnittliche Zeit, die Benutzer auf TikTok verbringen, 52 Minuten beträgt.“
Die Manipulation menschlichen Verh altens durch künstliche Intelligenz könnte einen positiven Nutzen haben, argumentierte Chris Nicholson, CEO des KI-Unternehmens Pathmind, in einem E-Mail-Interview. Gesundheitsbehörden könnten beispielsweise KI nutzen, um Menschen zu ermutigen, bessere Entscheidungen zu treffen.
"Social Media, Hersteller von Videospielen, Werbetreibende und autoritäre Regime suchen jedoch nach Möglichkeiten, Menschen dazu zu bringen, Entscheidungen zu treffen, die nicht in ihrem besten Interesse sind, und dies wird ihnen neue Werkzeuge dafür an die Hand geben, " fügte er hinzu.
Die ethischen Probleme mit der Beeinflussung des Verh altens durch KI sind oft schwerwiegend, sagte Toyama. KI ermöglicht gezielte Werbung, bei der individuelle Vorlieben und Schwächen ausgenutzt werden können.
"Es ist beispielsweise möglich, dass ein KI-System Personen identifiziert, die versuchen, mit dem Rauchen aufzuhören, und sie mit verführerischer Zigarettenwerbung zu überhäufen", fügte er hinzu.
Nicht alle sind sich einig, dass die KI-Manipulation menschlichen Verh altens problematisch ist. Sowohl die klassische Psychologie als auch die KI beobachten Daten, wies Jason J. Corso, Direktor des Stevens Institute for Artificial Intelligence, in einem E-Mail-Interview darauf hin.
"Menschliche Wissenschaftler sind wahrscheinlich besser darin, Beobachtungen zu verallgemeinern und Theorien des menschlichen Verh altens zu destillieren, die möglicherweise breiter anwendbar sind, während die KI-Modelle eher geeignet wären, problemspezifische Nuancen zu identifizieren", sagte Corso.
"Aus ethischer Sicht sehe ich keinen Unterschied zwischen diesen."
