Key Takeaways
- Das KI-System namens DALL-E2 scheint ein eigenes System der schriftlichen Kommunikation geschaffen zu haben.
- Einige Experten sagen, dass die offensichtliche Sprache nur Kauderwelsch sein könnte.
- Es ist ein Beispiel dafür, wie schwierig es ist, die Ergebnisse fortschrittlicher KI-Systeme zu interpretieren.
Es sieht so aus, als hätte die künstliche Intelligenz (KI) ihre eigene Sprache entwickelt, aber einige Experten stehen dieser Behauptung skeptisch gegenüber.
OpenAIs Text-zu-Bild-KI-System namens DALL-E2 scheint ein eigenes System der schriftlichen Kommunikation geschaffen zu haben. Es ist ein Beispiel dafür, wie schwierig es ist, die Ergebnisse fortschrittlicher KI-Systeme zu interpretieren.
"Aufgrund der Größe und Tiefe großer Modelle ist es sehr schwierig, das Verh alten von Modellen zu erklären", sagte Teresa O'Neill, Director of Solutions Architecture for Natural Language Understanding bei iMerit, Lifewire in einem E-Mail-Interview. „Dies ist eine der zentralen Herausforderungen und in einigen Fällen ethische Fragen mit immer leistungsfähigeren Modellen. Wenn wir nicht erklären können, warum sie sich so verh alten, wie sie es tun, können wir dann ihr Verh alten vorhersagen oder es mit unseren Normen und Erwartungen in Einklang bringen?"
KI-Chats
Informatikstudent Giannis Daras bemerkte kürzlich, dass das DALLE-2-System, das Bilder basierend auf Texteingaben erstellt, unter bestimmten Umständen unsinnige Wörter als Text zurückgeben würde.
"Eine bekannte Einschränkung von DALLE-2 ist, dass es mit Text zu kämpfen hat", schrieb er in einem Artikel, der auf dem Preprint-Server Arxiv veröffentlicht wurde. "Zum Beispiel führen Textaufforderungen wie: 'Ein Bild des Wortes Flugzeug' oft zu generierten Bildern, die Kauderwelsch-Text darstellen."
Aber, schrieb Daras, hinter dem offensichtlichen Kauderwelsch könnte eine Methode stecken. „Wir entdecken, dass dieser produzierte Text nicht zufällig ist, sondern eher ein verborgenes Vokabular enthüllt, das das Modell intern entwickelt zu haben scheint“, fuhr er fort. "Zum Beispiel produziert das Modell häufig Flugzeuge, wenn es mit diesem Kauderwelsch gefüttert wird."
In seinem Tweet wies Daras darauf hin, dass, als DALLE-2 gebeten wurde, ein Gespräch zwischen zwei Bauern zu untertiteln, es sie beim Sprechen zeigte, aber die Sprechblasen waren mit scheinbar unsinnigen Wörtern gefüllt. Aber Daras entdeckte, dass die Worte für die KI eine eigene Bedeutung zu haben schienen: Die Bauern sprachen über Gemüse und Vögel.
Nicola Davolio, der CEO des Technologieunternehmens Hupry, das mit KI arbeitet, erklärte Lifewire in einem E-Mail-Interview, dass die Sprache auf Symbolen basiert, die das DALL-E2-System gelernt hat, mit bestimmten Konzepten in Verbindung zu bringen. Beispielsweise könnte das Symbol für "Hund" mit einem Hundebild in Beziehung stehen, während das Symbol für "Katze" mit einem Bild einer Katze verbunden sein könnte. DALL-E2 hat seine Sprache geschaffen, weil sie es ihm ermöglicht, effektiver mit anderen KI-Systemen zu kommunizieren.
Rätsel wie das scheinbar verborgene Vokabular von DALL-E2 machen Spaß, aber sie heben auch schwerere Fragen hervor…
"Die Sprache besteht aus Symbolen, die wie ägyptische Hieroglyphen aussehen und keine spezifische Bedeutung zu haben scheinen", fügte er hinzu. "Die Symbole sind für Menschen wahrscheinlich bedeutungslos, aber für das KI-System ergeben sie absolut Sinn, da es mit Millionen von Bildern trainiert wurde."
Forscher glauben, dass das KI-System die Sprache geschaffen hat, um die Beziehungen zwischen Bildern und Wörtern besser zu verstehen, sagte Davolio.
"Sie sind sich nicht sicher, warum das KI-System seine Sprache entwickelt hat, aber sie vermuten, dass es etwas damit zu tun haben könnte, wie es lernte, Bilder zu erstellen", fügte Davolio hinzu. „Möglicherweise hat das KI-System seine Sprache entwickelt, um die Kommunikation zwischen verschiedenen Netzwerkteilen effizienter zu gest alten."
KI-Geheimnisse
DALL-E2 ist nicht das einzige KI-System, das seine interne Sprache entwickelt hat, betonte Davolio. Im Jahr 2017 schuf das AutoML-System von Google eine neue Form der neuronalen Architektur, die als „untergeordnetes Netzwerk“bezeichnet wird, nachdem es ihm überlassen wurde, wie eine bestimmte Aufgabe am besten ausgeführt werden soll. Dieses untergeordnete Netzwerk konnte von seinen menschlichen Schöpfern nicht interpretiert werden.
"Diese Beispiele sind nur einige Fälle, in denen KI-Systeme Wege entwickelt haben, Dinge zu tun, die wir nicht erklären können", sagte Davolio. „Es ist ein aufkommendes Phänomen, das gleichermaßen faszinierend und alarmierend ist. Da KI-Systeme immer komplexer und autonomer werden, finden wir uns möglicherweise zunehmend in der Position wieder, nicht zu verstehen, wie sie funktionieren.“
O'Neill sagte, dass sie nicht glaubt, dass DALL-E2 seine eigene Sprache entwickelt. Stattdessen sagte sie, der Grund für die offensichtliche sprachliche Erfindung sei wahrscheinlich etwas prosaischer.
"Eine plausible Erklärung ist ein zufälliger Zufall – in einem so großen Modell könnte ein bisschen Murphys Gesetz zutreffen: Wenn etwas Seltsames passieren kann, wird es wahrscheinlich passieren", fügte O'Neill hinzu. Eine andere Möglichkeit, die der Forschungsanalyst Benjamin Hilton in einem Twitter-Thread vorgeschlagen hat, in dem er Daras 'Ergebnisse diskutiert, ist, dass die Form des Ausdrucks "apoploe vesrreaitais" die Form eines lateinischen Namens für ein Tier nachahmt. Das System hat also eine neue Ordnung von Aves hervorgebracht, fügte O'Neill hinzu.
"Es macht Spaß, mit Rätseln wie dem scheinbar verborgenen Vokabular von DALL-E2 zu ringen, aber sie werfen auch schwerere Fragen zu Risiken, Voreingenommenheit und Ethik im oft unergründlichen Verh alten großer Modelle auf", sagte O'Neill.
