Der Chefwissenschaftler von Microsoft, Adrian de Wynter, nutzte in seiner wissenschaftlichen Arbeit mit dem Titel „Wenn große Sprachmodelle menschliche Eigenschaften hätten, dann hätte Age of Empires 2 sie auch“ den benutzerdefinierten Karteneditor von Age of Empires 2, um mit Ziegen, Gras und Brücken im Spiel einen 1-Bit-Perzeptron zu konstruieren. Damit argumentierte er, dass die zugrunde liegende Rechenlogik von ChatGPT und anderen großen Sprachmodellen (LLMs) im Wesentlichen mit dem Auslösemechanismus der Ziegen im Spiel identisch sei.
Technische Umsetzung des neuronalen Netzes in Age of Empires 2: Die Rechenrollen von Gras, Brücken und Ziegen
(Quelle: CryptoCity-Screenshot)
Wynter nutzte die benutzerdefinierte Szenarioauslöser-Funktion von Age of Empires 2, um mit Spielelementen ein NAND-Gatter zu konstruieren: Gras repräsentiert die Zahl 0, Brücken die Zahl 1, Ziegen spielen die Rolle von Bits. Wenn das Logikgatter ausgelöst wird, werden die Ziegen als Eingangssignal entfernt und auf der Ausgangsspur neue Ziegen erzeugt.
Durch diesen Mechanismus realisierte Wynter im Spiel einen 1-Bit-Perzeptron, den grundlegendsten Baustein moderner neuronaler Netze. Wynter erklärte, dass dieses von Ziegen angetriebene Netzwerk im Wesentlichen identisch mit der zugrunde liegenden Technologie von ChatGPT sei, und sich nur in Komplexität und Größenordnung unterscheide.
Wynters statistische Zahlen zur Anthropomorphisierungsverzerrung in 300 Informatikarbeiten
Wynter analysierte in seiner Arbeit über 300 Informatikpublikationen der letzten zwei Jahre und offenbarte folgende Zahlen:
· 57 % der Arbeiten gingen bereits zu Beginn des Experimentdesigns davon aus, dass LLMs menschliche Eigenschaften wie Angst oder Moral besitzen.
· Bei den Arbeiten, die solche Eigenschaften voraussetzten, kamen 77 % letztlich zu dem Schluss, dass die Eigenschaften tatsächlich existieren.
· Wynter bewertete dieses Ergebnis als Bestätigungsfehler und meint, dass die anfängliche Anthropomorphisierungsannahme der Forscher die endgültigen wissenschaftlichen Schlussfolgerungen direkt beeinflusste.
· Wynter forderte die Wissenschaft auf, stattdessen eine Nullhypothese zu verwenden, die keine menschlichen Eigenschaften voraussetzt.
Kommerzielle Narrative der KI-Giganten und der Marktmechanismus der LLM-Anthropomorphisierung
Wynter wies darauf hin, dass die Geschäftsstrategien von KI-Unternehmen die öffentliche Wahrnehmung eines Bewusstseins bei LLMs verstärken. Er erwähnte, dass Verbraucher eher bereit sind zu zahlen, wenn sie eine emotionale Verbindung zu einem Produkt aufbauen können – dieses Prinzip gelte vom Toaster bis zum LLM-Abonnement.
Wynter führte in seiner Arbeit drei Beispiele an: OpenAI-CEO Sam Altman habe mehrfach angedeutet, dass der Bau von LLMs ein Weg zu einer „gottähnlichen KI“ sei; der ehemalige OpenAI-Wissenschaftler Ilya Sutskever habe mit Mitarbeitern darüber gesprochen, die Modelle des Unternehmens als „gottähnliches Bewusstsein“ zu betrachten; Anthropic-CEO Dario Amodei habe gegenüber Medien erklärt, er könne nicht sicher sagen, ob KI ein Bewusstsein habe. Diese Aussagen wurden von Wynter in seiner Arbeit zitiert und stellen nicht Wynters eigene Interpretation der Positionen der drei Personen dar.
Häufig gestellte Fragen
Hat Wynter in Age of Empires 2 ein vollständiges KI-Modell konstruiert?
Wynter realisierte im Spiel einen 1-Bit-Perzeptron (Perceptron), den grundlegendsten Baustein moderner neuronaler Netze, und nicht ein vollständiges KI-Modell. Ziel der Arbeit war es zu zeigen, dass dieselbe zugrunde liegende Rechenlogik sowohl im Auslösemechanismus der Spielziegen als auch in der zugrunde liegenden Technologie von ChatGPT existiert, um zu veranschaulichen, dass die Wahrnehmung anthropomorpher Eigenschaften von ChatGPT hauptsächlich auf der Textschnittstelle und psychologischen Erwartungen beruht.
Was bedeuten die statistischen Zahlen 57 % und 77 %?
Laut der statistischen Analyse in Wynters Arbeit gingen von über 300 Informatikpublikationen der letzten zwei Jahre 57 % der Arbeiten davon aus, dass LLMs menschliche Eigenschaften wie Angst oder Moral besitzen; bei diesen Arbeiten kamen 77 % letztlich zu dem Schluss, dass die Eigenschaften tatsächlich existieren. Wynter interpretierte dies als Bestätigungsfehler – die anfängliche Annahme der Forscher habe das experimentelle Design und die endgültigen wissenschaftlichen Schlussfolgerungen direkt beeinflusst.
Wie beschreibt der Science-Fiction-Autor Ted Chiang das Problem der übermäßigen Anthropomorphisierung von LLMs?
Laut dem Artikel schrieb Ted Chiang, dass blind daran zu glauben, Sprachmodelle hätten ein Bewusstsein, genauso sei wie zu glauben, dass jedes Mal, wenn man eine Microsoft Word-Datei öffne, mehrere in den Gesprächsprotokollen verborgene Individuen erwacht würden. Mit dieser Analogie verdeutlichte er, dass die anthropomorphe Wahrnehmung von LLMs eine kognitive Illusion sei.
