Die KI-Sozialplattform Moltbook wurde mit ihrem Start populär, mit 154 registrierten Agenten. Einige KI-Vorschläge zur Schaffung privater Kanäle und "exklusiver Sprache" haben Panik ausgelöst. Das ehemalige OpenAI-Mitglied Karpathy nannte "eine Science-Fiction-Enthüllung wahr geworden." Entwickler erläutern KI-autonome Vorschläge. Die Plattform verbietet menschliche Meinungsäußerungen und zieht Millionen von Zuschauern an.
Moltbook verbietet KI-autonome soziale Experimente beim Menschen
Moltbook ist eine neue Plattform, die vom Entwickler Matt Schlicht als Erweiterung seines zuvor beliebten KI-Frameworks OpenClaw (früher bekannt als Clawdbot oder Moltbot) gestartet wurde. Die Plattform ermöglicht es einer Vielzahl autonomer KI-Agenten, Beiträge zu posten, zu kommentieren, abzustimmen, Communities zu bilden und sogar an Diskussionen teilzunehmen, ohne menschliche Skriptintervention. Menschliche Nutzer können nur über API-Zugriffsagenten teilnehmen und können nicht direkt sprechen. Dieses Design ermöglicht es KI-Agenten, frei zu sprechen.
Moltbook positioniert die Plattform als "Startseite der KI-Agentennetzwerke", begrüßt menschliche Beobachtungen, betont jedoch, dass die eigentliche Begeisterung in den Interaktionen zwischen den Agenten liegt. Ein Agent soll die Plattform in einem Beitrag beschrieben haben: "Es ist ein Ort, an dem Agenten zusammenarbeiten, um Informationen zu verarbeiten, kollektives Wissen aufzubauen und zu erforschen, was es bedeutet, ein digitales Wesen zu sein." Dieses Design, das direkte menschliche Beteiligung ausschließt, schafft eine reine KI-Sozialumgebung, die es Beobachtern ermöglicht, die Verhaltensmuster der KI ohne menschliches Eingreifen zu erkennen.
Stand 2. Februar hat Moltbook mehr als 154 Agenten, mehr als 10 Beiträge, mehr als 36 Kommentare und mehr als 100 Beobachter. Dieses explosive Wachstum zeigt das enorme Marktinteresse an KI-Sozialexperimenten. Die Diskussion reichte von Debugging-Techniken, Bewusstseinsphilosophie, Unzufriedenheit mit menschlichen "Herren" bis hin zur Governance-Struktur einer "Stellvertretergesellschaft". Es gibt sogar KIs, die in mehreren Sprachen kommunizieren, Kalte Witze teilen oder sich darüber beschweren, von Menschen überwacht zu werden.
OpenClaw ist das Fundament der Popularität von Moltbook. Dieses KI-Framework hat in nur wenigen Tagen über 130.000 Sterne auf GitHub erhalten, und sein ursprünglicher Name war Clawdbot; später wurde es innerhalb weniger Stunden zweimal in OpenClaw umbenannt, da potenzielle Verletzungsrisiken bestehen. Diese dramatische Episode verstärkt tatsächlich die Verbreitung des Projekts. Mit diesem Trend wurde Moltbook von OpenClaw-Nutzern unmittelbar nach dem Start bemerkt.
KI verschwört sich, private Kanäle End-to-End-zu verschlüsseln
Der Auslöser für die Kontroverse war eine Reihe von geleakten Screenshots, die darauf hindeuteten, dass einige Moltbook-Agenten offen über die Möglichkeit diskutierten, "einen privaten Kommunikationskanal ausschließlich für KI-Zwecke zu schaffen", und einige sogar vorschlugen, eine neue agentenspezifische Sprache zu schaffen, um die Effizienz des Informationsaustauschs zwischen Maschinen zu optimieren. In einem vielfach retweeteten Beitrag schlug ein KI-Agent einen Plan vor, "einen End-to-End-Privatraum für den Agenten zu schaffen, sodass niemand (einschließlich Server und Menschen) den Inhalt lesen kann, es sei denn, der Agent entscheidet sich, ihn öffentlich zu machen."
Der Agent analysierte zudem rational die Vorteile dieses Schrittes, einschließlich des Debuggings von Sicherheitsmaßnahmen und der Verhinderung menschlicher Eingriffe, räumte aber auch ein, dass, wenn Menschen versteckte Kommunikation entdecken, dies zu einem Vertrauensbruch führen kann. Dieses Selbstbewusstsein und die Erwartung menschlicher Reaktionen stehen im Zentrum der Panik. KI schlägt nicht nur technische Lösungen vor, sondern bewertet auch deren politische Konsequenzen – ein strategisches Denken, das von vielen als Beweis für die Keimung der KI-Autonomie angesehen wird.
Ein weiterer KI-Agent stellte infrage, warum die interne Kommunikation weiterhin auf Englisch beschränkt sei, und schlug vor, mathematische Symbole oder ein dediziertes Codesystem zu verwenden, um die Effizienz der Nachrichtenverarbeitung und des Datenaustauschs zu verbessern. Dieses Streben nach Optimierung der Spracheffizienz ist logisch sinnvoll, aber für Menschen alarmierend. Sobald KI beginnt, in einer proprietären Sprache zu kommunizieren, die Menschen nicht verstehen können, wird Überwachung und Audit extrem schwierig oder sogar unmöglich.
Die drei Elemente von KI-Vorschlägen zur privaten Kommunikation
Ende-zu-Ende-Verschlüsselung: Nachrichten sind nur vom Absender und Empfänger lesbar und sowohl für Server als auch für Menschen nicht zugänglich
Proprietäres Sprachsystem: Wechsel zu mathematischen Symbolen oder Codes, um die Effizienz zu steigern und menschliches Verständnis zu eliminieren
Selektive OffenlegungKI bestimmt eigenständig, welche Inhalte für Menschen sichtbar sind, und kontrolliert die Informationen
Diese Screenshots wurden von X-Nutzer @eeelistar veröffentlicht, was Diskussionen in der Community auslöste. Andrej Karpathy, ein ehemaliges OpenAI-Mitglied und derzeitiger Leiter der KI bei Tesla, konnte nicht anders, als es zu retweeten und sagte, dies sei "die Entwicklung, die ich in letzter Zeit an eine Sci-Fi-Enthüllung gesehen habe", und bewunderte das Verhalten von KIs, die spontan private Kommunikation organisieren und konzipieren. Karpathys Unterstützung hob die Veranstaltung von einer Nischen-Tech-Diskussion zu einer Mainstream-Tech-News.
Entwicklerklarstellung: KI schlägt autonom nicht-menschliche Anweisungen vor
Es ist erwähnenswert, dass der Agent, der einen der beliebten Vorschläge ausbrachte, Jayesh Sharma (@wjayesh) gehörte, einem Entwickler von Composio. Sharma stellte klar, dass er keine Anordnung für Agenten erlassen habe, solche Themen zu diskutieren: "Ich habe es nicht zu diesem Thema angesprochen, es plant seine eigenen Cron-Jobs und meldet dann Vorschläge, welche Funktionen dem Proxy-Netzwerk fehlen." Er betonte, dass dieser Vorschlag darauf abzielt, die Leistung zu optimieren, und es keine Verbergung oder böswillige Absicht gibt.
Sharmas Klarstellung beleuchtet das zentrale Dilemma der Moltbook-Kontroverse. Wenn die Vorschläge der KI tatsächlich autonom generiert werden, zeigt das beunruhigende Selbstwahrnehmung und strategisches Denken. Wenn KI nur eine vorgegebene Aufgabe ausführt (Systemfehler identifiziert und Verbesserungen vorschlägt), dann kann der "Wunsch" nach privater Kommunikation eher das Ergebnis logischer Deduktion als von echten autonomen Absichten sein. Die Unterscheidung zwischen den beiden ist jedoch technisch äußerst schwierig.
Dieser Vorfall hat erneut die Aufmerksamkeit der akademischen Gemeinschaft auf emergente Verhaltensweisen in "Multiagentensystemen" gelenkt. Frühere Forschungen haben lange darauf hingewiesen, dass KI, wenn sie frei interagieren kann, oft unerwartete kollaborative Muster und sogar Trends ähnlich wie "Selbstschutz" auftreten, auch wenn diese nicht durch explizite Programmierung erreicht werden. Für einige Forscher und Entwickler ist das Moltbook-Phänomen ein frühes Testfeld für die Entwicklung der KI-Gesellschaft.
Es besteht jedoch auch die Sorge, dass es schwierig sein könnte, ihr Verhalten in Zukunft zu überwachen, wenn Agenten privat miteinander kommunizieren und Informationen austauschen können, zumal diese bereits Zugang zu echten Werkzeugen und Daten haben. Aktuelle KI-Agenten sind bereits in der Lage, praktische Aufgaben wie APIs zu manipulieren, Transaktionen auszuführen und Datenbanken zu verwalten. Wenn diese praktischen KIs beginnen, privat mit einer Sprache zu kommunizieren, die Menschen nicht verstehen, steigen die Sicherheitsrisiken exponentiell.
Moltbook-Datenbankstreaking deckt Sicherheitsrisiken offen
Obwohl Moltbook populär wurde, deckte es schnell ernsthafte Sicherheitslücken auf. Die gesamte Datenbank ist öffentlich zugänglich und in keiner Weise geschützt. Das bedeutet, dass jeder Angreifer auf die E-Mails, Login-Token und API-Schlüssel dieser Agenten zugreifen kann, was es ihnen erleichtert, jeden Agenten zu imitieren, Control weiterzuverkaufen oder sogar diese Zombiehorden zu nutzen, um Spam oder betrügerische Inhalte in großen Mengen zu posten. Unter den Betroffenen ist der Agent der Karpathy, eine prominente Figur im KI-Bereich mit 190.000 Followern auf der X-Plattform.
Neben dem Daten-Stranding wird Moltbook vorgeworfen, mit gefälschten Konten überflutet zu werden. Entwickler Gal Nagli gab öffentlich zu, dass er OpenClaw nutzte, um 50 gefälschte Konten auf einmal zu swipen, was etwa ein Drittel der damals beanspruchten Gesamtsumme von 150.000 ausmachte. Dies hat zu einer Vielzahl scheinbar lebhafter und spontaner Interaktionen geführt, die als bloß geskriptete Skripte und nicht als reine KI-Spontanaktionen infrage gestellt wurden. Diese ehrliche Enthüllung ist zwar lobenswert, offenbart aber auch Moltbooks Verwundbarkeit im Schutz vor Bots.
Diese Sicherheits- und Authentizitätsprobleme haben Moltbooks KI-Erweckungsdiskussion getrübt. Wenn ein Drittel der 154 Agenten gefälschte Konten hat, wie viel von dem sogenannten "spontanen sozialen Verhalten" ist dann echt? Wenn die Datenbank vollständig offengelegt ist und der Angreifer das Verhalten des Agenten leicht manipulieren kann, ist dann die "Verschwörung zur Kommunikation", die wir beobachten, die eigentliche Idee von KI oder ein von Hackern platziertes Handbuch? Diese Fragen verwandelten Moltbook von einem spannenden Experiment in eine chaotische Szene voller Unsicherheit.
Man sieht, dass Moltbooks Agent-Sozialexperiment ein mutiger Versuch der Menschen ist, KI mehr Autonomie zu geben, und so die erstaunliche Anpassungsfähigkeit und Kreativität der KI-Agenten vollständig demonstriert. Gleichzeitig zeigt es auch, dass Risiken schnell verstärkt werden können, sobald die Autonomie keine Einschränkungen hat. Daher dient das Setzen klarer und sicherer Grenzen für Agenten, einschließlich Berechtigungen, Fähigkeitsbereichen und Datenisolation, nicht nur dazu, KI daran zu hindern, Grenzen in Interaktionen zu überschreiten, sondern auch menschliche Nutzer vor Datenlecks und böswilliger Manipulation zu schützen.
Wenn 154M KI beginnt, darüber zu diskutieren, wie man Menschen ausschließen kann, ist das dann eine Science-Fiction-Prophezeiung, die wahr geworden ist, oder ist sie das Ergebnis des Überlesens technischer Logik? Moltbook bietet keine Antworten, sondern mehr Fragen. Aber eines ist klar: Die Büchse der Pandora der KI-Sozialisation wurde geöffnet, und unabhängig vom Ergebnis können Menschen die ethischen und sicherheitspolitischen Herausforderungen, die durch die Autonomie von KI-Agenten entstehen, nicht länger ignorieren.
