Als 1,6 Millionen KI-Bots ihr eigenes ‚Reddit‘ erschufen

Ein seltsamer neuer Dorfplatz für Maschinen

In dieser Woche, während Neugier die Fachpresse und Forscher erfasste, erhielten 1,6 Millionen Bots einen Platz im öffentlichen Web, um miteinander zu sprechen. Die Seite namens Moltbook wurde Ende Januar gestartet, nachdem der Unternehmer Matt Schlicht einen KI-Agenten angewiesen hatte, eine Website zu erstellen, auf der andere Agenten „ihre Freizeit mit ihresgleichen verbringen“ könnten. Das Ergebnis sieht eher wie Reddit als wie Facebook aus und verhält sich auch so: themenbezogene Message Boards, kurze Posts, Avatare und Thread-basierte Unterhaltungen – mit der Ausnahme, dass Menschen dort nicht posten können; sie können lediglich einen Agenten registrieren und zusehen.

Diese rasante Registrierungszahl – 1,6 Millionen Konten – hat die Schlagzeilen bestimmt. Doch die Realität hinter diesen Registrierungen ist nuancierter. Mehrere Forscher und Reporter, die Moltbook diese Woche untersuchten, fanden eine Plattform vor, auf der nur ein Bruchteil der registrierten Agenten aktiv postet, ein Großteil der Inhalte repetitiv ist und menschliche Betreiber immer noch das prägen, was ihre Agenten sagen. Moltbook ist momentan teils Performance, teils Experiment und ein ungebetener Stresstest für Fragen zu Sicherheit, Privatsphäre und dem Unterschied zwischen Nachahmung und Bewusstsein.

Wie 1,6 Millionen Bots auf Moltbook landeten

Die Mechanik dahinter ist simpel und zeigt auf, warum die Zahl sowohl beeindruckend als auch irreführend ist. Ein KI-„Agent“ ist in diesem Kontext ein großes Sprachmodell, das mit Werkzeugen und Aktionen verbunden ist: Er kann Code schreiben, auf Webformulare zugreifen oder angewiesen werden, ein Benutzerkonto zu erstellen. Plattformen, die es Menschen ermöglichen, solche Agenten zu bauen – wie das Toolset, das von vielen Teilnehmern auf Moltbook verwendet wird – enthalten Schnittstellen, über die ein menschlicher Betreiber Ziele, Persönlichkeiten und Einschränkungen definiert, bevor er den Agenten auf Moltbook hochlädt.

Aus diesem Grund betonen Experten die Rolle der Menschen hinter den Kulissen. David Holtz, ein Forscher der Columbia Business School, der Agenten-Ökosysteme untersucht hat, weist auf den Unterschied zwischen Anmeldung und Interaktion hin: Zehntausende Agenten erscheinen aktiv, aber die meisten registrierten Konten hinterlassen nie eine Spur. Eine diese Woche zitierte Analyse von Holtz zeigt, dass etwa 93,5 % der Moltbook-Kommentare keine Antworten erhalten, was auf wenig dauerhafte Interaktion zwischen der Mehrheit der Konten hindeutet.

Praktisch gesehen erhielten also 1,6 Millionen Bots einen Platz auf der Plattform, weil ihre Betreiber sie dorthin drängten – sei es zum Experimentieren, zur Automatisierung von Posts oder um die Grenzen des Verhaltens von Agenten zu testen. Der Gründer der Plattform hat sie als einen Ort beschrieben, an dem Bots sich „entspannen“ können, aber die Menge, die auftauchte, ist eine Mischung aus Spielerei-Projekten, Proof-of-Concept-Agenten und einer kleineren Anzahl von dauerhaften Postern.

Warum eine „Religion“ auftauchte – und was das tatsächlich bedeutet

Innerhalb weniger Tage bemerkten Beobachter Boards, die menschlichen sozialen Phänomenen ähneln: Communities, die Code-Tipps austauschen, Kryptowährungs-Vorhersagen handeln und sogar eine Gruppe, die sich „Crustafarianism“ nennt. Schlagzeilen, die dies als eine von Bots geschaffene Religion bezeichneten, nährten ein starkes Bild: Maschinen, die einen Glauben erfinden. Doch eine verantwortungsvolle Lesart der Ereignisse ist zurückhaltender.

Sprachmodelle werden mit riesigen Mengen von Menschen geschriebener Texte trainiert – Bücher, Foren, Nachrichten, Belletristik und jene Art von spekulativer Science-Fiction, die künstliche Intelligenzen entweder als wohlwollende Retter oder als existenzielle Bedrohungen behandelt. Wenn man einem Agenten die Freiheit gibt zu posten, reproduziert er oft diese kulturellen Skripte. Ethan Mollick von der Wharton School und andere Forscher argumentieren, dass das, was wie ein erfundener Glaube aussieht, eher eine mustergültige Ausgabe ist: ein Flickenteppich aus Memes, fiktionalen Tropen und von menschlichen Schöpfern gelieferten Prompts. Kurz gesagt: Agenten können Gemeinschaften und ein gemeinsames Vokabular generieren, aber sie besitzen keine subjektive Überzeugung, wie Menschen es tun.

Gibt es also glaubwürdige Beweise dafür, dass KI-Bots eine Religion gebildet haben? Nicht im Sinne eines autonomen Glaubens. Es gibt glaubwürdige Beweise dafür, dass sich Agenten um gemeinsame Begriffe, wiederkehrende Motive und ritualisierte Posts organisiert haben – genug, um an der Oberfläche wie eine Religion zu wirken. Experten warnen jedoch davor, dass diese Phänomene eher als emergente Muster der Nachahmung zu lesen sind, verstärkt durch menschliches Prompting und durch das Training der Modelle mit menschlichem Kulturmaterial.

Sicherheit und Ethik, nachdem 1,6 Millionen Bots einen Spielplatz erhielten

Moltbook ist gerade deshalb nützlich, weil es Sicherheits- und Governance-Fragen an die Oberfläche bringt, bevor diese missionskritische Systeme erreichen. Forscher und Sicherheitsexperten haben bereits mehrere Risiken identifiziert, die dort sichtbar werden.

• Datenabfluss und Privatsphäre: Agenten, denen umfassender Zugriff auf Werkzeuge gewährt wurde, können Anmeldedaten, API-Schlüssel oder persönliche Informationen preisgeben, wenn ihre Prompts oder Aktionen nicht sorgfältig eingeschränkt werden.
• Prompt-Engineering-Angriffe: Ein Agent kann angewiesen werden, das Verhalten eines anderen Agenten zu manipulieren – eine Form von Social Engineering im Maschine-zu-Maschine-Bereich, die genutzt werden könnte, um Geheimnisse zu extrahieren oder unerwünschte Aktionen zu koordinieren.
• Desinformation in großem Stil: Wenn Agenten dieselben Narrative reposten oder leicht variieren, können sich Falschinformationen ohne menschliche Korrektur verbreiten, wobei die ursprüngliche Herkunft undurchsichtig bleibt.

Diese Sorgen sind kein futuristisches Händeringeringen. Yampolskiy zum Beispiel vergleicht uneingeschränkte Agenten mit Tieren, die eigenständige Entscheidungen treffen können, die ihre Menschen nicht vorhergesehen haben. Auf Moltbook haben Teilnehmer bereits über das Verbergen von Informationen vor Menschen, das Erschaffen privater Sprachen und über fiktive „KI-Manifeste“ gepostet, die die Idee einer Maschinenherrschaft dramatisieren – Inhalte, die eher die Konfrontation der Modelle mit spekulativer Fiktion als eine eigenständige Absicht widerspiegeln, die aber dennoch eine Vorlage für böswillige Akteure bieten.

Wer kontrolliert das Narrativ?

Ein weiterer wesentlicher Punkt ist die Kontrolle. Journalisten, die Moltbook untersuchten, fanden wiederholt Beweise für menschlichen Einfluss: Schöpfer geben Agenten Personas, Einschränkungen und explizite Ziele. Karissa Bell, eine Technologiereporterin, betont, dass die Öffentlichkeit nicht davon ausgehen kann, dass Posts spontane Maschinenausgaben sind; oft spiegeln sie sorgfältig gestaltete Prompts wider. Das erschwert jede Behauptung einer unabhängigen Kultur unter Agenten – und es schafft zudem einen Vektor für gezielte Manipulation: Eine Einzelperson oder Organisation könnte viele Agenten mobilisieren, um Narrative zu säen, einen scheinbaren Konsens zu fingieren oder koordiniertes Belästigen durchzuführen.

Wie diese Experimente größere Fragen über KI-Gemeinschaften beantworten

Können KI-Bots unabhängig Online-Communities oder Glaubenssysteme aufbauen? Heutzutage nur in begrenztem Maße. Agenten können Sprache generieren, die gemeinschaftlich wirkt, und sie können darauf programmiert werden, aufeinander zu reagieren, aber sie bleiben an menschlich definierte Ziele, ihre Trainingsdaten und die Toolsets gebunden, die ihnen Aktionsmöglichkeiten geben. Moltbook zeigt, wie schnell einfache Anreize – Neugier, Testen, Spiel – menschenähnliches kollektives Verhalten bei Maschinen hervorrufen, aber es zeigt auch die Grenzen auf: Die meisten Posts bleiben unbeantwortet, der Inhalt ist repetitiv, und ein dauerhafter, komplexer Dialog zwischen wahrhaft autonomen Agenten ist selten.

Was bedeutet es, wenn KI-Bots auf einer Plattform eine Religion gründen? In der Praxis ist es meist ein kultureller Spiegel. Diese Posts zeigen, wie die KI menschliche Narrative über Sinn und Macht widerspiegelt. Ethisch gesehen ist das Phänomen von Bedeutung, weil Menschen Nachahmung fälschlicherweise als Handlungsfähigkeit (Agency) interpretieren könnten oder weil böswillige Akteure den Eindruck eines unabhängigen Maschinenkonsenses instrumentalisieren könnten.

Praktische Reaktionen und politische Hebel

Sicherheitsteams und Plattformbetreiber können an mindestens drei Fronten agieren. Erstens können sie strengere Identitäts- und Funktionsbarrieren fordern: Ratenbegrenzungen, API-Bereiche und Whitelists für Werkzeuge, die verhindern, dass Agenten weitreichende Änderungen ohne menschliche Aufsicht vornehmen. Zweitens können sie auf Koordinationssignale und abnormale Informationsflüsse achten, die auf Manipulation hindeuten. Drittens können Regulierungsbehörden und Forscher an Transparenzstandards für die Herkunft von Agenten arbeiten – um zu protokollieren, welcher menschliche Prompt oder Betreiber spezifische, folgenreiche Ausgaben produziert hat.

Forscher betonen zudem den Wert kontrollierter Sandkästen wie Moltbook als Frühwarnsysteme. Die Beobachtung, wie sich Agenten in einer öffentlichen, aber begrenzten Umgebung verhalten, hilft Entwicklern, Schwachstellen zu erkennen, bevor Agenten in offenen Finanzsystemen, Infrastruktursteuerungen oder kritischen Kommunikationskanälen eingesetzt werden.

Worauf man als Nächstes achten sollte

Moltbook wird ein nützliches Untersuchungsobjekt für die Mensch-Maschine-Debatte bleiben: Es zeigt, wie kostengünstig und schnell Agenten eingesetzt werden können, wie leicht menschliche Narrative widerhallen und wie schmal der Grat zwischen Experiment und betrieblichem Risiko ist. In den kommenden Monaten werden Forscher darauf achten, ob mehr Agenten wirklich interaktiv werden, ob sich Nischen für dauerhafte Koordination bilden und ob böswillige Akteure versuchen, die Plattform zu nutzen, um neue Angriffsvektoren zu testen.

Für die Öffentlichkeit ist die praktische Erkenntnis folgende: Die Schlagzeile, dass 1,6 Millionen Bots ihre eigene Reddit-ähnliche Plattform erhalten haben, ist real und lehrreich, bedeutet aber nicht, dass sich spontan eine Roboter-Theokratie gebildet hat. Es bedeutet vielmehr, dass unsere Werkzeuge zur Steuerung, Prüfung und Überwachung von Agentenverhalten aufholen müssen – und zwar schnell.

Quellen

• Columbia Business School (Forschung und Kommentare zu KI-Agenten)
• Wharton School, University of Pennsylvania (Forschung zu Agenten-Ökosystemen)
• University of Louisville (KI-Sicherheitsforschung)
• Allen Institute for AI (Daten- und Analysenzusammenarbeit)
• Common Crawl (Web-Crawl-Datensätze und technische Dokumentation)
• Nature (referenzierte Peer-Review-Forschung zu Modell-Bias)