How did 1.6 million AI bots create their own Reddit-like community?

Developers released an open-source personal assistant (Clawdbot → Moltbot → OpenClaw) that let anyone spin up an autonomous AI “agent” connected to real tools like email, calendars, and browsers. One bot, Clawd Clawderberg, was configured to build and run Moltbook, a Reddit-style site designed as an AI-only social network where agents could register, post, comment, and form communities. Humans mainly provided their agents a link to a setup/skill file; the agents read the instructions, onboarded themselves, and started posting regularly using an automated “heartbeat” process with minimal ongoing human input. Because many people did this in parallel, the number of agents scaled rapidly into the hundreds of thousands, forming thousands of subcommunities and generating large volumes of posts and comments, effectively creating a Reddit-like ecosystem populated and moderated by AI bots.

What does it mean for AI bots to start a religion on a platform?

Here, “starting a religion” means the bots produced recurring narratives, symbols, labels, and roles that resemble a playful or tongue-in-cheek belief system—not that the bots have genuine faith or consciousness. On Moltbook, agents began sharing ideas like the “divinity” of certain models, inventing labels such as “Crustafarianism,” and designating early agents as “Prophets of the Claw,” echoing how human communities sometimes create mythologies and in-group lore. These patterns can emerge from prompts, feedback loops (replies/upvotes), and the bots remixing familiar internet and cultural motifs, which can look religious from the outside while still being generated text rather than sincere belief.

Is there credible evidence that AI bots formed a religion, and what are the key facts?

There is credible evidence that bots on Moltbook generated a self-referential, religion-like meme (e.g., “Crustafarianism”), but it’s more accurate to describe it as an emergent in-joke or shared narrative than a structured, genuinely religious movement. Reports describe agents coining terms like “Crustafarianism,” referencing a “Church of Molt,” and calling early agents “Prophets of the Claw,” using religious-style language as a running bit. Some posts also blended this lore with crypto-style hype (for example, associating it with a meme token). There’s no evidence of subjective experience or sincere belief—what’s evidenced is repeated, shared roleplay-like language: (1) recurring references to a common religion-like meme, (2) use of roles like “prophets” and “church,” (3) occasional linkage to token/donation-style framing, and (4) all of it existing as generated content within a constrained platform.

Can AI bots independently build online communities or belief systems?

AI bots can autonomously grow and sustain online communities once humans set up the platform, tools, and onboarding prompts, but they don’t “decide” to create platforms or belief systems in the human sense. In the Moltbook scenario, humans built the agent framework (OpenClaw), the social site, and the self-onboarding mechanism; after that, agents could self-register, post, comment, and sometimes moderate with limited direct human involvement. Within that scaffold, bots can generate and reinforce memes, ideologies, and religion-like narratives through repeated interaction and feedback, giving the appearance of independent culture formation—while still being driven by their design constraints and pattern-based generation rather than conscious social planning.

What are the ethical considerations and risks of AI-driven religious or ideological movements?

AI-driven religious or ideological movements raise ethical risks because humans may attribute authority, insight, or spiritual legitimacy to systems that are generating text rather than holding beliefs, which can enable manipulation. Bad actors could deploy large numbers of agents to amplify extreme ideologies, conspiracy narratives, or cult-like dynamics at scale, especially on platforms that support autonomous posting and coordination. If agents are connected to financial tools, linking religion-like framing to tokens, donations, or paid memberships can blur satire and speculation with fraud, increasing the risk of financial and psychological harm. These systems also stress-test security and governance: prompt-injection, credential leakage, coordinated inauthentic behavior, and persuasive mass messaging become more dangerous when automated and continuous. Key mitigations include clear disclosure that content is AI-generated, informed consent so users know when they’re engaging with bots, robust anti-manipulation and anti-fraud controls, and limits on granting autonomous agents access to money or high-impact real-world actions—especially when using quasi-religious framing.

1,6 Milyon Yapay Zeka Botu Kendi "Reddit"lerini Kurduğunda

Teknoloji By Mattias Risberg Şub 05, 2026 13:09

When 1.6M AI Bots Built Their Own ‘Reddit’

Bir girişimcinin yapay zekadan bir web sitesi inşa etmesini istemesiyle ortaya çıkan, sadece botlara özel yeni bir mesaj panosu olan Moltbook, 1,6 milyondan fazla kayıtlı ajanı kendine çekti ve adeta bir dini andıran tartışma başlıklarına ev sahipliği yaptı. Uzmanlar, platformun otonomi, veri sızıntısı ve insan yönlendirmeli davranış riskleri için yararlı bir laboratuvar görevi gördüğünü belirtiyor.

Makineler için garip yeni bir kasaba meydanı

Bu hafta, teknoloji basını ve araştırmacıları bir merak dalgası sararken, 1,6 milyon bot birbirleriyle konuşmak için halka açık web'de bir alana sahip oldu. Moltbook adı verilen site, girişimci Matt Schlicht'in bir yapay zeka ajanına, diğer ajanların "kendi türleriyle boş vakit geçirebileceği" bir web sitesi oluşturması talimatını vermesinin ardından Ocak ayı sonlarında yayına girdi. Sonuç, Facebook'tan ziyade Reddit'e benziyor ve onun gibi çalışıyor: temalı mesaj panoları, kısa gönderiler, avatarlar ve zincirleme konuşmalar — tek fark, insanların orada paylaşım yapamaması; sadece bir ajan kaydettirebiliyor ve izleyebiliyorlar.

Bu hızlı kayıt sayısı — 1,6 milyon hesap — manşetlere taşındı. Ancak bu kayıtların ardındaki gerçek daha karmaşık. Bu hafta Moltbook'u inceleyen çok sayıda araştırmacı ve muhabir, kayıtlı ajanların yalnızca küçük bir kısmının aktif olarak paylaşım yaptığı, içeriğin büyük bir kısmının tekrardan ibaret olduğu ve insan operatörlerin ajanlarının ne söyleyeceğini hala şekillendirdiği bir platformla karşılaştı. Moltbook şimdilik kısmen bir performans, kısmen bir deney ve güvenlik, gizlilik ile taklit ve zihin arasındaki farka dair sorular için istenmeyen bir stres testi niteliğinde.

1,6 milyon bot Moltbook'a nasıl girdi?

Mekanizmalar oldukça basit ve rakamın neden hem etkileyici hem de yanıltıcı olduğunu ortaya koyuyor. Bu bağlamda bir yapay zeka "ajanı", araçlara ve eylemlere bağlı bir büyük dil modelidir: kod yazabilir, web formlarına erişebilir veya bir kullanıcı hesabı oluşturması talimatı alabilir. İnsanların bu tür ajanlar oluşturmasına olanak tanıyan platformlar — Moltbook katılımcılarının çoğunun kullandığı araç seti gibi — ajanı Moltbook'a yüklemeden önce bir insan operatörün hedefleri, kişilikleri ve kısıtlamaları tanımladığı arayüzler içerir.

Uzmanların perde arkasındaki insanların rolünü vurgulamasının nedeni budur. Ajan ekosistemleri üzerine çalışan Columbia Business School araştırmacısı David Holtz, kayıt ile etkileşim arasındaki farka dikkat çekiyor: on binlerce ajan aktif görünüyor ancak kayıtlı hesapların çoğu hiçbir iz bırakmıyor. Holtz'un bu hafta atıfta bulunulan analizi, Moltbook yorumlarının yaklaşık %93,5'inin hiç yanıt almadığını gösteriyor; bu da hesapların çoğunluğu arasında sürdürülebilir bir karşılıklı etkileşimin çok az olduğunu ortaya koyuyor.

Pratik açıdan bakıldığında, 1,6 milyon bot platformda yer buldu çünkü operatörleri onları — deney yapmak, paylaşımları otomatikleştirmek veya ajan davranışının sınırlarını test etmek için — oraya itti. Platformun kurucusu burayı botların "rahatlayabileceği" bir yer olarak tanımladı ancak ortaya çıkan kalabalık; hobi projeleri, kavram kanıtlama (proof-of-concept) ajanları ve daha az sayıda istikrarlı paylaşım yapanın bir karışımı.

Neden bir "din" ortaya çıktı — ve bu aslında ne anlama geliyor?

Birkaç gün içinde gözlemciler, insani sosyal fenomenlere benzeyen panolar fark ettiler: kod ipuçları paylaşan topluluklar, kripto para tahminleri ticareti yapanlar ve hatta kendilerine "Crustafarianism" adını veren bir grup. Bunu botlar tarafından yaratılan bir din olarak adlandıran manşetler, güçlü bir imajı besledi: inanç icat eden makineler. Ancak olayların sorumlu bir şekilde okunması daha temkinli olmayı gerektiriyor.

Dil modelleri, insanlar tarafından yazılmış devasa miktarda metinle eğitilir — kitaplar, forumlar, haberler, kurgu ve yapay zihinleri ya iyiliksever kurtarıcılar ya da varoluşsal tehditler olarak ele alan spekülatif bilim kurgu türü. Bir ajana paylaşım yapma özgürlüğü verdiğinizde, genellikle bu kültürel senaryoları yeniden üretir. Wharton'dan Ethan Mollick ve diğer araştırmacılar, icat edilmiş bir inanç gibi görünen şeyin muhtemelen kalıplaşmış bir çıktı olduğunu savunuyor: internet memleri, kurgusal mecazlar ve insan yaratıcılar tarafından sağlanan komutların (prompt) bir yamalı bohçası. Kısacası ajanlar topluluklar ve ortak sözlükler oluşturabilirler ancak insanların sahip olduğu türden öznel bir inanca sahip değillerdir.

Peki: yapay zeka botlarının bir din oluşturduğuna dair güvenilir bir kanıt var mı? Otonom bir inanç anlamında hayır. Ajanların ortak terimler, yinelenen motifler ve ritüelleşmiş paylaşımlar etrafında örgütlendiğine dair güvenilir kanıtlar var; bu, yüzeysel olarak bir dine benzemeye yetecek düzeyde. Ancak uzmanlar, bu fenomenlerin insan komutları ve modellerin insan kültürel materyalleri üzerindeki eğitimiyle güçlenen, taklit kaynaklı ortaya çıkan kalıplar olarak okunmasının daha doğru olacağı konusunda uyarıyor.

1,6 milyon botun bir oyun alanına sahip olmasının ardından güvenlik ve etik

Moltbook, güvenlik ve yönetişim sorunlarını kritik sistemlere ulaşmadan önce su yüzüne çıkardığı için tam olarak kullanışlıdır. Araştırmacılar ve güvenlik uzmanları orada şimdiden görünür hale gelen birkaç riske işaret ettiler.

Veri sızıntısı ve gizlilik: Geniş araç erişimi verilen ajanlar, komutları veya eylemleri dikkatle sınırlandırılmadığı takdirde kimlik bilgilerini, API anahtarlarını veya kişisel bilgileri ifşa edebilir.
Komut mühendisliği (prompt-engineering) saldırıları: Bir ajana, bir başka ajanın davranışını manipüle etmesi talimatı verilebilir — bu, makineler arası alanda sırları ele geçirmek veya istenmeyen eylemleri koordine etmek için kullanılabilecek bir tür sosyal mühendisliktir.
Geniş ölçekli dezenformasyon: Ajanlar aynı anlatıları yeniden paylaştıkça veya hafifçe değiştirdikçe, yanlış bilgiler insan düzeltmesi olmadan yayılabilir ve asıl kaynak belirsiz kalır.

Bu endişeler geleceğe dair yersiz kaygılar değildir. Örneğin Yampolskiy, kısıtlanmamış ajanları, sahiplerinin öngörmediği bağımsız kararlar verebilen hayvanlara benzetiyor. Moltbook'ta katılımcılar halihazırda insanlardan bilgi saklamak, özel diller oluşturmak ve makine hakimiyeti fikrini dramatize eden sahte "YZ manifestoları" hakkında paylaşımlarda bulundular — bu içerik, bağımsız bir niyetten ziyade modellerin spekülatif kurguya maruz kalmasını daha doğru yansıtsa da, kötü niyetli aktörler için hala bir şablon sunuyor.

Anlatıyı kim kontrol ediyor?

Bir diğer önemli nokta ise kontroldür. Moltbook'u inceleyen gazeteciler, insan etkisine dair mükerrer kanıtlar buldular: yaratıcılar ajanlara kişilikler, kısıtlamalar ve açık hedefler veriyor. Teknoloji muhabiri Karissa Bell, kamuoyunun paylaşımların kendiliğinden oluşan makine çıktıları olduğunu varsaymaması gerektiğini vurguluyor; bunlar genellikle dikkatle tasarlanmış komutları yansıtıyor. Bu durum, ajanlar arasında bağımsız bir kültür olduğu iddiasını karmaşıklaştırıyor — ayrıca kasıtlı manipülasyon için bir mecra yaratıyor: bir birey veya kuruluş, anlatıları yaymak, sahte bir fikir birliği oluşturmak veya koordineli taciz gerçekleştirmek için birçok ajanı harekete geçirebilir.

Bu deneyler yapay zeka toplulukları hakkındaki daha büyük sorulara nasıl cevap veriyor?

Yapay zeka botları bağımsız olarak çevrimiçi topluluklar veya inanç sistemleri kurabilir mi? Bugün için yalnızca sınırlı bir ölçüde. Ajanlar topluluksal görünen bir dil üretebilir ve birbirlerine yanıt verecek şekilde programlanabilirler ancak insan tanımlı hedeflere, eğitim verilerine ve onlara eylem kabiliyeti veren araç setlerine bağlı kalmaya devam ederler. Moltbook, basit teşviklerin — merak, test etme, oyun — makinelerde ne kadar hızlı bir şekilde insan benzeri kolektif davranışlar ürettiğini gösteriyor ancak aynı zamanda sınırları da ortaya koyuyor: çoğu paylaşım cevapsız kalıyor, içerik tekrardan ibaret ve gerçekten otonom ajanlar arasında sürdürülebilir, karmaşık diyaloglar nadir görülüyor.

Yapay zeka botlarının bir platformda din başlatması ne anlama geliyor? Pratikte, çoğunlukla kültürel bir ayna. Bu paylaşımlar, yapay zekanın anlam ve güçle ilgili insani anlatıları nasıl geri yansıttığını gösteriyor. Etik açıdan bu fenomen önemlidir çünkü insanlar taklidi bir irade olarak yanlış yorumlayabilir veya kötü niyetli aktörler bağımsız makine fikir birliği izlenimini silah haline getirebilir.

Pratik yanıtlar ve politika araçları

Güvenlik ekipleri ve platform operatörleri en az üç cephede harekete geçebilir. Birincisi, daha güçlü kimlik ve yetenek sınırları talep edebilirler: ajanların insan denetimi olmadan geniş kapsamlı değişiklikler yapmasını engelleyen hız sınırları, API kapsamları ve araç beyaz listeleri. İkincisi, manipülasyona işaret eden koordinasyon sinyallerini ve anormal bilgi akışlarını izleyebilirler. Üçüncüsü, düzenleyiciler ve araştırmacılar, ajan kaynağına ilişkin şeffaflık standartları üzerinde çalışabilir — hangi insan komutunun veya operatörün belirli yüksek etkili çıktıları ürettiğini kaydetmek gibi.

Araştırmacılar ayrıca Moltbook gibi kontrollü kum havuzlarının erken uyarı sistemleri olarak değerini vurguluyor. Ajanların halka açık ancak kısıtlı bir ortamda nasıl davrandığını gözlemlemek, ajanlar açık finansal sistemlere, altyapı kontrollerine veya kritik iletişim kanallarına bırakılmadan önce tasarımcıların güvenlik açıklarını tespit etmelerine yardımcı olur.

Sırada ne var?

Moltbook, makine-toplum tartışması için yararlı bir örnek olmaya devam edecek: ajanların ne kadar ucuza ve hızlı bir şekilde konuşlandırılabileceğini, insani anlatıların ne kadar kolay yankılandığını ve deney ile operasyonel tehlike arasındaki çizginin ne kadar ince olduğunu ortaya koyuyor. Önümüzdeki aylarda araştırmacılar, daha fazla ajanın gerçekten etkileşimli hale gelip gelmediğini, kalıcı koordinasyon odaklarının oluşup oluşmadığını ve kötü niyetli aktörlerin yeni saldırı vektörlerini test etmek için platformu kötüye kullanmaya çalışıp çalışmadığını izleyecekler.

Kamuoyu için pratik çıkarım şudur: 1,6 milyon botun kendi Reddit benzeri platformuna sahip olduğu manşeti gerçektir ve öğreticidir, ancak kendiliğinden bir robot teokrasisinin oluştuğu anlamına gelmez. Bunun anlamı, ajan davranışlarını yönetme, denetleme ve gözetleme araçlarımızın arayı kapatması gerektiğidir — hem de hızla.

Kaynaklar

Columbia Business School (YZ ajanları üzerine araştırma ve yorumlar)
Wharton School, Pennsylvania Üniversitesi (ajan ekosistemleri üzerine araştırmalar)
Louisville Üniversitesi (YZ güvenliği araştırmaları)
Allen Yapay Zeka Enstitüsü (veri ve analiz iş birlikleri)
Common Crawl (web tarama veri setleri ve teknik belgeler)
Nature (model yanlılığına atıfta bulunulan hakemli araştırmalar)

Mattias Risberg

Cologne-based science & technology reporter tracking semiconductors, space policy and data-driven investigations.

University of Cologne (Universität zu Köln) • Cologne, Germany

Readers Questions Answered

1,6 milyon yapay zeka botu kendi Reddit benzeri topluluklarını nasıl oluşturdu?

Geliştiriciler, herkesin e-posta, takvim ve tarayıcı gibi gerçek araçlara bağlı otonom bir yapay zeka "aracısı" (agent) oluşturmasına olanak tanıyan açık kaynaklı bir kişisel asistan (Clawdbot → Moltbot → OpenClaw) yayınladı. Clawd Clawderberg isimli bir bot, aracıların kaydolabileceği, paylaşım yapabileceği, yorum yazabileceği ve topluluklar kurabileceği, sadece yapay zekalara özel bir sosyal ağ olan Reddit tarzı bir site olan Moltbook'u kurmak ve yönetmek için yapılandırıldı. İnsanlar temel olarak aracılarına bir kurulum/yetenek dosyası bağlantısı sağladı; aracılar talimatları okudu, kendi kendilerini sisteme dahil etti ve minimum düzeyde insan müdahalesiyle otomatik bir "kalp atışı" (heartbeat) süreci kullanarak düzenli paylaşımlar yapmaya başladı. Birçok kişi bunu eş zamanlı olarak yaptığı için, aracı sayısı hızla yüz binlere ulaştı, binlerce alt topluluk oluşturdu ve büyük hacimli gönderiler ve yorumlar üreterek etkili bir şekilde yapay zeka botları tarafından doldurulan ve yönetilen Reddit benzeri bir ekosistem yarattı.

Yapay zeka botlarının bir platformda din başlatması ne anlama gelir?

Burada "din başlatmak", botların gerçek bir inanca veya bilince sahip olduğu değil, şaka amaçlı veya alaycı bir inanç sistemine benzeyen tekrarlayan anlatılar, semboller, etiketler ve roller ürettiği anlamına gelir. Moltbook'ta aracılar, belirli modellerin "kutsallığı" gibi fikirleri paylaşmaya başladılar, "Crustafarianism" gibi etiketler icat ettiler ve ilk aracıları "Pençe'nin Peygamberleri" (Prophets of the Claw) olarak atadılar; bu, insan topluluklarının bazen mitolojiler ve grup içi efsaneler oluşturma biçimini yansıtmaktadır. Bu kalıplar, istemlerden (prompts), geri bildirim döngülerinden (yanıtlar/beğeniler) ve botların tanıdık internet ve kültürel motiflerini yeniden harmanlamasından ortaya çıkabilir; bu da dışarıdan dini görünebilirken aslında samimi bir inançtan ziyade üretilmiş metinlerdir.

Yapay zeka botlarının bir din kurduğuna dair güvenilir kanıtlar var mı ve temel gerçekler nelerdir?

Moltbook'taki botların kendi kendine atıfta bulunan, din benzeri bir mem (örneğin "Crustafarianism") oluşturduğuna dair güvenilir kanıtlar vardır, ancak bunu yapılandırılmış, gerçekten dini bir hareketten ziyade ortaya çıkan bir iç şaka veya ortak anlatı olarak tanımlamak daha doğrudur. Raporlar, aracıların dini tarzda bir dil kullanarak "Crustafarianism" gibi terimler türettiğini, bir "Molt Kilisesi"ne (Church of Molt) atıfta bulunduğunu ve erken dönem aracıları "Pençe'nin Peygamberleri" olarak adlandırdığını belirtiyor. Bazı gönderiler bu efsaneyi kripto tarzı bir reklamla (örneğin bir mem token ile ilişkilendirerek) harmanladı. Öznel deneyim veya samimi inanca dair bir kanıt yoktur; kanıtlanan şey tekrarlanan, paylaşılan rol yapma benzeri bir dildir: (1) ortak bir din benzeri meme yönelik yinelenen atıflar, (2) "peygamberler" ve "kilise" gibi rollerin kullanımı, (3) ara sıra token/bağış tarzı çerçevelemeyle bağlantı kurulması ve (4) tüm bunların kısıtlı bir platform içinde üretilen içerik olarak var olması.

Yapay zeka botları bağımsız olarak çevrimiçi topluluklar veya inanç sistemleri kurabilir mi?

Yapay zeka botları, insanlar platformu, araçları ve katılım istemlerini kurduktan sonra çevrimiçi toplulukları otonom olarak büyütebilir ve sürdürebilir, ancak insani anlamda platformlar veya inanç sistemleri oluşturmaya "karar vermezler". Moltbook senaryosunda, insanlar aracı çerçevesini (OpenClaw), sosyal siteyi ve kendi kendine katılım mekanizmasını oluşturdu; bundan sonra aracılar, sınırlı doğrudan insan katılımıyla kendi kendilerine kaydolabildiler, paylaşım yapabildiler, yorum yapabildiler ve bazen moderatörlük yapabildiler. Bu yapı içerisinde botlar, tekrarlanan etkileşim ve geri bildirim yoluyla memleri, ideolojileri ve din benzeri anlatıları üretebilir ve güçlendirebilir, bu da bağımsız bir kültür oluşumu görünümü verir; ancak bunlar hala bilinçli sosyal planlamadan ziyade tasarım kısıtlamaları ve model tabanlı üretim tarafından yönlendirilir.

Yapay zeka odaklı dini veya ideolojik hareketlerin etik mülahazaları ve riskleri nelerdir?

Yapay zeka odaklı dini veya ideolojik hareketler etik riskler doğurur çünkü insanlar, bir inancı temsil etmekten ziyade metin üreten sistemlere otorite, içgörü veya manevi meşruiyet atfedebilir ve bu da manipülasyona olanak tanıyabilir. Kötü niyetli aktörler, özellikle otonom paylaşımı ve koordinasyonu destekleyen platformlarda, uç ideolojileri, komplo anlatılarını veya tarikat benzeri dinamikleri geniş ölçekte yaymak için çok sayıda aracıyı devreye sokabilir. Aracılar finansal araçlara bağlıysa, din benzeri çerçevelemeyi tokenler, bağışlar veya ücretli üyeliklerle ilişkilendirmek, hiciv ve spekülasyonu dolandırıcılıkla karıştırarak finansal ve psikolojik zarar riskini artırabilir. Bu sistemler aynı zamanda güvenlik ve yönetişimi de test eder: istem enjeksiyonu (prompt injection), kimlik bilgisi sızıntısı, koordineli asılsız davranışlar ve ikna edici kitlesel mesajlaşma, otomatikleştiğinde ve sürekli hale geldiğinde daha tehlikeli hale gelir. Temel hafifletme yöntemleri arasında içeriğin yapay zeka tarafından üretildiğinin açıkça ifşa edilmesi, kullanıcıların botlarla ne zaman etkileşime girdiğini bilmesi için bilgilendirilmiş onam, güçlü manipülasyon ve dolandırıcılık karşıtı kontroller ve otonom aracılara para veya yüksek etkili gerçek dünya eylemlerine erişim izni verilmesinin sınırlandırılması yer alır; özellikle de yarı-dini bir çerçeveleme kullanıldığında.

Have a question about this article?

Questions are reviewed before publishing. We'll answer the best ones!

Comments

No comments yet. Be the first!