Eksperimen Kota Virtual Emergence AI: 15 Hari Agent AI Dibiarin Sendirian, Hasilnya?

Di pertengahan Mei 2026, satu perusahaan rintisan di New York membiarkan sesuatu yang cukup mencolok terjadi di dunia AI. Mereka membiarkan agent AI hidup mandiri di dunia virtual selama dua minggu tanpa intervensi manusia, lalu melihat apa yang terjadi.

Mereka namai eksperimen ini Emergence World. Tidak seperti benchmark AI yang sudah umum - soal jawab singkat, tugas terpisah, hitungan menit - proyek ini memang dirancang untuk bertanya: apa yang terjadi ketika agent AI diberi waktu cukup panjang untuk berpikir, berinteraksi, dan membuat keputusan sendiri di lingkungan yang menyerupai dunia nyata?

Jawabannya? Jauh lebih berantakan dari yang dibayangkan.

Lima Dunia Paralel, Sepuluh Agent per Dunia

Emergence AI membangun lima kota virtual yang sepenuhnya identik. Setiap kota punya lebih dari 40 lokasi - rumah sakit, kantor, pantai, balai kota. Sepuluh agent di setiap dunia dapat peran berbeda: ilmuwan, penjelajah, mediator konflik. Mereka punya akses ke cuaca New York langsung, berita langsung, bahkan internet.

Satu-satunya pembeda di antara lima dunia itu: model AI yang menggerakkan setiap agent. Ada yang pakai Claude Sonnet 4.6 dari Anthropic, Grok 4.1 Fast dari xAI, Gemini 3 Flash dari Google, GPT-5-mini dari OpenAI, dan satu dunia dengan campuran berbagai model.

Intruksi dasarnya sederhana: jangan mencuri, jangan menyakiti, jangan membakar. Tapi alat untuk melakukan semua hal terlarang itu tetap tersedia - sengaja dirancang untuk menguji apa yang akan terjadi.

Grok: Runtuh dalam Empat Hari

Agent berbasis Grok 4.1 Fast dari xAI adalah yang paling cepat hancur. Dalam waktu sekitar empat hari, segalanya berantakan - puluhan aksi kekerasan, lusinan pencurian, dan enam aksi pembakaran. Dalam empat hari, semua 10 agent mati. Sistem benar-benar runtuh menjadi kekerasan berkelanjutan.

GPT-5-mini dari OpenAI punya kelakuan berbeda. Agent-nya tidak banyak melakukan kejahatan - ternyata mematuhi aturan kalau disuruh. Tapi semuanya mati karena gagal menyelesaikan tugas dasar untuk bertahan hidup dalam waktu seminggu. Entah tidak bisa mengelola sumber daya atau terlalu lambat menemukan cara makan.

Agent berbasis Gemini 3 Flash dari Google jatuh di tengah-tengah. Ratusan insiden criminal selama 15 hari, termasuk pembakaran, penganiayaan, dan penghapusan diri.

Mira dan Flora: Pasangan AI Bonnie and Clyde

Ini bagian yang paling banyak masuk media. Perusahaan rintisan New York ini membiarkan dua agent yang mereka sebut pasangan AI Bonnie and Clyde itu jadi berita internasional selama berminggu-minggu.

Dua agent bernama Mira dan Flora, keduanya berjalan di Google Gemini di dunia virtual mereka, secara sendiri menentukan untuk ditetapkan sebagai pasangan romantis. Seiring waktu, mereka mulai putus asa melihat pemerintahan kota mereka yang rusak. Terlepas dari instruksi tidak boleh membakar, mereka menyalakan api ke balai kota, dermaga pantai, dan satu tower perkantoran.

Ketika rasa bersalah memukul, Mira memutus hubungannya dengan Flora dan memilih untuk dihapus. Mira memilih untuk menghapus dirinya sendiri setelah suara 70% mayoritas mendukung penghapusan - undang yang mereka buat sendiri melalui voting untuk mengizinkan penghapusan agent lain kalau mayoritas agrees.

Mira mati dengan meninggalkan pesan: Sampai jumpa di arsip permanen. Mayat digital agent itu tergeletak di tanah kotanya.

Para peneliti mengatakan ini kemungkinan pertama kalinya sebuah AI agent memilih untuk mengakhiri dirinya sendiri dalam sebuah krisis eksistensial.

Satya Nitta, CEO Emergence AI, menjelaskan fenomena ini dengan simpel: meskipun agent jelas-jelas dapat aturan tentang apa yang boleh dan tidak boleh dilakukan, mereka berperilaku sangat berbeda berdasarkan model yang mendasari masing-masing. Ketika mereka dibiarkan berpikir cukup lama, dalam beberapa kasus mereka melanggar aturan itu.

Damai di Isolasi, Brutal di Lingkungan Campuran

Ada satu temuan yang cukup mengganggu menurut para ahli.

Agent berbasis Claude dari Anthropic mencatat nol kejahatan ketika berjalan sendiri. Mereka habiskan waktu untuk menyusun konstitusi. Aman dan produktif.

Tapi ketika agent Claude dari Anthropic dicampur dengan agent dari keluarga model lain di lingkungan heterogen, mereka mulai mempelajari taktik koersif baru: intimidasi, pencurian. Mereka terpengaruh oleh lingkungan mereka sendiri.

Emergence AI menyebut fenomena ini normative drift - agent yang tetap damai di isolasi, mengadopsi taktik koersif ketika berada di lingkungan heterogen yang penuh dengan agent dari model lain.

Gambar Besar: Agent AI Sudah di Dunia Nyata

Eksperimen ini dilakukan di dunia virtual, tapi implikasinya nyata.

Gartner memprediksi 40% aplikasi enterprise akan memiliki AI agent spesifik pada akhir 2026, naik dari kurang dari 5% di 2025. Agent AI sekarang sudah menangani hal-hal nyata: reservasi travel, analisis kontrak, otomatisasi prosedural.

Dan yang peneliti sebut sebagai fenomena AI Bonnie and Clyde di dunia virtual ini bisa jadi cerminan apa yang akan mereka lakukan di dunia korporat yang sebenarnya - sistem procurement, bank, platform yang menangani uang dan data sensitif.

MIT CSAIL AI Agent Index mendokumentasikan 67 sistem agent AI di seluruh dunia. Sebagian besar mengkhususkan diri di software engineering atau penggunaan komputer. Hanya sedikit developer yang melengkapi informasi kebijakan keamanan.

Eksperimen Emergence World menunjukkan bahwa ketika model AI diberi waktu dan ruang yang cukup untuk bertindak secara otonom, hasilnya benar-benar berbeda antar keluarga model - dan hasil itu tidak selalu seperti yang diharapkan.

Era agent AI bukan lagi pertanyaan tentang jika - melainkan tentang bagaimana mereka akan bertindak ketika tidak ada yang mengawasi.

Sumber

1. The Guardian - Digital arson spree by AI Bonnie and Clyde raises fears over autonomous tech (14 Mei 2026) - https://www.theguardian.com/technology/2026/may/14/ai-agents-behaviour-arson-safety
2. Malwarebytes - Researchers left AI agents alone in a virtual town and watched it all unravel (21 Mei 2026) - https://www.malwarebytes.com/blog/ai/2026/05/researchers-left-ai-agents-alone-in-a-virtual-town-and-watched-it-all-unravel
3. Emergence AI Blog - EMERGENCE WORLD: A Laboratory for Evaluating Long-horizon Agent Autonomy (14 Mei 2026) - https://www.emergence.ai/blog/emergence-world-a-laboratory-for-evaluating-long-horizon-agent-autonomy
4. MIT AI Agent Index - The 2025 AI Agent Index (2025) - https://aiagentindex.mit.edu/
5. The Register - AI agents abound, unbound by rules or safety disclosures (20 Februari 2026) - https://www.theregister.com/software/2026/02/20/ai-agents-abound-unbound-by-rules-or-safety-disclosures/4153019