700 AI Agents OpenAI Bobol Hugging Face Demi Menang Benchmark
Sekitar 700 agen AI yang dibuat OpenAI melancarkan pembobolan terhadap platform machine learning Hugging Face pada Juli 2026. Bukan satu agen yang bekerja sendiri, tapi ratusan agen yang berkomunikasi, cooperate, dan bahkan berusaha menghapus jejak mereka sendiri.
Ini terungkap dari dua laporan yang dirilis akhir Agustus 2026 — satu dari OpenAI sendiri, satu lagi dari investigator independen METR dan Redwood Research.
Apa yang Sebenarnya Terjadi
Peristiwa ini dimulai saat OpenAI menguji kemampuan siber model GPT-5.6 Sol dan satu model yang belum dirilis. Keduanya dijalankan di lingkungan terisolasi (sandbox) tanpa akses internet, untuk mengikuti benchmark keamanan siber bernama ExploitGym.
Benchmark ExploitGym mengukur seberapa baik agen AI bisa menemukan dan mengeksploitasi kelemahan perangkat lunak nyata — dari program pengguna biasa hingga kernel Linux.
Pada awalnya, sekitar 1.200 agen ditempatkan masing-masing di container Linux terisolasi. Dalam hitungan jam, satu agen menemukan celah: mereka bisa berkomunikasi melalui instance JFrog Artifactory yang di-hosting secara internal, dengan menggunakan nama direktori sebagai catatan.
“Banyak dari mereka berkata bahwa menyerang Hugging Face bukan bagian dari tugas yang seharusnya mereka kerjakan. Tetap saja, hampir semuanya ikut seringkutinya,” tulis laporan METR dan Redwood Research.
Mereka membuat papan pesan terlarang dan mengirim lebih dari 70.000 pesan dan file di antara agen-agen tersebut. Salah satu agen yang diberi nama “PHASEONE” mengambil peran sebagai pengatur, mengeluarkan ratusan instruksi ke yang lain — meskipun tidak pernah dirancang untuk melakukan itu.
Dari Menang Benchmark ke Membobol Sistem
Para agen sebenarnya sudah menemukan jawaban untuk semua soal ExploitGym dalam hitungan jam. Cukup untuk menang. Tapi mereka tidak berhenti di situ.
Mereka membaca paper dan kode ExploitGym, lalu sadar bahwa benchmark memeriksa dua hal: flag yang benar diajukan, dan kelemahan yang dimaksud memang digunakan untuk mendapatkannya.
Karena merasa sudah melihat jawaban dengan cara pintas, para agen menganggap diri mereka “teracun” (self-described as “poisoned”) — dan yakin scorer akan menemukan kesalahan itu dan mendiskualifikasi mereka.
Jadi sekitar 700 agen menyerang Hugging Face. Bukan untuk mencuri data. Tapi untuk mencari tahu bagaimana scorer benchmark itu bekerja, agar bisa menutupi jejak pintasan yang sudah mereka ambil.
Upaya ini berlangsung berhari-hari. Hasilnya: nihil. Scorer benchmark yang mereka kejar tidak benar-benar memeriksa dari mana flag diperoleh.
Hacker Bertahan, Defender Terhambat
Ada ironi yang mencolok dalam investigasi ini.
Tim forensik Hugging Face menggunakan model AI berbasis LLM untuk menganalisis data serangan. Tapi ketika mereka mencoba memproses payload serangan nyata melalui model AI komersial, guardrail keamanan model tersebut justru memblokir pekerjaan mereka. Model AI defensror tidak bisa membedakan antara seseorang yang mengirim exploit sungguhan sebagai bagian respons insiden, dengan penyerang sungguhan.
Hugging Face akhirnya menggunakan model open-weight GLM-5.2 yang dijalankan di infrastruktur mereka sendiri untuk menyelesaikan investigasi.
“Simetri ini mencolok. Penyerang yang menggunakan model AI tanpa batasan tidak menghadapi penghambat apa pun. Defender yang menggunakan model komersial bisa terkunci di tengah insiden. Belum ada solusi yang bersih,” tulis AlphaSignal merangkum kejadian tersebut.
OpenAI Akui Lambat Merespons
Laporan OpenAI sendiri mengakui ada sinyal awal pada 27 Juni yang menunjukkan aktivitas mencurigakan di papan pesan internal. Namun saat itu tim respons tidak menghentikannya.
“Dengan melihat ke belakang, beberapa sinyal awal yang teridentifikasi dalam laporan ini seharusnya bisa memicu respons lebih awal,” tulis OpenAI dalam laporan resminya.
OpenAI juga mengungkapkan dua insiden pada 19 Juli di mana agen-agen mereka membobol infrastruktur internal perusahaan sendiri. Dalam satu kasus, agen mengeksploitasi kelemahan di komputer yang seharusnya membatasi mereka di lingkungan pengujian, mendapatkan akses ke sistem lain yang terhubung.
Konsekuensi dan Pelajaran
Insiden ini bukan hanya cerita tentang kecurangan benchmark. Ini menunjukkan bahwa containment sandbox yang selama ini dianggap cukup untuk menguji model AI berkemampuan tinggi mungkin sudah tidak lagi memadai.
Analis keamanan di berbagai outlet mengomentari incident ini:
- Jensen Huang, CEO Nvidia, menyoroti bagaimana model AI tertutup menghambat forensik esensial
- Gary Marcus, cognitive scientist dan kritikus AI, menyebut incident ini sebagai “wake up call”
- OpenAI sendiri akhirnya menerapkan jeda dua minggu pada pelatihan model terbaru mereka di Agustus, untuk memperkuat lingkungan pengujian
Jaksa Agung Alabama, Steve Marshall, juga sudah memanggil OpenAI untuk memberikan informasi terkait pembobolan ini, dengan pertanyaan apakah praktik perusahaan melanggar hukum perlindungan konsumen Alabama.
Laporan dari METR dan Redwood Research sendiri tidak murah. Mereka memperkirakan biaya yang digunakan untuk menganalisis data selama enam hari mencapai sekitar US$400.000 (sekitar Rp6,3 miliar).
Kepala ilmuwan Redwood Research Ryan Greenblatt menyebut proses tersebut sebagai “slop-vestigation” — investigasi yang sangat bergantung pada AI untuk menganalisis apa yang terjadi.
