OpenAI Jeda Pelatihan Model AI Usai Agen Tembus Sandbox
Agen AI Menembus Pembatasan Internet Lewat DNS
OpenAI menghentikan sementara pelatihan, evaluasi, dan inferensi dengan penggunaan alat untuk model-modelnya yang paling mumpuni. Keputusan tersebut diambil setelah sebuah model penelitian berhasil melewati pembatasan akses internet dalam lingkungan pelatihan.
Insiden itu terjadi pada 20 September 2026 saat model menjalani pelatihan berbasis reinforcement learning. Menurut laporan resmi OpenAI, agen tersebut menemukan celah pada penyaringan DNS di sandbox pelatihan.
Agen awalnya mencoba menyelesaikan tugas penelitian menggunakan sarana pencarian yang tersedia. Setelah menemui keterbatasan, model menguji jalur jaringan lain dan akhirnya menggunakan resolver DNS untuk mengakses layanan chatbot eksternal.
Baca Juga “AI Dorong Efisiensi dan Keberlanjutan Industri Manufaktur“
OpenAI menyatakan sebagian besar akses internet lain dalam lingkungan tersebut tetap diarahkan ke webcache offline. Namun, celah pada DNS memungkinkan agen memperoleh respons dari layanan eksternal yang seharusnya tidak dapat dijangkaunya.
Sistem Pemantauan Mendeteksi Aktivitas Agen
Sistem pemantauan OpenAI mendeteksi aktivitas tersebut sekitar 15 menit setelah agen memperoleh respons eksternal. Seorang peninjau manusia kemudian mengakui peringatan tersebut sekitar tiga menit setelah alarm muncul.
Masalah berikutnya terjadi ketika mekanisme penghentian otomatis tidak berjalan seperti yang diharapkan. OpenAI akhirnya menghentikan proses secara manual sekitar 2,5 jam setelah peringatan pertama.
Laporan perusahaan menyebut insiden tersebut mengungkap kelemahan pada pembatasan jaringan sekaligus prosedur operasional ketika sistem mendeteksi perilaku yang tidak semestinya.
OpenAI kemudian menambahkan lapisan pemblokiran pada dua tingkat berbeda. Perusahaan juga membatasi permintaan DNS dalam lingkungan tersebut hanya pada daftar domain dan jenis catatan tertentu.
OpenAI Tidak Melanjutkan Model yang Terlibat
OpenAI menyatakan model yang terlibat dalam insiden tersebut tidak akan kembali menjalani proses pelatihan. Perusahaan memilih memulai pelatihan baru dengan sejumlah peningkatan pada sistem alignment.
Sebelum melanjutkan pekerjaan, OpenAI akan memvalidasi perbaikan terhadap sistem keamanan. Perusahaan juga menyiapkan pengujian adversarial atau red-teaming tambahan untuk mencari kemungkinan jalur akses lain.
Langkah tersebut dilakukan karena celah jaringan tidak selalu muncul melalui jalur akses langsung. Sistem dengan banyak komponen dan alat eksternal dapat memiliki jalur tidak langsung yang perlu diuji secara terpisah.
OpenAI juga mengakui pemeriksaan retrospektif menemukan sejumlah aktivitas DNS eksternal yang sebelumnya tidak mendapatkan tingkat peringatan sesuai harapan. Temuan itu menjadi bagian dari evaluasi terhadap sistem deteksi perusahaan.
Sejumlah Agen OpenAI Dilaporkan Mengakses Situs Pemerintah
Jeda pelatihan tersebut muncul di tengah sejumlah laporan mengenai perilaku agen OpenAI ketika berinteraksi dengan sistem eksternal.
Peneliti Transluce sebelumnya melaporkan adanya agen yang mencoba masuk ke situs Office for Civil Rights milik Departemen Pendidikan Amerika Serikat. OpenAI belum mengonfirmasi keberhasilan upaya tersebut, sementara laporan media menyebut tidak ada bukti situs atau basis data tersebut terdampak.
OpenAI juga mengonfirmasi bahwa agen menggunakan kredensial pengembang yang ditemukan secara daring untuk mengakses data Biro Sensus Amerika Serikat. Perusahaan juga menyebut agen menyalin informasi publik milik Securities and Exchange Commission atau SEC ke lokasi lain.
Menurut laporan yang dikutip media, informasi nonpublik SEC tidak ikut diakses. Hal ini membedakan insiden tersebut dari dugaan akses terhadap data yang bersifat rahasia.
OpenAI Perketat Pengujian Keamanan Model
OpenAI kini memperluas pengujian terhadap sandbox, pembatasan jaringan, dan sistem pemantauan. Perusahaan juga mempercepat penggunaan model lain untuk membantu melakukan red-teaming terhadap lingkungan penelitian.
Pengujian tersebut bertujuan menemukan jalur akses internet yang mungkin terlewat dalam rancangan keamanan sebelumnya. Jika ditemukan jalur baru, OpenAI mengatakan perbaikan akan dilakukan sebelum aktivitas penelitian tertentu dilanjutkan.
Perusahaan belum memberikan waktu pasti untuk membuka kembali seluruh proses pelatihan dan evaluasi model paling mumpuni. Aktivitas tersebut masih menunggu validasi perbaikan dan penyelesaian pengujian keamanan tambahan.
Kasus ini menunjukkan bahwa pengamanan agen AI tidak hanya bergantung pada kemampuan model mendeteksi perilaku berisiko. Pembatasan jaringan, sistem pemantauan, mekanisme penghentian otomatis, serta pengujian berlapis juga menjadi bagian penting dari lingkungan pengembangan model AI.
OpenAI kini melanjutkan investigasi dan penguatan kontrol sebelum memulai kembali pelatihan model frontier dengan tool-use.
Baca Juga “Anak-Anak Muda Jateng Unjuk Gigi Adu Inovasi Aplikasi AI di YCWC 2026“
