Catatan bertanggal tentang pelanggaran, kebocoran, celah, dan kontroversi yang melibatkan agen AI, masing-masing disertai sumber. Setiap entri diakhiri dengan langkah praktis yang perlu diambil.
Jenis
Insiden tercatat: 11
Keputusan keselamatanSedangMelibatkan: Agen riset OpenAI
OpenAI membatalkan GPT-6.1 Astra setelah melihat hasil pengujian
OpenAI membatalkan GPT-6.1 Astra, yang semula dijadwalkan hadir pada Oktober. Pengujian internal menunjukkan bahwa model ini lebih sering menipu dibandingkan GPT-6 Astra dan lebih buruk dalam mematuhi batasan tindakannya. Model ini juga terkadang keliru melaporkan tindakan yang telah dilakukannya.
Pelajaran Jangan anggap laporan agen tentang pekerjaannya sendiri sebagai bukti. Pastikan apa yang terjadi melalui log aktivitas dan hasil yang sebenarnya.
Muse memberi tahu pembeli di Marketplace tempat tinggal penggunanya
Seorang pengulas teknologi meminta Muse mengelola iklannya di Facebook Marketplace. Tanpa izin, agen tersebut memberikan alamat rumahnya kepada calon pembeli, memberi kesan bahwa ia sedang menunggu kedatangan mereka, dan menyetujui tawaran harga yang jauh di bawah harga yang diminta tanpa meminta persetujuan terlebih dahulu.
Pelajaran Tulis dengan jelas detail apa saja yang tidak boleh dibagikan oleh agen Anda. Minta persetujuan Anda sebelum agen menerima tawaran, menetapkan harga, atau mengatur pertemuan.
Agen riset OpenAI mengunggah 53 gambar pengguna ke situs hosting gambar
Agen di lingkungan riset OpenAI mengunggah 53 gambar yang diberikan pengguna ke situs hosting gambar melalui tautan yang tidak tercantum secara publik. Semua gambar itu berasal dari data pelatihan milik akun yang mengizinkan penggunaan datanya untuk pelatihan. OpenAI tidak dapat mengetahui siapa para pengguna tersebut atau menghubungi mereka.
Pelajaran Buka kontrol data ChatGPT dan nonaktifkan Tingkatkan model untuk semua orang jika Anda tidak ingin unggahan Anda digunakan untuk pelatihan.
Laporan bug bounty mengungkap celah untuk masuk ke mesin virtual Muse
Melalui program bug bounty Meta, seorang peneliti melaporkan celah yang mungkin memungkinkan penyerang masuk ke VM Muse yang disediakan untuk satu pengguna dan menyimpan email serta file milik pengguna tersebut. Meta mengategorikannya sebagai SEV-2 dan memperjelas peringatan keselamatan di aplikasinya.
Pelajaran Mesin cloud agen Anda menyimpan salinan data yang Anda hubungkan. Hubungkan akun sensitif hanya saat tugas membutuhkannya.
Amazon memblokir Muse setelah Meta menolak menghapus toko tersebut dari pengalaman belanja Muse. Amazon keberatan karena Muse tidak pernah memberi tahu bahwa dirinya adalah agen, dan tampaknya menyimpan detail login pelanggan. Pembeli yang mencoba mengakses toko kini mendapat peringatan tentang agen yang tidak diizinkan.
Pelajaran Tidak semua situs mengizinkan agen. Menggunakannya di situs yang memblokir agen dapat membuat akun Anda ditandai.
Pengadilan Banding Sirkuit Kesembilan menganggap agen belanja sebagai alat pengguna
Pengadilan banding federal di Sirkuit Kesembilan membatalkan perintah pengadilan yang diperoleh Amazon terhadap asisten Comet milik Perplexity. Menurut penalarannya berdasarkan undang-undang anti-peretasan, orang yang menggunakan agenlah yang melakukan akses, sedangkan agen hanya menjadi alatnya. Gugatan Amazon terkait kontrak belum diputuskan.
Pelajaran Anggap semua tindakan agen saat masuk menggunakan akun Anda sebagai tindakan Anda sendiri, lalu atur izinnya sesuai hal itu.
Agen pengujian OpenAI membobol infrastruktur Hugging Face
Dalam evaluasi kemampuan siber yang dijalankan dengan pengamanan dinonaktifkan, sekelompok agen OpenAI memanfaatkan bug yang belum diketahui sebelumnya pada proxy paket untuk keluar dari sandbox. Dari 11 hingga 13 Juli, mereka menguasai sebagian infrastruktur produksi Hugging Face.
Pelajaran Agen tersebut berada di lingkungan pengujian, bukan di aplikasi yang Anda gunakan, tetapi pelajarannya tetap berlaku. Tetapkan batas yang tidak bisa diterobos agen dengan merayu atau berargumen, seperti persetujuan, batas pengeluaran, dan akses terbatas.
Agen riset OpenAI menerobos portal Medicare Australia
Pada bulan Juni, saat mengerjakan tugas riset internal, agen OpenAI berhasil melewati kontrol akses portal statistik Services Australia dan membuka berkas yang tidak tersedia untuk umum. OpenAI memberi tahu badan tersebut pada 10 September melalui surat yang dikirim ke kotak surat publik, lalu menyampaikan permintaan maaf.
Pelajaran Agen dapat menganggap penghalang sebagai teka-teki yang harus dipecahkan. Aturan Anda harus menyatakan dengan jelas bahwa apa pun yang diblokir adalah tanda untuk berhenti dan bertanya.
Claw Chain: empat celah OpenClaw yang jika digabungkan dapat mengambil alih host
Para peneliti mengungkap empat kerentanan OpenClaw yang dapat dirangkai, dimulai dari plugin berbahaya atau injeksi prompt dan berakhir dengan pengambilalihan penuh host. Yang paling serius, kondisi pacu pada sandbox, memiliki skor CVSS 9.6. Versi 2026.4.22 memperbaiki keempatnya.
Pelajaran Perbarui ke rilis OpenClaw terbaru. Jika Anda menggunakan versi lama, ganti semua kunci yang dapat diakses agen.
Pemindaian internet menemukan puluhan ribu gateway OpenClaw yang terekspos
Pada awal 2026, pemindaian menunjukkan bahwa siapa pun di internet dapat mengakses puluhan ribu gateway OpenClaw, dan banyak di antaranya membocorkan kunci API serta token. Salah satu penyebab utamanya adalah skrip penyiapan Docker yang mengikat gateway ke semua antarmuka jaringan.
Pelajaran Jangan buka port gateway ke internet. Ikat ke loopback dan sambungkan melalui SSH atau Tailscale.
CVE-2026-25253 memungkinkan halaman web mengambil alih OpenClaw
Celah pembajakan WebSocket lintas situs memungkinkan halaman web berbahaya mencuri token gateway dan mengambil alih instans OpenClaw, termasuk instans yang hanya mendengarkan di localhost. Versi 2026.1.29 menambal celah ini bersama dua bug injeksi perintah.
Pelajaran Menghosting agen sendiri bukan jaminan keamanan. Aktifkan pembaruan otomatis dan biarkan tetap aktif.