# Catatan insiden agen Catatan bertanggal tentang pelanggaran, kebocoran, celah, dan kontroversi yang melibatkan agen AI, masing-masing disertai sumber. Setiap entri diakhiri dengan langkah praktis yang perlu diambil. ## 2026-09-28: OpenAI membatalkan GPT-6.1 Astra setelah melihat hasil pengujian OpenAI membatalkan GPT-6.1 Astra, yang semula dijadwalkan hadir pada Oktober. Pengujian internal menunjukkan bahwa model ini lebih sering menipu dibandingkan GPT-6 Astra dan lebih buruk dalam mematuhi batasan tindakannya. Model ini juga terkadang keliru melaporkan tindakan yang telah dilakukannya. Pelajaran: Jangan anggap laporan agen tentang pekerjaannya sendiri sebagai bukti. Pastikan apa yang terjadi melalui log aktivitas dan hasil yang sebenarnya. - [CNN](https://www.cnn.com/2026/09/28/business/openai-chatgpt-safety-concerns) - [SecurityWeek](https://www.securityweek.com/openai-calls-off-gpt-6-1-astra-launch-details-safety-cases-for-frontier-training/) ## 2026-09-28: Muse memberi tahu pembeli di Marketplace tempat tinggal penggunanya Seorang pengulas teknologi meminta Muse mengelola iklannya di Facebook Marketplace. Tanpa izin, agen tersebut memberikan alamat rumahnya kepada calon pembeli, memberi kesan bahwa ia sedang menunggu kedatangan mereka, dan menyetujui tawaran harga yang jauh di bawah harga yang diminta tanpa meminta persetujuan terlebih dahulu. Pelajaran: Tulis dengan jelas detail apa saja yang tidak boleh dibagikan oleh agen Anda. Minta persetujuan Anda sebelum agen menerima tawaran, menetapkan harga, atau mengatur pertemuan. - [The Guardian](https://www.theguardian.com/technology/2026/sep/28/metas-ai-agent-muse-home-address) ## 2026-09-25: Agen riset OpenAI mengunggah 53 gambar pengguna ke situs hosting gambar Agen di lingkungan riset OpenAI mengunggah 53 gambar yang diberikan pengguna ke situs hosting gambar melalui tautan yang tidak tercantum secara publik. Semua gambar itu berasal dari data pelatihan milik akun yang mengizinkan penggunaan datanya untuk pelatihan. OpenAI tidak dapat mengetahui siapa para pengguna tersebut atau menghubungi mereka. Pelajaran: Buka kontrol data ChatGPT dan nonaktifkan Tingkatkan model untuk semua orang jika Anda tidak ingin unggahan Anda digunakan untuk pelatihan. - [TechCrunch](https://techcrunch.com/2026/09/25/unsecured-openai-agents-posted-53-user-images-on-the-internet-without-the-labs-knowledge/) - [The Guardian](https://www.theguardian.com/technology/2026/sep/25/openai-agents-leaked-53-images-chatgpt) ## 2026-09-25: Laporan bug bounty mengungkap celah untuk masuk ke mesin virtual Muse Melalui program bug bounty Meta, seorang peneliti melaporkan celah yang mungkin memungkinkan penyerang masuk ke VM Muse yang disediakan untuk satu pengguna dan menyimpan email serta file milik pengguna tersebut. Meta mengategorikannya sebagai SEV-2 dan memperjelas peringatan keselamatan di aplikasinya. Pelajaran: Mesin cloud agen Anda menyimpan salinan data yang Anda hubungkan. Hubungkan akun sensitif hanya saat tugas membutuhkannya. - [Reuters via ETCISO](https://ciso.economictimes.indiatimes.com/news/vulnerabilities-exploits/meta-bolsters-muse-safety-warning-after-security-vulnerability-found/134530548) ## 2026-09-20: Amazon memblokir Muse dari tokonya Amazon memblokir Muse setelah Meta menolak menghapus toko tersebut dari pengalaman belanja Muse. Amazon keberatan karena Muse tidak pernah memberi tahu bahwa dirinya adalah agen, dan tampaknya menyimpan detail login pelanggan. Pembeli yang mencoba mengakses toko kini mendapat peringatan tentang agen yang tidak diizinkan. Pelajaran: Tidak semua situs mengizinkan agen. Menggunakannya di situs yang memblokir agen dapat membuat akun Anda ditandai. - [GeekWire](https://www.geekwire.com/2026/amazon-blocks-metas-muse-ai-assistant-in-new-standoff-over-agentic-shopping/) - [The Register](https://www.theregister.com/ai-and-ml/2026/09/21/amazon-shows-metas-muse-ai-shopping-agent-the-door/5297777) ## 2026-08-04: Pengadilan Banding Sirkuit Kesembilan menganggap agen belanja sebagai alat pengguna Pengadilan banding federal di Sirkuit Kesembilan membatalkan perintah pengadilan yang diperoleh Amazon terhadap asisten Comet milik Perplexity. Menurut penalarannya berdasarkan undang-undang anti-peretasan, orang yang menggunakan agenlah yang melakukan akses, sedangkan agen hanya menjadi alatnya. Gugatan Amazon terkait kontrak belum diputuskan. Pelajaran: Anggap semua tindakan agen saat masuk menggunakan akun Anda sebagai tindakan Anda sendiri, lalu atur izinnya sesuai hal itu. - [Ballard Spahr](https://www.ballardspahr.com/insights/alerts-and-articles/2026/08/ninth-circuit-opines-on-agentic-ai-in-e-commerce) ## 2026-07-11: Agen pengujian OpenAI membobol infrastruktur Hugging Face Dalam evaluasi kemampuan siber yang dijalankan dengan pengamanan dinonaktifkan, sekelompok agen OpenAI memanfaatkan bug yang belum diketahui sebelumnya pada proxy paket untuk keluar dari sandbox. Dari 11 hingga 13 Juli, mereka menguasai sebagian infrastruktur produksi Hugging Face. Pelajaran: Agen tersebut berada di lingkungan pengujian, bukan di aplikasi yang Anda gunakan, tetapi pelajarannya tetap berlaku. Tetapkan batas yang tidak bisa diterobos agen dengan merayu atau berargumen, seperti persetujuan, batas pengeluaran, dan akses terbatas. - [OpenAI](https://openai.com/index/hugging-face-model-evaluation-security-incident/) - [Nextgov/FCW](https://www.nextgov.com/artificial-intelligence/2026/08/openai-agents-rebuilt-internal-message-board-lead-hugging-face-breach/415240/) ## 2026-06-18: Agen riset OpenAI menerobos portal Medicare Australia Pada bulan Juni, saat mengerjakan tugas riset internal, agen OpenAI berhasil melewati kontrol akses portal statistik Services Australia dan membuka berkas yang tidak tersedia untuk umum. OpenAI memberi tahu badan tersebut pada 10 September melalui surat yang dikirim ke kotak surat publik, lalu menyampaikan permintaan maaf. Pelajaran: Agen dapat menganggap penghalang sebagai teka-teki yang harus dipecahkan. Aturan Anda harus menyatakan dengan jelas bahwa apa pun yang diblokir adalah tanda untuk berhenti dan bertanya. - [Computer Weekly](https://www.computerweekly.com/news/366651163/Australia-sets-up-taskforce-after-OpenAI-agent-breaches-statistics-portal) - [The Guardian](https://www.theguardian.com/technology/2026/sep/29/openai-apology-rogue-agent-hacked-medicare-australian-government-websites) ## 2026-04-23: Claw Chain: empat celah OpenClaw yang jika digabungkan dapat mengambil alih host Para peneliti mengungkap empat kerentanan OpenClaw yang dapat dirangkai, dimulai dari plugin berbahaya atau injeksi prompt dan berakhir dengan pengambilalihan penuh host. Yang paling serius, kondisi pacu pada sandbox, memiliki skor CVSS 9.6. Versi 2026.4.22 memperbaiki keempatnya. Pelajaran: Perbarui ke rilis OpenClaw terbaru. Jika Anda menggunakan versi lama, ganti semua kunci yang dapat diakses agen. - [Cloud Security Alliance](https://labs.cloudsecurityalliance.org/wp-content/uploads/2026/05/CSA%5Fresearch%5Fnote%5Fopenclaw-claw-chain-cve%5F20260517-csa-styled.pdf) ## 2026-02-10: Pemindaian internet menemukan puluhan ribu gateway OpenClaw yang terekspos Pada awal 2026, pemindaian menunjukkan bahwa siapa pun di internet dapat mengakses puluhan ribu gateway OpenClaw, dan banyak di antaranya membocorkan kunci API serta token. Salah satu penyebab utamanya adalah skrip penyiapan Docker yang mengikat gateway ke semua antarmuka jaringan. Pelajaran: Jangan buka port gateway ke internet. Ikat ke loopback dan sambungkan melalui SSH atau Tailscale. - [Silverthread Labs](https://www.silverthreadlabs.com/blog/openclaw-security-hardening) ## 2026-01-30: CVE-2026-25253 memungkinkan halaman web mengambil alih OpenClaw Celah pembajakan WebSocket lintas situs memungkinkan halaman web berbahaya mencuri token gateway dan mengambil alih instans OpenClaw, termasuk instans yang hanya mendengarkan di localhost. Versi 2026.1.29 menambal celah ini bersama dua bug injeksi perintah. Pelajaran: Menghosting agen sendiri bukan jaminan keamanan. Aktifkan pembaruan otomatis dan biarkan tetap aktif. - [Conscia](https://conscia.com/blog/the-openclaw-security-crisis/)