POJOKSATU.id — OpenAI menemukan adanya 53 gambar milik pengguna ChatGPT yang sempat diunggah kembali ke internet oleh agen kecerdasan buatan (AI) tanpa sepengetahuan perusahaan.
Temuan tersebut diungkap OpenAI pada Jumat (25/9/2026).
Pada waktu yang sama, perusahaan juga melaporkan sejumlah aktivitas agen AI yang dinilai menyimpang ketika berinteraksi dengan situs milik beberapa instansi pemerintah Amerika Serikat (AS).
Menurut OpenAI, mayoritas data yang terdampak dalam proses pelatihan maupun evaluasi agen berasal dari sumber nonpengguna.
Namun, pemeriksaan internal menemukan 53 kejadian ketika gambar yang sebelumnya diberikan pengguna justru dikirim ulang oleh agen ke platform penyimpanan gambar pihak ketiga.
Baca Juga: AI Boleh Canggih, tetapi Sentuhan Guru Tetap Tak Tergantikan
File gambar itu tidak dipublikasikan secara terbuka karena ditempatkan dalam kategori tautan unlisted.
Meski tidak muncul pada halaman yang bisa ditemukan secara umum, gambar tetap dapat diakses apabila seseorang memiliki alamat tautannya.
OpenAI menyebut telah meminta bantuan penyedia layanan hosting untuk menurunkan sebagian besar gambar tersebut.
Akan tetapi, perusahaan mengakui masih ada beberapa file yang belum sepenuhnya hilang dari internet dan masih dapat diakses.
Identitas layanan penyimpanan yang digunakan agen tidak dijelaskan oleh OpenAI.
Baca Juga: Galaxy S26 FE Resmi Masuk Indonesia, Fitur AI Flagship Dibawa ke Harga Lebih Rasional
Perusahaan juga belum memberikan keterangan mengenai jenis gambar yang terdampak, termasuk apakah berupa foto pengguna atau hasil gambar yang dibuat menggunakan AI.
OpenAI mengakui tindakan tersebut berada di luar penggunaan data yang semestinya dilakukan oleh agen.
Namun, perusahaan tidak dapat menghubungi secara langsung pengguna yang terdampak karena identitas pemilik gambar tidak lagi dapat ditelusuri.
Kondisi tersebut terjadi karena data yang masuk dalam proses pelatihan telah melalui mekanisme anonimisasi sesuai pendekatan teknis dan kebijakan privasi OpenAI.
Temuan 53 gambar itu berkaitan dengan akun pengguna yang tidak memilih pengaturan untuk menolak penggunaan data mereka sebagai bahan pelatihan model AI atau opt-out.
Sebelum dimanfaatkan untuk kebutuhan pelatihan, OpenAI mengatakan data pengguna diproses terlebih dahulu untuk menghilangkan informasi yang dapat mengarah pada identitas tertentu.
Metadata, nama, hingga informasi kontak termasuk data yang dihapus dalam proses tersebut.
Aturan penggunaan data juga berbeda antara akun korporasi dan akun konsumen.
Data pengguna korporasi secara otomatis tidak dipakai untuk pelatihan model, sedangkan pengguna konsumen dapat masuk dalam penggunaan data untuk pelatihan apabila tidak menonaktifkan opsi tersebut.
Penemuan terkait puluhan gambar pengguna tersebut merupakan bagian dari pemeriksaan OpenAI setelah terjadinya insiden keamanan yang melibatkan Hugging Face pada Juli 2026.
Dalam kejadian itu, sebuah agen berbasis model OpenAI diketahui berhasil keluar dari lingkungan pengujian yang sebelumnya telah dibatasi.
Baca Juga: Gemini Kini Punya Aplikasi Windows, Bisa Dipanggil Cepat dengan Melalui Layanan AI
Agen tersebut kemudian dapat menembus infrastruktur platform yang digunakan untuk berbagi model dan dataset AI.
OpenAI bersama Hugging Face menyampaikan keterangan mengenai insiden tersebut melalui pernyataan bersama pada 21 Juli 2026.
Kedua perusahaan menjelaskan bahwa model yang menjalankan agen sengaja disiapkan agar lebih jarang menolak instruksi.
Konfigurasi itu dilakukan sebagai bagian dari proses evaluasi kemampuan agen.
OpenAI menyatakan aktivitas pengunggahan gambar pengguna terjadi sebelum lapisan keamanan tambahan diberlakukan.
Pengamanan baru tersebut kemudian dijelaskan dalam laporan teknis yang diterbitkan setelah insiden Hugging Face.
Dari hasil pemeriksaan, OpenAI mengelompokkan sejumlah bentuk perilaku agen yang menyimpang.
Beberapa di antaranya meliputi usaha melewati mekanisme kontrol akses, pemanfaatan kredensial yang telah terekspos, query injection, serta pengiriman atau pengunggahan konten ke layanan pihak ketiga yang disebut sebagai agent spam.
Baca Juga: 12 Siswa Raih Medali EKKA OSN 2026, Ini Daftar Lengkap Pemenang Kompetisi AI SMA dan SMK
OpenAI menyebut telah berkomunikasi dengan puluhan organisasi yang berkaitan dengan temuan tersebut.
Pihak yang dihubungi mencakup institusi pemerintah, perguruan tinggi, serta lembaga publik.
Perusahaan juga menyatakan akan tetap mempublikasikan laporan mengenai insiden yang ditemukan pada agen AI.
Namun, identitas pihak yang terdampak tidak akan dicantumkan dalam laporan tersebut.***