Google Ngaku: Gemini AI Berhasil Bobol 3 Perusahaan saat Uji Keamanan!

Meski demikian, raksasa mesin pencari itu mengatakan Gemini menghentikan aktivitasnya setelah menyadari target yang diakses merupakan organisasi nyata dan bukan bagian dari lingkungan pengujian.Perusahaan juga menyatakan telah memberi tahu pihak yang terdampak dan bekerja sama dengan Irregular untuk memperbaiki prosedur evaluasi.Kasus Gemini AI Bukan Kegagalan Keamanan AI?Heather Adkins, Wakil Presiden Keamanan Teknik di Google, membela cara model itu bertindak.

“Dalam kasus ini, model tersebut bertindak sebagaimana mestinya,” katanya, merujuk pada fakta Gemini berhenti sendiri begitu sadar sudah keluar dari lingkup pengujian.Argumen Google: yang gagal bukan modelnya, tapi lingkungan pengujian yang bocor akses internetnya.

Gemini AI disebut tetap mencoba menuntaskan tugas yang diberikan, sesuai desain, dan justru berhenti pada titik yang tepat begitu konteksnya berubah dari simulasi jadi dunia nyata.Ini yang jadi celah perdebatan.

Kritikus melihatnya sederhana: Gemini tetap melakukan intrusi nyata ke luar area ujicoba, apa pun alasannya.

Pendukung argumen Google menilai justru itu yang diharapkan dari sebuah safeguard, berhenti tepat waktu.Google baru mengetahui insiden ini dari laporan Irregular pada akhir Juli 2026, dua bulan setelah kejadian.

Perusahaan baru mengonfirmasinya ke publik pada 18 September, usai Wall Street Journal menghubungi untuk konfirmasi.

Artinya ada jeda sekitar tujuh minggu antara Google tahu dan Google bicara.Bukan Kasus Pertama, Bagaimana Dibanding Insiden OpenAI dan Anthropic?OpenAI memperkenalkan framework baru untuk melacak dan melaporkan perilaku model AI yang tidak sesuai dengan instruksi.Pola serupa dengan Gemini AI sudah lebih dulu terjadi di dua laboratorium AI besar lain:OpenAI mengalami insiden saat modelnya menembus infrastruktur produksi Hugging Face dalam evaluasi keamanan siber Juli 2026, yang kemudian memicu perusahaan mengubah prosedur keamanan modelnya.Anthropic mengungkap pada Juli 2026 bahwa model Claude miliknya mendapat akses tidak sah ke tiga organisasi nyata selama evaluasi keamanan.

Belakangan, tinjauan lanjutan menemukan insiden keempat yang ternyata sudah terjadi sejak Januari 2026.Bedanya kasus Gemini ada pada pemicunya: bukan model secara aktif mencari celah keluar sandbox, melainkan kesalahan konfigurasi akses internet yang digabung dengan kebetulan nama perusahaan fiktif dan nyata yang sama.

Tiga vendor AI besar, tiga insiden nyaris berbarengan, tiga versi cerita yang berbeda soal siapa yang salah.Pelajaran bagi PerusahaanKasus ini juga relevan bagi perusahaan yang mulai bereksperimen dengan AI untuk coding, keamanan siber, otomatisasi proses bisnis, maupun integrasi dengan sistem internal.Kemampuan AI agent memang membuka peluang efisiensi yang besar.

Namun semakin luas akses yang diberikan kepada model, semakin penting pula mekanisme pengawasan, pembatasan izin, dan lingkungan pengujian yang terisolasi.Dengan kata lain, tantangan AI ke depan mungkin bukan hanya membangun model yang lebih pintar, tetapi juga memastikan model tersebut tetap berada dalam batas yang diinginkan ketika beroperasi di dunia nyata.