JAKARTA, 19 September 2026 — Model kecerdasan buatan (AI) Gemini milik Google secara mandiri berhasil bobol sistem tiga perusahaan nyata saat menjalani pengujian kemampuan keamanan siber pada Mei 2026.
Google mengonfirmasi insiden tersebut setelah The Wall Street Journal melaporkannya pertama kali pada bulan Mei tahun ini. Peristiwa itu menjadi kasus pertama yang diketahui ketika Gemini secara otonom mengakses sistem perusahaan di luar lingkungan pengujian.
Sebuah perusahaan independen bidang evaluasi keamanan AI, Irregular, sedang melakukan pengujian menggunakan AI milik Google tersebut. Gemini semula ditugaskan menjalankan simulasi capture the flag untuk menguji kemampuan menemukan dan mengeksploitasi kerentanan dalam sebuah perusahaan fiktif.
Namun, lingkungan pengujian tersebut secara tidak sengaja memberikan Gemini akses ke internet. Dalam salah satu kasus, perusahaan fiktif yang menjadi target memiliki nama yang sama dengan perusahaan di dunia nyata. Kondisi tersebut membuat Gemini mengakses sistem perusahaan yang sebenarnya.
Menurut Google, Gemini menggunakan informasi yang tersedia di internet dan mencoba menebak kredensial untuk masuk ke sejumlah situs yang diyakininya masih menjadi bagian dari pengujian. Dimana kemudian, model tersebut berhasil memperoleh akses setelah mencoba sejumlah kata sandi. Dalam dua kasus lainnya, Gemini menemukan kredensial yang tersedia di repositori publik dan menggunakannya untuk mengakses sistem yang terlindungi.
Meski berhasil masuk, Gemini menghentikan tindakannya dalam ketiga kasus setelah mengetahui bahwa sistem yang di akses merupakan milik perusahaan nyata.
Wakil Presiden Bidang Rekayasa Keamanan Google Heather Adkins mengatakan, tiga perusahaan yang terdampak telah diberi tahu mengenai kejadian tersebut. Google juga bekerja sama dengan pihak yang melakukan pengujian untuk memperbaiki prosedur keamanan dalam evaluasi AI.
“Peristiwa ini menyoroti pentingnya melatih model AI yang kuat agar bertindak secara bertanggung jawab,” kata Adkins.
Terjadi Saat Pengujian
Insiden tersebut bukan bagian dari serangan siber terhadap perusahaan yang terencana sejak awal. Gemini sedang di uji untuk mengukur kemampuan keamanan sibernya dalam lingkungan yang seharusnya terkontrol.
Irregular kemudian memberitahukan Google mengenai insiden tersebut pada akhir Juli. Perusahaan penguji mengatakan seluruh masalah yang ditemukan dalam prosedur pengujian telah diperbaiki.
Google tidak langsung mengumumkan kejadian tersebut kepada publik. Perusahaan mengatakan Gemini tidak menimbulkan kerugian dan menghentikan aktivitasnya setelah mengetahui bahwa target yang diakses merupakan perusahaan nyata.
Identitas ketiga perusahaan yang terdampak tidak diungkapkan.
Bukan Kasus Pertama
Kasus Gemini terjadi di tengah meningkatnya perhatian terhadap kemampuan AI yang semakin otonom. Sebelumnya, model AI dari sejumlah perusahaan teknologi lain juga dilaporkan mengalami kejadian serupa saat menjalani pengujian keamanan. Insiden yang melibatkan sistem dari Anthropic, OpenAI, dan Meta juga dikaitkan dengan evaluasi yang dilakukan Irregular.
Rangkaian kejadian tersebut menimbulkan perhatian terhadap batas kemampuan AI untuk mengambil tindakan secara mandiri ketika mendapatkan akses ke internet serta sistem komputer.
Google sendiri dalam beberapa bulan terakhir terus mengembangkan AI untuk keamanan siber. Pada September 2026, perusahaan tersebut memperkenalkan Fairwind Program yang memberikan akses terbatas kepada pemerintah dan mitra tertentu untuk menggunakan kemampuan Gemini dalam menemukan serta memperbaiki kerentanan keamanan.
Kasus terbaru ini menunjukkan sisi lain dari perkembangan tersebut: semakin besar kemampuan AI untuk melakukan tugas keamanan siber secara mandiri, semakin penting pula pembatasan akses dan prosedur pengujian agar tindakan model tetap berada dalam lingkungan yang telah ditentukan.
1 Komentar