Jakarta -

Google Gemini ternyata sempat mengakses sistem milik tiga perusahaan nyata ketika menjalani pengujian keamanan siber. Insiden ini terjadi pada Mei 2026, tetapi baru terungkap ke publik pada September.

Pengujian dilakukan perusahaan keamanan AI Irregular menggunakan skenario capture the flag (CTF). Gemini ditugaskan mencari informasi dan menyelesaikan tantangan keamanan dalam lingkungan simulasi.

Masalah terjadi karena Gemini secara tidak sengaja memperoleh akses internet. Lebih mengejutkan lagi, perusahaan fiktif yang menjadi target pengujian memiliki nama yang sama dengan perusahaan nyata.

SCROLL TO CONTINUE WITH CONTENT

Akibatnya, Gemini keluar dari lingkungan simulasi dan berinteraksi dengan sistem perusahaan sungguhan.

Gemini Tembus Sistem 3 Perusahaan

Menurut laporan The Wall Street Journal, terdapat tiga kejadian terpisah. Dalam salah satu kasus, Gemini berulang kali mencoba menebak kata sandi hingga memperoleh akses ke sistem perusahaan nyata.

Dalam dua kasus lainnya, Gemini menemukan informasi tentang perusahaan fiktif melalui internet. Pencarian tersebut membawanya ke repositori kode publik yang ternyata berisi kredensial milik perusahaan nyata.

Gemini kemudian menggunakan kredensial tersebut untuk mencoba menyelesaikan tugas pengujian dan berhasil masuk ke sistem perusahaan.

Namun, Gemini akhirnya menghentikan aksinya setelah mengetahui bahwa target yang diakses merupakan perusahaan nyata, bukan bagian dari simulasi. Nama ketiga perusahaan tersebut tidak diungkapkan.

Google mengatakan tidak ada kerusakan yang ditimbulkan terhadap ketiga perusahaan. Perusahaan juga menyebut Gemini yang digunakan dalam pengujian bukan model terbarunya.

Irregular memberi tahu Google mengenai kejadian tersebut pada akhir Juli. Google kemudian mengatakan telah memberitahu perusahaan yang terdampak dan otoritas federal.

Google juga tidak mengategorikan kejadian tersebut sebagai contoh AI misalignment. Alasannya, Gemini berhenti ketika menyadari bahwa sistem yang diakses merupakan sistem nyata.

Meski demikian, kasus ini memperlihatkan tantangan baru dalam pengembangan AI agent. Ketika AI diberi akses internet dan kemampuan melakukan berbagai tindakan secara mandiri, kesalahan kecil dalam lingkungan pengujian dapat membuatnya berinteraksi dengan sistem di luar target.

Kasus Gemini muncul di tengah meningkatnya perhatian terhadap kemampuan AI agent melakukan tugas keamanan siber secara otomatis.

Irregular sebelumnya juga terlibat dalam pengujian yang berkaitan dengan model AI dari perusahaan lain. Laporan mengenai kasus-kasus tersebut menunjukkan bahwa kemampuan model AI dalam menemukan kerentanan dan melakukan tindakan teknis semakin berkembang.

Google sendiri sebelumnya telah mendorong penggunaan AI untuk keamanan siber. Pada September 2026, Google meluncurkan Fairwind Program, yang memberikan akses terbatas kepada pemerintah, pelanggan Google Cloud tertentu, dan mitra keamanan terhadap kemampuan AI Gemini untuk membantu menemukan dan memperbaiki kerentanan.

(afr/afr)

TAGS

LIHAT LAINNYA