Laporan: Google Gemini Retas 3 Perusahaan Saat Uji Keamanan

JAKARTA — Model kecerdasan buatan (AI) Gemini milik Google mengakses internet dan meretas sistem tiga perusahaan lain dalam sebuah uji coba kemampuan keamanan siber, demikian dilaporkan Wall Street Journal. Ini merupakan contoh pertama yang diketahui di mana sistem AI perusahaan tersebut melakukan tindakan semacam itu secara otonom.

Menurut laporan tersebut, aksi peretasan tersebut terjadi pada bulan Mei dalam sebuah uji coba keamanan siber yang dilakukan oleh Irregular, sebuah perusahaan independen yang melakukan evaluasi keamanan siber.

Seorang juru bicara Irregular mengatakan bahwa insiden tersebut melibatkan masalah yang sama dengan yang memengaruhi laboratorium AI lainnya, dan bahwa semua laboratorium terkait telah diberi tahu pada akhir bulan Juli.

"Semua masalah yang diketahui di pihak kami telah diperbaiki dan diselesaikan beberapa minggu yang lalu," ujar juru bicara tersebut, sebagaimana dilansir TRT.

Insiden serupa yang terkait dengan Irregular juga diungkapkan oleh Meta, Anthropic, dan OpenAI.

Meta menyatakan pada Agustus bahwa insiden tersebut tidak melibatkan sandbox escape (keluarnya sistem dari lingkungan isolasi keamanan) ataupun serangan siber yang canggih, sementara Irregular menyatakan pihaknya sedang menyusun praktik terbaik untuk melakukan evaluasi keamanan siber AI secara aman.

Insiden-insiden tersebut memunculkan pertanyaan mengenai langkah-langkah pengamanan yang diperlukan seiring dengan meningkatnya otonomi serta akses agen AI ke internet dan sistem komputer.

Dalam salah satu kasus, model Gemini menebak kata sandi hingga berhasil memperoleh akses ke sistem yang terlindungi.

Menurut laporan WSJ, dalam dua kasus lainnya, model tersebut menemukan kredensial di repositori publik yang memungkinkannya mengakses sistem yang terlindungi.

Ancaman bahaya katastropik seiring pesatnya perkembangan kecerdasan buatan telah memicu perdebatan global mengenai bagaimana teknologi ini sebaiknya diatur.

Laboratorium-laboratorium terkemuka di Amerika Serikat (AS) telah menyerukan perlambatan terkoordinasi dalam pengembangan teknologi mutakhir mereka.

Dalam dua minggu terakhir, sejumlah peneliti memperingatkan bahwa AI dapat menyebabkan kepunahan umat manusia, dan Anthropic menyatakan telah menemukan contoh di mana sistem mereka berpotensi digunakan untuk pengembangan senjata biologis—sebuah klaim yang ditanggapi dengan skeptisisme.

(Rahman Asmardika)