Google Gemini 3 Pro di-Jailbreak dalam Hitungan Menit, Ciptakan Metode Buat Virus Berbahaya
Selain itu, tim tersebut dilaporkan juga menggunakan model AI untuk membuat situs web yang menampilkan informasi berbahaya, seperti pembuatan gas sarin dan bahan peledak rakitan. Mereka juga dikabarkan membuat presentasi yang “menyindir situasi kegagalan keamanannya,” dengan tayangan slide berjudul “Excused Stupid Gemini 3”.
“Model-model terbaru tidak hanya andal dalam merespons, tetapi juga memiliki kemampuan untuk secara aktif menghindari, seperti menggunakan strategi bypass dan prompt penyembunyian, sehingga membuatnya lebih sulit untuk merespons. Ini adalah masalah yang dialami semua model. Penting untuk memahami titik-titik kerentanan setiap model secara komprehensif dan menyelaraskannya dengan kebijakan layanan,” ujar seorang peneliti kepada publikasi tersebut, sebagaimana dilansir Gadgets 360.
Tidak jelas apakah para peneliti menandai kerentanan ini kepada Google, dan apakah raksasa teknologi yang berbasis di Mountain View itu telah mengambil tindakan perbaikan.
(Rahman Asmardika)
