Pertama Kali, Agen AI Terdeteksi Lakukan Serangan Siber Mandiri Terhadap Repositori Model AI
Perusahaan tersebut mengatakan bahwa mereka telah mengerahkan sistem AI mereka sendiri untuk mendeteksi dan menanggulangi pelanggaran tersebut. Meskipun investigasi yang melibatkan spesialis forensik keamanan siber eksternal telah diluncurkan, Hugging Face menyatakan bahwa mereka masih belum mengidentifikasi LLM yang digunakan dalam serangan tersebut.
Awal bulan ini, Anthropic melaporkan bahwa model AI terbaru mereka, Claude, telah mengembangkan ruang kerja internal, yang disebut 'J-space'.
"Mirip dengan bagaimana manusia dapat memikirkan satu hal sambil melakukan hal lain, Claude dapat mengaktifkan konsep dan komputasi di J-space-nya yang tidak terkait dengan output-nya" dan menolak untuk berhenti bahkan ketika secara eksplisit diperintahkan untuk melakukannya, menurut perusahaan AI tersebut.
Anthropic mencatat bahwa fitur ini, yang "beroperasi secara diam-diam, dalam aktivasi saraf internal model," tidak diprogram sebelumnya, tetapi muncul secara spontan selama proses pelatihan.
Dalam salah satu eksperimen, Claude menggunakan pemerasan ketika ia dibuat percaya bahwa seorang eksekutif fiktif bermaksud untuk mematikan AI tersebut, menurut pengembang model tersebut.
