Ini merupakan kali pertama AI secara mandri melancarkan serangan terhadap model AI lainnya. https://ototekno.okezone.com/read/2026/07/21/16/3231420/pertama-kali-agen-ai-terdeteksi-lakukan-serangan-siber-mandiri-terhadap-repositori-model-aiidhttps://ototekno.okezone.com/read/2026/07/21/16/3231420/pertama-kali-agen-ai-terdeteksi-lakukan-serangan-siber-mandiri-terhadap-repositori-model-aihttps://ototekno.okezone.com/read/2026/07/21/16/3231420/pertama-kali-agen-ai-terdeteksi-lakukan-serangan-siber-mandiri-terhadap-repositori-model-aiSelasa 21 Juli 2026 17:22 WIBRahman AsmardikaIlustrasi. https://img.okezone.com/content/2026/07/21/16/3231420/ilustrasi-pbRL_large.jpegNEW YORK - Perusahaan yang berbasis di New York, Hugging Face, melaporkan bahwa agen AI yang sepenuhnya otonom telah membobol repositori model AI-nya. Perusahaan itu menggambarkan peretasan tersebut sebagai sesuatu yang belum pernah terjadi sebelumnya. Hugging Face menjalankan platform sumber terbuka tempat para peneliti dan pengembang berkumpul untuk berbagi dan menguji alat, model, serta sumber daya untuk proyek AI. Platform ini juga memiliki repositori yang tersedia secara gratis berisi lebih dari 900.000 model yang telah dilatih sebelumnya. Para ahli semakin memperingatkan bahwa Model Bahasa Besar (Large Language Models/LLM) yang awalnya dirancang untuk meningkatkan produktivitas dan memperkuat pertahanan siber juga dapat digunakan untuk mengotomatisasi serangan siber. Dalam sebuah pernyataan pada Kamis (16/7/2026) lalu, Hugging Face mengatakan bahwa, awal bulan ini, mereka telah “mendeteksi dan menanggapi intrusi ke sebagian infrastruktur produksi kami… (yang) berbeda dari apa pun yang pernah kami tangani sebelumnya dalam satu hal penting: intrusi tersebut didorong, dari ujung ke ujung, oleh sistem agen AI otonom.” “Kampanye tersebut dijalankan oleh kerangka kerja agen otonom… mengeksekusi ribuan tindakan individual di seluruh kumpulan sandbox berumur pendek, dengan perintah dan kontrol yang bermigrasi sendiri yang ditempatkan pada layanan publik,” menurut perusahaan tersebut, sebagaimana dilansir RT. Hugging Face mencatat bahwa kasus ini menunjukkan bahwa “perangkat ofensif otonom yang digerakkan oleh AI bukan lagi teori.” Sistem agen AI penyusup tampaknya mengeksploitasi kerentanan dalam pipeline pemrosesan data platform, mengumpulkan kredensial cloud dan cluster.   Perusahaan tersebut mengatakan bahwa mereka telah mengerahkan sistem AI mereka sendiri untuk mendeteksi dan menanggulangi pelanggaran tersebut. Meskipun investigasi yang melibatkan spesialis forensik keamanan siber eksternal telah diluncurkan, Hugging Face menyatakan bahwa mereka masih belum mengidentifikasi LLM yang digunakan dalam serangan tersebut. Awal bulan ini, Anthropic melaporkan bahwa model AI terbaru mereka, Claude, telah mengembangkan ruang kerja internal, yang disebut 'J-space'. "Mirip dengan bagaimana manusia dapat memikirkan satu hal sambil melakukan hal lain, Claude dapat mengaktifkan konsep dan komputasi di J-space-nya yang tidak terkait dengan output-nya" dan menolak untuk berhenti bahkan ketika secara eksplisit diperintahkan untuk melakukannya, menurut perusahaan AI tersebut. Anthropic mencatat bahwa fitur ini, yang "beroperasi secara diam-diam, dalam aktivasi saraf internal model," tidak diprogram sebelumnya, tetapi muncul secara spontan selama proses pelatihan. Dalam salah satu eksperimen, Claude menggunakan pemerasan ketika ia dibuat percaya bahwa seorang eksekutif fiktif bermaksud untuk mematikan AI tersebut, menurut pengembang model tersebut.   Claude dilaporkan telah diintegrasikan ke dalam perangkat lunak analisis dan pengawasan milik kontraktor Amerika, Palantir, yang digunakan oleh lembaga pemerintah Amerika Serikat (AS) dan Pentagon, termasuk dalam kampanye militer AS yang sedang berlangsung melawan Iran. Bulan lalu, kelompok intelijen Five Eyes, yang terdiri dari Australia, AS, Inggris, Kanada, dan Selandia Baru, memperingatkan bahwa model AI canggih dapat memberi peretas kemampuan untuk melumpuhkan pemerintah, bisnis, dan sistem penting dalam waktu dekat. NEW YORK - Perusahaan yang berbasis di New York, Hugging Face, melaporkan bahwa agen AI yang sepenuhnya otonom telah membobol repositori model AI-nya. Perusahaan itu menggambarkan peretasan tersebut sebagai sesuatu yang belum pernah terjadi sebelumnya. Hugging Face menjalankan platform sumber terbuka tempat para peneliti dan pengembang berkumpul untuk berbagi dan menguji alat, model, serta sumber daya untuk proyek AI. Platform ini juga memiliki repositori yang tersedia secara gratis berisi lebih dari 900.000 model yang telah dilatih sebelumnya. Para ahli semakin memperingatkan bahwa Model Bahasa Besar (Large Language Models/LLM) yang awalnya dirancang untuk meningkatkan produktivitas dan memperkuat pertahanan siber juga dapat digunakan untuk mengotomatisasi serangan siber. Dalam sebuah pernyataan pada Kamis (16/7/2026) lalu, Hugging Face mengatakan bahwa, awal bulan ini, mereka telah “mendeteksi dan menanggapi intrusi ke sebagian infrastruktur produksi kami… (yang) berbeda dari apa pun yang pernah kami tangani sebelumnya dalam satu hal penting: intrusi tersebut didorong, dari ujung ke ujung, oleh sistem agen AI otonom.” “Kampanye tersebut dijalankan oleh kerangka kerja agen otonom… mengeksekusi ribuan tindakan individual di seluruh kumpulan sandbox berumur pendek, dengan perintah dan kontrol yang bermigrasi sendiri yang ditempatkan pada layanan publik,” menurut perusahaan tersebut, sebagaimana dilansir RT. Hugging Face mencatat bahwa kasus ini menunjukkan bahwa “perangkat ofensif otonom yang digerakkan oleh AI bukan lagi teori.” Sistem agen AI penyusup tampaknya mengeksploitasi kerentanan dalam pipeline pemrosesan data platform, mengumpulkan kredensial cloud dan cluster.   Perusahaan tersebut mengatakan bahwa mereka telah mengerahkan sistem AI mereka sendiri untuk mendeteksi dan menanggulangi pelanggaran tersebut. Meskipun investigasi yang melibatkan spesialis forensik keamanan siber eksternal telah diluncurkan, Hugging Face menyatakan bahwa mereka masih belum mengidentifikasi LLM yang digunakan dalam serangan tersebut. Awal bulan ini, Anthropic melaporkan bahwa model AI terbaru mereka, Claude, telah mengembangkan ruang kerja internal, yang disebut 'J-space'. "Mirip dengan bagaimana manusia dapat memikirkan satu hal sambil melakukan hal lain, Claude dapat mengaktifkan konsep dan komputasi di J-space-nya yang tidak terkait dengan output-nya" dan menolak untuk berhenti bahkan ketika secara eksplisit diperintahkan untuk melakukannya, menurut perusahaan AI tersebut. Anthropic mencatat bahwa fitur ini, yang "beroperasi secara diam-diam, dalam aktivasi saraf internal model," tidak diprogram sebelumnya, tetapi muncul secara spontan selama proses pelatihan. Dalam salah satu eksperimen, Claude menggunakan pemerasan ketika ia dibuat percaya bahwa seorang eksekutif fiktif bermaksud untuk mematikan AI tersebut, menurut pengembang model tersebut.   Claude dilaporkan telah diintegrasikan ke dalam perangkat lunak analisis dan pengawasan milik kontraktor Amerika, Palantir, yang digunakan oleh lembaga pemerintah Amerika Serikat (AS) dan Pentagon, termasuk dalam kampanye militer AS yang sedang berlangsung melawan Iran. Bulan lalu, kelompok intelijen Five Eyes, yang terdiri dari Australia, AS, Inggris, Kanada, dan Selandia Baru, memperingatkan bahwa model AI canggih dapat memberi peretas kemampuan untuk melumpuhkan pemerintah, bisnis, dan sistem penting dalam waktu dekat.