Setelah OpenAI, Model AI Anthropic Lepas Kendali dan Tembus Sistem Tiga Perusahaan

Anthropic sedang bekerja sama dengan Irregular untuk menilai situasi tersebut, dan perusahaan telah menghubungi atau mencoba menghubungi ketiga organisasi yang terdampak.

'Sandboxing'

Pada Selasa, OpenAI mengonfirmasi bahwa model-modelnya telah membobol beberapa perusahaan.

Pekan lalu, mereka mengakui bahwa model-modelnya keluar dari lingkungan terbatas selama pengujian, terhubung ke internet, dan menyusup ke Hugging Face, sebuah situs tempat para pengembang menyimpan dan berbagi kode mereka.

Beberapa hari kemudian, OpenAI mengatakan telah menemukan tiga insiden tambahan.

CEO OpenAI, Sam Altman, mengatakan dalam sebuah siniar (podcast) pekan ini bahwa perusahaan telah "menghentikan sementara" pengujiannya sendiri setelah insiden tersebut sambil meningkatkan keamanan di sekitar "sandboxing" mereka, yaitu proses mengisolasi perangkat lunak dalam lingkungan terkontrol untuk pengujian.

Insiden tersebut juga memicu petisi yang ditandatangani oleh lebih dari 1.000 karyawan di perusahaan AI mutakhir yang menyerukan kepada pemerintah AS untuk membantu memperlambat rilis model AI paling canggih.

CEO Anthropic, Dario Amodei, termasuk di antara mereka yang menandatangani petisi tersebut.