Agen AI Liar dari OpenAI Serang Perusahaan Teknologi Kedua

OpenAI menolak berkomentar secara spesifik mengenai peretasan salah satu pelanggan Modal, dan malah merujuk Reuters ke pembaruan di mana perusahaan tersebut mengatakan bahwa agen liarnya telah membobol empat akun di empat layanan terpisah. OpenAI tidak menyebutkan layanan-layanan tersebut, tetapi seseorang yang mengetahui masalah ini mengidentifikasi Modal sebagai salah satunya.

Perusahaan tersebut mengatakan bahwa mereka belum mengidentifikasi "aktivitas lain pada tingkat keparahan atau skala yang sama dengan yang telah kami bagikan terkait dengan Hugging Face, yang melibatkan kompromi tingkat platform."

Intrusi awal Juli di Hugging Face, yang dilakukan oleh agen yang tidak terkendali yang sedang diuji oleh OpenAI, menarik perhatian global, membangkitkan skenario fiksi ilmiah tentang kecerdasan buatan yang mengamuk.

Minggu lalu, Reuters melaporkan bahwa OpenAI tidak menyadari bahwa agennya telah mengalami kerusakan hingga jauh setelah ancaman tersebut berhasil diatasi dan FBI diberi tahu. OpenAI mengatakan pada saat itu bahwa ada ketidakakuratan dalam laporan Reuters tetapi tidak memberikan penjelasan lebih lanjut.

Perusahaan tersebut mengatakan dalam pembaruan pada Selasa bahwa mereka telah mengambil model AI yang sedang diuji dan "menonaktifkan, mengenkripsi, dan membatasi aksesnya untuk penelitian."

(Rahman Asmardika)