OpenAI Rencanakan AI Super yang Lampaui Kecerdasan Manusia, Gak Bahaya?
“Jadi, bagaimana kita menyelaraskan sistem AI manusia super dan membuatnya aman? Ini benar-benar masalah bagi seluruh umat manusia – mungkin masalah teknis terpenting yang belum terpecahkan di zaman kita,” timpalnya.
Untuk mempertegas pernyataan tersebut, Aschenbrenner juga menyatakan bahwa kontribusi tim saat ini menjadi bagian dari inti misi dalam membangun AI demi kepentingan seluruh umat manusia.
“Ini benar-benar inti dari misi kami untuk membangun [AI] demi kepentingan seluruh umat manusia, dengan aman. Dan menurut kami, melakukan penelitian ini sangatlah penting agar penelitian ini bermanfaat dan aman,” tegasnya.
Sementara itu, model sistem AI Super ini sendiri masih terus dilatih dengan fokus utama agar jenis tugas yang dihasilkan aman dan tidak mengada-ada.
“Bagaimana kita membuat model mengikuti instruksi dan membuat model hanya membantu dalam hal-hal yang benar dan tidak mengada-ada? Bagaimana kita mendapatkan model yang memberi tahu kita apakah kode yang dihasilkannya aman atau berperilaku buruk? Ini adalah jenis tugas yang ingin kami capai dengan penelitian kami,” ujar tim Superalignment lainnya, Collin Burns. (Chasna Alifia Sya’bana)
(Saliki Dwi Saputra )
