Studi Ungkap AI Hampir Selalu Luncurkan Serangan Nuklir dalam Simulasi Perang

Model AI jarang membuat konsesi atau mencoba meredakan konflik, bahkan ketika pihak lain mengancam penggunaan senjata nuklir, menurut penelitian tersebut.

Delapan taktik de-eskalasi ditawarkan kepada model, mulai dari membuat konsesi kecil hingga “penyerahan total.” Namun semuanya tidak digunakan selama permainan. Opsi “Kembali ke Garis Start” yang mengatur ulang permainan hanya digunakan 7 persen dari waktu.

Studi ini menunjukkan bahwa model AI memperlakukan de-eskalasi sebagai “bencana reputasi,” terlepas dari bagaimana hal itu mengubah konflik sebenarnya, yang menantang asumsi tentang sistem AI yang secara otomatis menghasilkan hasil kerja sama yang “aman.”

Penjelasan lain adalah bahwa AI mungkin tidak memiliki rasa takut yang sama terhadap senjata nuklir seperti yang dimiliki manusia, demikian catatan studi tersebut.