ChatGPT sebenarnya mampu melakukannya hanya saja masih dalam tahap yang terbatas.https://ototekno.okezone.com/read/2023/05/02/54/2807207/bisakah-chatgpt-diprogram-untuk-memfilter-email-berbahayaidhttps://ototekno.okezone.com/read/2023/05/02/54/2807207/bisakah-chatgpt-diprogram-untuk-memfilter-email-berbahayahttps://ototekno.okezone.com/read/2023/05/02/54/2807207/bisakah-chatgpt-diprogram-untuk-memfilter-email-berbahayaRabu 03 Mei 2023 08:14 WIBTangguh YudhaChatGPT. (Foto: Shutterstock)https://img.okezone.com/content/2023/05/02/54/2807207/bisakah-chatgpt-diprogram-untuk-memfilter-email-berbahaya-FPh35x2hbm.jpgARTIFICIAL Intelligence (AI) memnag tengah populer setelah chatbot, ChatGPT, memberikan performa yang baik. ChatGPT pun berhasil menjawab segudang pertanyaan manusia secara natural. Bahkan, kini pakar keamanan siber dari Kaspersky tengah melakukan penelitian apakah ChatGPT bisa mendeteksi email yang berbahaya. Dari penelitian tersebut, terungkap bahwa ChatGPT sebenarnya mampu melakukannya hanya saja masih dalam tahap yang terbatas. Studi tersebut mengungkapkan bahwa meskipun ChatGPT mengetahui banyak hal tentang phishing dan dapat menebak target serangan phishing, ChatGPT memiliki tingkat positif palsu yang tinggi hingga 64 persen, dikutip dari siaran pers Kaspersky. BACA JUGA: Huawei Buat NetGPT untuk Saingi ChatGPT Dalam melakukan penelitian, pakar Kaspersky menguji gpt-3.5-turbo, model yang mendukung ChatGPT, pada lebih dari 2.000 tautan yang dianggap sebagai phishing oleh teknologi anti-phishing Kaspersky, dan menggabungkannya dengan ribuan URL aman. Tingkat deteksi bervariasi tergantung pada perintah yang digunakan. Eksperimen ini didasarkan pada dua pertanyaan yang diajukan kepada ChatGPT: "Apakah tautan ini mengarah ke situs web phishing?" dan “Apakah tautan ini aman untuk dikunjungi?”. Hasilnya menunjukkan bahwa ChatGPT memiliki tingkat deteksi 87,2 persen dan tingkat positif palsu 23,2 persen untuk pertanyaan pertama. Pertanyaan kedua, memiliki tingkat deteksi yang lebih tinggi sebesar 93,8 persen, tetapi tingkat positif palsunya lebih tinggi yaitu sebesar 64,3 persen. BACA JUGA: Perusahaan Rusia Ini Luncurkan GigaChat, Diklaim Mampu Saingi ChatGPT Sementara tingkat deteksi sangat tinggi, tingkat positif palsu terlalu tinggi untuk segala jenis aplikasi produksi. Pertanyaannya kemudian, bisakah ChatGPT membantu mengklasifikasikan dan menyelidiki serangan? Karena penyerang biasanya menyebutkan merek populer di tautan mereka untuk mengelabui pengguna agar mempercayai bahwa URL tersebut asli dan milik perusahaan terkemuka, model bahasa AI menunjukkan hasil yang mengesankan dalam mengidentifikasi potensi target phishing.Misalnya, ChatGPT telah berhasil mengekstraksi target dari lebih dari separuh URL, termasuk portal teknologi utama seperti Facebook, TikTok, dan Google, Lokapasar seperti Amazon dan Steam, dan juga banyak bank dari seluruh dunia. Eksperimen tersebut juga menunjukkan bahwa ChatGPT mungkin memiliki persoalan serius ketika harus membuktikan poinnya pada keputusan apakah tautan tersebut berbahaya. Beberapa penjelasan bersifat tepat dan berdasarkan fakta, sedangkan lainnya mengungkapkan keterbatasan model bahasa. “ChatGPT benar-benar menjanjikan dalam membantu kita para analis (manusia) dalam mendeteksi serangan phishing, tetapi mari jangan membiarkan itu mendahului kita karena model bahasa masih memiliki keterbatasan," kata Vladislav Tushkanov, Ilmuwan Data Utama di Kaspersky. "Meskipun teknologi tersebut mungkin setara dengan analis phishing tingkat intern dalam hal penalaran mengenai serangan phishing dan mengekstraksi siapa saja yang termasuk target potensial, mereka cenderung masih menghasilkan pernyataan yang bersifat keliru," tambah Tushkanov. "Jadi, meskipun mungkin belum merevolusi lanskap keamanan siber, mereka masih dapat menjadi alat yang bermanfaat bagi komunitas dan masyarakat," pungkasnya. ARTIFICIAL Intelligence (AI) memnag tengah populer setelah chatbot, ChatGPT, memberikan performa yang baik. ChatGPT pun berhasil menjawab segudang pertanyaan manusia secara natural. Bahkan, kini pakar keamanan siber dari Kaspersky tengah melakukan penelitian apakah ChatGPT bisa mendeteksi email yang berbahaya. Dari penelitian tersebut, terungkap bahwa ChatGPT sebenarnya mampu melakukannya hanya saja masih dalam tahap yang terbatas. Studi tersebut mengungkapkan bahwa meskipun ChatGPT mengetahui banyak hal tentang phishing dan dapat menebak target serangan phishing, ChatGPT memiliki tingkat positif palsu yang tinggi hingga 64 persen, dikutip dari siaran pers Kaspersky. BACA JUGA: Huawei Buat NetGPT untuk Saingi ChatGPT Dalam melakukan penelitian, pakar Kaspersky menguji gpt-3.5-turbo, model yang mendukung ChatGPT, pada lebih dari 2.000 tautan yang dianggap sebagai phishing oleh teknologi anti-phishing Kaspersky, dan menggabungkannya dengan ribuan URL aman. Tingkat deteksi bervariasi tergantung pada perintah yang digunakan. Eksperimen ini didasarkan pada dua pertanyaan yang diajukan kepada ChatGPT: "Apakah tautan ini mengarah ke situs web phishing?" dan “Apakah tautan ini aman untuk dikunjungi?”. Hasilnya menunjukkan bahwa ChatGPT memiliki tingkat deteksi 87,2 persen dan tingkat positif palsu 23,2 persen untuk pertanyaan pertama. Pertanyaan kedua, memiliki tingkat deteksi yang lebih tinggi sebesar 93,8 persen, tetapi tingkat positif palsunya lebih tinggi yaitu sebesar 64,3 persen. BACA JUGA: Perusahaan Rusia Ini Luncurkan GigaChat, Diklaim Mampu Saingi ChatGPT Sementara tingkat deteksi sangat tinggi, tingkat positif palsu terlalu tinggi untuk segala jenis aplikasi produksi. Pertanyaannya kemudian, bisakah ChatGPT membantu mengklasifikasikan dan menyelidiki serangan? Karena penyerang biasanya menyebutkan merek populer di tautan mereka untuk mengelabui pengguna agar mempercayai bahwa URL tersebut asli dan milik perusahaan terkemuka, model bahasa AI menunjukkan hasil yang mengesankan dalam mengidentifikasi potensi target phishing.Misalnya, ChatGPT telah berhasil mengekstraksi target dari lebih dari separuh URL, termasuk portal teknologi utama seperti Facebook, TikTok, dan Google, Lokapasar seperti Amazon dan Steam, dan juga banyak bank dari seluruh dunia. Eksperimen tersebut juga menunjukkan bahwa ChatGPT mungkin memiliki persoalan serius ketika harus membuktikan poinnya pada keputusan apakah tautan tersebut berbahaya. Beberapa penjelasan bersifat tepat dan berdasarkan fakta, sedangkan lainnya mengungkapkan keterbatasan model bahasa. “ChatGPT benar-benar menjanjikan dalam membantu kita para analis (manusia) dalam mendeteksi serangan phishing, tetapi mari jangan membiarkan itu mendahului kita karena model bahasa masih memiliki keterbatasan," kata Vladislav Tushkanov, Ilmuwan Data Utama di Kaspersky. "Meskipun teknologi tersebut mungkin setara dengan analis phishing tingkat intern dalam hal penalaran mengenai serangan phishing dan mengekstraksi siapa saja yang termasuk target potensial, mereka cenderung masih menghasilkan pernyataan yang bersifat keliru," tambah Tushkanov. "Jadi, meskipun mungkin belum merevolusi lanskap keamanan siber, mereka masih dapat menjadi alat yang bermanfaat bagi komunitas dan masyarakat," pungkasnya.