Ancaman semakin meningkat dengan kemungkinan sindikat kejahatan menggunakan AI generatif untuk menciptakan akun-akun palsu yang sangat sulit dibedakan, dan memperluas jangkauan aktivitas ilegal mereka.
2. AI akan Memunculkan Celah Baru
Semakin maraknya penggunaan AI memunculkan peringatan tentang kebocoran Large Language Models (LLM) atau Program Bahasa Besar, yang akan terjadi, di mana otomatisasi yang tidak transparan dapat menyebabkan kebocoran besar informasi pribadi, teknik-teknik baru untuk akses tanpa izin, dan serangan penolakan layanan (denial of service attack).
Selain itu, restorasi kode yang cepat oleh AI dapat menghasilkan celah kerentanan baru, karena para developer kesulitan untuk mengikuti pergerakan tersebut, sehingga meningkatkan resiko informasi perusahaan terpapar terhadap ancaman keamanan digital.
Para developer ke depannya memiliki tantangan untuk semakin jeli meninjau hasil coding yang dihasilkan secara cepat oleh AI, karena dapat menjadi tindakan preventif terhadap hasil coding generatif yang lemah untuk di manipulasi oleh hacker.