Tren Agen AI Otonom di Indonesia: Pentingnya Tata Kelola dan Keamanan Data
JAKARTA - Adopsi kecerdasan buatan (AI) di Indonesia menunjukkan tren dan momentum yang kuat. Dalam beberapa tahun terakhir, perusahaan berlomba mengadopsi AI untuk meningkatkan produktivitas dan mempercepat proses kerja.
Menteri Koordinator Bidang Perekonomian Airlangga Hartarto baru-baru ini menyebutkan Indonesia telah menjadi pasar AI potensial terbesar keempat di Asia, dengan investasi AI dari sektor swasta mencapai USD 91 juta sepanjang akhir 2024 hingga pertengahan 2025. Pada saat yang sama, 56% pekerja meyakini bahwa AI dapat membantu meningkatkan produktivitas kerja.
Seiring dengan teknologi yang semakin matang, AI tidak lagi dipandang sekadar sebagai alat untuk menjawab pertanyaan, membuat ringkasan, atau menghasilkan konten. Banyak organisasi yang mengeksplorasi sistem AI yang mampu menjalankan tugas secara mandiri, atau yang dikenal sebagai agen AI dan Autonomous AI.
Agen AI tidak hanya memberikan rekomendasi, tetapi juga mengambil tindakan, berkoordinasi lintas platform, dan menyelesaikan alur kerja dengan campur tangan manusia yang minim.
Kehadiran agen AI ini mengubah cara perusahaan beroperasi, dengan mengambil alih tugas-tugas seperti menangani permintaan layanan konsumen, membantu investigasi keamanan siber, hingga mengoptimalkan penggunaan sumber daya cloud. Bahkan, regulator Otoritas Jasa Keuangan (OJK) melalui Tata Kelola Kecerdasan Artifisial Perbankan Indonesia untuk industri perbankan, telah mengidentifikasi agentic AI sebagai salah satu investasi teknologi strategis yang dapat membantu membentuk masa depan industri perbankan.
Tetapi, di sisi lain, kemampuan AI yang terus berkembang juga membawa tantangan baru. Karena kemampuannya untuk menjalankan proses bisnis, melakukan investigasi, dan mengambil keputusan operasional, banyak yang mempertanyakan bagaimana sistem ini dapat beroperasi secara aman, transparan, dan sesuai dengan kebijakan tata kelola yang telah ditetapkan.
Kekhawatiran terhadap privasi data dan akuntabilitas masih menjadi salah satu penghambat terbesar bagi adopsi AI yang lebih luas di tingkat perusahaan. Saat sistem AI mendapatkan akses terhadap data pelanggan, platform internal, dan alur kerja yang krusial bagi bisnis, organisasi mulai mengajukan pertanyaan penting: siapa yang dapat mengakses data tersebut? Apakah informasi tersebut digunakan untuk melatih model AI eksternal? Bagaimana keputusan yang dihasilkan AI dapat diaudit? Sejauh mana kendali yang masih dimiliki organisasi atas tindakan yang diambil oleh sistem otonom tersebut?
Rajesh Ganesan, CEO perusahaan solusi IT ManageEngine, mengatakan bahwa fase adopsi AI ke depan tidak akan ditentukan semata-mata oleh kecanggihan teknologi, melainkan oleh seberapa efektif perusahaan dapat menerapkan AI yang dirancang khusus sekaligus dapat dipercaya.
"Model AI sangat baik untuk penggunaan umum, tetapi tidak selalu efisien untuk kebutuhan TI perusahaan yang spesifik," ujar Ganesan. Menurutnya, perusahaan membutuhkan teknologi AI yang dirancang khusus untuk memberikan nilai jangka panjang dan efisiensi biaya.
Pergeseran ini mendorong munculnya generasi baru autonomous AI yang dirancang khusus untuk lingkungan perusahaan, yang berbeda dengan AI konvensional yang lebih berfokus pada bantuan dan rekomendasi.
Salah satu contoh agen AI khusus ini adalah Zia Agents yang dikembangkan ManageEngine, yang memungkinkan perusahaan menerapkan agen AI siap pakai maupun agen yang disesuaikan dengan kebutuhan masing-masing organisasi. Agen AI khusus ini dapat beroperasi secara mandiri, berkolaborasi dengan agen lain dalam alur kerja yang kompleks, dan tetap berjalan dalam batasan (guardrails) yang telah ditetapkan perusahaan.
Agen AI ini juga memenuhi sisi privasi dan keamanan dengan tidak menggunakan data pelanggan untuk melatih model AI, dan administrator tetap memiliki visibilitas dan jejak audit yang lengkap atas setiap tindakan yang dilakukan agen.
Seiring adopsi AI yang semakin cepat di berbagai industri, pertanyaan utama yang dihadapi perusahaan bukan lagi soal apakah AI akan digunakan dalam operasional bisnis, melainkan bagaimana AI dapat diterapkan secara aman, transparan, dan bertanggung jawab. Seiring berkembangnya autonomous AI, kemampuan untuk menyeimbangkan inovasi dengan tata kelola yang kuat berpotensi menjadi pembeda penting bagi organisasi yang ingin meningkatkan efisiensi operasional, memperkuat resiliensi bisnis, dan membangun kepercayaan pelanggan dalam jangka panjang.
Untuk memaksimalkan manfaat autonomous AI, perusahaan perlu mulai mengevaluasi kesiapan tata kelola, keamanan data, dan strategi implementasi AI mereka. Langkah ini akan menjadi fondasi penting untuk memastikan AI dapat diterapkan secara aman, bertanggung jawab, dan memberikan nilai bisnis yang berkelanjutan.
(Rahman Asmardika)
