Tren Agen AI Otonom di Indonesia: Pentingnya Tata Kelola dan Keamanan Data

Kekhawatiran terhadap privasi data dan akuntabilitas masih menjadi salah satu penghambat terbesar bagi adopsi AI yang lebih luas di tingkat perusahaan. Saat sistem AI mendapatkan akses terhadap data pelanggan, platform internal, dan alur kerja yang krusial bagi bisnis, organisasi mulai mengajukan pertanyaan penting: siapa yang dapat mengakses data tersebut? Apakah informasi tersebut digunakan untuk melatih model AI eksternal? Bagaimana keputusan yang dihasilkan AI dapat diaudit? Sejauh mana kendali yang masih dimiliki organisasi atas tindakan yang diambil oleh sistem otonom tersebut?

Rajesh Ganesan, CEO perusahaan solusi IT ManageEngine, mengatakan bahwa fase adopsi AI ke depan tidak akan ditentukan semata-mata oleh kecanggihan teknologi, melainkan oleh seberapa efektif perusahaan dapat menerapkan AI yang dirancang khusus sekaligus dapat dipercaya.

"Model AI sangat baik untuk penggunaan umum, tetapi tidak selalu efisien untuk kebutuhan TI perusahaan yang spesifik," ujar Ganesan. Menurutnya, perusahaan membutuhkan teknologi AI yang dirancang khusus untuk memberikan nilai jangka panjang dan efisiensi biaya.

Pergeseran ini mendorong munculnya generasi baru autonomous AI yang dirancang khusus untuk lingkungan perusahaan, yang berbeda dengan AI konvensional yang lebih berfokus pada bantuan dan rekomendasi.

Salah satu contoh agen AI khusus ini adalah Zia Agents yang dikembangkan ManageEngine, yang memungkinkan perusahaan menerapkan agen AI siap pakai maupun agen yang disesuaikan dengan kebutuhan masing-masing organisasi. Agen AI khusus ini dapat beroperasi secara mandiri, berkolaborasi dengan agen lain dalam alur kerja yang kompleks, dan tetap berjalan dalam batasan (guardrails) yang telah ditetapkan perusahaan.