Agentic AI: Kapan Bisnis siap Menggunakannya?

Perusahaan mulai bergerak dari penggunaan AI untuk menjawab pertanyaan menuju sistem yang dapat menjalankan pekerjaan.

AI tidak hanya diminta merangkum dokumen atau membuat draft email. Sistem mulai diarahkan untuk mencari informasi, menentukan langkah berikutnya, menggunakan aplikasi perusahaan, mengirimkan permintaan persetujuan, hingga menyelesaikan workflow yang terdiri dari beberapa tahapan.

Kemampuan tersebut dikenal sebagai agentic AI.

Agentic AI menjanjikan otomatisasi yang lebih fleksibel dibandingkan workflow tradisional. Namun, semakin besar kemampuan AI untuk bertindak, semakin besar pula risiko ketika sistem menggunakan data yang salah, memperoleh akses berlebihan, atau mengambil keputusan di luar batas yang diharapkan.

Karena itu, pertanyaan perusahaan seharusnya bukan:

“Bagaimana cara membuat AI agent?”

Pertanyaan yang lebih penting adalah:

“Apakah proses, data, sistem, dan tata kelola perusahaan sudah siap memberikan kewenangan kepada AI untuk bertindak?”

Apa Itu Agentic AI?

Agentic AI adalah sistem AI yang dapat menerima tujuan, menyusun langkah, menggunakan tools atau aplikasi, mengevaluasi hasil, dan melanjutkan pekerjaan dengan tingkat kemandirian tertentu.

Sebagai contoh, AI agent untuk procurement dapat:

1. Membaca permintaan pembelian.
2. Memeriksa kelengkapan dokumen.
3. Mencari vendor yang sesuai.
4. Membandingkan harga.
5. Memeriksa batas anggaran.
6. Mengirim permintaan approval.
7. Memperbarui status pada sistem procurement.
8. Memberi tahu pengguna ketika proses selesai.

Microsoft menjelaskan bahwa sistem agentic dapat memiliki kemampuan pengambilan keputusan, orkestrasi multi-tahap, serta kolaborasi antara manusia dan agent. Namun, implementasinya juga membutuhkan kesiapan pada strategi, proses, governance, arsitektur, operasi, dan responsible AI.

Google Cloud juga membedakan prototype agent dari agent yang siap production. Sistem production membutuhkan state management, security, governance, testing, observability, dan kemampuan mengelola workflow yang berjalan lama.

Dengan demikian, agentic AI bukan sekadar chatbot yang diberi nama baru.

Chatbot, Automation, dan Agentic AI

Workflow automation tradisional cocok ketika prosesnya stabil, aturannya jelas, dan tidak membutuhkan interpretasi.

Agentic AI lebih relevan ketika pekerjaan membutuhkan pemahaman konteks, pemilihan tindakan, penggunaan beberapa sumber, dan penyesuaian terhadap kondisi yang berbeda.

Namun, agentic AI tidak otomatis lebih baik.

Microsoft menyarankan perusahaan menentukan apakah skenario benar-benar membutuhkan penilaian intent dan eksekusi dinamis oleh model, atau lebih tepat menggunakan orchestrator berbasis kode yang deterministik dan presisi.

Jika proses dapat diselesaikan secara akurat dengan aturan sederhana, penggunaan agentic AI justru dapat menambah biaya dan ketidakpastian.

Kapan Agentic AI Memberikan Nilai?

1. Proses Memiliki Banyak Langkah

Agentic AI dapat membantu ketika satu pekerjaan membutuhkan perpindahan di antara beberapa aplikasi, dokumen, dan keputusan.

Contohnya:

• Memproses klaim.
• Menangani onboarding vendor.
• Menyiapkan laporan operasional.
• Memeriksa dokumen kontrak.
• Menindaklanjuti lead.
• Menangani permintaan internal.
• Memantau anomali dan membuat ticket.

2. Banyak Pekerjaan Berulang Membutuhkan Interpretasi

Automation biasa efektif untuk data yang sangat terstruktur.

Agentic AI dapat membantu ketika input berbentuk email, dokumen, percakapan, atau instruksi bebas yang masih perlu diklasifikasikan sebelum diproses.

3. Tim Menghabiskan Waktu Mencari dan Memindahkan Informasi

Agent dapat menghubungkan informasi dari ERP, CRM, knowledge base, dan aplikasi operasional melalui API.

Nilainya bukan sekadar menghasilkan jawaban, tetapi mengurangi perpindahan manual antarsistem.

4. Keputusan Masih Memiliki Batas yang Jelas

Agentic AI lebih aman ketika perusahaan dapat menetapkan:

• Data yang boleh digunakan.
• Tools yang boleh diakses.
• Nilai transaksi maksimum.
• Kondisi yang membutuhkan persetujuan.
• Tindakan yang tidak boleh dilakukan.
• Mekanisme penghentian dan rollback.

Agent seharusnya tidak diberikan kebebasan tanpa batas hanya karena mampu menjalankan banyak tools.

Tanda Bisnis Belum Siap Menggunakan Agentic AI

Proses Bisnis Belum Jelas

Agent tidak dapat memperbaiki proses yang ownership dan aturannya belum disepakati.

Jika divisi berbeda memiliki definisi, approval, dan cara kerja yang bertentangan, AI hanya akan mengotomatisasi kebingungan yang sudah ada.

Data Tidak Dapat Dipercaya

Agent dapat menjalankan tindakan berdasarkan informasi pelanggan, stok, harga, kontrak, atau kebijakan yang tersedia.

Apabila data tidak lengkap atau tidak terbaru, agent dapat melakukan tindakan yang salah dengan lebih cepat.

Artikel Crocodic mengenai kualitas data untuk AI membahas mengapa kesiapan dan akurasi data perlu diperbaiki sebelum AI diperluas ke proses operasional.

Sistem Tidak Memiliki API

AI agent membutuhkan cara yang aman dan terkontrol untuk membaca data serta menjalankan tindakan.

Jika agent harus mengakses database secara langsung atau meniru klik pengguna pada aplikasi, integrasinya akan lebih rapuh dan sulit diaudit.

Masalah tersebut juga berkaitan dengan risiko integrasi sistem enterprise, terutama jika koneksi dibangun secara point-to-point tanpa kontrak dan ownership yang jelas.

Hak Akses Belum Terkontrol

Agent perlu memiliki identitas dan permission sendiri.

NIST sedang mengembangkan perhatian khusus pada identitas dan otorisasi agent karena agent dapat bertindak pada sistem lain, membawa credential, dan mengakses resource enterprise.

Agent tidak seharusnya menggunakan akun administrator umum atau memiliki akses lebih besar daripada tugasnya.

Tidak Ada Human Oversight

Proses yang menyentuh pembayaran, data pribadi, kontrak, keamanan, atau keputusan berdampak besar membutuhkan mekanisme review manusia.

Human-in-the-loop bukan berarti seluruh tindakan harus disetujui manual. Perusahaan dapat menentukan approval berdasarkan tingkat risiko.

Perusahaan Belum Memiliki Monitoring

Agent dapat menghasilkan rangkaian tindakan yang lebih kompleks daripada aplikasi biasa.

Perusahaan perlu mengetahui:

• Tujuan yang diterima agent.
• Data yang digunakan.
• Tools yang dipanggil.
• Keputusan yang dibuat.
• Tindakan yang berhasil dan gagal.
• Biaya setiap proses.
• Intervensi manusia.
• Dampak terhadap hasil bisnis.

Tanpa observability, perusahaan sulit memahami mengapa agent mengambil tindakan tertentu.

Checklist Kesiapan Agentic AI

Jika sebagian besar pertanyaan tersebut belum memiliki jawaban, perusahaan sebaiknya memperbaiki fondasi terlebih dahulu.

Risiko Utama Agentic AI

NIST melaporkan adanya kesepakatan luas dari responden industri bahwa AI agent menghadirkan risiko keamanan baru. Prinsip cybersecurity dasar tetap relevan, tetapi perlu disesuaikan karena agent dapat menggunakan tools dan melakukan tindakan lintas sistem.

Beberapa risikonya meliputi:

Prompt Injection

Instruksi berbahaya dapat disisipkan melalui dokumen, email, website, atau data yang dibaca agent.

Agent dapat diarahkan untuk mengabaikan aturan atau mengirimkan informasi ke tujuan yang tidak sah.

Excessive Permission

Agent memperoleh akses lebih besar daripada yang dibutuhkan.

Jika agent atau credential-nya disalahgunakan, dampaknya dapat meluas ke banyak sistem.

Incorrect Action

Model dapat salah memahami konteks dan menjalankan tindakan yang tidak sesuai.

Risikonya lebih tinggi ketika tindakan sulit dibatalkan, seperti pembayaran, penghapusan data, atau perubahan kontrak.

Automation Cascade

Satu kesalahan dapat memicu rangkaian tindakan otomatis.

Agent membuat data salah, sistem berikutnya memprosesnya, lalu agent lain mengambil keputusan berdasarkan hasil tersebut.

Tidak Ada Accountability

Jika ownership tidak jelas, perusahaan sulit menentukan siapa yang harus memeriksa performa, risiko, dan action item setelah agent mengalami kegagalan.

NIST AI Risk Management Framework menyediakan pendekatan melalui fungsi Govern, Map, Measure, dan Manage untuk membantu organisasi mengelola risiko AI sepanjang lifecycle.

Cara Memulai Agentic AI secara Bertahap

1. Pilih Use Case Terbatas

Mulailah dari proses yang berulang, memiliki data cukup baik, dan risikonya dapat dikendalikan.

Contoh awal:

• Mengklasifikasikan permintaan.
• Menyiapkan ringkasan dan rekomendasi.
• Mengumpulkan informasi dari beberapa sistem.
• Membuat draft tindakan.
• Membuka ticket untuk ditinjau manusia.

2. Gunakan Tingkat Otonomi Bertahap

Perusahaan dapat menggunakan beberapa level:

1. Suggest: agent hanya memberikan rekomendasi.
2. Prepare: agent menyiapkan tindakan, manusia menyetujui.
3. Execute with limits: agent menjalankan tindakan dalam batas tertentu.
4. Autonomous: agent menjalankan workflow secara mandiri dan hanya mengeskalasi pengecualian.

Jangan langsung memulai dari otonomi penuh.

3. Batasi Tools dan Data

Berikan akses minimum yang dibutuhkan.

Pisahkan read access dan write access. Terapkan batas transaksi, scope data, dan durasi credential.

4. Uji Failure Scenario

Pengujian tidak hanya memeriksa apakah agent berhasil.

Uji kondisi ketika:

• Data tidak tersedia.
• Instruksi ambigu.
• API gagal.
• Dokumen berisi instruksi berbahaya.
• Agent memilih tool yang salah.
• Model menghasilkan output tidak valid.
• Proses berjalan terlalu lama.
• Biaya melewati batas.

5. Ukur Dampak Bisnis

Pantau:

• Waktu proses.
• Jumlah pekerjaan yang selesai.
• Tingkat eskalasi.
• Kesalahan tindakan.
• Human override.
• Biaya per workflow.
• Kepuasan pengguna.
• Dampak terhadap KPI operasional.

Agent yang terlihat pintar belum tentu menghasilkan nilai.

Kapan Menggunakan Automation Biasa?

Gunakan workflow deterministik ketika:

• Aturannya stabil.
• Input terstruktur.
• Toleransi kesalahan sangat rendah.
• Langkah harus selalu sama.
• Keputusan harus dapat diprediksi.
• Agentic reasoning tidak memberikan nilai tambahan.

Gunakan agentic AI ketika:

• Inputnya beragam.
• Proses membutuhkan interpretasi.
• Jalur tindakan dapat berubah.
• Beberapa tools harus dikoordinasikan.
• Pengecualian cukup sering terjadi.
• Hasil tetap dapat dievaluasi dan dikendalikan.

Arsitektur yang baik dapat menggabungkan keduanya. AI memahami konteks dan memilih jalur, sedangkan workflow deterministik menjalankan transaksi kritis.

Kesimpulan

Agentic AI dapat membawa AI dari sekadar pemberi jawaban menjadi pelaksana workflow bisnis.

Namun, kemampuan bertindak juga meningkatkan konsekuensi ketika data, instruksi, permission, atau keputusan tidak tepat.

Bisnis siap menggunakan agentic AI ketika memiliki:

• Use case yang bernilai.
• Proses yang cukup matang.
• Data yang dapat dipercaya.
• Integrasi yang terkontrol.
• Identitas dan permission khusus agent.
• Human oversight.
• Testing dan observability.
• Ownership dan governance.
• Mekanisme recovery.
• Pengukuran biaya dan dampak.

Agentic AI tidak seharusnya digunakan hanya karena sedang menjadi tren.

Teknologi ini tepat ketika fleksibilitas pengambilan tindakan memberikan nilai lebih besar dibandingkan risiko dan kompleksitas yang ditambahkannya.

Bangun Agentic AI yang Terintegrasi Bersama Crocodic

Crocodic membantu perusahaan menambahkan kapabilitas AI ke dalam sistem dan workflow bisnis yang sudah berjalan.

Melalui layanan Enterprise System Upgrade, Crocodic dapat meningkatkan sistem melalui integrasi API, multi-user access, automation AI, conversational data access, document intelligence, dan cross-system process automation.

Untuk kebutuhan yang belum memiliki sistem inti, Crocodic juga membangun Custom Enterprise Software yang disesuaikan dengan proses, struktur data, hak akses, integrasi, dan kebutuhan pertumbuhan perusahaan.

Proses dimulai melalui strategic discovery untuk menentukan apakah kebutuhan lebih tepat diselesaikan dengan workflow automation, AI assistant, atau agentic AI dengan tingkat otonomi tertentu.

Jika perusahaan Anda ingin menerapkan AI agent untuk procurement, customer service, knowledge management, reporting, atau operasional lintas sistem, langkah pertama bukan langsung memberikan AI akses ke seluruh aplikasi.

Langkah pertama adalah merancang use case, batas tindakan, integrasi, dan governance yang membuatnya aman untuk digunakan.

Diskusikan kesiapan dan roadmap agentic AI perusahaan Anda bersama Crocodic.