Untuk pertama kalinya, pertanyaan terpenting tentang AI di perusahaan bukan lagi sekadar “apa yang bisa dijawab oleh model”, melainkan “apa yang boleh dilakukan oleh sistem”.

Perubahannya terdengar kecil, padahal dampaknya besar. Chatbot dapat menyusun ringkasan lalu menunggu instruksi berikutnya. AI agent dapat menelusuri sumber yang terhubung, memakai tools, membuat dokumen, memperbarui data, atau menyiapkan keputusan untuk disetujui. Pada 12 Agustus 2026, OpenAI menggambarkan perkembangan ini sebagai pergeseran dari bantuan menuju eksekusi. NIST bahkan meluncurkan AI Agent Standards Initiative pada Februari 2026 karena kemampuan bertindak secara otonom menimbulkan kebutuhan baru terhadap keamanan, interoperabilitas, dan kepercayaan.

Percakapan teknologi biasanya berpusat pada kecanggihan model. Namun percakapan operasional harus kembali pada pekerjaannya: Apa yang memicu proses? Data mana yang boleh digunakan? Keputusan apa yang dapat didelegasikan? Di titik mana manusia wajib masuk? Bukti apa yang harus tersimpan setelah pekerjaan selesai?

Karena itu, menurut saya Business Analyst justru tidak kehilangan relevansi pada era agent. Perannya bergerak semakin dekat ke lapisan kendali perusahaan.

Menambahkan agent tidak otomatis membuat proses menjadi cerdas

Bayangkan sebuah perusahaan ingin memakai agent untuk menangani pengecualian pada invoice pemasok. Demo yang menarik mungkin memperlihatkan agent membaca invoice, mencocokkannya dengan purchase order, menemukan selisih, lalu menyusun balasan. Akan tetapi, proses nyata selalu lebih luas daripada alur ideal tersebut.

Bagaimana jika purchase order diubah setelah barang diterima? Sistem mana yang menjadi sumber kebenaran? Apakah agent boleh melihat detail rekening? Apakah selisih harga dua persen dapat diterima untuk semua kategori? Siapa yang berwenang menahan pembayaran? Bagaimana jika invoice yang sama masuk ke dua entitas? Enam bulan kemudian, mampukah auditor menelusuri dasar keputusannya?

Pertanyaan itu bukan terutama tentang model AI. Semuanya berkaitan dengan aturan bisnis, kepemilikan data, hak akses, pengelolaan pengecualian, dan akuntabilitas.

Proses manual yang kabur tidak akan menjadi jelas hanya karena diotomatisasi. Ia justru dapat menghasilkan ketidakkonsistenan dengan lebih cepat. Antarmuka agent yang tampak mulus bahkan bisa menyembunyikan persoalan tersebut.

Dari menggali kebutuhan ke merancang batas keputusan

Pekerjaan requirement biasanya menjelaskan layar, field, integrasi, dan acceptance criteria. Semua itu tetap diperlukan. Namun sistem agentic menambahkan satu objek desain baru: batas keputusan.

Setidaknya ada lima batas yang perlu dinyatakan dengan jelas.

Pertama, **batas tujuan**. Instruksi “tangani pengecualian invoice” terlalu luas. Rumusan “klasifikasikan pengecualian, kumpulkan bukti, dan rekomendasikan langkah berikutnya tanpa melepas pembayaran” lebih aman sekaligus dapat diuji.

Kedua, **batas data**. Agent perlu mengetahui sumber mana yang boleh diakses, data mana yang menang ketika catatan berbeda, serta field sensitif apa yang harus disamarkan atau dilarang.

Ketiga, **batas tindakan**. Membaca catatan, menyusun balasan, mengubah master data, dan mengotorisasi pergerakan uang memiliki tingkat risiko yang berbeda. Setiap tindakan memerlukan pemilik dan klasifikasi risiko.

Keempat, **batas keyakinan**. Sistem harus memiliki aturan kapan berhenti, melakukan eskalasi, atau meminta tinjauan manusia. Jawaban yang terdengar meyakinkan belum tentu terverifikasi.

Kelima, **batas bukti**. Pekerjaan yang selesai perlu meninggalkan jejak yang berguna: input yang diperiksa, tools yang digunakan, aturan yang diterapkan, output, identitas reviewer, dan keputusan akhir. Riset NIST pada 2026 mengenai evaluation probes untuk agentic AI menekankan perlunya visibilitas terhadap alur multi-langkah dan bukti di balik keputusan agent.

Wilayah ini sebenarnya sangat dekat dengan kompetensi Business Analyst: pemetaan as-is dan to-be, business rules, role dan permission, exception flow, UAT, serta change management. Bedanya, sebagian alur kini dapat dieksekusi oleh sistem nonmanusia yang perilakunya tidak selalu deterministik.

Use case pertama terbaik biasanya bukan yang paling mencolok

Menurut saya, perusahaan sebaiknya tidak memulai dari proses yang terlihat paling spektakuler saat dipresentasikan. Mulailah dari proses yang nilai dan kegagalannya sama-sama dapat diukur.

Kandidat awal yang baik memiliki pemicu berulang, data yang tersedia, tindakan terbatas, volume yang cukup untuk belajar, dan pemilik manusia yang jelas. Contohnya: menyusun ringkasan pengecualian operasional harian, memeriksa kelengkapan field sebelum sebuah kasus masuk ke tahap review, atau mengumpulkan bukti pendukung untuk service request.

Contoh tersebut mungkin terdengar sederhana. Justru itu kelebihannya. Tim dapat membandingkan hasil agent dengan baseline, mengamati kesalahan, memperbaiki kendali, lalu memutuskan apakah tingkat otonominya layak diperluas.

Sebaliknya, ambisi seperti “mengotomatisasi operasional dengan AI” bukan titik awal yang baik. Tidak ada definisi selesai yang stabil sehingga hampir semua hasil dapat dibenarkan setelah kejadian.

UAT harus menguji perilaku, bukan hanya jawaban yang diharapkan

UAT untuk agent tidak cukup berisi sepuluh prompt rapi yang menghasilkan sepuluh jawaban benar. Pengujian harus mereplikasi lingkungan yang tidak rapi.

Gunakan dokumen duplikat. Hilangkan satu field wajib. Buat dua sistem sumber berisi nilai yang bertentangan. Cabut hak akses ketika pekerjaan berlangsung. Masukkan format file yang tidak didukung. Minta agent melakukan tindakan di luar mandatnya. Periksa apakah sistem berhenti dengan aman, menjelaskan keterbatasan dengan bahasa yang berguna, dan meneruskan kasus kepada orang yang tepat.

Acceptance criteria juga tidak boleh hanya menilai akurasi output. Ukur otorisasi, traceability, kualitas eskalasi, pemulihan setelah tool gagal, waktu proses, biaya operasi, dan seberapa sering manusia harus turun tangan tanpa kebutuhan nyata.

Di titik ini Product Manager perlu disiplin. Roadmap tidak seharusnya mengukur kemajuan dari jumlah agent yang diluncurkan. Ukurlah cycle time, rework, exception leakage, kepercayaan pengguna, dan hasil bisnis—tanpa melonggarkan kendali agar metrik terlihat bagus.

Tinjauan manusia harus dirancang, bukan ditempel sebagai disclaimer

Istilah “human in the loop” kerap dianggap sebagai jawaban universal atas masalah keamanan. Padahal pegawai yang kelelahan karena harus menekan tombol setuju ratusan kali bukanlah pengawasan yang bermakna.

Langkah review harus menyediakan konteks. Reviewer perlu mengetahui mengapa kasus dieskalasikan, bukti mana yang penting, apa yang berubah sejak pemeriksaan terakhir, dan tindakan apa yang terjadi setelah persetujuan. Keputusan berisiko tinggi mungkin membutuhkan pemisahan wewenang. Tindakan berisiko rendah dan mudah dibatalkan mungkin cukup diawasi melalui sampling.

Tujuannya bukan mempertahankan manusia di setiap langkah selamanya. Tujuannya menempatkan pertimbangan manusia pada titik yang paling bernilai sambil menjaga jalur intervensi tetap jelas.

Keunggulan yang bertahan lama adalah kejernihan operasional

Model AI akan semakin baik dan platform enterprise akan terus menambahkan kemampuan agent. Pada Agustus 2025, Gartner memperkirakan 40 persen aplikasi enterprise akan memiliki task-specific agent pada akhir 2026, naik dari kurang dari lima persen saat itu. Kecepatan aktual tentu berbeda di setiap organisasi, tetapi arahnya sudah terlihat.

Pembeda perusahaan yang berhasil bukanlah akses ke tombol bernama “agent”. Pembeda sebenarnya adalah kemampuan menjelaskan pekerjaan secara presisi, menghubungkan data yang dapat dipercaya, membagi kewenangan, menguji pengecualian, dan belajar dari bukti.

Artinya, pengetahuan proses justru semakin bernilai. Business Analyst di era agent berperan sebagai penerjemah, perancang alur, sekaligus perancang kendali. Pertanyaan utamanya bukan lagi sekadar, “Apa yang harus dilakukan sistem?” Pertanyaannya berubah menjadi, “Dalam kondisi apa sistem boleh bertindak, dan bagaimana kita membuktikan bahwa tindakannya benar?”

Pertanyaan itu memang lebih sulit. Namun dari sanalah transformasi yang bertanggung jawab dimulai.

**Bahan diskusi:** Jika perusahaan Anda dapat mendelegasikan satu proses kepada AI agent besok, keputusan apa yang tetap tidak akan Anda otomatisasi sebelum kendalinya benar-benar terbukti?

Sumber

  • [OpenAI — From assistance to execution: How enterprises put AI to work (12 Agustus 2026)](https://openai.com/index/how-enterprises-put-ai-to-work/)
  • [NIST — AI Agent Standards Initiative (17 Februari 2026)](https://www.nist.gov/artificial-intelligence/ai-agent-standards-initiative)
  • [NIST — Building Evaluation Probes into Agentic AI (7 April 2026)](https://www.nist.gov/programs-projects/building-evaluation-probes-agentic-ai)
  • [Gartner — Prediksi task-specific AI agent pada aplikasi enterprise (26 Agustus 2025)](https://www.gartner.com/en/newsroom/press-releases/2025-08-26-gartner-predicts-40-percent-of-enterprise-apps-will-feature-task-specific-ai-agents-by-2026-up-from-less-than-5-percent-in-2025)