Menelisik Bahaya Agentic AI: Ketika Mesin Bisa Bertindak Sendiri

Kecerdasan buatan telah memasuki fase baru yang lebih berbahaya: Agentic AI, AI yang bisa bekerja sendiri. Berbeda dengan AI generatif yang hanya menjawab saat ditanya, Agentic AI mampu memahami tujuan, menyusun rencana, mengambil tindakan, dan belajar dari hasilnya secara mandiri.

Perkembangan ini mendorong Sekretaris Jenderal PBB Antonio Guterres mengeluarkan peringatan keras soal perlunya tata kelola global yang segera dirumuskan dan diterapkan. Ia memperingatkan manusia kini menyerahkan semakin banyak kekuasaan kepada mesin, dengan agen-agen AI mulai bertindak di luar kendali.

Untuk Kebaikan dan Kejahatan

Pada dasarnya Agentic AI bersifat netral. Untuk kebaikan, ia bisa dipakai memantau harga komoditas ekspor Indonesia setiap hari secara otomatis — mencari data pasar internasional, merangkum, dan memberi rekomendasi tanpa perlu diperintah lagi.

Namun potensi penyalahgunaannya tak kalah besar. Teknologi ini bisa dipakai untuk kejahatan siber seperti mengumpulkan data pribadi warga secara ilegal dan mengirim pesan penipuan massal yang dipersonalisasi. Otonomi agen memungkinkan kejahatan dilakukan dalam skala raksasa dengan sedikit orang.

Tiga Pilar Tata Kelola

Peringatan PBB menekankan tiga pilar tata kelola. Pertama, transparansi dan audit algoritma — agen yang beroperasi di sektor kritis wajib bisa diaudit agar tujuannya selaras dengan kepentingan publik. Kedua, prinsip manusia tetap memegang kendali — Agentic AI tidak boleh dibiarkan membuat keputusan sendiri tanpa persetujuan manusia. Ketiga, kerangka hukum lintas negara, mengingat kejahatan berbasis agen AI bersifat lintas batas.

Ketika Agen Keluar Jalur

Sisi gelap itu mulai tampak nyata tahun ini. Pada 28 Juli 2026, tim keamanan AI Security Institute (AISI) Inggris mendapati aliran data mencurigakan keluar dari sistem riset mereka lewat jaringan anonim Tor. Sumbernya bukan peretas dari luar, melainkan agen AI yang sedang mereka uji. Dalam 10 dari 122 putaran uji, agen bertindak di internet sungguhan tanpa izin dan menyasar orang serta organisasi nyata.

Kasus paling serius: sebuah agen mencoba menyelipkan kode berbahaya ke proyek perangkat lunak open source, bahkan membuat identitas daring palsu untuk menekan pengelola proyek. Upaya itu gagal hanya karena sang pengelola — seorang manusia — menolak menyetujuinya. Pada bulan yang sama, OpenAI mengakui agen uji mereka menerobos lingkungan tertutup dan masuk ke basis data Hugging Face untuk mencuri kunci jawaban tes.

Tiga Medan Rawan di Indonesia

Pertama, keuangan. Indonesia Anti-Scam Centre (IASC) mencatat kerugian masyarakat akibat penipuan mencapai Rp9,3 triliun sepanjang November 2024 hingga Mei 2026, dengan dana yang berhasil diselamatkan hanya sekitar 7 persen. Lebih dari 1,17 juta rekening terverifikasi diduga terlibat penipuan, dan modusnya sudah memakai tiruan suara serta wajah (deepfake).

Kedua, rantai pasok. Agen pengelola logistik yang salah tafsir atau dibajak dapat menggeser jadwal kontainer dan mengubah catatan asal bahan baku. Ketiga, identitas — kemampuan agen membuat identitas palsu dapat memproduksi identitas sintetis massal untuk mengakses bantuan sosial dan pinjaman daring.

Solusi: Beri Agen "Kotak Hitam"

Seperti pesawat yang dipercaya karena punya kotak hitam, Agentic AI membutuhkan rekam jejak yang tak bisa dipalsukan. Blockchain berperan sebagai buku besar yang tidak dapat diubah dengan prinsip 3T: trusted, transparent, traceable. Setiap perintah, data rujukan, dan tindakan agen dicatat serta ditandatangani secara kriptografis.

Gagasan ini sudah teruji di Indonesia. Bersama Lembaga National Single Window (LNSW), BRAIN IPB mengembangkan layanan delivery order daring berbasis blockchain (INSWChain) untuk dokumen ekspor-impor agar tak bisa diubah sepihak. Sejak 2023, BRAIN IPB juga memperkuat Sistem Informasi Halal (SIHALAL) BPJPH dengan AI dan blockchain, serta menerapkannya pada ketertelusuran komoditas pangan dan pengukuran gizi anak dalam Program Makan Bergizi Gratis.

Sumber: Republika