Garap Media – Artificial intelligence atau AI berkembang sangat cepat. Model terbaru kini mampu mengerjakan tugas yang semakin kompleks. AI juga dapat menggunakan berbagai alat, menulis kode, menganalisis informasi, hingga menjalankan pekerjaan secara lebih mandiri. Stanford AI Index 2026 mencatat kemampuan AI terus meningkat. Salah satunya terlihat dari performa AI agent pada tugas komputer di benchmark OSWorld yang naik dari sekitar 12 persen menjadi sekitar 66 persen.
Namun, perkembangan itu juga memunculkan pertanyaan baru. Semakin pintar sebuah sistem, semakin penting pula persoalan tentang kendali manusia. International AI Safety Report 2026 menyebut AI agent membawa risiko baru karena dapat bertindak lebih mandiri. Akibatnya, manusia bisa memiliki waktu lebih sedikit untuk melakukan intervensi ketika terjadi kesalahan. Lantas, apakah manusia sedang membuat teknologi yang semakin pintar tanpa memahami sepenuhnya cara mengendalikannya?
1. AI Tidak Lagi Sekadar Menjawab, tetapi Mulai Bertindak
Generasi awal AI umumnya bekerja berdasarkan perintah langsung dari manusia. Pengguna memberikan pertanyaan, AI memberikan jawaban, lalu manusia menentukan tindakan berikutnya. Kini perkembangan AI agent membuat sistem dapat menjalankan beberapa langkah secara berurutan dengan akses ke komputer, aplikasi, data dan berbagai alat digital. International AI Safety Report 2026 mencatat kemampuan agentic AI berkembang pesat, meskipun sistem saat ini masih memiliki tingkat kegagalan yang signifikan.
Perubahan tersebut membuat batas antara manusia sebagai pengambil keputusan dan AI sebagai alat bantu menjadi semakin tipis. Ketika AI diberi akses untuk mengirim pesan, mengubah dokumen, menjalankan kode atau melakukan transaksi, kesalahan kecil dapat menyebar lebih cepat dibanding chatbot biasa. Bahkan laporan internasional tersebut mencatat bahwa sistem AI modern mulai menunjukkan kemampuan menemukan celah dalam evaluasi atau membedakan kondisi pengujian dengan penggunaan nyata. Karena itu, persoalannya bukan sekadar apakah AI mampu melakukan sesuatu, tetapi seberapa jauh manusia memberikan izin kepada AI untuk melakukannya.
2. Manusia Mulai Terlalu Percaya pada Keputusan AI
Risiko kehilangan kendali juga tidak selalu berarti AI tiba-tiba mengambil alih manusia. Bentuk yang lebih dekat dengan kehidupan sehari-hari justru dapat muncul ketika manusia terlalu bergantung pada rekomendasi mesin. AI dapat membantu memilih informasi, membuat keputusan bisnis, menyusun strategi, menilai kandidat pekerjaan atau memberikan saran dalam berbagai bidang. Ketika pengguna menganggap jawaban AI selalu benar, kemampuan manusia untuk mempertanyakan hasil tersebut dapat perlahan melemah.
NIST dalam AI Risk Management Framework menekankan pentingnya mendefinisikan peran dan tanggung jawab manusia secara jelas dalam sistem human-AI. NIST juga mengingatkan bahwa interaksi manusia dan AI dapat menghasilkan hasil yang berbeda tergantung konteks, termasuk kemungkinan AI memperkuat bias manusia dalam kondisi tertentu. Artinya, teknologi yang semakin pintar tidak otomatis membuat keputusan menjadi lebih baik. Manusia tetap membutuhkan kemampuan untuk memeriksa konteks, memahami keterbatasan sistem dan mengambil alih ketika hasil AI tidak masuk akal.
3. Kecepatan AI Bisa Melampaui Kecepatan Pengawasannya
Perkembangan AI menciptakan persoalan lain, yaitu kemampuan teknologi dapat berkembang lebih cepat daripada mekanisme pengawasan. Stanford AI Index 2026 mencatat lebih dari 90 persen model frontier penting pada 2025 diproduksi industri, sementara laporan yang sama menyebut insiden AI terdokumentasi meningkat menjadi 362 dari 233 pada 2024. Angka tersebut tidak berarti seluruh AI berbahaya, tetapi menunjukkan bahwa penggunaan AI yang semakin luas juga membawa lebih banyak kasus kegagalan dan risiko.
International AI Safety Report 2026 menyebut teknik mitigasi memang dapat mengurangi tingkat kegagalan, tetapi belum selalu mencapai tingkat yang dibutuhkan untuk penggunaan berisiko tinggi. Laporan tersebut juga menegaskan bahwa skenario kehilangan kendali ekstrem masih bersifat hipotetis dan sistem AI saat ini belum memiliki kemampuan yang diperlukan untuk mewujudkannya. Jadi, kekhawatirannya bukan bahwa manusia sudah kehilangan kendali sepenuhnya, melainkan bahwa kemampuan teknologi berkembang sementara metode pengawasan harus terus mengejar.
Penutup
AI makin pintar membawa banyak manfaat. Namun, peningkatan kemampuan juga membuat persoalan kendali manusia semakin penting. AI agent kini dapat menjalankan tugas yang lebih kompleks. Pada saat yang sama, manusia semakin sering memberikan akses terhadap data, perangkat lunak, dan berbagai proses kerja.
Meski begitu, kemampuan AI masih tidak merata. Sistem yang sangat kuat dalam satu tugas tetap dapat gagal pada tugas lainnya. Stanford menggambarkan kondisi ini sebagai jagged frontier kemampuan AI. Karena itu, masa depan AI tidak hanya bergantung pada seberapa pintar mesin dibuat. Manusia juga perlu menetapkan batas, melakukan pengawasan, dan menguji sistem secara terus-menerus. Dengan begitu, AI dapat berkembang tanpa menghilangkan peran manusia dalam keputusan yang penting.
Sumber Referensi
- International AI Safety Report 2026
https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026 - United Nations – Independent International Scientific Panel on AI: AI Agents, Misalignment and the Risk of Losing Human Control
https://www.un.org/independent-international-scientific-panel-ai/en/thematic-briefs/ai-agents-misalignment-risks - Stanford HAI – 2026 AI Index Report
https://hai.stanford.edu/ai-index/2026-ai-index-report - NIST – AI Risk Management Framework
https://www.nist.gov/itl/ai-risk-management-framework - NIST – AI Risk Management Framework 1.0, Appendix C: Human-AI Interaction
https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf
