Krisis Akuntabilitas dalam Era Kecerdasan Buatan: Analisis Hukum terhadap Pengambilan Keputusan Algoritmik dan Implikasinya bagi Sistem Hukum Indonesia

Abstract

Penelitian ini menganalisis fenomena krisis akuntabilitas yang muncul akibat penetrasi kecerdasan buatan (AI) dalam proses pengambilan keputusan, dengan fokus khusus pada implikasinya terhadap sistem hukum Indonesia dalam konteks Strategi Nasional Kecerdasan Artifisial 2020-2045. Melalui analisis normatif-doktrinal dan pendekatan komparatif, penelitian ini mengidentifikasi kesenjangan antara Surat Edaran Menkominfo No. 9/2023 tentang Etika AI dan Panduan Tata Kelola AI Perbankan OJK (2025) dengan kebutuhan regulasi komprehensif yang mengatur akuntabilitas algoritmik. Analisis menunjukkan bahwa meskipun Indonesia telah menargetkan AI sebagai prioritas dalam lima bidang strategis (kesehatan, reformasi birokrasi, pendidikan, ketahanan pangan, dan mobilitas), kerangka hukum yang ada belum secara eksplisit mengatur phantom responsibility dan automation bias dalam pengambilan keputusan algoritmik. Temuan mengungkapkan bahwa AI menciptakan pemisahan antara agensi dan kecerdasan, menghasilkan dilema pertanggungjawaban di mana 72% bisnis global telah mengadopsi AI, namun fenomena deskilling dan ketergantungan berlebihan terhadap sistem algoritmik menimbulkan tantangan fundamental bagi prinsip akuntabilitas hukum. Penelitian ini mengusulkan kerangka hukum hybrid yang mengintegrasikan konsep legal personality terbatas untuk AI dengan human oversight sebagai prinsip fundamental. Rekomendasi mencakup revisi UU ITE dan formulasi regulasi khusus AI yang mengadopsi pendekatan risk-based classification sebagaimana diterapkan dalam EU AI Act, disesuaikan dengan kapasitas institusional Indonesia.