Jakarta, MP----- Kemajuan kecerdasan artifisial (Artificial Intelligence/AI) membawa perubahan besar dalam berbagai bidang kehidupan, termasuk dunia peradilan. Teknologi ini mampu membantu pekerjaan hukum menjadi lebih cepat dan efisien. Namun, di balik kemudahan tersebut, muncul ancaman baru yang tidak boleh diabaikan: bukti digital palsu, referensi hukum fiktif, hingga rekomendasi algoritma yang berpotensi menyesatkan proses pengambilan keputusan.
Bagaimana jika sebuah rekaman video yang tampak autentik ternyata merupakan hasil rekayasa AI? Bagaimana jika kutipan putusan yang digunakan dalam pertimbangan hukum ternyata tidak pernah diterbitkan? Lebih jauh lagi, siapa yang harus bertanggung jawab ketika keputusan yang dihasilkan dengan bantuan teknologi ternyata keliru?
Persoalan inilah yang menjadi perhatian Windy Gambetta, akademisi dari Kelompok Keahlian Informatika Sekolah Teknik Elektro dan Informatika (STEI) Institut Teknologi Bandung (ITB) sekaligus Pusat AI ITB, dalam kegiatan Pelatihan Mahkamah Agung pada 26 Oktober 2026.
Dalam pemaparan bertajuk Artificial Intelligence dan Perubahan Lanskap Peradilan, Windy mengingatkan bahwa perkembangan AI telah mengubah lanskap penegakan hukum. Dunia peradilan tidak cukup hanya memahami manfaat teknologi, tetapi juga harus mampu mengenali risiko dan keterbatasannya.
Salah satu tantangan paling serius adalah kemampuan Generative AI menghasilkan konten digital sintetis yang semakin sulit dibedakan dari materi asli. Melalui teknologi ini, seseorang dapat menciptakan teks, gambar, suara, bahkan video yang menyerupai kejadian sebenarnya.
Fenomena deepfake, misalnya, memungkinkan wajah dan suara seseorang direkayasa sedemikian rupa sehingga seolah-olah orang tersebut benar-benar melakukan atau mengatakan sesuatu. Sementara itu, synthetic media dapat menghasilkan materi audio, visual, dan audiovisual yang tampak meyakinkan, meskipun tidak pernah merekam peristiwa yang sesungguhnya.
Dalam proses peradilan, kemampuan tersebut menghadirkan tantangan mendasar terhadap autentisitas alat bukti elektronik. Rekaman yang terlihat nyata belum tentu benar-benar merepresentasikan suatu peristiwa. Sebaliknya, materi yang tampak meyakinkan secara visual belum tentu dapat dipertanggungjawabkan secara hukum.
Karena itu, hakim dituntut lebih cermat dalam memeriksa bukti digital. Pemeriksaan tidak cukup berhenti pada tampilan atau isi dokumen, tetapi perlu mencakup asal-usul bukti, integritas data, riwayat penguasaan atau chain of custody, serta kemungkinan verifikasi secara independen.
Windy juga mengingatkan bahwa perangkat pendeteksi konten buatan AI tidak boleh dijadikan satu-satunya penentu autentisitas. Hasil deteksi algoritma tetap memiliki keterbatasan dan harus ditempatkan sebagai salah satu bahan pemeriksaan, bukan pengganti penilaian profesional hakim.
Lima Risiko AI yang Perlu Diwaspadai
Tantangan AI dalam peradilan tidak hanya berkaitan dengan pemalsuan bukti digital. Terdapat sedikitnya lima risiko yang perlu dipahami oleh hakim ketika memanfaatkan teknologi tersebut.
Pertama, hallucination, yaitu kondisi ketika AI menghasilkan informasi yang salah, tetapi menyampaikannya seolah-olah merupakan fakta yang benar. Kedua, fabricated citation, yakni munculnya kutipan, referensi, atau putusan hukum yang sebenarnya tidak pernah ada.
Ketiga, informasi usang (outdated information) yang tidak lagi sesuai dengan perkembangan peraturan perundang-undangan maupun putusan pengadilan terbaru. Keempat, bias data (data bias) yang dapat memengaruhi hasil analisis dan menghasilkan rekomendasi yang tidak objektif. Kelima, overreliance, yaitu ketergantungan berlebihan terhadap keluaran AI tanpa pemeriksaan dan penilaian secara mandiri.
Kelima risiko tersebut menjadi sangat relevan ketika AI digunakan untuk membantu penelitian hukum, merangkum berkas perkara, menganalisis dokumen, atau menyusun draf putusan.
Bahasa yang sistematis, argumentasi yang terlihat logis, dan penggunaan istilah hukum yang tepat tidak otomatis menjamin kebenaran informasi yang dihasilkan. Sebuah referensi bisa saja fiktif, pasal yang dikutip mungkin sudah tidak berlaku, atau kesimpulan analisis justru dibangun di atas data yang bias.
Dalam situasi seperti ini, kemampuan hakim untuk melakukan verifikasi menjadi semakin penting. Setiap sumber hukum harus ditelusuri kembali ke sumber primer, termasuk peraturan perundang-undangan, putusan pengadilan, dan dokumen resmi yang relevan.
Teknologi Membantu, Manusia Tetap Bertanggung Jawab
Selain akurasi informasi, penggunaan AI dalam lingkungan peradilan juga menyentuh persoalan perlindungan data dan kerahasiaan perkara. Dokumen persidangan dapat memuat informasi sensitif yang tidak boleh dimasukkan sembarangan ke dalam platform AI, terutama apabila sistem yang digunakan tidak memberikan jaminan perlindungan data yang memadai.
Windy menekankan pentingnya penerapan prinsip Human in the Loop. Prinsip ini menegaskan bahwa manusia harus tetap terlibat dalam proses pemeriksaan, pengawasan, dan pengambilan keputusan. AI hanya ditempatkan sebagai alat bantu, bukan pihak yang mengambil alih kewenangan manusia.
Materi yang disampaikan juga menyinggung pedoman yudisial di Inggris yang memberikan perhatian terhadap risiko kesalahan AI, bias, dan kerahasiaan informasi. Pedoman tersebut mengingatkan bahwa pejabat yudisial tetap memiliki tanggung jawab pribadi atas materi yang dihasilkan dan digunakan atas namanya.
Dengan demikian, penggunaan AI tidak menghapus tanggung jawab profesional seorang hakim. Apabila suatu analisis, kutipan hukum, atau dokumen yang dihasilkan AI mengandung kekeliruan, tanggung jawab atas penggunaannya tetap berada pada manusia yang memeriksa dan menggunakannya.
Pesan ini menjadi penting di tengah kecenderungan penggunaan teknologi yang semakin praktis. Kemampuan AI menghasilkan jawaban dalam hitungan detik sering kali membuat penggunanya tergoda menerima informasi tanpa memeriksa kebenarannya. Padahal, dalam dunia peradilan, ketepatan informasi bukan sekadar persoalan teknis, melainkan berkaitan langsung dengan kepastian hukum dan keadilan bagi para pencari keadilan.
Lima Pertanyaan Sebelum Menggunakan AI
Sebagai pengingat bagi insan peradilan, Windy mengajak peserta pelatihan untuk mengajukan lima pertanyaan sebelum menggunakan AI dalam pekerjaan yudisial.
Apakah penggunaan AI tersebut diperbolehkan? Apakah data dan kerahasiaan informasi telah terlindungi? Dapatkah sumber serta hasil yang diberikan AI diverifikasi? Apakah terdapat bias, kesalahan, atau ketergantungan berlebihan terhadap teknologi? Dan yang paling mendasar, apakah tanggung jawab serta kewenangan pengambilan keputusan tetap berada pada hakim?
Lima pertanyaan tersebut bukan sekadar panduan teknis, melainkan refleksi tentang batas penggunaan teknologi dalam kekuasaan kehakiman.
AI memang memiliki potensi besar untuk mendukung modernisasi peradilan. Teknologi ini dapat membantu mempercepat penelusuran informasi, menyederhanakan pekerjaan administratif, serta meningkatkan efisiensi pengelolaan dokumen perkara. Namun, kecepatan tidak boleh mengorbankan ketelitian, dan efisiensi tidak boleh menggeser prinsip independensi serta tanggung jawab hakim.
Pada akhirnya, kecanggihan teknologi justru menuntut kualitas penilaian manusia yang semakin tinggi. Hakim tidak hanya dituntut memahami hukum, tetapi juga harus memiliki literasi digital yang memadai agar mampu membedakan informasi autentik dari hasil rekayasa, fakta dari halusinasi algoritma, serta rekomendasi teknologi dari pertimbangan hukum yang dapat dipertanggungjawabkan.
AI boleh membantu membaca dokumen, menelusuri referensi, dan menyusun analisis. Namun, menilai fakta, menerapkan hukum, serta memutus perkara tetap merupakan tanggung jawab hakim.
Sebab, dalam dunia peradilan, teknologi dapat menghasilkan jawaban, tetapi kebenaran dan keadilan tidak boleh diserahkan kepada algoritma.
(*/MP)
