Pengadilan Kolombia Menolak Banding untuk Penulisan AI, Lalu Dikenai Sanksi oleh Detektor AI-nya Sendiri

Singkatnya

• Mahkamah Agung Kolombia menolak banding kasasi setelah detektor AI menandai dokumen tersebut sebagai hasil mesin.
• Pengacara menjalankan putusan tersebut melalui alat yang sama dan menemukan bahwa dokumen itu juga tampak ditulis oleh AI.
• Para ahli dan studi menunjukkan bahwa perangkat lunak deteksi AI menghasilkan hasil yang tidak dapat diandalkan dan tidak konsisten.

Mahkamah Agung Kolombia menolak banding kasasi, berargumen bahwa dokumen tersebut dihasilkan oleh AI. Tetapi alat yang sama yang digunakan pengadilan untuk menentukan asal-usul AI dari banding tersebut juga menyatakan bahwa putusan mereka sendiri juga mendapatkan bantuan generatif. Apakah ini standar ganda oleh pengadilan, atau alat yang cacat yang digunakan? “Dalam menghadapi kecurigaan yang beralasan bahwa surat yang diajukan oleh pengacara tidak disusun oleh profesional hukum sendiri, pengadilan menguji teks tersebut dengan alat Winston AI,” kata pengadilan. “Analisisnya menunjukkan bahwa dokumen tersebut hanya mengandung 7% konten manusia, menunjukkan pengaruh besar dari penulisan otomatis dan menyimpulkan bahwa dokumen tersebut diproduksi menggunakan kecerdasan buatan.”

 Setelah menjalankan analisis dengan alat lain yang memberikan hasil serupa, pengadilan memutuskan bahwa “karena berkas tersebut tidak dapat dianggap sebagai dokumen yang sah, penolakan terhadapnya sebagai tidak dapat diterima harus dilakukan.” Namun ketika putusan pengadilan mendapatkan perhatian dari para ahli hukum, hasilnya pun serupa. “Saya mengirimkan teks dari Auto AP760/2026 dari Mahkamah Agung ke perangkat Winston AI yang sama seperti yang disebutkan dalam putusan,” tulis pengacara Emmanuel Alessio Velasquez di X pada hari Selasa. “Hasilnya: Dokumen tersebut mengandung 93% teks yang dihasilkan AI.”

Saya menguji teks dari auto AP760/2026 dari @CorteSupremaJ ke perangkat Winston IA yang sama seperti yang disebutkan dalam putusan. Hasilnya: dokumen mengandung 93% “teks yang dihasilkan AI”. https://t.co/xTm2jI4d70 pic.twitter.com/lpSHuRjEZ4

— Emmanuel Alessio Velásquez (@EmmanuVeZe) 3 Maret 2026

“Jika putusan yang sama yang menghukum penggunaan kecerdasan buatan mendapatkan persentase tersebut, maka kerentanan metodologis dari penggunaan detektor ini sebagai dukungan argumentatif menjadi sangat jelas,” katanya dalam cuitan berikutnya. Dalam beberapa jam setelah pengadilan memposting thread tentang keputusan tersebut di X, para pengacara mulai melakukan pengujian mereka sendiri. Postingan Velasquez menjadi viral di kalangan hukum, mendapatkan puluhan ribu tampilan. Kami juga menguji putusan pengadilan, dan awalnya hasilnya tidak terlalu bagus. Ketika GPTZero memindai hanya kata-kata pembuka dari teks pengadilan, hasilnya menunjukkan 100% AI.

Ketika alat yang sama memproses versi yang lebih panjang termasuk bagian latar belakang faktual, hasilnya sepenuhnya berbalik: 100% manusia. Alat ini tidak cukup andal untuk dipercaya di pengadilan atau dalam situasi yang membutuhkan tingkat kepastian tinggi.

Pengacara dari Kolombia merespons dengan cepat melalui eksperimen mereka sendiri. Pengacara pembela pidana dan dosen Andres F. Arango G, mengirimkan berkas pengadilan dari tahun 2019, jauh sebelum model bahasa besar yang digunakan alat ini bahkan ada, dan hasilnya mengklaim 95% AI. “Alat-alat ini kemudian mengajak Anda untuk ‘menghumanisasi’ artikel melalui layanan berbayar mereka,” tulis dia di X, menyoroti insentif komersial yang jelas dalam model bisnis deteksi ini. Nicolas Buelvas melakukan tesis sarjananya tahun 2020 tentang prinsip kepercayaan dalam hukum pidana. Hasilnya? 100% AI. Dario Cabrera Montealegre, pengacara dari Kolombia lainnya, menunjukkan kejanggalan mengandalkan teknologi untuk melawan teknologi. “Pengadilan menggunakan AI untuk menentukan apakah ada AI,” katanya. “Ini kontradiktif dari sudut pandang praktis saya.”

La Corte usa IA para determinar si hubo IA…!? Algo contradictorio desde mi punto de vista práctico…Si se rechaza debe ser porque como humanos lo detectamos

— Darío Cabrera Montealegre (@dalcamont_daro) 2 Maret 2026

Di luar kalangan hukum, individu yang paham teknologi lebih jauh menunjukkan bahaya ketergantungan berlebihan pada alat penanda AI. “Sehingga saat ini, tidak ada alat yang dapat diakses publik yang mampu secara akurat menentukan persentase penggunaan AI saat menyusun teks,” kata Carlos Alejandro Torres Pinedo. “Yang lebih buruk: Tidak ada yang dapat memverifikasi kode sumber dari platform deteksi ini secara publik. Bagaimana mereka bisa digunakan untuk melemahkan hak seseorang atas akses ke keadilan?”

Alasan teknis kegagalan ini sudah terdokumentasi dengan baik. Detektor AI mengukur pola statistik: panjang kalimat, prediktabilitas kosakata, dan sesuatu yang disebut peneliti sebagai “burstiness,” yang merujuk pada variasi irama alami yang manusia masukkan dalam tulisan mereka. Masalahnya adalah bahwa prosa hukum formal, tulisan akademik, dan teks yang dibuat oleh orang yang menulis dalam bahasa kedua memiliki banyak ciri statistik yang sama. Studi tentang deteksi AI Sebuah studi tahun 2023 yang diterbitkan di Patterns menemukan bahwa lebih dari 61% esai TOEFL oleh penutur non-pribumi Inggris salah ditandai sebagai hasil AI. Sebuah tinjauan sistematis oleh Weber-Wulff tahun yang sama menyimpulkan bahwa tidak ada alat yang akurat atau dapat diandalkan. Turnitin mengakui pada Juni 2023 bahwa detektornya sendiri menghasilkan tingkat positif palsu yang lebih tinggi ketika tingkat konten AI dalam dokumen di bawah 20%. Bahkan OpenAI harus menurunkan alat deteksi AI-nya sendiri setelah terus-menerus tidak akurat dan tidak mampu menjalankan tugasnya. Universitas-universitas telah berjuang dengan ini selama bertahun-tahun. Vanderbilt menonaktifkan detektor AI Turnitin pada 2023 setelah memperkirakan akan menghasilkan sekitar 3.000 positif palsu setiap tahun. Universitas Arizona menghapus fitur deteksi AI dari perangkat lunak plagiarisme mereka setelah seorang mahasiswa kehilangan 20% nilai karena positif palsu. Kasus di UC Davis tahun 2024 melibatkan 17 mahasiswa linguistik yang ditandai, 15 di antaranya penutur non-pribumi Inggris. Polanya konsisten. Alat ini menghukum orang yang menulis paling formal, paling berulang, atau paling hati-hati, tepat profil yang cocok untuk pengacara, akademisi, dan penutur bahasa kedua.

Dampak budaya bahkan mendekati absurd. Di kalangan penulis dan jurnalis, orang mulai menghindari penggunaan tanda em dash dalam karya mereka, bukan karena panduan gaya, tetapi karena model bahasa AI menggunakannya secara sering dan alat deteksi (dan orang) memperhatikan. Penulis melakukan penyuntingan sendiri terhadap tanda baca alami mereka karena takut dicurigai algoritma. Di luar dunia tulis-menulis, para seniman juga menderita akibat moderator dan kolega karena karya seni yang tampak seperti hasil AI.

We are in the world which real artists is being punished because he’s the victim of these thief called AI artists? #Savehumanartist #noAIart #NoAI #SavefutureArt pic.twitter.com/yTQAeyc8SR

— Benmoran artist (@benmoran_artist) 27 Desember 2022

Dua putusan pengadilan di Kolombia—AC739-2026, di mana Kamar Sipil mendenda seorang pengacara karena menyebutkan 10 preseden hasil AI yang tidak ada pada Februari, dan AP760-2026—mulai muncul sebagai beberapa keputusan pengadilan pertama di wilayah ini yang secara langsung menghadapi penyalahgunaan AI generatif dalam dokumen hukum. Cabang yudikatif Kolombia mengadopsi pedoman resmi pada Desember 2024 yang mengatur penggunaan kecerdasan buatan oleh hakim dan staf pengadilan. Peraturan ini memperbolehkan penggunaan AI secara bebas untuk tugas administratif dan pendukung, seperti menyusun email, mengatur agenda, menerjemahkan dokumen, atau merangkum teks, sementara penggunaan yang lebih sensitif, seperti riset hukum atau penyusunan dokumen prosedural, hanya dengan tinjauan manusia yang cermat. Pedoman ini secara eksplisit melarang penggunaan AI untuk menilai bukti, menafsirkan hukum, atau membuat keputusan pengadilan, menegaskan bahwa hakim manusia tetap bertanggung jawab penuh atas semua putusan dan harus mengungkapkan ketika alat AI digunakan dalam penyusunan materi pengadilan. Pedoman ini, yang dirangkum dalam perjanjian “PCSJA24-12243,” dapat digunakan untuk menentang keputusan semacam itu.

Mahkamah Agung belum mengeluarkan pernyataan tambahan sebagai tanggapan terhadap reaksi keras terhadap pilihan alat deteksi mereka. Putusan tersebut juga tidak menggunakan em dash.