Algoritma dan hukuman: Apa yang dibutuhkan proses hukum?

Ada manfaat potensial yang signifikan untuk menggunakan penilaian risiko berbasis data dalam hukuman pidana. Misalnya, penilaian risiko telah dibenarkan sebagai mekanisme yang memungkinkan pengadilan untuk mengurangi atau membebaskan hukuman penjara bagi pelanggar yang sangat kecil kemungkinannya untuk melakukan pelanggaran kembali. Beberapa negara bagian baru-baru ini memberlakukan undang-undang yang mewajibkan penggunaan instrumen penilaian risiko. Dan pada tahun 2017, Institut Hukum Amerika , sebuah organisasi yang sangat dihormati yang telah bekerja selama beberapa dekade untuk mengklarifikasi, memodernisasi, dan sebaliknya memperbaiki hukum, disetujui rancangan akhir yang diusulkan dari Model KUHP: Hukuman. Dokumen tersebut secara khusus mengakui nilai hukuman berbasis bukti dengan masukan dari instrumen aktuaria yang memperkirakan risiko relatif yang ditimbulkan oleh pelaku individu terhadap keselamatan publik melalui tindakan kriminal mereka di masa depan.

Namun, seiring dengan manfaatnya, meningkatnya penggunaan alat penilaian risiko berbasis algoritme meningkatkan kekhawatiran proses hukum yang penting. Proses hukum adalah hak konstitusional inti yang diberikan melalui Amandemen Kelima dan Keempat Belas, yang keduanya melindungi orang dari dirampasnya kehidupan, kebebasan, atau properti, tanpa proses hukum yang semestinya. Subkategori utama dari proses hukum adalah proses hukum prosedural, yang bertujuan untuk memastikan keadilan dalam proses hukum yang membahayakan nyawa, kebebasan, atau properti.

amerika butuh perang saudara

Ketika alat penilaian risiko berbasis algoritme digunakan dalam proses pidana, masalah proses hukum dapat muncul sehubungan dengan hak pelanggar untuk menantang keakuratan dan relevansi informasi yang digunakan dalam hukuman. Kami menyoroti dua tantangan tersebut. Yang pertama berkaitan dengan hak pelaku atas informasi mengenai algoritme yang digunakan untuk menghitung skor risiko, dan yang kedua berkaitan dengan hak pelaku untuk mengetahui berapa skor tersebut.



Kekhawatiran Dengan Penilaian Risiko Kepemilikan

Pada Mei 2013, Eric Loomis mengaku bersalah di Pengadilan Sirkuit untuk La Crosse County, Wisconsin atas tuduhan mencoba melarikan diri dari petugas lalu lintas dan mengoperasikan kendaraan bermotor tanpa persetujuan pemiliknya. Sebelum sidang vonis Loomis pada Agustus 2013, data tentang dia dimasukkan ke dalam alat penilaian risiko yang dikenal sebagai COMPAS (Profil Manajemen Pelanggar Koreksi untuk Sanksi Alternatif). Sementara algoritma COMPAS yang digunakan untuk menghasilkan skor risiko adalah milik, outputnya tidak. Laporan COMPAS Loomis menunjukkan risiko residivisme yang tinggi.

Dalam sidang Agustus 2013, Loomis dijatuhi hukuman penjara beberapa tahun. Merujuk pada COMPAS dalam putusannya, hakim mengatakan:

Anda diidentifikasi, melalui penilaian COMPAS, sebagai individu yang berisiko tinggi terhadap komunitas. Dalam hal menimbang berbagai faktor, saya mengesampingkan masa percobaan karena keseriusan kejahatan dan karena riwayat Anda, riwayat pengawasan Anda, dan alat penilaian risiko yang telah digunakan, menunjukkan bahwa Anda berisiko sangat tinggi untuk menyinggung kembali.

Setelah gagal mencari bantuan pasca-penghukuman di pengadilan daerah, Loomis mengajukan banding ke Mahkamah Agung Wisconsin, dengan alasan bahwa ketergantungan pada COMPAS adalah pelanggaran hak proses karena sifat kepemilikan COMPAS mencegah terdakwa dari menantang validitas ilmiah dari penilaian. .

Pada tahun 2016, Mahkamah Agung Wisconsin memutuskan melawan Loomis, temuan bahwa jika digunakan dengan benar dengan kesadaran akan keterbatasan dan kehati-hatian. . . pertimbangan penilaian risiko COMPAS di hukuman tidak melanggar hak terdakwa untuk proses hukum. Dan, tulis pengadilan, sementara hakim pada sidang vonis telah menyebutkan penilaian risiko COMPAS, itu tidak menentukan dalam memutuskan apakah Loomis harus dipenjara, beratnya hukuman, atau apakah dia bisa diawasi dengan aman dan efektif di masyarakat. . Loomis kemudian mengajukan banding ke Mahkamah Agung AS, yang pada Juni 2017 menolak untuk mendengarkan kasusnya.

Ketika algoritme kepemilikan digunakan untuk menghasilkan penilaian risiko, pertanyaan proses hukum seharusnya tidak mengarah pada apakah penilaian risiko itu—menggunakan istilah dalam putusan Mahkamah Agung Wisconsin—determinatif, tetapi pada apakah dan bagaimana istilah itu digunakan. Untuk Loomis, keluaran COMPAS konon hanya digunakan untuk memperkuat penilaian faktor-faktor lain yang dipertimbangkan. Mahkamah Agung Wisconsin menyatakan bahwa pengadilan hukuman akan menjatuhkan hukuman yang sama persis tanpa itu. Oleh karena itu, kami memutuskan bahwa pertimbangan pengadilan sirkuit terhadap COMPAS dalam kasus ini tidak melanggar hak proses hukum Loomis.

Logika ini mengarah pada paradoks yang meresahkan. Di satu sisi, jika penggunaan alat penilaian risiko kepemilikan di hukuman hanya tepat ketika keputusan hukuman yang sama akan dicapai tanpa itu, ini menunjukkan bahwa penilaian risiko sama sekali tidak memainkan peran dalam percobaan atau keputusan hukuman. Jika itu masalahnya, lalu mengapa menggunakannya sama sekali? Jika, di sisi lain, itu mungkin memiliki dampak potensial — terlepas dari pernyataan pengadilan Wisconsin yang sebaliknya — maka pertanyaan proses hukum tidak dapat dikesampingkan.

Hak Pelanggar Untuk Mengetahui Skor Risiko Mereka

Masalah proses hukum penting lainnya menyangkut informasi apa yang diberikan kepada pelanggar—atau tidak—tentang skor risiko mereka. Baru-baru ini kasus di Kansas, John Walls tidak mengajukan tuntutan atas ancaman pidana. Dia kemudian dievaluasi menggunakan alat penilaian risiko LSI-R (Level of Service Inventory-Revised). Ketika dia meminta untuk melihat hasilnya, dia hanya diberi akses ke halaman sampul yang merangkum skor umumnya; permintaannya untuk melihat pertanyaan dan jawaban spesifik dan skor yang terkait dengan pertanyaan tersebut ditolak.

Setelah dia dijatuhi hukuman oleh pengadilan distrik dengan bentuk masa percobaan yang sangat diawasi yang umumnya digunakan untuk pelanggar berisiko sedang atau lebih tinggi, dia menantang hukumannya di depan Pengadilan Banding Kansas, dengan alasan bahwa penolakan untuk mengungkapkan rincian LSI-R-nya. penilaian melanggar haknya untuk proses hukum. Pengadilan banding memutuskan mendukung Walls, mencatat bahwa menolak akses Walls ke penilaian LSI-R lengkap membuatnya tidak mungkin untuk menantang keakuratan informasi yang digunakan dalam menentukan kondisi masa percobaannya. Hukuman asli dikosongkan, dan kasus itu diserahkan untuk hukuman ulang.

Masalah kebijakan

Departemen Kehakiman AS telah diakui bahwa penggunaan penilaian risiko aktuaria oleh pengadilan penghukuman menimbulkan pertanyaan konstitusional baru. Dan pertanyaannya tidak hanya konstitusional—ada juga masalah kebijakan dan teknologi yang substansial. Seperti yang diilustrasikan oleh dua contoh di atas, kurangnya transparansi dapat muncul dalam kaitannya dengan bagaimana skor risiko dihitung dan apakah pelaku dapat mengaksesnya. Faktor rumit tambahan adalah hak rahasia dagang, yang akan diminta oleh perusahaan yang membuat alat penilaian risiko berpemilik dengan alasan bahwa detail algoritme mereka tidak dapat diungkapkan.

Pertanyaan yang akan muncul dengan frekuensi yang meningkat di tahun-tahun mendatang meliputi: Tingkat detail apa tentang algoritme penilaian risiko dan keluarannya yang berhak diakses oleh pelaku? Apakah diperlukan undang-undang baru untuk memfasilitasi akses tersebut? Bagaimana seharusnya hak rahasia dagang perusahaan yang membuat alat penilaian risiko ditangani? Dan di masa depan, ketika penilaian risiko berbasis kecerdasan buatan menjadi umum, bagaimana sifat dinamis dari algoritme AI akan semakin memperumit pertanyaan ini?

Seperti banyak masalah di persimpangan hukum, kebijakan, dan teknologi, tidak ada jawaban yang mudah. Tetapi asumsi dasar dalam dialog perlu bahwa hak atas proses hukum tidak dapat menjadi jaminan kerusakan pada adopsi teknologi penilaian risiko algoritmik yang semakin canggih.