Pemerintah UK Mengembangkan Alat Prediksi ‘Pembunuhan’ AI yang Kontroversial

Pemerintah Inggris sedang mengerjakan proyek kontroversial yang menggunakan AI untuk memprediksi siapa yang mungkin akan melakukan pembunuhan di masa depan.

Keberadaan program ini terungkap melalui permintaan keterbukaan informasi yang diperoleh oleh kelompok pengawas Statewatch.

Temuan mereka menyarankan bahwa data pribadi yang sensitif sedang digunakan. Ini termasuk catatan kesehatan, informasi kesehatan mental, riwayat kecanduan, dan data tentang orang-orang yang belum pernah dihukum karena kejahatan apa pun.

Statewatch melaporkan bahwa Kementerian Kehakiman (MoJ) memimpin rencana ini, memeriksa catatan otoritas yang ada dari orang-orang untuk mencegah kejahatan serius terjadi.

Awalnya diberi nama “proyek prediksi pembunuhan,” kini disebut “berbagi data untuk meningkatkan penilaian risiko.” Proyek ini saat ini dalam tahap penelitian, tetapi para kampanyer dan advokat privasi telah menyuarakan kekhawatiran mereka, seperti dilaporkan oleh Statewatch.

Namun, para pejabat membantah hal ini. The Guardian melaporkan bahwa seorang juru bicara Kementerian Kehakiman menyatakan: “Proyek ini dilakukan hanya untuk tujuan penelitian. Ini dirancang menggunakan data yang ada yang dipegang oleh HM Prison and Probation Service dan kepolisian tentang pelaku kejahatan yang telah dihukum untuk membantu kami lebih memahami risiko orang yang sedang menjalani masa percobaan untuk melakukan kekerasan serius. Sebuah laporan akan dipublikasikan dalam waktu dekat.”

Menurut Statewatch, polisi di Greater Manchester telah membagikan data hingga setengah juta orang. Ini termasuk korban, tersangka, dan orang-orang dalam situasi yang rentan.

Sofia Lyall, seorang peneliti di Statewatch, sangat mengkritik proyek ini, dengan mengatakan: “Upaya Kementerian Kehakiman untuk membangun sistem prediksi pembunuhan ini adalah contoh terbaru yang mengerikan dan dystopian dari niat pemerintah untuk mengembangkan sistem ‘prediksi’ kejahatan yang disebut-sebut.”

Dia memperingatkan bahwa sistem tersebut akan memperdalam diskriminasi ras dan kelas: “Model terbaru ini, yang menggunakan data dari kepolisian dan Kantor Dalam Negeri kita yang secara institusional rasis, akan memperkuat dan memperbesar diskriminasi struktural yang mendasari sistem hukum pidana.”

“Menggunakan data sensitif seperti kesehatan mental, kecanduan, dan disabilitas sangat mengganggu dan mengkhawatirkan,” tambahnya.

Pemerintah berpendapat bahwa alat seperti ini bisa meningkatkan cara layanan pembebasan bersyarat menilai risiko dan mencegah kejahatan keras. Namun, para kritikus berpendapat bahwa sistem ini bisa menyebabkan orang-orang ditandai secara tidak adil sebagai pembunuh potensial karena data yang salah dan bias.

Pemerintah berpendapat bahwa alat-alat ini akan meningkatkan kemampuan layanan pembebasan bersyarat untuk mengevaluasi risiko dan menghentikan kejahatan keras yang terjadi. Namun, para kritikus memperingatkan bahwa sistem ini berisiko memberi label orang sebagai pembunuh potensial melalui data yang buruk dan bias.

Meskipun masih dalam tahap pengembangan, laporan Statewatch mencatat bahwa dokumen-dokumen tersebut menyebutkan tentang “operasionalisasi masa depan” dari sistem ini, menimbulkan kekhawatiran bahwa sistem ini segera dapat digunakan dalam keputusan penegakan hukum di dunia nyata.