İngiltere ve Galler Kraliyet Savcılık Servisi'nde (CPS) görev yapan kıdemli bir savcının, Yüksek Mahkeme'deki önemli bir davada yapay zekâ tarafından üretilen hayali bir mahkeme kararına atıfta bulunması ülkede büyük tartışma yarattı. Bir çocuğun yargılanmasını savunmak amacıyla kullanılan ancak gerçekte var olmadığı ortaya çıkan emsal karar, hukuk sisteminde yapay zekâ kaynaklı hataların ne kadar ciddi sonuçlar doğurabileceğini bir kez daha gündeme taşıdı.
Yapay Zekânın Uydurduğu Emsal Karar Mahkemeye Taşındı
Olay, 11 yaşındayken, 7 yaşındaki kız kardeşine yönelik cinsel saldırı iddiasıyla suçlanan bir çocuğun yargılanmasına ilişkin itiraz sürecinde yaşandı. Sanık çocuğun avukatları, sosyal hizmet uzmanları, gençlik çalışanları ve adli psikologların değerlendirmelerinin yeterince dikkate alınmadığını belirterek yargılamanın durdurulmasını istedi.
Savcılık adına davayı takip eden CPS Tecavüz ve Ağır Cinsel Suçlar Birimi kıdemli savcısı Ravinder Dhillon ise çocuğun yargılanmasının devam etmesi gerektiğini savundu. Bu görüşünü desteklemek için mahkemeye "CPS – R v J [2024] EWCA Crim 3529" numaralı bir emsal kararı sundu.
Ancak yapılan incelemeler, söz konusu kararın gerçekte hiçbir zaman verilmediğini ortaya çıkardı. Başka bir ifadeyle savunulan hukuki görüşün dayanaklarından biri, yapay zekânın oluşturduğu hayali bir mahkeme kararıydı.
Savcının Açıklaması Yargıçları İkna Etmedi
Ekim ayında hatasını kabul eden Dhillon, söz konusu atfı internet üzerinden yaptığı araştırma sırasında karşılaştığı yapay zekâ destekli bir özetten aldığını belirtti. Savcı, aslında yaklaşık 15 yıl önce verilmiş gerçek bir mahkeme kararına atıfta bulunmak istediğini ifade etti.
Bununla birlikte Yüksek Mahkeme yargıçları, savcının açıklamasını yeterli bulmadı. Özellikle hukuki süreçlerde kullanılan emsal kararların doğruluğunun kontrol edilmemesi, kamu adına görev yapan bir savcının sorumluluğu açısından ciddi bir ihmal olarak değerlendirildi.
Mahkeme, hayali kararın davanın sonucunu etkilemediğine hükmetti. Bu nedenle çocuğun gençlik mahkemesinde yargılanmasına devam edilmesine karar verildi.
Uzmanlardan Yargı Sistemine Güven Uyarısı
Olay, hukuk alanında yapay zekâ kullanımının sınırlarına ilişkin tartışmaları da yeniden alevlendirdi.
Maynooth Üniversitesi Hukuk Fakültesi Öğretim Üyesi Doç. Dr. Brian Flanagan, yaşananları son derece ciddi bir başarısızlık olarak nitelendirdi. Flanagan'a göre özellikle bir çocuğun yargılanmasını savunurken gerçekte bulunmayan bir hukuki kaynağa dayanılması kabul edilemez.
Flanagan, yapay zekâ araçlarının zaman kazanmak amacıyla kontrolsüz biçimde kullanılmasının mahkemelere duyulan güveni zedeleyebileceğine dikkat çekti. Ayrıca bu tür hataların bir kamu görevlisi ve özellikle devlet adına suçlama yönelten bir savcı tarafından yapılmasının çok daha büyük risk taşıdığını vurguladı.
Yapay Zekâ Kaynaklı Hukuki Hatalar Artıyor
İngiltere'de yaşanan bu olay, hukuk dünyasında yapay zekâ halüsinasyonlarına ilişkin endişelerin münferit olmadığını gösteren örneklerden biri olarak öne çıkıyor.
Doğrulanmış, şüpheli veya tartışmalı yapay zekâ hatalarını takip eden listede bu son vakayla birlikte kayıtlı olay sayısı 101'e ulaştı. Bu durum, yapay zekânın ürettiği yanlış bilgilerin hukuki belgelerde ve mahkeme süreçlerinde kullanılmasına yönelik kaygıları artırıyor.
Özellikle gerçekte bulunmayan mahkeme kararlarının, yanlış kanun maddelerinin veya hatalı hukuki değerlendirmelerin gerçek kaynaklarmış gibi sunulması, adil yargılanma hakkı bakımından önemli sorunlara yol açabiliyor.
CPS'ten Yapay Zekâ Kullanımına İlişkin Açıklama
Kraliyet Savcılık Servisi (CPS), kurum bünyesinde yapay zekâ kullanımına yönelik katı kurallar bulunduğunu ve bu teknolojinin nihai hukuki kararların alınmasında kullanılmasına izin verilmediğini açıkladı.
Kurum sözcüsü, yaşanan hatanın internet araştırması sırasında ortaya çıktığını belirtti. Yanlışlığın tespit edilmesinin ardından kurum içinde inceleme başlatıldığını ve benzer başka bir olayın bulunmadığının doğrulandığını ifade etti.
Ayrıca savcılık personeline emsal kararların yalnızca güvenilir ve doğrulanabilir kaynaklardan kontrol edilerek kullanılmasına ilişkin kuralların yeniden hatırlatıldığı bildirildi.
Hukuk Dünyasının Önündeki Yeni Risk: Gizlilik ve Veri Güvenliği
Yaşanan skandal, yapay zekânın yalnızca yanlış bilgi üretme riskini değil, hukuk sisteminde işlenebilecek hassas verilerin güvenliğini de gündeme getirdi.
Uzmanlar, savcılıkların ve hukuk kurumlarının üzerinde çalıştığı dosyalarda çocuklara, mağdurlara, tanıklara ve şüphelilere ilişkin son derece özel bilgilerin bulunabildiğine dikkat çekiyor. Bu verilerin yeterli güvenlik önlemleri olmadan yapay zekâ platformlarına aktarılması, gizlilik ve veri koruma açısından ciddi sonuçlar doğurabilir.
İngiltere'deki son olay, yapay zekânın hukuk sisteminde yardımcı bir araç olarak kullanılabileceğini ancak ürettiği bilgilerin mutlaka insan denetiminden ve güvenilir kaynak kontrolünden geçirilmesi gerektiğini bir kez daha ortaya koydu. Hukuk gibi doğrudan insanların haklarını ve özgürlüklerini etkileyen bir alanda, teknolojinin sağladığı hızın doğruluk ve hesap verebilirliğin önüne geçmemesi gerektiği görülüyor.
OkurLab'ı Google'da Takip Edin
Kültür sanat akışınızı siz yönetin.