Polis yapay zekâsı tartışması: Önyargı olacak ama azaltacağız

İngiltere ve Galler’de polis teşkilatı, suçla mücadelede yapay zekâ kullanımını artırmayı planlıyor. Yetkililer, bu teknolojinin önyargı içerebileceğini açıkça kabul ediyor.

Ulusal Suç Ajansı’nda görev yapan ve yapay zekâdan sorumlu isim Alex Murray, 115 milyon sterlinlik Ulusal Polis Yapay Zekâ Merkezi’nin bu riskleri azaltmayı hedeflediğini söyledi.

“Önyargıyı fark edip azaltmalıyız”

Murray, özellikle canlı yüz tanıma ve suç tahmin sistemlerinde önyargı riski bulunduğunu belirtti. Yapay zekâ algoritmalarının geçmiş verilerle eğitildiğini, bu verilerin de insan önyargılarını yansıtabileceğini söyledi.

Bu durumun azınlık gruplarının daha fazla hedef alınması ya da kişilerin ırk, cinsiyet veya sosyoekonomik durum nedeniyle yanlış teşhis edilmesi gibi sonuçlar doğurabileceğini ifade etti.

Murray, “Önyargıyı fark edip en aza indirmeliyiz. Veri bilimciler veriyi temizlemeli, modeller doğru eğitilmeli ve test edilmeli” dedi. Önyargısı tespit edilmemiş bir sistemin sahaya sürülmemesi gerektiğini vurguladı.

Geçmişte sorun yaşandı

Olay sonrası görüntüler üzerinden şüphelileri veri tabanıyla karşılaştıran sistemlerde daha önce hatalar tespit edildi. Aralık ayında yayımlanan bir rapor, bazı uygulamaların yeterli güvenlik önlemleri olmadan kullanıldığını ortaya koydu.

Polis ve Suç Komiserleri Birliği (APCC), sistem arızalarının etkilenen topluluklarla paylaşılmadığını açıkladı. Cambridge Polis ve Suç Komiseri Darryl Preston, bağımsız denetimin şart olduğunu belirtti. “Önyargı tamamen giderilmeden teknoloji kullanılmamalı” dedi.

“Suçlularla teknoloji yarışı”

Murray’e göre polis ile suçlular arasında bir teknoloji yarışı yaşanıyor. Yapay zekâ artık suç örgütleri tarafından da kullanılıyor.

Bir vakada bir pedofilin çocuk istismarı görüntülerinin deepfake olduğunu iddia ettiği, polisin ise bunun aksini kanıtlamak zorunda kaldığı aktarıldı.

Yetkililere göre yapay zekâ; yüzlerce saatlik kamera görüntüsünü tarama, şüpheli araçları tespit etme ve dijital delilleri analiz etme süresini günler yerine saatlere indirebiliyor.

Luton vakası örnek gösterildi

Luton’da dört şüpheli, bankamatik saldırıları ve hırsızlık suçlamasıyla yakalandı. Şüphelilerin telefon verileri indirildi. Veriler Romenceydi.

Yapay zekâ metinleri taradı, çevirdi ve suçla ilgili bölümleri belirledi. Kısa sürede suçlamalar netleşti ve şüpheliler suçunu kabul etti.

Bedfordshire Emniyet Müdürü Trevor Rodenhurst, büyük veri yığınlarının artık çok daha hızlı analiz edilebildiğini söyledi.

Yetkililer, nihai kararın her zaman bir polis memuruna ait olacağını vurguluyor. Ancak yapay zekâ, suçla mücadelede dengeleri değiştirebilecek bir araç olarak görülüyor.