Avrupa Birliği (AB) insan hakları ihlallerini önleyebilecek ‘Yapay Zeka Yasası’ hazırlığınında. Çıkarılacak yasanın büyük bir adım olacağı, dünyanın geri kalanının da evrensel standart olarak benimseneceği öngörülüyor!
Dünya’da hali hazırda uygulamada olan neredeyse bütün gözetleme yetenekleri bir derece insan haklarına müdahale eder özellik taşıdığı iddiasına karşı yüz tanıma teknolojileri (FRT) bu haklar üzerindeki olası olumsuz etkiyi azaltmak için etkili bir düzenleme yapılıp yapılamayacağı artık ciddi bir tartışma gündemi oluşturdu. Avrupa Birliği’nin “Yapay Zeka Yasası”, adıyla ve olumsuz insan hakları ihlallerine önlem olacak yapay zeka konusunda dünyanın ilk kurallarının ne olacağını belirleme çalışmaları bu tartışmayı başlattı. AB tarafından atılacak bu önemli adım esaslar tatmin edici olursa bütün dünyanın kabul edeceği bir adım olacağı şimdiden benimsenmiş görünüyor.
Muhtemelen ortaya çıkacak yasa, evrensel standart olarak kabul edilecek gibi. Ancak yasa içindeki önerinin FRT’ teknolojisini tamamen yasaklanması yönünün de olduğu alınan bilgiler arasında… Yüz tanıma teknolojilerine yönelik kapsamlı yasağın yakın gelecekte sadece suçlulara fayda sağlayacağı iddiaları da var. Kanun uygulayıcı birimlerin kapasite ve yeteneklerinin çok önemli bir kısmını kaybedeceği düşünülüyor. Suç gruplarının cesaretleneceği ve böylece birçok hayatın riske gireceği endişesi giderilmiş değil.
“Kişileri korumaya karşı mahremiyeti korumak” ilkesinin doğru şekilde sağlanması gereken bir denge olduğu öngörüleri yaygın. Kapsamlı bir yasak kolay ama sorumlu bir seçenek değil diyenler oldukça fazla olduğu da gelen bilgiler arasında.Avrupalı parlamenterler, ezici bir çoğunlukla, halka açık alanlarda canlı FRT kullanımının yasaklanması ve benzer şekilde, yargı kararı alınmadıkça “olaydan sonra” FRT kullanımının yasaklanması lehinde oy kullandı. Şimdi dikkatler Avrupa Parlamentosu, Avrupa Konseyi ve üye devletler arasındaki hararetli üçlü müzakerelere çevrildi. FRT, özünde, bir kişinin yüz özelliklerini analiz etmek için AI algoritmaları tarafından desteklenen kameraları kullanıyor. Yetkililerin, kişileri tanımlamak için önceden var olan görüntülerden oluşan bir veri tabanıyla eşleştirmesine olanak tanıyor. Gizlilik taraftarlarının kulağa gerçekten endişe verici gelen kaygıları var ancak bu argümanların çoğun da bilimsel verilere dayanmıyor. Hatta pek çoğu da çürütüldü.
Bu kaygılardan birincisi, teknolojinin beyaz olmayan insanları orantısız bir şekilde dezavantajlı duruma düşürdüğü iddiası. Bu durum, teknolojinin ilk modelleri için doğru olabilirdi ancak bugün kesinlikle değil. Zira ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) bazı ürünleri yüzde 99,8’lik bir doğruluk oranıyla tescillemesi aksini gösteren kanıt. Ayrıca, 2020 NIST isimli bir rapor da FRT’nin ırksal ve diğer demografik gruplar arasında yaygın olarak bildirilenden çok daha etkili performans sergilediği, en doğru teknolojilerin gruplar arasında “tespit edilemeyen” farklılıklar gösterdiğini yazıyor. Bir başka iddia ise; FRT’nin etkisiz olduğu yönünde…
Öte yandan, sıkı düzenlemelere uygun kullanılırsa FRT, sayısız hayatı kurtarma, adaleti tesis ve suçluları cezalandırma kapasitesine sahip olması da dikkate alınıyor. Avrupalı yasa yapıcıların, faydaları kanıtlanmış bir teknolojiden yararlanmanın yollarını düşünmek zorunda kalacağı belli. Ancak bunun insan haklarına yönelik riskleri azaltacak bir şekilde olması için çaba sarf ediliyor. Halka yönelik “önemli” bir riskin olduğu ve vatandaşları zarar görmekten korumak için meşru bir temelin olduğu her yerde FRT’nin bir operasyon aracı olarak tutulması gerektiğini düşünen çok kişi olsa da bu risklerin derecesine kim nasıl karar verecek ve buna ilişkin evrensel standartlar nasıl oluşturulacak bu nokta hala soru işareti taşıyor olması tedirginliği artırıyor.
Buna yönelik olarak ortaya atılan öneri; kullanım öncesi değil, sonrasında yapılan uygulamanın daima titiz bir insan hakları değerlendirmesine tabi olması şeklinde. Bağımsız etik ve düzenleyici gözetim, merkezi bir denetim otoritesinin devreye girmesiyle birlikte uygulanırsa bir uzlaşı sağlayabilir. Bunun için öncelikle önerilen kullanım şartlarının ayrıntılarını ortaya koyan net politikaların oluşturulması gerektiği belirtilen en yaygın görüş olarak öne çıkıyor.