Yapay zekâ önyargıları nasıl yeniden üretiyor?

Getting your Trinity Audio player ready...

Yapay zekâ, şu an gördüğümüz erken haliyle, herhangi bir literatürdeki standart argümanları özetleyen ve aslında değeri biraz büyütülmüş bir dijital inovasyon olmanın yanı sıra ciddi ideolojik önyargılar da barındırıyor. Bunlardan birkaçına bakalım…

Sürücüsüz araçlar

Örneğin Google’ın görüntü-tanıma sistemi goriller ile siyah Amerikalıları ayırt edemiyordu. Aynı şekilde, sürücüsüz araçlarda kullanılan “yapay görme” sistemlerinin de beyaz yayaları ayırt etmede siyah yayalara göre yüzde 10 daha başarılı olduğu ortaya çıkmıştı [bkz. Yapay Beyazlık]. Çünkü öğrenme sistemine oran olarak daha fazla beyaz yaya verisi yüklenmişti.

Yani yapay zekâlı sürücüsüz bir otomobil kaza anından hemen önce tercih yapmak zorunda kaldığı durumda direksiyonu beyaz yayaya doğru mu kırar yoksa siyah/Meksikalı/Latin/Asyalı yayaya doğru mu? Ya da Türkiye düzleminde Türk’e doğru mu, Kürt’e doğru mu, Suriyeli’ye doğru mu? İyi giyimli zengine doğru mu yoksa kötü giyimli evsize doğru mu? Yapay zekâ bu kararları neye göre verir? İnsanlar bu kararları neye göre veriyor? Kaza olduğunda suçlu kim? Cezayı kim çekecek?

İşe alım süreçleri

Yapay zekâ uygulamaları sayesinde üretim ve yönetim kademelerindeki birçok maliyet düşürülebilir. Bunlardan biri de insan kaynakları. İşe alım sürecinde başvuruları yapay zekâ ile değerlendirmek kullanılmaya başlanan yeniliklerden biri. Bugün Amerika’daki iş başvurularının dörtte üçü yapay zekâ tarafından eleniyor. Yapay zekâ, adayların özgeçmişlerini belli bir algoritmaya göre sıralıyor ve belli bir eşiğin altındakileri eleyip üstündekileri İK müdürüyle görüşmeye davet ediyor. 2017’de Amazon kendi yaptığı testlerde yapay zekâ uygulamasının teknoloji endüstrisinin çoğunlukla erkek özgeçmişlerinden öğrenerek, özgeçmişlerdeki “kadın satranç kulübü kaptanı” gibi ifadeleri cezalandırıp sıralamada aşağılara ittiği gözlemlenmiş.

Aslına bakacak olursanız işe alım sürecinde yapay zekânın kullanılması insan kaynaklı önyargıları veya hataları azaltmak için düşünülmüştü. Sonuçta yabancılardan hoşlanmayan bir İK müdürü göçmen bir adayı, kalifiye olmasına rağmen, eleyebilir; ama matematik ayrımcılık yapmaz. Dolayısıyla bazı kritik kararların insanlar tarafından değil de duyguları ve ideolojileri olmayan robotlar tarafından verilmesi kulağa mantıklı gelebilir. Fakat gelin görün ki yapay zekânın şablonları geçmiş pratik ve istatistiklerden öğrenmesi yerleşik önyargıları yeniden üretiyor. Sonuçta yanlı veri yanlı çıktı üretir. Ya da “döküntü girer, döküntü çıkar.” Dahası, yapay zekâ uygulaması ile alım yapan şirketlerin İK takımları kendilerinin ayrımcılık yapmadıklarını çünkü alım sürecini YZ’ye devrettiklerini söyleyebilirler.

Kredi piyasası

İşe alım sürecinde verimliliği artırmanın yanı sıra kredi tahsis ve sigorta süreçlerinde de yapay zekâ uygulamaları kullanılıyor. Bugün küçük-orta ölçekli kredi başvurularının çoğu online olarak yapılıp herhangi bir kredi analistinin önüne düşmeden karara bağlanıyor. Büyük krediler için hâlâ bankaya bizzat gitmeniz gerekiyor.

Kâr amacı gütmeyen bir haber merkezi olan olan The Markup’ın araştırmasına göre ev kredisi başvurularında reddedilme ihtimalini siyah olmak yüzde 80, yerli Amerikalı olmak yüzde 70, Asyalı olmak yüzde 50, Latino olmak yüzde 40 artırıyormuş. Yani, sürücüsüz araç ve işe alım örneklerinde olduğu gibi kredi başvurusu değerlendirme konusunda da YZ, geçmiş pratiklerden beslendiği için, ayrımcı kararlar veriyor. Diğer her şey eşitken, [Amerika şartlarında] siyah olmak, Meksikalı olmak, kadın olmak dezavantaj yaratıyor. Bu da toplumdaki ekonomik eşitsizliklerin yeniden üretildiği anlamına geliyor.

Eğer kredi başvurunuz, analistin ayrımcılığı nedeniyle reddedilmiş ise ayrımcılık karşıtı yasaların ve hukukun üstünlüğünün olduğu ülkelerde hakkınızı arayabilirsiniz. Ama kredi başvurunuzu doğrudan bankanın uygulaması reddetmişse o zaman mesuliyet gri bir alanda kaybolup gidiyor.

İnsanlığın sonu?

Diyeceğim, küçük ve ayrıcalıklı teknoloji elitleri tarafından geliştirilen YZ aslında kapitalist dünyadaki ideolojinin isim değişikliğiyle yeniden piyasaya sürülmüş hâli gibi… Toplumcu ve demokratik bir yapıda şüphesiz kullanışlı olabilir ama mevcut sınıf ve bölüşüm ilişkileri altında sisteme meşruiyet sağlayacak bir el çabukluğu gibi duruyor.

Eğer düşünecek olursanız kapitalist/liberal batı ülkeleri de Çin Komünist Partisi de yapay zekâyı kabul ediyor. Demek ki YZ iki taraf için de ideolojik bir tehdit oluşturmuyor. Çünkü her halükârda YZ hakim ideolojiyi yeniden üretiyor.

Yapay zekânın insanlığın sonunu getirmesi çok cüzi bir ihtimal. Ama mevcut ideolojiyi, eşitsiz toplumsal ilişkileri ve ayrımcılığı meşrulaştırıp yeniden üretiyor olması çok daha yüksek ve gerçek bir ihtimal. Dolayısıyla ben asıl odaklanılması gereken noktanın burası olduğunu düşünüyorum. Batıda bu sorunun üzerine giden STK’lar var. “YZ yanlılığı” Avrupa Komisyonu’nun da gündeminde. Bizim siyasetimiz çok daha başka gündemler etrafında döndüğü için bu gelişmelerin pasif izleyicisi ve takipçisi olmaktan öteye maalesef gidemiyoruz. Yine de, küçük de olsa, bir grup insan olarak bu konuları düşünmeye devam etmekte fayda var.

Subscribe
Bildir
guest
1 Yorum
Eskiler
En Yeniler Beğenilenler
Inline Feedbacks
View all comments
Gizemsu Kaya
Gizemsu Kaya
9 ay önce

Yine güzel ve ögretici bir yazı. Tesekkurler Anıl Hocam!

İlginizi çekebilir