- Birleşik Krallık, 2016 yılından beri kullanıcılar tarafından yüklenen fotoğrafların, pasaport fotoğrafı olarak kullanımı için standartları karşılayıp karşılamadığını tespit etmek amacıyla yapay zeka ile çalışan bir pasaport programını uyguluyor.
- Bu pasaport programının kullanıma sunulduğu günden bu yana pek çok siyahi kişi, sistemde gözlerinin açık olduğunun ya da ağızlarının kapalı olduğunun fark edilmemesi gibi -beyaz insanların maruz kalmadıkları- çok sayıda sorun bildirdi.
- Yeni paylaşılan bir habere göre, Birleşik Krallık İçişleri Bakanlığı, bu pasaport programını önyargılı ve ırkçı bir yapay zeka üzerine kurduğunu biliyordu.
- İlgili Yazı: Çin'deki Yolsuzluğu Tespit Eden Yapay Zeka, Yetkililer Tarafından Kapatılıyor
Birleşik Krallık'ın 2016 yılından beri uyguladığı yapay zeka destekli bir pasaport programı bulunuyor. Bu pasaport programı, kullanıcılar tarafından yüklenen fotoğrafların, pasaport fotoğrafı olarak kullanımı için koşulları ve standartları karşılayıp karşılamadığını tespit etmek amacıyla yapay zeka ile çalışan bir yüz tanıma özelliğini kullanıyor. Ve bu sistem, belirlenen koşulları sağlamayan fotoğrafları reddediyor.
The Next Web'in paylaştığı habere göre, bu pasaport programının kullanıma sunulduğu günden bu yana pek çok siyahi kişi, sistemde gözlerinin açık olduğunun ya da ağızlarının kapalı olduğunun fark edilmemesi gibi -beyaz insanların maruz kalmadıkları- çok sayıda sorun bildirdi. Yani başka bir deyişle, bu yapay zeka sistemi bir nevi ırkçılık yapıyordu. Ve "medConfidential" adlı savunma örgütünün bilgi özgürlüğü yasası talebine göre, Birleşik Krallık İçişleri Bakanlığı, bu pasaport programını önyargılı ve ırkçı bir yapay zeka üzerine kurduğunu biliyordu. Bununla birlikte hükümet, bu sorun hakkında birkaç kez bilgilendirildi.
"New Scientist" adlı bilim dergisinin yazarlarından biri olan Adam Vaughn'un yaptığı bir habere göre, Birleşik Krallık İçişleri Bakanlığı konu ile ilgili olarak yaptığı açıklamada, yapay zekayla alakalı bu sorununun farkında olduğunu, ancak yine de sistemi kullanmanın kabul edilebilir olduğunu düşündüğünü ifade etti. Belirtilene göre, söz konusu yapay zeka, ırkçılıkta inanılmaz derecede iyi, çünkü ırkçılığı sistemsel. Bununla birlikte yapay zeka, beslendiği verilerin özünde olan, tamamen aynı önyargıyı yansıtıyor.
Her şeye rağmen fotoğrafları sistem tarafından uygun bulunmayan kişiler, yapay zekanın reddini geçersiz kılabiliyor ve yine de fotoğraflarını ibraz edebiliyorlar, ancak fotoğrafla ilgili bir sorun olması durumunda, başvurularının ertelenebileceği ya da reddedilebileceği konusunda uyarılıyorlar.
Daha Önce de Microsoft'un Yapay Zekası, Irkçı Bir Tavır Sergilemişti
Bu olay, bir yapay zekanın ırkçı davranışlar sergilediği ilk sefer değildi. Daha önce de Microsoft'un "Tay" adlı yapay zeka sohbet botu benzer bir olayla gündeme geldi. 2016 yılının mart ayında Microsoft, temel bir Twitter kullanıcı hesabı olarak görev yapması ve insanlarla konuşması için Tay'ı faaliyete geçirdi.
Tay, insanlarla yaptığı konuşmalardan sosyal medya topluluğunda güçlü bir katılımcı olmanın ve sohbet etmenin nasıl olduğunu öğrenecekti. Ancak bazı kötü niyetli Twitter kullanıcıları; ırkçı, cahil ve acımasız hale gelmesi için Tay ile onu kandıracak şekillerde konuşmaya başladılar ve yapay zeka yalnızca bir gün içerisinde "Bir duvar inşa edeceğiz ve Meksika bunun bedelini ödeyecek." şeklinde tweet'ler atmaya başladı. Bunun sonucunda da Microsoft, programı iptal etmek zorunda kaldı.