İçerik Haritası
Yapay zekânın ‘Gördüğünü’ tanımlarken oluşan önyargı azaltılabilir mi?
Sony, yapay zekâ modellerinin insanları tanımlarken ortaya çıkan önyargılarını ölçmek için büsbütün müsaadeyle toplanmış yeni bir standart data seti geliştirdi. Fair Human-Centric Image Benchmark (FHIBE), insan merkezli bilgisayarlı görü misyonlarında adalet değerlendirmesi yapmak üzere kamuya açık, global çeşitliliğe sahip birinci etik bilgi seti olarak tanımlanıyor. Sony AI’nin Yapay Zekâ Yönetişim Başkanı Alice Xiang, bilgisayarlı görünün objektif olmadığına; bilgilerdeki önyargıların modellerin çıktısını çarpıtabileceğine dikkat çekiyor. Örneğin, birtakım modeller bayan hekimleri hemşire olarak sınıflandırabiliyor veya belli fizikî özellikleri makul mesleklerle yanlış ilişkilendirebiliyor.
Xiang, Çin’de yüz tanıma sistemlerinin aile bireylerinin telefonları kazara açmasına müsaade verdiği örnekleri hatırlatarak bunun, Asyalı bireylerin eğitim datalarında yetersiz temsil edilmesinden ya da bilinmeyen model önyargılarından kaynaklanmış olabileceğini söylüyor. Meta’nın FACET bilgi seti üzere öteki test kaynakları olsa da Xiang, bu bilgi setlerinin birçoklarının müsaadesiz internet madenciliği ile toplandığını, etik sürecin bilinmeyen olduğunu ve çeşitliliğin sonlu kaldığını vurguluyor. Nature’da yayımlanan bir araştırma da 27 bilgisayarlı görü bilgi setinin büyük kısmının internetten kazındığını, yedisinin ise etik nedenlerle geri çekildiğini doğruluyor.
81 ülkeden 10 bin görsel ve yeni bulgular
FHIBE, 81’den fazla ülke ve bölgeden toplanmış 1.981 farklı bireye ilişkin 10.318 manzara içeriyor. Bu görsellerde ayrıntılı sınırlayıcı kutular, segmentasyon maskeleri ve kamera ayarları üzere açıklamalar yer alıyor. Sony AI araştırmacıları, FHIBE kullanarak birtakım modellerin “She/Her/Hers” zamirlerini kullanan şahıslarda saç tarzı çeşitliliği nedeniyle daha düşük doğruluk gösterdiğini tespit etti. Ayrıyeten modellerin, meslek hakkında nötr bir soru sorulduğunda dahi makul kümeleri cürüm faaliyetleriyle ilişkilendirerek ziyanlı stereotipleri yine üretebildiği görüldü.
Önyargılar kaçınılmaz lakin azaltılabilir
Sony, bu çalışma ile etik bilgi toplama, kullanım ve idare süreçlerinin güçlendirilmesini hedefliyor. ABD’de federal seviyede bu bahiste önemli bir yönlendirme bulunmazken, Xiang AB Yapay Zekâ Yasası ve birtakım ABD eyalet düzenlemelerinin yüksek riskli alanlarda önyargı değerlendirmesini teşvik ettiğini belirtiyor. Sony’nin birtakım iş üniteleri FHIBE’i kendi yapay zeka etik inceleme süreçlerine dahil etmiş durumda.
Xiang, FHIBE’in geliştiricilere sistemlerindeki önyargıyı denetleme imkânı sunmasının yanı sıra, müsaade ve data sahiplerine ödeme üzere etik bilgi toplama pratiklerinin de uygulanabilir olduğunu gösterdiğini söylüyor. “Veri nihilizmi” olarak tanımladığı, “ileri seviye yapay zekâ için data haklarından vazgeçilmesi gerektiği” fikrine karşı çıkan Xiang, FHIBE’in küçük ölçekli bir kıymetlendirme bilgi seti olsa da kesimin etik bilgi kürasyonu için daha fazla efor ve kaynak ayırmasını teşvik etmeyi amaçladığını belirtiyor.
Chip Alıntıdır…
