Yapay Zeka, Asyalı Öğrencinin Tenini Beyaz Yaptı!

Vesikalık fotoğraf için yapay zeka destekli görüntü oluşturma aracı Playground AI'a başvuran öğrenci çıkan sonuç karşısında hüsrana uğradı.

Uygulama, Asya asıllı ABD'li öğrencinin tenini beyaz yaptı. Fotoğrafta Rona Wang'ın gözünün maviye dönüştürülmesi de dikkat çekti.

Massachusetts Teknoloji Enstitüsü'nde (Massachusetts Institute of Technology-MIT) matematik ve bilgisayar bilimi okuyan ve aynı okulda yüksek lisans programına devam eden Wang, bir süredir Playground AI'la yeni görüntüler oluşturduğunu söyledi. 

Wang, LinkedIn'de kullanmak istediği fotoğraf için de bu araca başvurdu. 24 yaşındaki öğrenci, uygulamaya "orijinal fotoğraftaki kıza profesyonel bir linkedin profil fotoğrafı ver" komutuyla başvurdu. 

Ancak yapay zekalı uygulama, Wang'ın daha açık tenli ve mavi gözlü bir fotoğrafını oluşturdu.

Wang, Insider'a şu açıklamayı yaptı:

Sonucu gördüğümde ilk başta eğlendim. Ancak bunun, yapay zekadaki önyargı ve bu yeni teknoloji dalgasına kimlerin dahil edilip edilmediğine dair daha geniş bir tartışmaya yol açtığını görmekten memnunum.

Öğrenci, "Yapay zeka destekli görüntü oluşturma araçlarından henüz kullanabileceğim bir görsel gelmedi. Bu yüzden şimdilik yeni LinkedIn profil fotoğrafı olmadan devam etmek zorundayım" dedi.

Playground AI'ın kurucusu Suhail Doshi ise konu hakkında şöyle konuştu:

Modeller bu şekildeki gibi eğitilebilir değil. Dolayısıyla komutu temel alan herhangi bir genelk şeyi seçiyor. Ne yazık ki yeterince akıllı değiller. Bir şey fark ettirir mi bilmiyorum ama bu durumdan hiç memnun değiliz ve çözmeyi umuyoruz.

Yapay zeka şirketi Hugging Face'in araştırması, Playground AI ve DALL-E2 gibi metinden görüntü oluşturan araçların cinsiyet ve ırklarla ilgili önyargı sorunu olduğunu ortaya koymuştu.

DALL-E2'nin yönetmen ya da CEO gibi mesleklerle ilgili görüntü oluşturması istendiğinde fotoğrafların yüzde 97'sinin beyaz erkeklerden meydana geldiği tespit edilmişti.