Sony araştırması, yapay zeka önyargı testlerinin ten renginin önemli bir yönünü gizlediğini iddia ediyor - Dünyadan Güncel Teknoloji Haberleri

Sony araştırması, yapay zeka önyargı testlerinin ten renginin önemli bir yönünü gizlediğini iddia ediyor - Dünyadan Güncel Teknoloji Haberleri
“Bilişsel olarak konuşursak, doğru ve güvenilir bir şekilde ayırt etmek gerçekten zorlaşıyor CIELAB renk standardıBu aynı zamanda Monk ölçeğinde kullanılan manuel sınıflandırma yaklaşımından da kaçınacaktır



genel-2

Bu, yapay zeka sistemlerini daha az doğru hale getirebilir Buna yanıt olarak şirketler, sistemlerinin çeşitli cilt tonlarıyla ne kadar doğru çalıştığını test etme çabalarını hızlandırdı ” İçinde Blog yazısıSony’nin araştırmacıları, mevcut ölçeklerin “Doğu Asyalılar, Güney Asyalılar, Hispanikler, Orta Doğulu bireyler ve aydınlıktan karanlığa spektruma tam olarak uymayan diğer kişilere” yönelik önyargıları dikkate almadığını özellikle belirtiyor “Genellikle bu tür ölçeklerde 10 veya 12 puanı geçerseniz [and] Aynı kişiden aynı tonları tekrar tekrar seçmesini isteyin, ölçeği ne kadar artırırsanız, o kadar az insan bunu yapabilir,” dedi Monk geçen yıl bir röportajda

Sony’nin yaklaşımı daha çok yönlü olsa da, adını yaratıcısı Ellis Monk’tan alan Monk Cilt Tonu Ölçeği’nin önemli noktalarından biri basitliğidir


Yapay zeka endüstrisi, algoritmalarını insanların ten renginin açıklığı veya koyuluğuna göre daha az önyargılı hale getirmeye odaklanırken, Sony’nin yeni araştırması, kırmızı ve sarı ten tonlarının da dikkate alınmasını gerektiriyor anlatır kablolu

Araştırmacılar, Joy Buolamwini ve Timnit Gebru’nun 2018’de yaptığı ve yapay zekanın daha koyu tenli kadınlarda kullanıldığında hatalara daha yatkın olduğunu ortaya koyan önemli bir çalışması da dahil olmak üzere, yıllardır yapay zeka sistemlerindeki ten rengi önyargılarına dikkat çekiyor ”

Sony’nin önerdiği çözüm, önceden var olan çözümleri temel alan otomatik bir yaklaşımı benimsemektir

Bu ölçümün yaratabileceği etkiye bir örnek olarak, Sony’nin araştırması, yaygın görüntü veri kümelerinin cildi daha açık ve daha kırmızı olan kişileri fazla temsil ettiğini ve daha koyu, daha sarı tenli kişileri yeterince temsil etmediğini buldu ”

Monk ayrıca ölçeğinin alt tonları ve renk tonlarını hesaba katmadığı fikrine de karşı çıktı: “Araştırma, ölçek boyunca hangi alt tonlara hangi noktalarda öncelik verileceği konusunda karar vermeye adanmıştı” diyor kablolu

Yine de, kablolu Birkaç büyük AI oyuncusunun Sony’nin araştırmasını memnuniyetle karşıladığını, hem Google’ın hem de Amazon’un makaleyi incelediklerini belirttiklerini bildirdi kablolu Diğer yapay zeka sistemleri, daha kırmızı ten rengine sahip kişileri yanlışlıkla “daha fazla gülen Sony’nin küresel Yapay Zeka Etiği Başkanı Alice Xiang, “Ürünler bu kadar tek boyutlu bir şekilde değerlendiriliyorsa, tespit edilemeyecek ve giderilemeyecek pek çok önyargı var” dedi Sistem, daha fazla kategoriye sahip olmanın getirdiği tutarsızlıkları riske atmadan çeşitlilik sunmak için kasıtlı olarak 10 cilt tonuyla sınırlandırılmıştır İçinde geçen ay yayınlanan makaleSony AI’dan yazarlar William Thong ve Alice Xiang’ın yanı sıra Tokyo Üniversitesi’nden Przemyslaw Joniak, daha çeşitli ve temsili AI sistemlerine yol açabileceği umuduyla ten renginin daha “çok boyutlu” bir ölçümünü öne sürdüler Sony, Twitter’ın görüntü kırpıcısının ve diğer iki görüntü oluşturma algoritmasının daha kırmızı teni tercih ettiğini buldu

Sony’nin araştırmasına göre sorun, her iki ölçeğin de öncelikle cilt tonunun açıklığına veya koyuluğuna odaklanmış olmasıdır “Umudumuz, burada yaptığımız çalışmanın, aslında sadece ışığa ve karanlığa odaklanan mevcut cilt tonu ölçeklerinden bazılarının değiştirilmesine yardımcı olabilmesidir