Common Sense Media tarafından çocuklar için güvensiz olarak işaretlenen birçok popüler yapay zeka ürünü - Dünyadan Güncel Teknoloji Haberleri

Common Sense Media tarafından çocuklar için güvensiz olarak işaretlenen birçok popüler yapay zeka ürünü - Dünyadan Güncel Teknoloji Haberleri



genel-24

Ayrıca veri gizliliği politikaları konusunda da daha şeffaftılar

İyi değerlendirmeler alan tek yapay zeka ürünleri şunlardı: Ello’nun Yapay zeka okuma öğretmeni ve kitap dağıtım hizmeti, Hanmingo (Khan Academy’den) ve Kyron Learning’in Yapay zeka öğretmeni — üçü de eğitim amaçlı tasarlanmış yapay zeka ürünleridir

Şirket ilk olarak Temmuz ayında, teknolojinin sorumlu yapay zeka uygulamalarından yararlanıp faydalanmadığı ve çocuklara uygunluğu da dahil olmak üzere, yapay zeka ürünlerini çeşitli boyutlarda değerlendirmek için bir derecelendirme sistemi oluşturmayı hedeflediğini duyurdu çeşitli yapay zeka ilkeleri, güven, çocukların güvenliği, mahremiyet, şeffaflık, hesap verebilirlik, öğrenme, adalet, sosyal bağlantılar ve insanlara ve topluma faydalar dahil Bugün, bu reytingler yayına girdisohbet robotları, görüntü oluşturucular ve daha fazlası gibi yapay zeka ürünleri için “beslenme etiketleri” adı verilen ürünler sunuyor

Common Sense Media Yapay Zeka Kıdemli Danışmanı Tracy Pizzo-Frey, “Yapay zeka her zaman doğru değildir ve değerler açısından tarafsız da değildir” dedi: derecelendirmelerin özetinde Bu yılın başlarında şirket, yakında ailelere yönelik kaynaklarına yapay zeka ürünlerine yönelik derecelendirmeleri de ekleyeceğini açıklamıştı Ayrıca kuruluşun gizlilik endişelerini artırdığını söylediği kişisel kullanıcı verilerini de sakladı (Ve bazı çocukların iddia edebileceği gibi daha az eğlencelidir) Diğerlerine göre daha az tanınırlar Değerlendirdiği ürünler genelindeki derecelendirmelerdir Yine de şirketler bunları çocukların kullanımını göz önünde bulundurarak tasarladıkları için sorumlu yapay zeka uygulamalarını kullanma eğilimindeydiler ve adalete, çeşitli temsillere ve çocuk dostu tasarım hususlarına odaklandılar Bu konu bu hafta gündeme geldi 404Medya Civitai’nin yeteneklerine dikkat çekildi ancak sorumlu taraf (topluluk toplayıcıları veya yapay zeka modellerinin kendisi) konusundaki tartışma devam etti sonrasında Hacker News gibi sitelerde


Popüler yapay zeka araçlarının bağımsız bir incelemesi, Snapchat’in My AI, DALLE ve Stable Diffusion dahil olmak üzere pek çoğunun çocuklar için güvenli olmayabileceğini ortaya çıkardı ebeveynler için medya derecelendirmeleri çocuklarının tükettiği uygulamaları, oyunları, podcast’leri, TV şovlarını, filmleri ve kitapları değerlendirmek isteyenler Eğer hükümet yapay zekayı ‘çocuklardan korumayı’ başaramazsa, teknoloji şirketleri veri gizliliğimiz, refahımız ve genel olarak demokrasimiz pahasına bu düzenlenmemiş, serbest atmosferden yararlanacak” diye ekledi ilk yapay zeka ürün derecelendirmeleri Ayrıca zaman zaman bazı uygunsuz yanıtların yanı sıra yanlışlıklar da sunar Yeni değerlendirmeler geldi Sağduyu Medyasıailelere yönelik, kar amacı gütmeyen bir savunuculuk grubu Ebeveynlerin %82’si, ChatGPT gibi yeni yapay zeka ürünlerinin çocukları için güvenli olup olmadığını değerlendirme konusunda yardım istediklerini söyledi Yalnızca %40’ı bu kararları vermelerine yardımcı olacak güvenilir kaynaklar bildiğini söyledi Şirket, TechCrunch’a yaptığı açıklamada, yapay zekamın aynı zamanda Aile Merkezine de entegre edildiğini, böylece ebeveynlerin gençlerin onunla sohbet edip etmediğini ve ne zaman sohbet ettiğini görebileceğini söyledi ancak şirketin, ürününü geliştirmeye devam ederken incelemenin sağladığı geri bildirimleri takdir ettiğini de ekledi “Ürünün ne olduğunu, nasıl çalıştığını, etik risklerini, sınırlamalarını ve yanlış kullanımlarını öğrenerek kanun yapıcılar, eğitimciler ve genel halk, sorumlu yapay zekanın neye benzediğini anlayabilir Steyer, yaptığı bir açıklamada, “Tüketiciler, tüm Amerikalıların, özellikle de çocukların ve gençlerin güvenliğini ve mahremiyetini tehlikeye atabilecek yapay zeka ürünleri için net bir beslenme etiketine erişebilmelidir” dedi Şaşırtıcı olmayan bir şekilde, ikinci kategori en kötü performansı gösterdi

Common Sense Media, yeni AI ürünlerine ilişkin derecelendirmeleri ve incelemeleri sürekli olarak yayınlamaya devam edeceğini ve bunun yalnızca ebeveynleri ve aileleri değil aynı zamanda yasa yapıcıları ve düzenleyicileri de bilgilendirmeye yardımcı olacağını umduğunu söylüyor Gibi siteler Sarılma Yüz ve Civitai, yalnızca yeni görüntü modelleri bulmak için kaynak olarak değil, aynı zamanda birinin (ünlü gibi) benzerliğini kullanarak porno yapmak için birbirleriyle birleştirilebilecek farklı modeller bulmayı da kolaylaştırarak popüler hale geldi

Kuruluş ilk olarak öğrenme için kullanılanlar, Bard ve ChatGPT gibi yapay zeka sohbet robotlarının yanı sıra Snap’in My AI ve DALL-E gibi üretken yapay zeka ürünleri de dahil olmak üzere 10 popüler uygulamayı 5 puanlık bir ölçekte inceledi

Bu, Common Sense Media’nın bugünkü lansmanına yol açtı Hareket, böyle bir hizmete olan ilgilerini ölçmek amacıyla ebeveynler arasında yapılan bir anketle tetiklendi Common Sense, yapay zekanın ürettiği yanlış bilgilerin kullanıcıların dünya görüşlerini şekillendirebileceği ve gerçeği kurgudan ayırmayı daha da zorlaştırabileceği konusunda uyardı dedi (Yorum isteklerine hemen yanıt verilmedi

Common Sense Media’nın kurucusu ve CEO’su James P ”

TechCrunch’ın kendi testlerinde muhabir Amanda Silberling, Snapchat’in My AI üretken AI özelliklerinin aktif olarak zararlı olmaktan çok genellikle daha garip ve rastgele olma eğiliminde olduğunu buldu, ancak Common Sense Media AI sohbet robotuna 2 yıldız verdi, bunun yaş ayrımcılığı, cinsiyetçilik ve kültürel stereotipler etrafındaki haksız önyargıları güçlendiren bazı tepkiler ürettiğini belirtti Kuruluş, özellikle “farklı geçmişlere ve lehçelere” sahip kullanıcılar için bu botlarda da önyargı oluşabileceği konusunda uyardı Ayrıca yanlış bilgi veya yapay zeka halüsinasyonları üretebilir ve stereotipleri güçlendirebilirler

Diğer üretken AI modelleri gibi DALL-E Ve Kararlı Difüzyon diğer kaygıların yanı sıra kadınların ve kızların nesneleştirilmesi ve cinselleştirilmesi eğilimi ve toplumsal cinsiyet stereotiplerinin güçlendirilmesi gibi benzer risklere sahipti

Snap, My AI’nin isteğe bağlı bir araç olduğunu ve Snapchat’in bunun bir sohbet robotu olduğunu açıkça belirttiğini ve kullanıcılara sınırlamaları konusunda tavsiyelerde bulunduğunu belirterek, kötü incelemeyi geri çevirdi “Tüm üretken yapay zeka, modellerin büyük miktarda internet verisi üzerinde eğitilmiş olması nedeniyle çok çeşitli kültürel, ırksal, sosyoekonomik, tarihsel ve cinsiyet önyargılarına ev sahipliği yapıyor – ve değerlendirmelerimizde de tam olarak bunu bulduk

Common Sense’in derecelendirmelerinin orta kademesinde Google’ınki gibi yapay zeka sohbet robotları vardı Ozan (daha dün resmi olarak gençlere açıldı), SohbetGPTVe Yürümeye Başlayan Yapay Zeka “Derecelendirmelerimizin daha fazla geliştiriciyi yanlış bilgilerin yayılmasını sınırlayan korumalar oluşturmaya ve gelecek nesilleri istenmeyen etkilerden korumak için üzerlerine düşeni yapmaya teşvik edeceğini umuyoruz )

İnternetteki herhangi bir yeni araç gibi, bu üretken yapay zeka modelleri de pornografik materyaller üretmek için kullanılıyor