Pinterest’in Yeni Algoritmaları Her Vücut Tipini Görmenizi İstiyor

Sosyal medya algoritmaları genellikle beyaz, ince bedenlere yönelik önyargıları teşvik eder. Pinterest, tüm şekil ve boyutlardaki görüntüleri ortaya çıkarmak için makine öğrenimini kullanıyor.

Natalie Craig kısa süre önce Pinterest’te skort ve kargo pantolonu aradı, hizmetteki geçmiş keşiflerinden farklı bir şey fark etti: Ona benzeyen kadınlar sonuçların arasına serpiştirildi – ve sorgusuna “artı boyut” gibi niteleyiciler eklemeden.

“Ben 52 yaşındayım” ve 20 bedenim, bu yüzden ‘kısa beden okula dönüş kıyafet ilhamı’ demek zorundayım” diyor Craig, çevrimiçi moda içeriğini bulmak için her zamanki zorluğundan bahsediyor. “Şimdi, o zihinsel jimnastiği üstlenmek zorunda değilim.”

Craig’in özgürleştirici yeni Pinterest deneyimi, şirketin son aylarda sessizce piyasaya sürdükten sonra bugün açıkladığı çeşitli vücut tiplerini ortaya çıkarmak için tasarlanmış güncellenmiş algoritmalara erken erişime sahip olmaktan geldi. Kısmen, farklı vücut şekillerini, formlarını ve boyutlarını tanıyabilen yeni ortaya çıkan bir AI sistemi tarafından desteklenmektedir.

Büyük teknoloji platformları arasında yeni bir hamleyle, Pinterest, algoritma ayarlı sosyal medya hizmetlerinin, güzelliğin nihai standardı olarak ince, açık tenli kadınlara yönelik uzun süredir devam eden önyargıyı artırma yolunda kafa kafaya saldırmaya çalışıyor. Akademik araştırmalar ve hatta şirketlerin iç çalışmaları, bu takviyenin bazı kullanıcıların kendi bedenlerini genellikle çevrimiçi gördükleriyle uzlaştırmak için mücadele etmelerine neden olduğunu, zihinsel travmaya veya yeme bozukluklarına neden olduğunu göstermiştir.

Pinterest, teknolojisini, her şekil ve boyuttaki insanın 5 milyardan fazla görüntüsüne makine öğrenimi uygulayarak geliştirdi. Pinterest’in kapsayıcı ürün ekibinin başkanı Annie Ta, kullanıcıların hizmetin çeşitli vücut tiplerini kutladığını ve daha alakalı hissettiren içerikler sunduğunu hissetmelerini sağlamayı amaçladığını söylüyor. Ta, “Misyonumuz, insanların ilham almalarına yardımcı olmaktır ve ürün deneyimine dahil olduğunuzu hissetmediğiniz sürece ilham alamazsınız” diyor.

Craig gibi çevrimiçi olarak insan vücudunun daha temsili bir görünümünü arayan insanlar, alakalı görüntüleri bulmak için genellikle belirli arama sorguları ve diğer püf noktaları geliştirirler, ancak sinir bozucu olmaya devam ettiğini söylerler. Teknoloji platformları sorunu büyük ölçüde görmezden geldi. Dall-E gibi AI görüntü üreteçleri, eğitim verilerinde bulunan gerçekçi olmayan klişeleri sürdürür.

İnsan formundan yararlanan diğer işletmeler de her bedene hizmet etmiyor – ABD’deki ortalama bir kadın 18 beden civarında giyiyor, ancak çoğu giyim markası daha büyük değil. Araştırmalar ve yaşanmış deneyimler, daha büyük insanlara karşı önyargının, işe alım, tıbbi bakım, eğitim ve algoritmalar dahil olmak üzere toplumun birçok alanında yaygın olarak kabul edildiğini göstermektedir. Utandırılırlar, zorbalığa maruz kalırlar ve bağlamından bağımsız olarak haksız yere sağlıksız olarak etiketlenirler. “Şişman insanlara ve özellikle de şişman oldukları için özür dilemeyi reddeden şişman insanlara yönelik bir kötülük var” diyor Pinterest’e yeni özelliği hakkında tavsiyede bulunan kendini şişman hakları siyasi aktivisti olarak tanımlayan Tigress Osborn.

Berkeley Medya Çalışmaları Grubu tarafından geçen yıl yapılan bir inceleme, popüler haber kaynaklarının 12 ay boyunca kilo kaybı hakkında 18.000’den fazla makale yayınladığını, ancak “şişmanlık karşıtlığı” hakkında sadece 48 makale yayınladığını buldu. Ultra ince veya çömelmiş insanlar da hayatı kolay değildir. Osborn liderliğindeki ABD’li kar amacı gütmeyen bir kuruluş olan Ulusal Yağ Kabulünü Geliştirme Derneği’nin boyut ayrımcılığını yasaklamaya yönelik savunuculuğu, Kasım ayında başlayan New York City yasağı da dahil olmak üzere eyalet binalarında ve şehir konseylerinde buhar kazanıyor.

Osborn ve Pinterest’ten Ta, aylık 465 milyon kullanıcısına daha çeşitli vücut tiplerini tanıtarak, platformun vücut büyüklüğü ve şekli hakkındaki kamu algılarını yeniden şekillendirmeye yardımcı olabileceğini umuyor. Ta, “Daha fazla geçmişten daha fazla insana maruz kalırsanız, umarım daha hoşgörülü ve kabul edici bir dünya inşa ederiz” diyor.

Bu kulağa idealist gelebilir, ancak bunun aynı zamanda iyi bir iş olduğunu iddia ediyor. “Reklamverenler içeriklerini gerçekten olumlu içeriklerle birlikte görmek istiyor, değil mi?” Ta diyor. Etkileyici ve blog yazarı Craig, satıcı ödeme sayfalarına bağlantı veren yayınlar aracılığıyla doğrudan Pinterest’ten daha fazla alışveriş yapmayı bekliyor.

Pinterest’in yeni sistemi şu ana kadar yalnızca moda, makyaj ve düğünlere bağlı “pimler” olarak bilinen yayınlarda aktif. Arama sonuçlarının yanı sıra kullanıcılara sunulan önerilen ve ilgili pinlere de girer. Yalnızca ABD, İngiltere, İrlanda, Kanada, Avustralya ve Yeni Zelanda’daki insanlar vücut tipine duyarlı AI küratörlüğüyle karşılaşacak. Teknoloji dünyanın dört bir yanından organları tanıyabilse de, diğer ülkelere genişletmek, yerel kültürel normların ve yasaların dikkate alınmasına tabi olacaktır.

Vücut çeşitliliği projesi, Pinterest’in çeşitli cilt tonlarını ve saç modellerini tanıyabilen algoritmaların daha önceki öncü lansmanlarına dayanıyor. Pinterest’in Rhode Island’ın emeklilik fonu ve diğer hissedarlarla bir yıl önce vardığı bir anlaşmayla, şirketi kadın ve Siyah personele karşı ayrımcılık yapmakla suçlayan, 2020’de sanal bir grev başlatan ve eski çalışanların kamuya açık iddialarını ortaya çıkaran bir davayı çözmek için vardıkları bir anlaşma ile destekleniyorlar.

Anlaşmanın yaklaşık 90 koşulunun on üçü, Ta’nın konumunu ve kapsayıcı ürün ekibi için finansman ve gözetimi güçlendiren ürün dahil etmeyi kapsıyor. Anlaşmaya göre, Pinterest genel olarak çeşitlilik, eşitlik ve dahil etme projelerine 10 yıl boyunca 50 milyon dolar harcamayı taahhüt etti ve bir mahkeme dosyasına göre danışmanlar, danışmanlar ve eğitim konusunda ilk yılda 5,4 milyon dolarlık bir sekme oluşturdu. Çabalara katılan bir kapsayıcılık ve çeşitlilik yöneticisi olan Megan D’Alessio, anlaşmanın “Pinterest’te birçok harika çalışmayı teşvik ettiğini ve güçlendirdiğini” söylüyor.

Anlaşma, hissedarların eylemlerinin teknoloji platformlarının bazı eksikliklerinin üstesinden gelmek için kalıcı bir çaba göstermelerini nasıl sağlayabileceğini gösteriyor. Davacılar Pinterest’i 10 yıldan fazla yatırım yapmaya zorladılar, çünkü şirketler anlamlı bir değişim yaratmadan çeşitlilik ve dahil etme programlarına çok hızlı bir şekilde harcıyorlar, avukat Julie Goldsmith Reiser mahkeme dosyasında yazdı. Microsoft, Meta, Google ve Twitter gibi diğer teknoloji şirketlerinde, eski çalışanlara ve haber raporlarına göre, etik veya kapsayıcı ürün geliştirme üzerinde çalışan ekiplere yapılan işten çıkarmalar ve bütçe kesintileri işlerini yavaşlattı. Pinterest uzun mesafe için hazır.

Eylem Çağrısı

Pinterest, stajyerler fikri ortaya attıktan sonra 2018’de cilt tonu filtrelerini başlattı, ancak ürün dahil etme çalışmaları 2020’ye kadar gevşek bir şekilde organize edildi. O yıl, George Floyd ırksal adalet protestoları ABD ve diğer ülkelere yayılırken, Ta, ürün özelliklerini yeniden tasarlamak için Pinterest’teki işçileri bir araya getirdi. Mühendisleri ve diğer personeli, şu anda iki düzineden fazla kişiden oluşan yeni bir ürün ekleme ekibine çekti. Ta, “Aslında 2020 yazını şirket etrafında bir roadshow yaparak geçirdim” diyor.

Yeni grup, 2021 yılında altı ülkede kıvırcık ve coily gibi seçeneklerle saç modeli filtresini piyasaya sürdü. Şimdiye kadar daha azıyla daha fazlasını yapmaya çalışan insanlar için inceltme seçeneği yok, ancak geçen yıl Pinterest saç filtrelerini dokuz ülkeye daha genişletti. Ta’nın grubu ayrıca teknolojiyi şirket genelinde daha fazla arama ve özelliği kapsayacak şekilde genişletti. Bu yıl birkaç ülkede güncellenmiş algoritmaların erken testleri, kullanıcıların sonuçlarda çeşitli cilt tonları aldığı güzellik ve moda aramalarının sayısını, bir yıl önceki aynı döneme kıyasla yüzde 302 artırdı. Saç modeli filtreleme kullanan günlük arama yapanların sayısı, 2023’ün ilk çeyreğinde bir yıl öncesine göre yüzde 41 arttı.

Sosyal medyada ve kullanıcı araştırmalarında, Pinterest kullanıcıları vücut tiplerinin daha geniş bir temsilini en çok talep edilen özellik haline getirdi. Ta, “Bu tür bir ‘sıska güzeldir’ klişesini teşvik ettiğimizi tekrar tekrar duyduk” diyor. Pinterest’in kurucu ortağı ve bu yılın başlarına kadar CEO’su Ben Silbermann da harekete geçmek istedi. “Ben bazen gerçekten kör bir insandır ve onunla başka bir şey hakkında bir incelemede olurdum ve ‘Neden henüz vücut tipini inşa etmedik?’ Bunun için çok heyecanlıydı,” diyor Ta.

Ta’nın ekibi geçen yılın sonlarında özellik üzerinde çalışmaya başladı. İlk adımlar, Pinterest’in mühendislerini ve tasarımcılarını vücut büyüklüğü konusunda eğitmek ve kullanıcıların tam olarak ne istediğini bulmaktı. Kendisini artı beden olarak tanımlayan DEI yöneticisi D’Alessio, vücut sorunları hakkında daha fazla bilgi edinmek için Bakım Aşaması, TV şovları ve Canavarın Göbeği gibi kitaplar da dahil olmak üzere podcast’lerin bir listesini paylaştı. Ayrıca, Pinterest personeline, Stanford’da öğrettiği 2021 sınıfının, kilo hakkındaki damgalamaları yeniden düşünmeyi teşvik eden yağ özgürlüğü için tasarım konusunda hızlandırılmış bir kurs versiyonunu verdi. D’Alessio, şirketin ayrıca, vücut tipi katılımına odaklanan yeni ürünle uyumlu olduklarından emin olmak için iç işyeri politikalarını da gözden geçirdiğini söylüyor.

• “İnsanlar göbek yuvarlanmasını istiyorlar ve gerçekten büyük bacakları, kırışıklıkları, yamalı saçları ve farklı yeteneklere sahip insanları görmek istiyorlar.” / KATIE ELFERING, PINTEREST

Pinterest’in kapsayıcı özellikler için kıdemli ürün araştırmacısı Katie Elfering, kullanıcıların daha büyük vücut boyutlarını gösteren içerikleri ne kadar sık aradıklarına baktığında, veriler onu üzdü. Kullanıcı günlükleri, vücuda özgü özelliklerle ilgili moda aramalarının yarısından fazlasının, geçen yıl boyunca İngilizce konuşulan birkaç büyük ülkede “artı boyut” a atıfta bulunduğunu ortaya koydu. Hayal kırıklığına uğramış kullanıcılar vücut çeşitliliğini aramak için ellerinden gelenin en iyisini yapıyorlardı. Elfering, “Göbek yuvarlanmalarını istiyorlar ve gerçekten büyük bacakları, kırışıklıkları, yamalı saçları ve farklı yeteneklere sahip insanları görmek istiyorlar” diyor.

Pinterest, vücut katılımını artıracak fikirler geliştirmek için son birkaç ay içinde Craig gibi bazı ABD kullanıcılarıyla “tasarım reçelleri” nde çalıştı. Önemli sorulardan biri, kullanıcıların kendilerine benzer vücut tipine sahip insanları gösteren sonuçları görmelerine izin vermeye mi yoksa herkese daha fazla çeşitlilik göstermeye mi odaklanılacağıydı. Çok fazla tartışmadan sonra, Pinterest ekibi herkesi çeşitli vücut boyutlarına maruz bırakmanın toplumsal faydalarının en önemli olduğuna karar verdi. Bu özellik varsayılan olarak farklı olacaktır. Elfering, “Sonuçlarımızda insanların tüm vücut tiplerini, şekillerini ve boyutlarını gördüklerinden emin olmak istiyoruz” diyor.

Pinterest, kullanıcıların belirli bir boyuta veya forma odaklanması için henüz bir vücut tipi filtresi başlatmıyor. CTO Jeremy King, kullanıcıların bu seçeneği isteyip istemediğinin açık olmadığını söylüyor. “İnsanları iğnelediğimizde, her türlü stili, her türlü vücut tipini sabitliyorlar” diyor, oysa saç ve cilt içeriğinde insanlar kendi özelliklerine uyan ürünler arıyorlar. Bu karar, bir vücut tipi filtresi tarafından sağlanan seçeneklerin nasıl adlandırılacağına dair zorlu zorluktan kaçındı. Kullanıcılara kendi bedenleri için tercih ettikleri terimleri soran araştırmalarda, insanlar çok az tutarlılık gösterdi, bazıları kıyafet boyutu veya yüksekliği, bazıları ise geometrik veya meyve şekilleri kullandı.

Pinterest’in tasarım seçimlerinin mühendislik atılımlarıyla birleştirilmesi gerekiyordu. Pinterest’te kıdemli bir makine öğrenimi mühendisi ve kapsayıcı AI teknoloji lideri olan Pedro Silva, şirketin personel tarafından etiketlenen bir dizi farklı vücut tipinin binlerce görüntüsü üzerinde eğitilmiş bir sinir ağı geliştirdiğini söylüyor.

Son sistem temel olarak, bir vücudun AI sisteminin geçmişte gördüğü tüm bedenlerin aralığına nerede düştüğünü analiz ettiği her yeni görüntü için tahmin eder. Bu tahmini yapmadan önce, sistem bir fotoğraftaki bir kişinin vücudunun şeklini diğer görsel öğelerden izole etmeli, büyük paltoları, yayılmış kolları ve çırpınmış elbiseleri hesaba katmalıdır. Pinterest, çeşitli cinsiyet ifadelerine, etnik kökenlere ve fiziksel yeteneklere sahip insanların videoları ve bedenleri üzerinde çalışacak teknolojiye sahip olduğunu söylüyor.

Arama sonuçlarında ve Pinterest’in çeşitliliğe yönelik algoritmalarının devreye girdiği diğer yerlerde, belirli bir kullanıcıya gösterilecek en alakalı pinleri belirler, ancak aynı zamanda farklı vücut tiplerini veya cilt tonlarını gösteren aynı alaka düzeyi puanına sahip bir dizi iğneyi de değiştirir. Pinterest, tüm vücut tiplerini döndüren modayla ilgili aramaların sayısının, ABD’de teknolojiyi kullanıma sunmaya başladığı için ikinci çeyrekte bir yıl öncesine göre yüzde 454 arttığını söyledi.

Tutulacak Sözler

Pinterest, algoritmaları vücut çeşitliliğini daha kabul edilebilir hale getirmeye çalışan tek teknoloji şirketi değil. Çevrimiçi tasarım araçları sağlayıcısı Canva, arama algoritmalarını, din, dil, cinsellik ve göz rengi ve vücut tipi gibi görünüm belirteçleri dahil olmak üzere sekiz faktöre dayanan görüntüler ve diğer içerik öğeleri için çeşitli sonuçlar sunacak şekilde ayarladı. “Dünyada 8 milyar insanız ve herkesi temsil edebileceğimiz bir noktaya gelmek istiyoruz,” diyor Canva’nın içerik ve keşif başkanı Silvia Oviedo Lopez.

Google, kendi hizmetlerinin kapsayıcılığını da düşünüyor. Dahili araştırmalar, gizli konuları tartışmak için anonim olarak konuşan eski bir çalışana göre, reklamlar ve video gibi hizmetlerdeki ılımlılık ve para kazanma kararlarının, daha büyük bedenlere sahip insanlara karşı önyargılı olabileceğini buldu. Google, insanları haksız yere cezalandırmadıklarından emin olmak için duyarlılık eğitimine ve yorumcular için daha iyi yönergelere yatırım yaptı – örneğin, benzer bir kıyafet içindeki daha ince gövdeli bir kişi aynı oranda çıplak cilde maruz kalsa bile, mayo giyen daha büyük bir kişinin çok fazla cilt gösterdiğini düşünerek. Google sözcüsü Nate Funkhouser, şirketin politikalarını önyargısız bir şekilde uygulamasını sağlamak için reklam sistemlerini ve yönergelerini sürekli olarak değerlendirdiğini söyledi.

Ta, Pinterest’in vücut çeşitliliğini teşvik etmek veya gerektirmek için içerik veya reklam politikalarını ayarlama planının olmadığını, ancak 2021’de diyetle ilgili reklamları yasakladığını ve bunların teşvik etmek istediği olumlu ortamdan dikkat dağıtıcı olduğunu iddia ettiğini söylüyor.

Yasal çözüm, Pinterest’in kapsayıcı ürün projeleri üstlenmesini gerektirse de, teknoloji şirketleri içindeki çeşitlilik projeleri, kâra odaklanan yöneticiler için acil olmaktan daha az hissedebilir. Mayıs 2022’de Google, aramada daha kapsayıcı olmakla ilgili güncellemeler sözü verdi, ancak kullanıma sunulması yavaş oldu. Görsel aramalarda saç rengi filtreleri ve cilt tonlarının daha kapsayıcı bir ölçüsünü kullanmaya yönelik bir arama sıralaması güncellemesi, yayıncıların içeriği cilt tonu, saç rengi ve saç dokusu gibi özelliklerle Google’ın arama algoritmaları tarafından görülebilecek şekilde etiketlemesine yardımcı olacak bir sistem gibi henüz kullanıma sunulmamıştır.

Google Görseller sonuçları şu anda makyajla ilgili sorgular için cilt tonuna ve saç şekillendirme sorguları için saç dokusuna göre filtrelenebilmektedir, ancak her ikisi de yalnızca ABD’de kullanılabilir. İç meseleleri tartışmaya yetkili olmayan projelere aşina olan bir kişi, personel miktarını ve kalitesini azaltmak için maliyet kesintilerini suçladı. Kaynak, “Google için bir öncelik değil” diyor. “Vaat edilenleri yerine getirebilselerdi şok olurdum.”

Google sözcüsü Colette Garcia, kapsayıcı ürünler oluşturmanın şirket için bir öncelik olmadığına itiraz ediyor. “Bu, ekiplerimiz için aktif ve devam eden bir yatırım alanı” diyor. “Ürünlerimizin çeşitliliğin birçok boyutunu yansıtması için iyileştirmeleri sorumlu bir şekilde sunmaya devam ediyoruz.” Şirketin aramadaki bazı ürün listeleri için yeni Sanal Deneme Özelliği, çeşitli üst gövde şekillerini barındıracak şekilde tasarlanmıştır. Ancak “moda” gibi terimler için yapılan aramalar hala sıfır büyük beden insanı ortaya çıkarıyor, diyor şişman savunuculuk grubundan Osborn.

Pinterest, her bedene hizmet edildiğinden ve hizmetinde görünür olduğundan emin olmak için hırslarını sürdürmeye kararlı olduğunu söylüyor. Kullanıcılara gösterebilecekleri içerik çeşitliliğini artırmak için şirket, 12 ülkedeki etkileyicileri ve bağımsız yayıncıları içeriklerini daha iyi tanıtmaları için finanse etmek ve eğitmek için son üç yılda 2,7 milyon dolar harcadı. Kuzey Amerika’da yeterince temsil edilmeyen geçmişlerden gelen büyük boyutlu iğneleyicilere odaklanacak olan en son kohort için başvurular bugün açılıyor.

Programın başkanı Zeny Shifferaw, artık saç stili aramaları için bir niteleyici olarak “Siyah kızlar” eklemek zorunda kalmamasını sevdiğini ve başkalarının da aynı dahil olma hissine sahip olmasını istediğini söylüyor. “Sonuçta birçok farklı marjinal grup için ulaşmaya çalıştığımız şey bu.”