Teknoloji
Giriş Tarihi : 26-10-2021 17:57   Güncelleme : 27-10-2021 02:28

Facebook Kağıtlarından öğrendiğimiz sekiz şey

Frances Haugen tarafından sızdırılan Facebook Belgeleri (veya Facebook Dosyaları), Facebook'un kaotik iç işleyişini ve Mark Zuckerberg'in genellikle endişe verici seçimlerini gösteriyor.

Facebook Kağıtlarından öğrendiğimiz sekiz şey

Aylardır Facebook, The Wall Street Journal'dan başlayarak hükümet yetkililerine ve şirketle ilgilenen hemen hemen tüm kuruluşlara yayılan, muhbir Frances Haugen'den sürekli olarak belge sızdırılmasıyla sarsıldı. Şimdi, bu belgeler çok daha fazla kamuya açık hale geliyor ve bize, şirketle doğrudan ilgisi olmayan herhangi birinin şimdiye kadar sahip olduğu Facebook operasyonlarına en kapsamlı bakışı veriyor.

Belgeler, SEC'e yapılan ve sağlanan açıklamalardan kaynaklanmaktadır. Redakte edilmiş biçimde Haugen tarafından Kongre'ye. Verge ve diğer haber kuruluşlarından oluşan bir konsorsiyum, Facebook Kağıtları olarak adlandırdığımız belgelerin düzeltilmiş versiyonlarını elde etti. Belgeleri almak için, bu hafta onlarla ilgili raporlarımızı yayınlamaya başlamayı kabul ettik, ancak onlar hakkında belirli bir şekilde haber yapmak veya diğer yayınlarla ele aldıklarımızı koordine etmek zorunda değiliz.

Dosyalar hakkında zaten bazı raporlar hazırladık ve önümüzdeki haftalarda bunları bildirmeye devam edeceğiz. (Bir sürü sayfa var.) Bu, belgelerdeki her şeyin kapsamlı bir listesi değil ve daha fazlasının çıkmasını beklemelisiniz. Bunun yerine, şimdiye kadar bizim için en çok göze çarpan dosyaların bir özeti olarak düşünün.

Mart 2021 tarihli bir belge, bir çalışanın platformun ne kadar hazırlıksız olduğu konusunda alarm verdiğini gösteriyor. Notta, "Yorumlarda aşı tereddütü çok yaygın" yazıyor. “Aşı konusunda tereddütlü yorumları tespit etme becerimiz İngilizcede kötü ve temelde başka yerde yok. Özellikle yorumlarda aşı tereddütünü hedefleyen Politika yönergelerine ihtiyacımız var.”

(Editörün notu: Bir Facebook çalışanının tam adını içerdiğinden belgenin kendisini yayınlamıyoruz.)

Başka bir çalışan dahili bir yorumda "Yorumlar FB hakkındaki yanlış bilgilerin önemli bir kısmıdır ve şu anda uygulama ve şeffaflık açısından bizim için neredeyse tamamen kör bir noktadır" diyor.

"Aşılarla ilgili İngilizce gönderiler için. , yorumlar arasında aşı tereddüt prevalansı yüzde 50.”

Belge, Facebook'un zaten pandemi tarafından oluşturulan platform dinamiklerine adanmış bir "COVID-19 karantina savunması" projesine sahip olduğunu açıkça ortaya koyuyor. Bu ekip ayrıca yanlış bilgilendirme için önemli otomatik işaretleme sistemleri oluşturmuştu - ancak dosyalara göre, bunlar aşı karşıtı yorumları küçümsemek için kullanılmıyorlardı.

Yorumların anlamlı bir şekilde denetlenememesi şirket dışında fark edildi. Mayıs ayındaki İlk Taslak Haber araştırması, bir milyondan fazla takipçisi olan bir avuç büyük haber kuruluşunun yorumlarına baktı ve aşıyla ilgili hikayeler hakkındaki her beş yorumdan birinin bir tür aşı karşıtı yanlış bilgi içerdiğini buldu.

Belgeler, Facebook'un sorunun farkında olduğunu ve Birinci Taslak'ın sorunu hafife almış olabileceğini gösteriyor. Gönderiyle ilgili bir yorumda, "Aşılarla ilgili İngilizce gönderiler için, yorumlar arasında aşı tereddütünün yaygınlığı yüzde 50'dir."

Şirket henüz yorumu incelemediği için konunun diğer yönleri tamamen incelenmedi. sorun. Gönderi, “Şu anda Grup yorumlarının ciddi bir sorun olup olmadığını anlamıyoruz” diyor. "'İyi gönderi, kötü yorum' sorununun büyük bir sorun olduğu bizim için açık, ancak [aşı tereddütlü] gönderilerine yapılan [aşı tereddütlü] yorumların zararı artırdığı o kadar açık değil."

Apple Facebook'u çevrimiçi olarak yasaklamakla tehdit etti " Köle pazarları”

Sızdırılan bir SEV (veya Site Etkinliği) raporuna göre, Apple'ın uygulamalarını iOS App Store'dan çıkarmakla tehdit etmesinin ardından Facebook, insan kaçakçılığı içeriğini ele almak için çabaladı. The Wall Street Journal'ın Facebook Files haberinde kısaca atıfta bulunulan rapor, Apple'ın 23 Ekim 2019'da Facebook ve Instagram'ı iOS'tan çekmekle tehdit ettiğini gösteriyor.

Apple, BBC News Arapça bir haberle bilgilendirildi. Satıcıların alıcıları pasaportlarına el koymak gibi şeyler yaparak işçilere kötü davranmaya teşvik ettiği Instagram ve diğer uygulamalar aracılığıyla ev işçilerinin satıldığını tespit etti.

politika "büyük olasılıkla ev hizmetçilerinin sömürülmesine yol açıyordu"

Facebook'un sorunun farkındaydı ama kapsamını anlamamıştı, çünkü çok az içerik (bulunan malzemenin yüzde 2'sinden azı) kullanıcılar tarafından rapor edilmişti.

Facebook ayrıca, işe alım ajansları gibi yerleşik gerçek işletmelerin ev işçileriyle ilgili reklamlar yayınlamasına izin veren bir politika istisnasını da kaldırdı. Facebook, işletmeler yasal olsa bile, politikanın "büyük olasılıkla ev hizmetlilerinin sömürülmesine yol açacağını" belirledi.

Apple, hafifletme önlemlerinden memnun kaldı ve olay bir hafta içinde kapatıldı.

Civic Integrity ekibi genellikle Zuckerberg tarafından doğrudan engelleniyordu

Gazetelerin ortaya çıkardığı en endişe verici olaylardan biri, Mark Zuckerberg'in Facebook'u garanti altına almak için kişisel olarak müdahale etmesiydi. platformdaki "devlet karşıtı" içeriğe karşı daha agresif bir şekilde ılımlı olmayı kabul ederek Vietnam'da oluşturulan baskıcı bir yasaya uyacaktır. Anekdot, Washington Post'un gazeteler hakkındaki raporuna öncülük ediyor ve Haugen tarafından Kongre'den önce açıklanan çok daha rahatsız edici bir dinamiğe oynuyor. Facebook'un Dürüstlük ekibinin Facebook'u nasıl daha az zararlı hale getirebileceği konusunda birçok fikri vardı, ancak genellikle Zuckerberg'in kendisi tarafından reddedildi.

Bloomberg News konuyu daha ayrıntılı olarak inceliyor ve şirketin, içeriğin doğal viralliği nedeniyle bunalmış zararlı içeriği sıralamak için kendi çabalarını nasıl bulduğunu gösteriyor.

Ekim 2019'da bir çalışan, "Bilgi ekosistemimizin durumunu gerçekten değiştirmek istiyorsak, sistemlerimizde bir evrime değil, bir devrime ihtiyacımız var" diye yazdı. Kötüyü ne kadar alt sıralarsan al.”

Facebook, daha agresif bir ılımlılık için test senaryosu olarak bir Alman aşı karşıtı hareketi kullandı

Başka bir belge detayı Facebook'un, şirketin moderatörlerinin bir Alman komplo hareketinde daha agresif bir ılımlılık yaklaşımını test ettiği sözde “Querdenken deneyi”. Facebook'un Tehlikeli İçerik ekibi zaten yeni bir sınıflandırma geliştiriyordu - "zararlı bir konu topluluğu" - ve büyüyen Querdenken, sınıflandırmanın pratikte nasıl çalışacağına dair bir deney olarak seçildi.

Bir Facebook çalışanının belgede yazdığı gibi, "bu, gelecekte bu sorunları nasıl çözeceğimizi bildirmek için iyi bir vaka çalışması olabilir"

"bu, nasıl yapılacağını bildirmek için iyi bir vaka çalışması olabilir. bu sorunları gelecekte çözeceğiz”

Querdenken, QAnon gibi daha aşırı gruplarla benzerlikler göstererek Almanya'nın önde gelen karantina ve aşı karşıtı gruplardan biri haline geldi.

(Daha sonraki bir rapor, “bazı ilk örneklerden elde edilen sonuçların umut verici olduğunu” söylüyor.) Ve şirketin kamuoyuna yaptığı açıklamalara bakılırsa, bu, ılımlılık politikasında anlamlı bir değişiklikle sonuçlandı: Eylül ayında Facebook, “koordineli sosyal zarar” konusunda yeni bir politika duyurdu. Uygulamadaki yeni yaklaşımın bir örneği olarak özellikle Querdenken'den bahseder.

Diğer birçok belgeden farklı olarak Querdenken deneyi, Facebook'un denetleme sisteminin nispeten etkili olduğunu gösterir. Şirket, grubu önemli bir zarara yol açmadan önce belirledi, uzun vadeli sonuçlara yönelik bir gözle harekete geçti ve gerçekleştikten sonra politika değişikliği konusunda şeffaftı. Ancak olay, daha geniş politikaların genellikle belirli gruplara yönelik olarak yeniden yazılmasıyla, politika ve uygulama arasındaki etkileşimin ne kadar karmaşık olabileceğini gösteriyor. Ve Querdenken destekçileri için, dünyanın en büyük sosyal platformunun kurallarının, hareketlerinin halk desteği kazanmasını önlemek için özel olarak yeniden yazıldığını öğrenmek endişe verici olabilir.

Facebook'un 6 Ocak'taki tepkisi şekillendi. aksaklıklar ve gecikmeler

Facebook, yanlış bilgilendirmeyi, şiddet çağrılarını ve 2020 başkanlık seçimlerini bozabilecek diğer materyalleri sınırlamak için aşırı "kırıcı önlemler" geliştirmeyi tartıştı.

Eleştirmenler, dahili olarak, Facebook'un yanlış bilgi ile Facebook'un ifade özgürlüğü olarak korumak istediği içerik arasındaki çizgiyi belirleyen "zararlı ihlal etmeyen anlatılar" için yeterli bir oyun planına sahip olmadığını söyledi. Grupların adlarını "Çalmayı Durdur" gibi terimlerle değiştirmesini önleyecek bir değişiklik gibi bazı planlar, görünüşe göre teknik sorunlar nedeniyle engellendi.

Facebook, Haberlerini yeniden dengelemeye çalışıyordu. “Sivil sağlık” beslemesi

Wall Street Journal, ilk olarak haber kuruluşlarının ve siyasi partilerin, kullanıcıların olumsuz ve abartılı içeriği tercih etmesinden şikayet ettiğini ortaya çıkardı. Facebook, sorunu çözmenin yollarını düşünüyordu ve bir yöntem, öncelikle anlamlı sosyal etkileşimlere veya oturum süresine odaklanmak yerine "yurttaş sağlığı" için optimize etmek üzere Haber Kaynağını yeniden ağırlıklandırmayı içeriyordu.

Adlı bir ürün brifingi. "Toplum Sağlığı Sıralaması" Facebook, "insanların Facebook'taki siyasi içeriğin düşük kaliteli, güvenilmez ve bölücü olduğunu düşündüklerini" ve mevcut sıralama sisteminin "kullanıcılar için tamamen değerli bir sivil deneyim yaratmadığını" kabul etti. (Belge yorum tarihlerine dayanarak, belge 2020 yılının Ocak ve Şubat aylarında üretildi.)

"İnsanlar Facebook'taki siyasi içeriğin düşük kaliteli, güvenilmez ve bölücü olduğunu düşünüyor"

Belge, Facebook'un sıralama algoritmasının önerildiğini söylüyor Kullanıcıların kendilerinin değerli bulduklarını bildirmedikleri sivil içerik - daha önceki sızıntıların belirttiği bir şey, anlamlı sosyal etkileşimler (MSI) ve diğer katılım tabanlı ölçümlerle ilgili bir sorundu.

Bu bazen daha da büyük sorunları ortaya çıkardı - çünkü Facebook anketlerde ankete katılanların yüzde 20 ila 30'unun "bilinen Sivil nefretin "topluluk için iyi" olduğunu söyleyebileceğini keşfetti. Facebook, "bireysel kullanıcı değerli bulsa bile - politikayı ihlal eden içeriğin - örneğin Civic Hate veya Civic Misinfo gibi - azaltılmasına öncelik verme" stratejisine karar verdi ve sivil nefret söylemi, yanlış bilgilendirme ve kışkırtıcı içeriğin yaygınlığını azaltmayı amaçladı. en az yüzde 10.

Şirket, Şubat 2020'de rastgele bir grup kullanıcının gördüğü "yurttaşlık" Haber Kaynağı içeriği miktarını biraz artırarak ve ardından bu içeriği farklı metrikler (MSI dahil) aracılığıyla optimize ederek yeniden dengeleme denemeleri yaptı. ve insanların içeriğin "zaman ayırmaya değer" olup olmadığı). Ayrıca, kullanıcıların sivil Haber Kaynağı içeriği hakkında ne hissettiklerini öğrenmek için bir anket yaptı. Şirket, Mart 2020'ye kadar yeni bir optimizasyon sistemi seçmeyi hedefliyordu - ancak koronavirüs pandemisinin bu planları nasıl değiştirmiş olabileceği net değil.

Facebook ve Instagram'da beğeniler neden hiçbir zaman gizlenmedi güçlü>

Instagram'da beğeni sayılarını gizlemek için geçen yılın başlarından itibaren oldukça yaygın olarak kullanılan bir plan, değişikliğin test edilmesi reklam gelirlerine zarar verdiği ve insanların uygulamayı daha az kullanmasına yol açtığı için hiçbir zaman gerçekleşmedi.

Instagram'da çalışan çalışanlar, uygulamayı gençler için basınçsızlaştırmanın bir yolu olarak bunu faturalandırmak istedi, ancak Facebook uygulamasında çalışan ekip bu fikirde değildi. Instagram beğenileri gizlemeyi başardıysa, sunum, Facebook'taki liderliğin onları gizlemediği için "Facebook uygulamasına geri tepmeyi en aza indirmek" ve yine de "Facebook şirketine kadar kredi merdivenlerini sağlamak" istediğini ayrıntılarıyla anlatıyor.

Başlangıçta planlandığı gibi varsayılan olarak tüm kullanıcıların beğenilerini gizlemek yerine, Instagram daha önce insanların beğenilerini gizlemeyi seçmesine izin vererek yarım bir önlem aldı.

Facebook'un “sivil grupları” ” politikası basit bir tasarım kusuru yüzünden tökezledi

Ekim 2020'de Facebook, ABD'deki kullanıcılara sivil ve siyasi grupları önermeyi bırakacağını duyurdu. 2016 seçimleri. (Politika 6 Ocak isyanından kısa bir süre sonra kalıcı hale getirildi.) Ancak aslında bu grupları Facebook tavsiye akışlarından uzak tutmak şirket için büyük bir zorluktu ve dahili bir belge bize bunun nedenine dair yeni bir fikir veriyor.

Belge, Facebook çalışanlarının, PR ekibi tarafından işaretlenen ve öneri akışlarında hala politikayı açıkça ihlal eden 30 ayrı grubun bulunduğunu tespit eden herkese açık bir makaleyle boğuştuğunu gösteriyor.

Kayıpları azaltmak neredeyse tüm sorunları çözebilirdi

Facebook belgesinde "Sızıntı en azından Kasım 2020'den beri var" yazıyor.

Belgenin hangi makale olduğu belli değil. ancak o sırada uygulama başarısızlıklarını tespit eden bir dizi rapor vardı. İşaretleme, bir grup grubun o Ocak ayında ve yine Haziran ayında kaydığını tespit etti. Şu anda bile, sivil gruplar politikasının amaçlandığı gibi uygulanıp uygulanmadığı net değil. O zamanlar, çoğu gözlemci kavramsal zorluğa odaklanmıştı: Hangi grupların “sivil” sayıldığı arasında net bir çizgi çizmek zor ve onu Facebook boyutunda bir platformda ölçeklendirmek daha da zor.

Ancak şirket içi rapor, asıl sorunun çok daha basit olduğunu gösteriyor. Facebook'un izleme sistemi (raporda “Lazer” olarak anılır) bir sayfanın “yurttaş grupları” kategorisine girip girmediğini belirlerken yalnızca son yedi günün içeriğine bakmak üzere eğitilmişti, bu da sayfaların sürekli olarak filtrelenip görüntülendiği anlamına geliyordu. algoritma tarafından görüntülenen süre değiştikçe. Pratikte bu, Trump yanlısı veya Biden yanlısı bir grubun, birkaç günlük daha az belirgin siyasi içerik yayınlayarak etiketi kolayca atlatabileceği anlamına geliyordu.

Dolayısıyla, yalnızca abone kaybını azaltmak, raporun tespit ettiği sorunların neredeyse tamamını çözebilirdi.

Geçtiğimiz beş yılda buna benzer pek çok haber çıktı: Facebook ölçülü ve sorumlu görünen bir politika belirliyor, ancak (genellikle bir gazeteciden gelen) üstünkörü test, yasaklı içeriğin hala kolayca kayıp olduğunu gösteriyor. Dışarıdan bakıldığında, sorunun ne kadarının Facebook'taki yetersizlik ve ne kadarının bu büyüklükteki bir platformu yönetmenin doğasında var olan zorluk olduğu genellikle belirsizdir.

Ancak bu durumda, belgeler suçu tam olarak ortaya koyuyor. Facebook'ta şirket olarak. Bu, genel olarak ülke için büyük çıkarları olan ve nasıl uygulandığı konusunda bariz bir incelik olan yüksek profilli bir politikaydı. Bu kadar yüksek bir kayıp oranı, hedeflenen grupların çatlaklardan kaçmasını kaçınılmaz hale getirdi ve şirket, muhabirler onları çağırana kadar bunu fark etmedi.

 

 

.