Twitch, Buffalo Saldırganı’nın Canlı Yayın akışını iki dakikadan kısa sürede nasıl durdurdu?

0
3

Geçen hafta sonu, bir tetikçi New York, Buffalo süpermarkette ateş açtığında Twitch’te canlı olarak korkunç bir sahne ortaya çıktı. Sonuçta, on kişi öldürüldü. O zamandan beri milyonlarca insan soğukkanlı katliamın videolarını Facebook gibi platformlarda izledi. Ancak o sırada sadece 22 eşzamanlı izleyici izledi. Twitch, tetikçi ateş açtıktan iki dakika sonra fişi çekti.

Twitch, diğerlerinin özellikle de nispeten daha büyük Facebook’un bocaladığı yerde, canlı içerikte hızla ilerlemeyi başardı. Facebook ayrıca canlı yayınlanan videonun kopyalarını hemen silmek için harekete geçti, ancak daha az bilinen Streamable sitesindeki görüntülerin bağlantısı Facebook’ta 46.000 paylaşım topladı ve sitede 10 saatten fazla kaldı. Bu haftanın başlarında The Washington Post’a yaptığı açıklamada, Facebook’un ana şirketi Meta, videoya olan bağlantıları kalıcı olarak engellemeye çalıştığını, ancak videoyu paylaşmak için kuralları aşmaya çalışan kullanıcıların “çelişkili” çabalarıyla karşı karşıya kaldığını söyledi.

Twitch’in sözcüleri, Buffalo tetikçisinin izinden gidebilecek kişilere sırları vermekten korktuğu için perde arkasındaki hareketleriyle ilgili kesin ayrıntılar vermekte tereddüt etseler de, bir taslak sağladı.

Twitch Güven ve Güvenlik Başkan Yardımcısı Angela Hession, çekimden sonra Washington Post’a yaptığı açıklamada, “Küresel bir canlı yayın hizmeti olarak, yüksek zararlı içeriği 7/24 tespit etmek, iletmek ve kaldırmak için sağlam mekanizmalara sahibiz” dedi. . Proaktif algılama ve güçlü bir kullanıcı raporlama sistemini, olayları hızlı ve doğru bir şekilde ele almak için yetenekli insan uzmanların önderlik ettiği acil durum yükseltme akışlarıyla birleştiriyoruz.”

Videonun yeni yüklenmesini önlemek ve uzun vadeli zararı en aza indirmek için Twitch’in kolluk kuvvetleri ve diğer platformlarla nasıl işbirliği yaptığını açıklamaya devam etti.

FBI, İç Güvenlik Bakanlığı ve NYPD Siber İstihbarat Birimi gibi çeşitli kolluk kuvvetleriyle yakın bir şekilde çalışıyoruz” dedi. “Kolluk kuvvetleri ve [Terörizmle Mücadele için Küresel İnternet Forumu] ile birlikte çalışmanın yanı sıra, ilgili içeriğin yayılmasını önlemek ve zararı en aza indirmek için bu etkinlik boyunca sektördeki meslektaşlarımızla yakın bir şekilde çalışıyoruz.”

Çekimden bir hafta önce yapılan bir röportajda, Hession ve Twitch küresel güvenlik operasyonlarından sorumlu Başkan Yardımcısı Rob Lewington, platformun inişli çıkışlı bir avuç yıldan sonra nasıl bir köşeyi döndüğü ve hala nerelerde iyileştirilmesi gerektiği konusunda ek bilgi verdi. (Twitch, The Washington Post’un sahibi Jeff Bezos’un sahibi olan Amazon’a aittir.) Her şeyden önce, Hession ve Lewington, Twitch’in içerik denetleme yaklaşımının insanları merkeze aldığını vurguladı; Twitch, YouTube ve Facebook gibi modern platformlar, günde milyonlarca yüklemeyi gözden geçirmek için otomasyon ve insan ekiplerinin bir karışımını kullanırken, Lewington, Twitch’in hiçbir zaman yalnızca otomatik karar alma sürecine güvenmediğini söyledi.

Lewington, “Hizmetimizde neler olup bittiğini proaktif bir şekilde bize anlatmak için teknolojiyi diğer tüm hizmetler gibi kullanırken, her zaman bir insanı tüm kararlarımızın döngüsünde tutuyoruz” dedi ve son iki yılda Twitch’in kullanıcı raporlarına yanıt vermek için elindeki insan sayısını dört katına çıkardı.

Hession ve Lewington, bunun, canlı içerik etrafında dönen bir platformda diğerlerinden çok daha önemli olduğunu söyledi. YouTube’dan farklı olarak – işin büyük kısmının, yüklemeden önce izlenebilen ve gerektiğinde silinebilen önceden kaydedilmiş videolarda olduğu – Twitch, şiddet içeren veya kurallara aykırı çekimlerden kaynaklanan hasarın çoğunun gerçekleştiği anda yapıldığı bir yerdir. Bunu göz önünde bulundurarak, Lewington dahili bir istatistik lanse etti: Kullanıcı raporlarının yüzde 80’inin 10 dakikadan kısa sürede çözüldüğünü söyledi. Toplamda 9 milyon yayıncının ve sohbete günde 200 milyonun üzerinde satırın girildiği bir platformda, bu iyi yağlanmış bir makine gerektirir.

Ancak Twitch, kötü oyuncular işlere birkaç anahtar atmadan bu noktaya gelmedi. Platformun içerik denetimine yönelik mevcut yaklaşımı, bazı açılardan, son derece halka açık, acı verici birkaç dersin ürünüdür. 2019’da, başlangıçta Facebook’ta yayınlanan Christchurch cami çekimlerinin yeniden yüklemelerini tekrar tekrar yayınlayan kullanıcılarla mücadele etti ve nihayetinde dava açtı. Aynı yılın ilerleyen saatlerinde, farklı bir silahlı adam Twitch’i kullanarak Almanya’nın Halle kentindeki bir sinagogun dışında iki kişiyi öldürdüğünü kendi kendine yayınlamıştı. Twitch, bu katliamların hiçbirine Buffalo saldırısıyla aynı hızla tepki veremedi; Platformun Halle çekiminin orijinal akışını indirmesi 35 dakika sürdü ve otomatik olarak oluşturulan bir kayıt 2.200 kişi tarafından izlendi.

Ateş edenlerin sırasıyla “beyaz soykırım” ve “beyaz karşıtı” öldürme arzusundan bahsettiği önceki örneklerde olduğu gibi, ırkçılık Buffalo atıcısının öfkesinde önemli bir motive ediciydi. Twitch, yıllar boyunca ırkçılıkla mücadele etti, sohbette ırkçı taciz bir sorun olmaya devam ediyor, ancak bir yayıncının savaşmak için, 2016’da, Siyah profesyonel bir “Hearthstone” oyuncusunun çıkış anını mahvettiğinden çok daha fazla araca sahip olmasına rağmen bir ırkçı yorum ve görüntü seliyle – tüm bunları ebeveynleri izlerken.

Yine de, kötü oyuncular zamanla gelişti. Geçen yılın sonlarında, Twitch, trollerin yayıncıların sohbetlerini, nefret dolu mesajlar gönderen bot destekli sahte hesaplarla doldurduğu bir “nefret baskınları” vebasıyla boğuldu. Bu saldırılar, öncelikle Siyah olan veya başka bir şekilde marjinalleştirilmiş yayıncıları hedef aldı. Twitch’in onları kontrol altına alması aylar sürdü, yayıncılar o kadar memnun kalmadılar ki, bir hashtag kampanyası başlattılar ve şirkete “daha iyisini yapması” için site çapında grev çağrısı yaptılar.

Hession, iletişimin kilit anlarda sekteye uğradığını kabul etti: “Empati duyuyorum” dedi. “Topluluğumuza [ne yaptığımızı] anlatmakla daha iyi bir denge kurmaya çalışıyoruz ve onları koruduğumuzdan emin oluyoruz, böylece kötü aktörler sistemi daha fazla oynamasın. … Dinlediğimiz daha iyi bir mesajlaşma işi yapmalıyız ve küresel topluluğumuz için her zaman doğru olanı yapmaya çalışıyoruz.”

Twitch, nefret baskınları zirvedeyken darbelerden payını aldı, ancak Hession, platformun bunun için daha güçlü olduğunu düşünüyor. O zaman aralığında veya sonrasında kullanıma sunulan özelliklere dikkat çekti: Nefret baskınları başlamadan önce bile çalışmalarda olduğunu söylediği botların proaktif tespiti – sohbet ve şüpheli kullanıcı tespiti için telefon doğrulaması. Bu araçlar, yayıncıları seçenekleri konusunda hızlı tutan eğitim kaynaklarıyla birleştiğinde, bot tabanlı nefret baskınlarını kötü niyetli kullanıcıların gerçekleştirmesini önemli ölçüde zorlaştırdı.

Bu, bu yılın başlarında aşırı sağcı bir saldırıya önemli ölçüde daha hızlı bir yanıt verilmesiyle sonuçlandı. Mart ayında, yakın zamanda Buffalo’yu “sahte bayrak” çekmeye başlayan beyaz milliyetçi Nick Fuentes’in sahibi olduğu Cozy.tv adlı bir yayın hizmetinin kullanıcıları, LGBTQIA+ Twitch yayıncılarına saldırdı ve onları homofobik mesajlarla bombaladı. Bu kullanıcılar daha sonra birbirlerini eğlendirmek için Twitch yayıncılarının ev yapımı nefret baskınlarına öfkeli tepkilerini Cozy.tv’de yayınlardı. Bu sefer Twitch sorunu sadece 24 saat içinde çözdü.

Hession, “Topluluğa çok daha hızlı bir şekilde ulaştık ve ‘İşte kanallarınıza eklenebilecek güvenlik özellikleri’ dedik. “İnsanların kanal düzeyinde güvenlik özelliklerini kullandığını gördüğümüzde, kötü oyuncular hızla devam etti. Artık istedikleri zararı yaratamazlardı. Ayrıca, bu aktörlerin kim olduğunu öğrenmek için hukuk ekibiyle hızla görüştük. Gördüğün gibi, çok çabuk durdu.”

Twitch’te, yayıncılar Depp v. Heard davasını kapsadığı için eğlence travmayla buluşuyor

Hession ve Lewington, Twitch’in moderasyon kararlarında insan müdahalesinin önemine defalarca atıfta bulundu, ancak otomasyon hala bir rol oynuyor. Twitch bunu herkese açık olarak tartışmak konusunda çekingen davransa da, birkaç eski Twitch çalışanı The Post’a platformun, siteye göreceli sıklıkta gizlice giren müstehcen pornografi gibi konuları tespit etmek için makine öğrenimi kullandığını söyledi. Aynı teknolojiyi gerçek hayattaki şiddeti tespit etmek için de kullanıyor, ancak bunun kırılması çok daha zor bir somun olduğunu kanıtladı.

Yetkili olmadıkları için anonimlik koşulu hakkında konuşan eski bir Twitch çalışanı, “Orada sistemleri eğitmek için çekim yapmak gibi çok fazla veri yok, oysa sistemleri eğitmek için çok fazla porno var” dedi. bu konularda kamuoyu önünde konuşmak. “Bunu, birçok video oyununun mühendislerinin ürünlerinin mümkün olduğunca gerçekçi görünmesi için çok zaman harcaması gerçeğiyle birleştirmek, onu çözülmesi zor bir problem haline getiriyor. ‘Zor sorun’ ile birkaç sorunu kastediyorum, yani: ‘Baktığım şey şiddete mi benziyor?’ ‘Bilinen bir video oyununa mı benziyor?’ ‘Video oyunu şiddetine benziyor mu?’ gibi soruları çok kısa sürede yanıtlayın.”

Twitch’in Buffalo saldırısına tepkisi diğerlerinden daha hızlıydı, ancak kullanıcılar yine de akışı kaydetmeyi ve kopyaları çok sayıda başka platforma dağıtmayı başardı. Şirket, katılımcı kuruluşların Buffalo çekim videosunun farklı sürümleri hakkında veri toplamasına ve bunları hızla kaldırmasına olanak tanıyan Terörle Mücadele Küresel İnternet Forumu’nun bir parçası olarak YouTube, Facebook ve Twitter gibi kuruluşlarla işbirliği yapmaya devam ediyor. Ancak hala kötü aktörlerin yararlanabileceği boşluklar var.

Hession, “Bu çalışma asla yapılmayacak” dedi ve “topluluğumuzu korumak için güvenlik teknolojimizi, süreçlerimizi ve politikalarımızı incelemeye ve geliştirmeye devam edeceğiz.”

Daha fazla haber ve bilgi için facebook sayfamızı veya web sitemizi takip edebilirsiniz.