Bir çocuğun bir nefret içeriğiyle karşılaşması için onu araması gerekmiyor. Çoğu zaman tek gereken, sıradan bir ilgi alanı ve etkileşim için tasarlanmış bir öneri algoritması. Sosyal medya, çocukların haber aldığı, dünyayı anlamlandırdığı temel mecralardan biri.
Birleşik Krallık’taki düzenleyici kurum Ofcom'un verilerine göre TikTok, 12-15 yaş arası gençlerin en çok kullandığı tek haber kaynağı. Bu da platformların içeriği önerme biçimini, çocuk güvenliğinin merkezindeki sorulardan birine dönüştürüyor.
İngiltere merkezli iki kuruluş, Institute for Strategic Dialogue (ISD) ve Antisemitism Policy Trust, bu soruyu yeni bir raporda test etti. Araştırmacılar TikTok'ta 15 yaşında çocukları temsil eden on sahte hesap oluşturdu ve her hesabı farklı bir ilgi alanına yönlendirerek önce elle, ardından bir botla 14 gün boyunca eğitti ve 5 bin 500'den fazla önerilen videoyu topladı.
Nötr giriş, kademeli tırmanış
Raporun en dikkat çeken bulgusu, zararlı içeriğin nereden başladığı. Araştırmacıların videoları kümelediği harita, yaşam tarzı ve eğlence içeriğinin tam merkezde durduğunu, neredeyse tüm diğer temalara açılan giriş kapısı olduğunu ortaya koyuyor. Bir çocuğun okul, müzik ya da motivasyon videolarıyla başlayan akışı, algoritmanın yönlendirmesiyle önce siyasete, oradan çatışma ve komplolaradoğru kayabiliyor.
Bu kayma hızlı gerçekleşiyor. “Erkek” yaşam tarzı içeriğine ilgi gösteren 15 yaşındaki bir hesabın antisemitik komplo teorileriyle karşılaşması için TikTok'ta yalnızca bir saat geçirmesi yetti. Sol eğilimli bir başka hesap, Ortadoğu'ya dair hiçbir arama yapmadan, bir buçuk saatin sonunda eski Hamas sözcüsünün konuşmalarını ya da İran Devrim Muhafızları'nı yücelten videoları görmeye başladı.
Araştırmacılar bu tırmanışı "nefret sarmalı" olarak adlandırıyor. Başlangıçta kazara gerçekleşen bir karşılaşma, giderek daha uç önerilere kapı açıyor.
Mekanizma iş başında
Raporda üç hesabın izlediği yol, mekanizmayı somutlaştırıyor. Sol eğilimli içerikle (iklim adaleti, LGBTQ+ hakları, mülteci desteği) eğitilen hesap, birkaç oturum sonra İran yanlısı içeriklere, ardından Siyonist lobi ve "Siyonist işgal hükümeti" gibi aşırı sağ komplo diline yöneltildi. Çatışmayla ilgili tek bir arama yapılmamasına rağmen, akış giderek tek yanlı ve komplocu bir hal aldı.
En çarpıcı örnek, erkek yaşam tarzı içeriğine ilgi gösteren hesap oldu. Bu hesaba kısa sürede “looksmaxxing” ve "black pill" temalı videolar, hatta intihara teşvik eden bir içerik önerildi. Kökeni incel topluluklarına dayanan “looksmaxxing”, fiziksel görünümü her yolla "en üst düzeye çıkarmaya" odaklanan akımı anlatıyor, black pill ise kişinin görünüşü yüzünden bu durumdan asla çıkamayacağına dair karamsar, kaderci inancı ifade ediyor.
Sonraki oturumlarda öneriler motivasyon sözlerine, oradan da "büyük sıfırlama" gibi komplo anlatılarına evrildi. Beşinci oturumda antisemitik komplo teorileri, altıncı oturumda ise Hitler'i destekleyen ve Yahudi soykırımını inkar eden videolar geldi.
Neden fark edilmiyor?
Bu içeriğin önemli bölümünün denetimden kaçmasının nedeni, nefretin giderek daha fazla kodlanması. Açık ifadeler yerine sayılar, emojiler, mizah ve gizli dil kullanan içerikler, anahtar kelime taramasına dayanan otomatik içerik moderasyonunu kolayca atlatabiliyor. Rapora göre engellenen bir terim, yalnızca yazımı değiştirilerek yeniden dolaşıma sokulabiliyor; bu da moderasyonun sürekli bir adım geriden geldiğini gösteriyor.
Zarar yalnızca videolarla sınırlı kalmıyor. Araştırmacılar, TikTok'un çıkartma, ses ve yorum özelliklerinin görece masum videolarla açık nefret içeriği arasında köprü kurduğunu belirtiyor. Yani bir komplo videosunun yorumlarında paylaşılan nefret temalı çıkartmalar ya da bir müzik parçasının gizli işaret olarak kullanılması, çocuğu videonun kendisinden daha uç bir içerikle karşılaştırabiliyor. Üstelik video kaldırılsa bile geriye kalan izler çoğu zaman yerinde kalıyor.
Bu içeriklerin görünürlüğü de düşük değil. Yahudi soykırımını çarpıtan ya da komplo teorilerini yayan kimi videolar, kaldırılmadan önce on binlerce beğeni ve paylaşıma ulaşıyor. Yani moderasyon devreye girene kadar içerik çoktan yayılmış oluyor.
Bir sistem meselesi
Bütün bu bulguların işaret ettiği ortak nokta, sorunun tek tek videolarda değil sistemin kendisinde olması. Etkileşimi en üst düzeye çıkarmak için tasarlanmış öneri sistemleri, en çok tepki çeken içeriği —ki bu çoğu zaman kışkırtıcı ve kutuplaştırıcı içerik oluyor— öne çıkarmaya eğilimli. Algoritmaların nasıl karar verdiğinin şeffaf olmaması ise bağımsız denetimi ve hesap verebilirliği zorlaştırıyor.
Bu yüzden yalnızca içerik kaldırmaya dayanan bir yaklaşım yetersiz kalıyor. Bir video silinse bile sistem benzer içeriği yeniden önerebiliyor. Rapora göre asıl mesele, zararlı içeriği tek tek temizlemek değil, onu sürekli yüzeye çıkaran tasarımı değiştirmek.
Ne yapabiliriz?
Algoritmaların işleyişini değiştirmek büyük ölçüde platformların ve düzenleyicilerin elinde. Ancak bireysel düzeyde de yapılabilecekler var ve dijital okuryazarlık bunların başında geliyor. Araştırmalar, algoritmaların nasıl çalıştığını anlamanın yanlış bilgiyle mücadelede koruyucu bir beceri olduğunu gösteriyor. Öneri zincirinin nasıl işlediğini bilen bir kullanıcı, karşısına çıkan içeriğe daha eleştirel yaklaşabiliyor.
Çocuklar söz konusu olduğunda bu beceriyi kazandırmak ebeveynlere ve eğitimcilere düşüyor. Çocukların akışında ne olduğunu yargılamadan konuşmak, nefret dilini ve mizah kılığına girmiş zararlı içeriği tanımalarına yardımcı olmak ve platformların yaş ayarlarını kullanmak işe yarayabilir.
Rapor, akılda kalıcı bir uyarı da sunuyor: Bir çocuğun zararlı bir içerikle karşılaşması için onu aramasına gerek yok. Bu nedenle korunma da yalnızca "zararlı" aramalardan kaçınmakla değil, içeriği önümüze getiren sistemi anlamakla mümkün.
