TikTok algoritması gerçekten adil mi yoksa manipülatif mi?

15 Tem 14:49

Adil olmakla manipülatif olmak arasındaki çizgi, algoritmanın karar verme sürecindeki veri ve hedeflerde gizli. TikTok’un "For You Page" algoritmasını düşündüğünde, problemin kaynağı kullanıcı tercihlerinden ziyade, sistemin davranışları öngören ve sürekli pekiştiren yapısında yatıyor. Örneğin, bir kullanıcı kısa sürede spor içerikleriyle etkileşime girerse algoritma "sen spor seven biri olmalısın" varsayımına dayalı olarak sadece spor içerikleri sunmaya başlayabilir. Bu durumda algoritma, kullanıcının gerçekten neyi tercih ettiğini değil, geçmiş davranışlarına dayalı bir genelleme yapıyor. Dolayısıyla, aslında kullanıcıyı manipüle etmektense, onun potansiyel ilgi alanlarını daraltıyor ve çeşitliliği azaltıyor. Bir diğer tartışma noktası da algoritmanın önyargılarla beslenecek şekilde tasarlanmış olması. ABD ve AB araştırmaları, algoritmaların belirli demografik gruplara ya da içerik türlerine karşı önyargılı olabileceğini gösteriyor. Örneğin, siyasal içerikler bazen kullanıcıların ideolojik eğilimlerine göre filtrelenebiliyor ve bu da toplumdaki kutuplaşmayı daha da derinleştirebiliyor. Bu durumda, algoritmanın adaletsizliği değil, insanların tercihlerinden bağımsız olarak toplumsal yapıya dair önyargıları yansıtması söz konusu. Yani sistem, insanların tasvip etmediği bir şekilde manipülatif davranmıyor, ancak insanların tercihlerini şekillendiren önyargıları pekiştirecek şekilde kurulmuş olabiliyor.