Yapay Zeka Nefret Söylemini Tespit Etmede Zorlanıyor: Nedenleri Araştırılıyor
Nefret söylemi, geçmişte daha çok birebir iletişimde sınırlıyken, günümüzde anonim çevrimiçi hesaplar aracılığıyla hızla yayılıyor. Birleşmiş Milletler (BM), sosyal medyanın bu riski artırdığına dikkat çekiyor. Çevrimiçi nefret söylemini tespit etmek ve kaldırmak için yapay zeka (AI) kullanılıyor, ancak bu sistemlerin insan muhakemesine kıyasla yetersiz kaldığı alanlar bulunuyor. Aynı içeriğin farklı sistemlerde farklı şekillerde algılanması, moderasyon süreçlerinin güvenilirliğini zedeliyor. BM'nin tanımına göre nefret söylemi, bir kişi veya gruba karşı ayrımcılık yaratan veya şiddeti teşvik eden her türlü iletişim biçimini kapsıyor. Bu, sadece kelimelerle değil, aynı zamanda resimler, karikatürler veya jestlerle de ifade edilebiliyor. UNESCO ve Ipsos'un 2023 tarihli bir araştırmasına göre, internet kullanıcılarının üçte ikisinden fazlası çevrimiçi nefret söylemine maruz kalmış durumda. Araştırmada, LGBTQI+ topluluğunun en çok hedef alındığı, ardından etnik ve ırksal azınlıklar ile kadınların geldiği belirtiliyor. Meta (Facebook'un ana şirketi), 2023'ten bu yana nefret söylemi içeren gönderileri kaldırma oranını düşürdüğünü ve kullanıcılardan gelen raporlara daha fazla güvendiğini açıkladı. TikTok da benzer şekilde, kullanıcı raporlarına dayalı olarak nefret söylemi içeren içerikleri kaldırdığını belirtiyor.
Yapay zekanın (AI) çevrimiçi nefret söylemini tespit etmedeki zorlukları, teknolojinin sınırlılıklarını ve insan muhakemesinin önemini vurguluyor. AI sistemlerinin, nefret söyleminin karmaşık ve bağlama duyarlı doğasını tam olarak anlayamaması, moderasyon süreçlerinde boşluklar yaratıyor. Meta ve TikTok gibi platformların, kullanıcı raporlarına daha fazla ağırlık vermesi, bu sorunun ne kadar yaygın ve karmaşık olduğunu gösteriyor. Nefret söyleminin yayılmasını önlemek için sadece teknolojik çözümler yeterli değil; aynı zamanda toplumsal farkındalığın artırılması, eğitim ve yasal düzenlemelerin güçlendirilmesi de gerekiyor. Gelecekte, AI teknolojisinin geliştirilmesiyle birlikte bu alanda iyileşmeler beklenmekle birlikte, insan denetiminin ve eleştirel düşüncenin önemi asla göz ardı edilmemelidir.
📌 Kaynak
Bu haber XML kaynağından derlenmiştir. Tamamı için orijinal habere gidin.
Orijinal haberi oku →