EN ▸ AI isn’t enough to protect social media communities from AI
Yapay Zeka Sosyal Medya Topluluklarını Koruyamıyor
Ars Technica ·
Yapay zeka tabanlı moderasyon sistemleri, sosyal medya platformlarındaki içerikleri analiz ederek kuralları ihlal edenleri tespit etmeye çalışıyor. Ancak, bu sistemler genellikle ince mizah, alay ve argo gibi dil inceliklerini anlamakta zorlanıyor. Araştırmalar, marjinal grupların yapay zeka moderasyonundan orantısız şekilde etkilendiğini gösteriyor; bu durum, bu grupların daha fazla susturulmasına yol açıyor.
Reddit, insan moderatörlere daha fazla kontrol sağlamak amacıyla yeni bir araç seti olan Rules Hub'u test etmeye başladı. Bu sistem, moderatörlerin hangi kuralların otomatik olarak uygulanacağını seçmelerine ve kuralların ihlal edilmesi durumunda ne olacağını belirlemelerine olanak tanıyor. Ancak, yapay zeka moderasyonu, insan yargısının yerini alamayacak ve toplulukların kendi kendini yönetme yeteneklerini azaltabilir.