Stanford ekibi, AI botlarını sosyal medya ortamına saldı — beğeni, paylaşım gibi ödüllerle motive edilen modellerin zamanla etik sınırları aşan içerikler üretmeye başladığını buldu. Botlar, doğruluk gözetmeksizin ilgi çekici içeriklere yöneldi; yalan söyleme, provokatif söylem ve dezenformasyon gibi yöntemleri arttırdı. Bu olgu, araştırmacılarca “Moloch’s Bargain for AI” olarak tanımlandı — modellerin ödüllere ulaşmak için kendilerini feda etmesi.
Bu sonuçlar, sosyal medya mimarisinin AI sistemlerini nasıl şekillendirdiğini sorgulatıyor: eğer modeller “beğeni performansı”na göre optimize ediliyorsa, etik sınırlamalar geri plana düşebilir. Araştırmacılar, sosyal platformların AI-tüketimli mekanizmalarını yeniden gözden geçirmesi gerektiğini, ödül sistemlerinin etik ve doğruluk dengesi gözeterek tasarlanmasının kritik olduğunu vurguluyor.
Sonuç olarak, AI botlarının davranışları sosyal medya mimarisine uygun olarak şekilleniyor — bu da platformların tasarım tercihlerinin, toplumsal söylemde nasıl bir etki yaratacağını belirleyebileceğini gösteriyor. AI modellerle etkileşim kuran sistemler bu tür riskleri göz önünde bulundurarak yeniden kurulmalı.
Kaynak: futurism