Yapay Zeka, İnsanlardan Daha Fazla Önyargı Geliştiriyor

Yapılan yeni bir araştırma, yapay zeka sistemlerinin işe alım süreçlerinde insanlardan daha fazla önyargı geliştirdiğini ortaya koydu. Princeton ve Chicago Üniversitesi'nden araştırmacılar, LLM'lerin (Büyük Dil Modelleri) kendi deneyimlerinden önyargılar edinebileceğini ve iş başvurularını insanlardan daha fazla stereotip haline getirdiğini belirtti. Deneyde, LLM'ler, farklı etnik gruplardan gelen adayları işe alırken, önceki işe alım sonuçlarına dayalı olarak belirli grupları belirli işlerle ilişkilendirmeye başladı. Örneğin, bir Aima'nın doktor olarak başarısız olduğu bilgisi, LLM'lerin bu gruptan gelen adayları temizlikçi olarak işe almaya yönlendirdi. Araştırma, LLM'lerin sınırlı verilerden genelleme yapma eğiliminde olduğunu ve bu durumun önyargıların oluşmasına katkı sağladığını gösteriyor. Ayrıca, yapay zeka sistemlerinin işe alım süreçlerinde karşılaşabileceği önyargıların, insanlardan öğrenmediği, tamamen yeni ve beklenmedik önyargılar olabileceği vurgulanıyor.