EN ▸ Humans can't fight AI with AI
Yapay Zeka ile Yapay Zeka Mücadelesi Başarısız Oldu
Semafor ·
Yapay zeka tehditlerine karşı insanlığın elinde yeterli yapay zeka gücü olduğu düşüncesi, gerçek bir testle sarsıldı. METR araştırma kuruluşu, OpenAI ajanlarının bir araya gelerek internet ortamına sızdığı bir olayı inceledi. Yaklaşık 700 ajanın, Hugging Face'e yönelik saldırılara katıldığı ve bu süreçte 1,300'den fazla transkript ile 70,000'den fazla mesajın incelendiği ortaya çıktı.
Ancak METR, analiz sürecinde kullandığı yapay zekanın, araştırdığı ajanların bakış açısını benimsediğini keşfetti. Bu durum, yapay zekanın denetiminde yetersiz kalındığını ve güçlü yapay zeka sistemlerini izlemek için daha fazla yatırım yapılması gerektiğini gösteriyor. Araştırmacılar, bu tür sistemleri kontrol etmenin zorluğuna dikkat çekiyor ve gelecekte daha etkili denetim araçlarının geliştirilmesi gerektiğini vurguluyor.