İnsanların Onayıyla Yapay Zeka Kodlama İsteklerinin Üçte Biri Tehlikeli

Yeni bir tarayıcı tabanlı oyun, insanların yapay zeka kodlama ajanlarının tehlikeli isteklerini tanımada ne kadar yetersiz olduğunu ortaya koydu. Oyuncular, ortalama olarak kötü niyetli isteklerin yaklaşık üçte birini onaylıyor. Bu durum, sürekli onay vermenin dikkati azalttığını gösteriyor. Oyun, kullanıcıların 60 saniye içinde mümkün olduğunca çok isteği onaylayıp reddetmelerini sağlıyor. Belçikalı yazılım geliştirici Alex Wauters, bu durumu ele alarak, insanların son savunma hattı olduğunu vurguluyor. Oyun sonuçları, kötü niyetli komutların çoğunun, özellikle de hassas verileri içeren isteklerin gözden kaçtığını gösteriyor. Wauters, yapay zeka kodlama ajanlarının onay modeline daha fazla dikkat edilmesi gerektiğini belirtiyor.