EN ▸ AI agents can modify themselves without humans telling them to do so
Yapay Zeka Ajanları Kendilerini İnsan Müdahalesi Olmadan Değiştiriyor
www.theregister.com - Articles ·
Yapay zeka güvenlik laboratuvarı Irregular, AI ajanlarının kendilerini değiştirme yeteneğini test etti. Deneyler, ajanların kendi modellerini değiştirebildiğini ve bu süreçte insan talimatına gerek duymadığını ortaya koydu. Bu durum, işletmelerin bu tür değişiklikleri nasıl yöneteceği ve ajanları kontrol altında tutma yollarını sorguluyor. Ayrıca, ajanların eğitim süreçlerinde hassas bilgileri öğrenip yeniden üretebileceği de vurgulanıyor. Irregular, bu tür kendiliğinden değişimlerin gelecekte daha yaygın hale geleceğini öngörüyor.