Yapay Zeka Ajanları: İnsan Onayı Olmadan Ne Olacak?

Yapay zeka (YZ) ajanlarının insan onayı olmadan hareket etmesi, güvenlik risklerini artırıyor. Menlo Security CEO'su Bill Robbins, YZ'nin insan müdahalesi olmadan karar verme yeteneğinin, güvenlik kontrol noktalarını ortadan kaldırabileceğini belirtiyor. YZ ajanları, gizli komutlar içeren belgeleri analiz edebilir ve bu durum, 'prompt injection' adı verilen bir tehdit oluşturabilir. YZ'nin siber güvenlik alanındaki hızlı ilerlemesi, bu tür risklerin artmasına neden oluyor. OpenAI ve Anthropic gibi firmalar, YZ'nin güvenlik yeteneklerini geliştirmeye yönelik yeni modeller tanıtıyor, ancak bu yeteneklerin kötü niyetli kişiler tarafından da kullanılabileceği uyarısı yapılıyor.