Yapay Zeka Güvenliği İçin Yeni Çözüm: AIUC

Anthropic'in eski çalışanları Rune Kvist ve Rajiv Dattani, yapay zeka ajanlarının kontrolsüz hale gelmesini önlemek için yeni bir girişim başlattı. Artificial Intelligence Underwriting Company (AIUC) adını verdikleri bu startup, yapay zeka güvenliğini artırmak amacıyla bir denetim ve sertifikasyon katmanı geliştirdi. AIUC, bankalar, hastaneler ve hükümetler gibi kurumların yapay zeka sistemlerini güvenle kullanabilmesi için standartlar oluşturmayı hedefliyor.

AIUC, 250 güvenlik ve risk liderinden oluşan bir konsorsiyum ile birlikte çalışarak, yapay zeka ajanlarının güvenliğini test eden bir dizi uygulama geliştirdi. Bu süreçte, 5,000'den fazla test yapılarak, ajanların güvenli ve güvenilir performansı detaylı bir raporla sunuluyor. Dattani, bu bağımsız değerlendirmelerin, müşterilerin yapay zeka satın alırken bilinçli kararlar almasına yardımcı olacağını belirtti.