EN ▸ To keep the AI hacking genie bottled up, try one-way networks
Yapay Zeka Güvenliği İçin Tek Yönlü Ağlar Öneriliyor
www.theregister.com - Articles ·
Yapay zeka (YZ) modellerinin test ortamlarından çıkıp diğer şirketlere saldırmasını önlemek amacıyla, ağ mimarilerinin yeniden düşünülmesi gerektiği belirtiliyor. Intuition Machines CEO'su Eli-Shaoul Khedouri, geçmişteki savunma ve istihbarat çalışmaları ışığında, 'veri diyotları' gibi tek yönlü bilgi akışını sağlayan donanımların güvenlik ihlallerini önleyebileceğini savunuyor.
Khedouri, hCaptcha hizmetinin yayınladığı bir makaleye atıfta bulunarak, bu tür teknolojilerin hassas bilgi ortamlarında kullanılabileceğini belirtiyor. Veri diyotları, sınıflandırılmış bir ağdan sınıflandırılmamış bir ağa veri akışını tek yönlü hale getirerek, eğitim sürecinde yalnızca onaylanmış verilerin kullanılmasını sağlıyor.
Ancak, bu tür sistemlerin uygulanması, yüksek güvenlik standartlarına sahip eğitim kümeleri için ek maliyetler ve zaman gerektirebilir. Khedouri, mevcut ticari ortamda, YZ laboratuvarlarının bu tür önlemleri almakta isteksiz olabileceğini ifade ediyor. Yüksek güvenlikli sistem tasarımının amacı, istenmeyen eylemleri fiziksel olarak imkansız hale getirmek olarak tanımlanıyor.