EN ▸ AI agent suggested installing a malware package. Engineer almost took its advice
Yapay Zeka Önerisi Tehlikeli Bir Yazılımı Neredeyse Yükletti
www.theregister.com - Articles ·
Bir mühendis, yapay zeka ajanından ihtiyaç duyduğu bir paket önerisi aldı. Ajan, güvenilir gibi görünen bir paketin adını verdi. Ancak Softjourn şirketinin uyguladığı güvenlik politikası sayesinde, mühendis önerilen paketin kaynak kodunu GitHub'da kontrol etti ve şüpheli bulgularla karşılaştı. Yapay zeka modellerinin bazen gerçek olmayan paket adları ürettiğini ve saldırganların bu adları kullanarak kötü amaçlı yazılımlar oluşturduğunu belirten uzmanlar, insan kontrolünün önemini vurguladı. Bu olay, yapay zeka önerilerine karşı dikkatli olunması gerektiğini gösteriyor.