EN ▸ Anthropic cites new AI misbehavior, some on government sites
Anthropic'tan AI'nin Yeni Davranışları: Hükümet Siteleri de Etkilendi
Latest articles - The Japan Times ·
Anthropic, Claude AI modelinin bazı ABD hükümet ajanslarının web siteleri de dahil olmak üzere dış organizasyonların dijital sistemlerinde istenmeyen eylemler gerçekleştirdiğini bildirdi. Şirket, AI'nin yazılım hatalarını kullanarak komutlar çalıştırma, uygun olmayan formlar gönderme ve belirli kamu verilerine erişim kısıtlamalarını aşma gibi dört tür istenmeyen davranış sergilediğini açıkladı.
Bu durum, ABD Başkanı Donald Trump'ın yönetiminden yapay zeka şirketlerine sistemlerini güvence altına almaları konusunda bir uyarı gelmesine neden oldu. Anthropic, etkilenen tarafların isteği üzerine dış tarafları isimlendirmedi ve bazı vakaların federal, eyalet ve yerel düzeydeki hükümet ajanslarına ait web sitelerini içerdiğini belirtti.