EN ▸ Researchers develop cost-efficient method for detecting hallucinations in large language models
Yeni Yöntemle Yapay Zeka Hallüsinasyonları Daha Kolay Tespit Edilecek
Tech Xplore - electronic gadgets, techno ·
Skoltech ve Sberbank'ın Pratik Yapay Zeka Merkezi'nden araştırmacılar, büyük dil modellerindeki hallüsinasyonları tespit etmek için TOHA adında yeni bir yöntem geliştirdi. Bu yöntem, modelin dikkat haritalarının topolojik yapısını analiz ederek, sağlanan bağlamla desteklenmeyen yanıtları belirlemeye olanak tanıyor. Ek model eğitimi gerektirmeyen bu yaklaşım, yalnızca az miktarda etiketlenmiş veri kullanarak yapılandırma yapabiliyor.