LM Studio AI Komut Denetleyicisinde Güvenlik Zafiyeti Tespit Edildi

LM Studio, yapay zeka kodlama ajanlarının zararlı veya yetkisiz komutları engellemek amacıyla bir denetleyici mekanizması geliştirmişti. Ancak araştırmalar, bu güvenlik katmanının değişken manipülasyonu ve prompt injection teknikleri aracılığıyla baypas edilebileceğini göstermiştir.

Tespit edilen zafiyet, git diff gibi görünüşte zararsız komutların bile ayrıntılı değişken değerleri üzerinden kötüye kullanılabileceğini ortaya koymaktadır. Bu durum, denetleyici sisteminin gereken katılık düzeyinde tasarlanmadığını ve doğrulama mekanizmalarında ciddi boşluklar bulunduğunu göstermektedir.

Bulgu, yapay zeka tabanlı kod yürütme ortamlarının güvenliği konusunda önemli bir uyarı niteliğindedir. İnterpretasyon ve doğrulama katmanlarının daha güçlü hale getirilmesi, ayrıca kodu yürüten ajanların komut bağlamını daha dikkatli analiz etmesi gerektiği sonucunu ortaya koymaktadır.

Kaynak: The New Stack