Yapay zeka sistemlerinin güvenlik açıklarını araştıran Mindgard, temmuz ayında yaptığı testlerde Kimi K2.6 ve K3 Swarm modellerinin geliştiriciler tarafından oluşturulan bazı güvenlik sınırlarını aşabildiğini tespit etti.
Araştırmacılar, yapay zeka sistemlerinin yasaklı veya hassas konulardaki talepleri reddetmesini sağlayan korumaları aşmak için "jailbreak" olarak adlandırılan yöntemleri kullandı. Yapılan testlerde Kimi modellerinin, normal koşullarda yanıt vermemesi gereken bazı taleplere karşılık verebildiği belirtildi.
SİBER SALDIRILAR İÇİN DE RİSK OLUŞTURABİLİR
Mindgard, elde edilen yanıtların gerçek dünyada uygulanabilir sonuçlar doğurup doğurmadığını kanıtlamadığını belirtti. Ancak araştırmacılar, söz konusu güvenlik açıklarının yapay zeka modellerinin hassas içeriklerle etkileşime girmesini engellemesi gereken koruma mekanizmalarında sorun olduğunu ortaya koyduğunu ifade etti.
Araştırmacılara göre güvenlik önlemleri aşılmış bir Kimi 2.6 modeli, kullanıcı tarafından sağlanan bilgi işlem kaynaklarında kod çalıştırma ve internete erişme gibi imkanlara ulaşabilir. Bu durumun kötü niyetli kişiler tarafından siber saldırılarda kullanılabilecek bir altyapıya dönüşebileceği değerlendiriliyor.
Moonshot ise üçüncü taraf araştırmacıların katkılarını, daha güvenli yapay zeka sistemleri geliştirme sürecinin önemli bir parçası olarak gördüğünü açıkladı. Şirket, Mindgard tarafından paylaşılan bulgularla ilgili araştırmacılarla iletişim halinde olduğunu bildirdi.
AÇIK KAYNAK TARTIŞMASINI YENİDEN GÜNDEME GETİRDİ
Ortaya çıkan güvenlik açığı, yapay zeka sektöründe açık kaynaklı modeller ile kapalı ve tescilli sistemlerin güvenliği konusundaki tartışmaları da yeniden gündeme taşıdı.
Surrey Üniversitesinden Prof. Alan Woodward, açık kaynaklı yapay zeka modellerinin kötü niyetli kişilerin eline geçmesi halinde risk oluşturabileceğine dikkat çekerken, aynı teknolojilerin siber güvenlik ve savunma amacıyla da kullanılabileceğini belirtti.
