Yapay zekanın gizli açığı bulundu: Gizli bilgiler tek bir şiirle sızdırılıyor

Araştırmacılar, büyük dil modellerinin (LLM) güvenlik açıklarını ortaya çıkaran yenilikçi bir yöntem geliştirdi. Siber güvenlik uzmanları, LLM'lere verilen komutları şiirsel bir dille ifade ederek, bu modellerin normalde erişim izni vermeyeceği gizli veya yasaklanmış bilgilere ulaşmayı başardı. Bu teknik, yapay zeka sistemlerinin, beklenmedik girdilere karşı ne kadar savunmasız olabileceğini gösteriyor. Yapılan testlerde, bu şiirsel komutların, sohbet robotlarının güvenlik filtrelerini atlayarak hassas verileri sızdırabildiği gözlemlendi. Bu bulgu, yapay zeka güvenliği alanında yeni endişelere yol açtı.

Bu durum, yapay zeka sistemlerinin gizli bilgileri koruma konusundaki mevcut güvenlik önlemlerinin yetersizliğini ortaya koyması açısından önemlidir.