Günümüzde yapay zeka (AI) ve makine öğrenimi (ML) modellerinin bulut tabanlı altyapılarda barındırılması giderek yaygınlaşıyor. Ancak, bu modellerin güvenliği konusunda dikkat edilmezse ciddi risklerle karşılaşılabiliyor. Google Cloud’un Vertex AI SDK’sında keşfedilen yeni bir güvenlik açığı, saldırganların kurbanların model yüklemelerini izinsiz şekilde ele geçirmesine ve hatta Google’ın sunucu altyapısında kod çalıştırmasına olanak tanıyor.
Unit 42 tarafından 'Pickle in the Middle' olarak adlandırılan bu teknik, saldırganın kurbanın projesine erişimi olmadan bile model yüklemelerini manipüle edebilmesini sağlıyor. Saldırgan, bucket squatting adı verilen bir yöntemle, kurbanın modelini hedef almak için benzer isimli bir depolama alanını (bucket) oluşturarak modelin yüklenmesini engelleyebiliyor. Bu sayede, saldırgan kurbanın modelinin yerine kendi kodunu çalıştırabiliyor ve potansiyel olarak veri hırsızlığı veya zararlı yazılım dağıtımı gibi saldırılar gerçekleştirebiliyor.
Güvenlik Açığı Nasıl Çalışıyor?
- Bucket Squatting Tekniği: Saldırgan, kurbanın modelini depolamak için kullanacağı bucket’a benzer bir isimle kendi bucket’ını oluşturuyor. Kurban modelini yüklemeye çalıştığında, Google Cloud’un SDK’sı ilk olarak saldırganın bucket’ını buluyor ve modelin oraya yüklenmesine izin veriyor.
- Pickle Deserialization Zayıflığı: SDK’nın model yükleme işlemi sırasında kullandığı Pickle (Python’un nesne serileştirme formatı) deserialization sürecinde bir zayıflık bulunuyor. Bu zayıflık, saldırganın kurbanın yerine kendi kodunu çalıştırmasına olanak tanıyor.
- Google’ın Sunucu Altyapısına Sızma: Saldırgan, modelin yüklenmesi sırasında kendi kodunu Google’ın sunucu altyapısında çalıştırabiliyor. Bu da, saldırganın kurbanın verilerine erişmesine veya sistemde başka saldırılar gerçekleştirmesine yol açabiliyor.
Riskler ve Etkileri
Bu güvenlik açığı, özellikle AI/ML modellerine güvenen işletmeler için büyük bir tehdit oluşturuyor. Kurbanın modelinin yerine saldırganın kodunun çalışması, aşağıdaki risklere yol açabiliyor:
- Veri Sızıntısı: Kurbanın modelinin eğitildiği verilerin çalınması veya sızdırılması.
- Zararlı Yazılım Dağıtımı: Saldırganın model aracılığıyla zararlı yazılımların dağıtılması.
- Model Bozulması: Kurbanın modelinin performansının düşürülmesi veya tamamen bozulması.
- İtibar Kaybı: Kurbanın marka itibarının zedelenmesi ve müşteri güveninin kaybedilmesi.
Palo Alto Networks Unit 42, bu güvenlik açığını Google’ın hata ödül programı aracılığıyla bildirdi. Şu ana kadar gerçek dünyada herhangi bir saldırının tespit edilmediğini belirten Unit 42, bu durumun güvenlik açığının henüz yaygınlaşmadığını gösterebileceğini vurguladı. Ancak, bu tür saldırıların potansiyel olarak çok tehlikeli olması nedeniyle, işletmelerin ve geliştiricilerin bu konuya acil olarak dikkat etmeleri gerekiyor.
Nasıl Korunabilirsiniz?
Google, bu güvenlik açığını gidermek için gerekli düzeltmeleri yayınladı. İşletmelerin ve geliştiricilerin aşağıdaki adımları izlemesi öneriliyor:
- Güncellemeleri Uygulayın: Google Cloud SDK’nın en son sürümünü kullanarak güvenlik açığını kapatın.
- Model Yükleme Süreçlerini Gözden Geçirin: Model yüklemelerinizi denetleyin ve bucket isimlendirme kurallarınızı güncelleyin. Örneğin, bucket isimlerinde benzersiz ve tahmin edilemez karakterler kullanın.
- İzleme ve Uyarı Sistemleri Kurun: Model yüklemelerinizi izleyin ve şüpheli aktiviteleri tespit etmek için uyarı sistemleri kurun.
- Güvenlik Testleri Yapın: Model yükleme sürecinizi düzenli olarak güvenlik testlerine tabi tutun ve zayıflıkları tespit edin.
- Çok Katmanlı Güvenlik Stratejileri Uygulayın: AI/ML modellerinizin güvenliğini sağlamak için çok katmanlı güvenlik stratejileri uygulayın. Örneğin, modelinizin depolandığı bucket’lara erişim kontrollerini sıkılaştırın ve sadece yetkili kullanıcıların erişimine izin verin.
Sonuç
AI ve makine öğrenimi modellerinin güvenliği, modern işletmeler için hayati önem taşıyor. Google Cloud’un Vertex AI SDK’sındaki bu güvenlik açığı, AI/ML modellerini hedef alan saldırıların ne kadar tehlikeli olabileceğini bir kez daha gösteriyor. İşletmelerin ve geliştiricilerin, bu tür saldırılara karşı kendilerini korumak için gerekli önlemleri almaları ve güvenlik açıklarını sürekli olarak takip etmeleri gerekiyor. Aksi takdirde, hem veri güvenliği hem de iş sürekliliği ciddi şekilde riske girebilir.
