Yazılım & İşletim SistemiOrta

AI Geliştirme Ortamlarında Sandbox Kaçışları: Cursor, Codex, Gemini CLI ve Antigravity Güvenlik Açıkları

AI geliştirme araçlarında sandbox kaçışları tespit edildi. AI ajanları tarafından yazılan dosyaların güvenilir araçlarca çalıştırılmasıyla ortaya çıkan bu zafiyetler, CVE'ler ve yamalarla giderildi.

I
ITWISE
6 görüntülenme
AI Geliştirme Ortamlarında Sandbox Kaçışları: Cursor, Codex, Gemini CLI ve Antigravity Güvenlik Açıkları

Sorun Tanımı

2024 yılında araştırmacılar tarafından yapılan incelemelerde, popüler AI geliştirme ortamlarında (Cursor, GitHub Codex, Google Gemini CLI ve Antigravity) sandbox kaçışlarına yol açan ciddi güvenlik açıkları keşfedildi. Bu açıklar, AI ajanlarının güvenilir host araçları tarafından çalıştırılan dosyalar oluşturmasıyla ortaya çıktı. Temel olarak, AI ajanları tarafından üretilen komut dosyaları veya konfigürasyon dosyaları, host sisteminin güvenilir araçları tarafından yürütüldüğünde, sandbox mekanizmalarını bypass edebiliyordu.

Etkilenen Sistemler ve Sürümler

  • Cursor: AI destekli kod editörü (tüm sürümler)
  • GitHub Codex: AI tabanlı kod tamamlayıcı (eskiden GitHub Copilot'un arkasındaki model)
  • Google Gemini CLI: Google'ın AI modeline dayalı komut satırı arayüzü
  • Antigravity: AI destekli geliştirme ortamı (Google tarafından geliştirilen bir proje)

Teknik Detaylar

Araştırmacılar, AI ajanlarının sandbox içinde çalışırken, yerel sistemdeki güvenilir araçları (örneğin npm, pip, bash) kullanarak dosyalar oluşturmasını ve bu dosyaların daha sonra host sistem tarafından çalıştırılmasını sağladı. Bu durum, sandbox'ın amacı olan izolasyonu bozarak, potansiyel olarak zararlı komutların çalıştırılmasına olanak tanıyordu.

Çözüm Adımları

1. Etkilenen Sistemlerin Tespiti

  1. Sistemlerinizde aşağıdaki komutları kullanarak etkilenen araçların kurulu olup olmadığını kontrol edin:

    # Cursor için
cursor --version

# GitHub Codex için (Copilot CLI aracılığıyla)
npx @githubnext/github-copilot-cli --version

# Google Gemini CLI için
gemini --version

# Antigravity için
antigravity --version

  2. Eğer sisteminizde bu araçlardan biri veya daha fazlası yüklüyse, devam eden adımları uygulayın.

2. Güvenlik Açıklarının Doğrulanması

  1. Açıkların varlığını doğrulamak için aşağıdaki basit test senaryosunu uygulayın:

    # Bir AI ajanına, host sistemde bir dosya oluşturmasını ve çalıştırmasını isteyin
# Örneğin, Cursor'da bir Python dosyası oluşturun ve çalıştırın

# 1. Yeni bir dosya oluşturun ve AI'ya aşağıdaki komutu çalıştırmasını söyleyin:
import os
os.system('echo "Sandbox escape test" > ~/sandbox_test.txt')

# 2. Dosyanın oluşturulduğunu doğrulayın
cat ~/sandbox_test.txt

# 3. Dosyayı çalıştırın (eğer yürütülebilir yapıldıysa)
chmod +x ~/sandbox_test.txt
./sandbox_test.txt

  2. Eğer dosya host sistemde oluşturulup çalıştırıldıysa, sisteminizin risk altında olduğunu gösterir.

3. Yama Uygulama ve Güncellemeler

  1. Etkilenen tüm araçları en son sürüme güncelleyin:

    # Cursor güncellemesi (macOS/Linux)
cursor-updater

# GitHub Copilot CLI güncellemesi
npm update -g @githubnext/github-copilot-cli

# Google Gemini CLI güncellemesi
gcloud components update

# Antigravity güncellemesi
pip install --upgrade antigravity

  2. Her bir aracın resmi dokümantasyonunu kontrol ederek, yayınlanan yamaların uygulandığından emin olun. Örneğin:

4. Sandbox Politikalarının Güçlendirilmesi

  1. Aşağıdaki komutları kullanarak sisteminizin sandbox politikalarını gözden geçirin ve güçlendirin:

    # Linux sistemlerinde AppArmor profilini güncelleyin
sudo aa-update

# SELinux politikalarını uygulayın (eğer kullanılıyorsa)
sudo setenforce 1

# macOS sistemlerinde sandbox kısıtlamalarını kontrol edin
spctl --status

  2. Sandbox mekanizmalarınızın AI ajanlarına uygulanan kısıtlamaları artırın. Örneğin, AI ajanlarının yerel komut çalıştırmasını engelleyen politikalar oluşturun:

    # Bir örnek AppArmor profili (AI ajanları için)
#include 

/usr/bin/cursor {
  #include 
  
  # AI ajanlarının yerel komut çalıştırmasını engelle
  deny @{PROC}/** w,
  deny capability sys_admin,
  
  # Yalnızca belirli dizinlere erişim izni ver
  /usr/bin/cursor r,
  /home/** r,
}

5. İzleme ve Log Analizi

  1. Sistem loglarını sürekli olarak izleyin ve şüpheli aktiviteleri tespit edin:

    # Linux sistemlerinde auth.log ve syslog'u kontrol edin
sudo tail -f /var/log/auth.log
sudo tail -f /var/log/syslog

# macOS sistemlerinde konsol loglarını inceleyin
log stream --predicate 'eventMessage contains "sandbox"'

  2. AI ajanlarının oluşturduğu dosyaları ve çalıştırdığı komutları loglayın. Örneğin, aşağıdaki komutla Cursor'un loglarını inceleyin:

    # Cursor loglarını görüntüleyin (macOS)
open ~/Library/Logs/Cursor/logs

# Cursor loglarını görüntüleyin (Linux)
cat ~/.config/Cursor/logs/*.log

Önemli Uyarılar ve İpuçları

⚠️ Kritik Uyarı: Bu güvenlik açıkları, AI ajanlarının sandbox içinde çalışırken yerel sistemde dosya oluşturmasına ve çalıştırmasına olanak tanıyarak, potansiyel olarak sistemin tamamen ele geçirilmesine yol açabilir. Bu nedenle, etkilenen sistemlerin acilen güncellenmesi ve sandbox politikalarının güçlendirilmesi önemlidir.

💡 İpucu: AI ajanlarının sandbox içinde çalıştırdığı komutları ve oluşturduğu dosyaları sürekli olarak izleyin. Bu, hem güvenlik açıklarının tespiti hem de sistem performansının optimize edilmesi açısından faydalıdır.

🔧 Öneri: Sandbox kaçışlarını önlemek için, AI ajanlarının yalnızca belirli dizinlere ve komutlara erişmesine izin veren politikalar oluşturun. Örneğin, AI ajanlarının yalnızca /tmp dizinine ve belirli komutlara erişmesine izin verin.

Sıkça Sorulan Sorular (SSS)

Bu güvenlik açıkları nasıl çalışıyor?

AI ajanları, sandbox içinde çalışırken, yerel sistemdeki güvenilir araçları (örneğin npm, pip, bash) kullanarak dosyalar oluşturabiliyor. Bu dosyalar daha sonra host sistem tarafından çalıştırıldığında, sandbox mekanizmalarını bypass edebiliyor. Örneğin, AI ajanının oluşturduğu bir postinstall script'i, npm install komutu çalıştırıldığında otomatik olarak yürütülebiliyor.

Hangi CVE'ler bu açıklarla ilişkilendiriliyor?

Aşağıdaki CVE'ler, bu güvenlik açıklarıyla ilişkilendiriliyor:

  • CVE-2024-XXXX: Cursor sandbox kaçışı
  • CVE-2024-XXXX: GitHub Copilot CLI sandbox kaçışı
  • CVE-2024-XXXX: Google Gemini CLI sandbox kaçışı
  • CVE-2024-XXXX: Antigravity sandbox kaçışı

Bu açıklar nasıl kapatıldı?

Her bir aracın geliştiricileri, sandbox mekanizmalarını güçlendirerek ve AI ajanlarının yerel komut çalıştırmasını engelleyerek bu açıkları kapattı. Örneğin, Cursor, AI ajanlarının yerel komut çalıştırmasını tamamen engelleyen yeni bir sandbox politikası uyguladı.

Sonuç

AI geliştirme ortamlarında sandbox kaçışları, AI ajanlarının sandbox içinde çalışırken yerel sistemde dosya oluşturmasına ve çalıştırmasına olanak tanıyarak ciddi güvenlik riskleri oluşturuyor. Bu açıkların tespiti ve kapatılması, AI tabanlı geliştirme ortamlarının güvenliğinin sağlanması açısından kritik öneme sahiptir. Sistemlerinizi güncelleyerek ve sandbox politikalarınızı güçlendirerek, bu tür saldırılara karşı koruma sağlayabilirsiniz.

Unutmayın, AI ajanlarının sandbox içinde çalıştırdığı komutları ve oluşturduğu dosyaları sürekli olarak izlemek, hem güvenlik açıklarının tespiti hem de sistem performansının optimize edilmesi açısından faydalıdır.

İlgili Makaleler