Microsoft'un Copilot'ta Üçüncü Taraf AI Modellerinden İç Üretim MAI Modellerine Geçişi

Giriş

Microsoft, yapay zeka (AI) destekli Copilot hizmetlerinde üçüncü taraf modellerden (OpenAI, Anthropic) kendi geliştirdiği MAI (Microsoft AI) modellerine geçiş yapmaya başladı. Bu değişim, şirketin dış bağımlılıklarını azaltarak maliyetleri optimize etmeyi ve kar marjlarını iyileştirmeyi hedefliyor. MAI modelleri, Microsoft'un Excel ve Outlook gibi verimlilik uygulamalarında binlerce haftalık isteği işleyerek üretim ortamında kullanılmaya başlandı.

Sorun Tanımı

Microsoft'un AI tabanlı Copilot hizmetlerinde üçüncü taraf modellerin kullanılması aşağıdaki sorunlara yol açıyordu:

• Yüksek maliyetler: Üçüncü taraf AI modelleri, Microsoft'un kar marjlarını olumsuz etkileyen yüksek lisans ve kullanım ücretlerine sahipti.
• Bağımlılık riski: Dış kaynaklara bağımlılık, hizmet kesintileri ve fiyat dalgalanmaları gibi riskleri beraberinde getiriyordu.
• Veri gizliliği endişeleri: Üçüncü taraf modellerde veri işleme süreçleri, Microsoft'un gizlilik standartlarına tam uyum sağlamayabiliyordu.
• Özelleştirme kısıtlamaları: Üçüncü taraf modellerde, Microsoft'un özel gereksinimlerine yönelik ince ayarlar yapmak zorlaşıyordu.

Çözüm Adımları

1. İç Üretim MAI Modellerinin Geliştirilmesi

Microsoft, kendi AI modellerini geliştirmek için aşağıdaki adımları izledi:

1. Veri toplama ve etiketleme:
   • Microsoft'un veri bilimcileri, çeşitli senaryolarda kullanılabilecek geniş bir veri seti topladı.
   • Veriler, etiketleme ve kalite kontrol süreçlerinden geçirildi.
2. Model eğitimi:
   • Toplanan veriler kullanılarak, Microsoft'un özel gereksinimlerine göre optimize edilmiş AI modelleri eğitildi.
   • Eğitim sürecinde, Transformer tabanlı mimariler ve düşük rank uyarlaması (LoRA) gibi teknikler kullanıldı.
3. Test ve doğrulama:
   • Geliştirilen modeller, kontrollü test ortamlarında doğrulandı.
   • Performans metrikleri (doğruluk, yanıt süresi, kaynak kullanımı) ölçüldü.

2. Üçüncü Taraf Modellerin Yerine Geçirilmesi

Microsoft, MAI modellerini aşağıdaki uygulamalarda devreye aldı:

1. Excel:
   • MAI modelleri, Excel'de formül önerileri, veri analizi ve otomatik raporlama gibi görevleri yerine getiriyor.
   • Kullanıcıların doğal dilde sorular sorarak karmaşık hesaplamalar yapmasına olanak tanıyor.
2. Outlook:
   • MAI modelleri, e-postaların özetlenmesi, yanıt önerileri ve takvim yönetimi gibi işlevleri destekliyor.
   • Kullanıcıların e-posta trafiğini daha verimli yönetmesine yardımcı oluyor.

3. Geçiş Sürecinin Yönetilmesi

Microsoft, üçüncü taraf modellerden MAI modellerine geçişi aşağıdaki stratejilerle gerçekleştirdi:

1. Kademeli geçiş:
   • Öncelikle düşük riskli kullanım senaryolarında MAI modelleri devreye alındı.
   • Daha sonra, kullanıcı geri bildirimlerine göre kapsam genişletildi.
2. Performans izleme:
   • MAI modellerinin performansı, Azure Monitor ve Application Insights gibi araçlarla sürekli olarak izlendi.
   • Hata oranları, yanıt süreleri ve kullanıcı memnuniyeti ölçüldü.
3. Kullanıcı eğitimi:
   • MAI modellerinin kullanımı hakkında kullanıcılara rehberler ve eğitim materyalleri sağlandı.
   • Microsoft'un destek ekipleri, geçiş sürecinde kullanıcılara yardımcı oldu.

Komutlar ve Yapılandırma

MAI Modellerinin Etkinleştirilmesi

MAI modellerinin etkinleştirilmesi için aşağıdaki adımlar izlenebilir:

# Azure CLI kullanarak MAI modelinin dağıtılması
az ml model deploy \
  --name mai-excel-model \
  --endpoint copilot-endpoint \
  --model mai-excel:latest \
  --compute-target mai-compute \
  --resource-group mai-resources

# MAI modelinin performansının izlenmesi
az monitor metrics list \
  --resource copilot-endpoint \
  --metrics "model_latency,model_accuracy" \
  --interval PT5M

Üçüncü Taraf Modellerin Devre Dışı Bırakılması

Üçüncü taraf modellerin devre dışı bırakılması için aşağıdaki komutlar kullanılabilir:

# Azure CLI kullanarak üçüncü taraf modelinin devre dışı bırakılması
az ml endpoint update \
  --name copilot-endpoint \
  --traffic "0=mai-excel-model,100=third-party-model" \
  --resource-group mai-resources

# Microsoft 365 admin panelinden üçüncü taraf modellerin kaldırılması
# 1. Microsoft 365 admin merkezi'ne gidin (admin.microsoft.com)
# 2. "Settings" > "Copilot" bölümüne gidin
# 3. "AI Models" sekmesinde üçüncü taraf modelini seçin ve "Remove" butonuna tıklayın

İpuçları ve Uyarılar

İpucu: MAI modellerine geçiş yapmadan önce, üçüncü taraf modellerin desteklediği tüm özelliklerin MAI modellerinde de mevcut olduğundan emin olun. Özellikle özel senaryolarda kullanılabilecek ek modüllerin olup olmadığını kontrol edin.

Uyarı: MAI modellerinin performansı, kullanılan verilerin kalitesine ve miktarına bağlıdır. Eğer verileriniz yetersiz veya kalitesizse, modelin doğruluğu ve kullanıcı deneyimi olumsuz etkilenebilir. Veri toplama ve etiketleme süreçlerine özen gösterin.

İpucu: MAI modellerinin kullanımı sırasında, Azure Cost Management aracını kullanarak maliyetleri izleyin ve optimize edin. Gereksiz kaynak kullanımını önlemek için bütçe sınırları belirleyin.

Sonuç

Microsoft'un üçüncü taraf AI modellerinden kendi MAI modellerine geçişi, şirketin AI hizmetlerinde maliyetleri optimize etme ve dış bağımlılıklarını azaltma stratejisinin önemli bir parçasıdır. MAI modelleri, Excel ve Outlook gibi uygulamalarda binlerce haftalık isteği başarıyla işleyerek üretim ortamında kullanılmaya başlandı. Bu geçiş, Microsoft'un AI hizmetlerinde daha fazla kontrol ve esneklik kazanmasını sağlarken, kullanıcılara da daha güvenilir ve özel çözümler sunmasını mümkün kılıyor. Gelecekte, Microsoft'un bu stratejiyi diğer uygulamalara da genişletmesi bekleniyor.

Önemli Not: MAI modellerinin kullanımı sırasında, veri gizliliği ve uyumluluk gereksinimlerine dikkat edilmelidir. Microsoft'un AI hizmetlerinde kullanılan verilerin, şirketin gizlilik politikalarına ve yerel mevzuata uygun olması gerekmektedir.