Ne oldu?
AWS, çeşitli çerçeveye özgü eğitim ve dağıtım sınıflarını birleşik bir ModelTrainer ve ModelBuilder arayüzüyle değiştiren SageMaker Python SDK v3'ün teknik bir kılavuzunu yayınladı. Gönderi, yerel kaynak kodunun konteyner görüntülerine çalışma zamanında enjeksiyonunu, yönetilen eğitim işlerini, gerçek zamanlı uç noktaları, dağıtılmış Stable Diffusion ince ayarını ve AWS Secrets Manager aracılığıyla gizli işlemeyi gösteriyor.
26 Ağustos 2026 tarihli bir gönderide AWS, SageMaker Python SDK v3'ü önceki komut dosyası modu iş akışının yeniden tasarımı olarak tanımlıyor. AWS'ye göre v3, eğitim işlerini başlatmak için SKLearn, PyTorch ve XGBoost gibi çerçeveye özgü tahminci sınıflarını tek bir ModelTrainer ile değiştiriyor. Ayrıca modelleri paketlemek ve dağıtmak için önceki Model ve Predictor modelini ModelBuilder ile değiştirir. Gönderi bunu yeni bir model veya yeni bir eğitim algoritması olarak değil, farklı iş yükleri arasında ortak bir arayüz olarak sunuyor.
Kaynak, AWS tarafından yazılan bir teknik açıklamadır; dolayısıyla burada açıklanan ürün özellikleri ve faydaları AWS'nin iddialarıdır. Merkezi bir özellik SourceCode yapılandırma nesnesidir. Geliştiriciler yerel bir kaynak dizini ve bir eğitim komutu veya bir çıkarım girişi komut dosyası sağlar. AWS, SageMaker'ın bir iş başladığında bu dizini seçilen kapsayıcıya senkronize ettiğini ve ekiplerin kapsayıcı görüntüsünü yeniden oluşturmadan eğitim veya çıkarım kodunu değiştirmesine olanak tanıdığını söylüyor. Kapsayıcı, Amazon Elastic Container Registry'de müşteri tarafından oluşturulmuş bir görüntü, bir AWS Deep Learning Container veya üçüncü taraf bir görüntü olabilir.
İzlenecek yol, bunun scikit-learn, PyTorch, Stable Diffusion ve özel C++ çıkarım ikili dosyalarını içeren iş yükleri için tek bir arayüz sunarken sistem paketleri, CUDA kitaplıkları ve çalışma zamanı sürümleri üzerindeki kontrolü koruduğunu söylüyor. İlk örnek, bir diyabet veri kümesi üzerinde bir scikit-learn Rastgele Orman sınıflandırıcısını eğitir ve bunu DJL Hizmetini kullanarak gerçek zamanlı bir uç noktaya dağıtır. Örnekte tek bir ml.m5.2xlarge örneği, bir saatlik sıcak havuz ayarı ve model yapıları için Amazon S3 kullanılmaktadır. İkinci örnek, özel bir görüntü ve başlık veri kümesinde Stable Diffusion 3.5 Medium'da LoRA ile ince ayar yapıyor.
AWS, bir ml.g5.12xlarge örneğinde dört A10G GPU'ya dağıtılmış eğitim için Hugging Face Accelerate'i kullandığını ve ardından elde edilen ağırlıkları gerçek zamanlı bir uç noktaya dağıttığını söylüyor. Gönderide ayrıca tarif tabanlı yapılandırma, özelleştirilebilir giriş kanalları, isteğe bağlı ML akışı izleme ve AWS Secrets Manager aracılığıyla gizli erişim bilgileri gösteriliyor.
Kaynak ayrıntıları: aws.amazon.com ↗
Neden önemli?
Değişiklik, SageMaker'da özel AI iş yükleri çalıştıran ekipler için konteyner yeniden oluşturmalarını ve çerçeveye özel yapılandırmayı azaltabilir. Aynı zamanda ortak bir üretim modelini de göstermektedir: eğitim, yapılar ve çıkarım için yönetilen altyapıyı kullanırken model kodunu ve çalışma zamanı ortamlarını ayrı tutmak. Kaynak bağımsız performans, maliyet veya kullanılabilirlik karşılaştırmaları sağlamaz.
Yapay zeka ekipleri için açıklanan en pratik değişiklik, yeniden kullanılabilir çalışma zamanı altyapısının sık sık değişen model kodundan ayrılmasıdır. Bir kapsayıcı, işletim sistemi paketlerini, kitaplıklarını ve donanıma özgü bağımlılıkları barındırabilir; kaynak kodu, başlatıcı komut dosyaları ve yapılandırma dosyaları ise işin başlatılması sırasında sağlanır. AWS'nin uygulaması açıklandığı gibi çalışırsa bu, denemeler ve model güncellemeleri için yineleme döngüsünü kısaltabilir çünkü bir kod değişikliği otomatik olarak yeni bir kapsayıcı derlemesi ve gönderimi gerektirmez. Bu fayda algoritmik olmaktan ziyade operasyoneldir: ekiplerin yönetilen bulut altyapısında yapay zeka sistemlerini geliştirme, test etme ve sürdürme şeklini etkiler.
Birleşik API, geliştiricilerin geleneksel makine öğrenimi ile üretken yapay zeka arasında geçiş yaparken öğrenmesi gereken SageMaker kavramlarının sayısını da azaltabilir. Aynı ModelTrainer ve ModelBuilder modeli, CPU tabanlı tablolu sınıflandırıcı ve çoklu GPU dağıtım ince ayar işi için gösterilmiştir. AWS ayrıca ModelBuilder'ın çıkarım işleyicilerini model yapıtlarıyla paketleme ve bazı durumlarda kapsayıcıları seçme, bağımlılıkları yakalama veya serileştirme kodu oluşturma yeteneğine sahip olduğunu açıklar. Bu yetenekler dağıtım hatlarını daha tutarlı hale getirebilir ancak kaynak, her çerçevenin, model sunucunun veya özel ikili programın aynı desteği veya davranışı aldığını belirlemez.
İzlenecek yol, üretimde önemli olan kontrolleri vurgular. Eğitim çıktıları Amazon S3'e yazılır, model dosyaları dağıtım için paketlenir ve çıkarım işleyicilerinin bir modeli her istek için yeniden yüklemek yerine bir kez yüklemesi beklenir. Örnek ayrıca istek içerik türlerinin doğrulanmasını ve hassas belirteçler için bunları not defterlerine veya düz metin ortam değişkenlerine koymak yerine Secrets Manager'ın kullanılmasını önerir. Bu uygulamalar tekrarlanabilirliği artırabilir ve önlenebilir riskleri azaltabilir ancak tek başlarına tam bir güvenlik veya yönetim sistemi sağlamazlar.
Gönderi, eğitilen modellerdeki bağımsız testleri, ölçülen gecikmeyi, maliyet düşüşlerini, uç nokta güvenilirliğini veya kalite değişikliklerini bildirmez.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Bundan sonra ne izlenecek?
SDK'yı değerlendiren ekipler geçiş çabasını, desteklenen çerçeveyi ve hizmet kombinasyonlarını, bölgesel kullanılabilirliği, hizmet sınırlarını, güvenlik izinlerini ve toplam maliyeti doğrulamalıdır. Ayrıca çalışma zamanı kod eklemenin, sıcak havuzların, çoklu GPU eğitiminin ve gizli erişimin kendi dağıtım ve uyumluluk gereksinimlerine uyup uymadığını da test etmeleri gerekir.
Benimseyenlerin ilk sorusu göçün kapsamıdır. AWS, SDK v2 tahmincisi sınıflarından ve Model/Predictor modelinden ModelTrainer ve ModelBuilder'a geçişi açıklar, ancak gönderide her uyumsuz parametre, kullanımdan kaldırılmış özellik veya geçiş uyarısı listelenmez. Mevcut SageMaker ardışık düzenlerine sahip ekipler, yeni arayüzü bir anlık değişim olarak değerlendirmeden önce özel giriş noktalarını, bağımlılık kurulumunu, model arşivlerini, çıkarım işleyicilerini ve izleme entegrasyonlarını test etmelidir.
Ayrıca hangi hizmet çalışma zamanlarının kendi model formatını ve istek protokolünü desteklediğini de doğrulamaları gerekir. Maliyet ve kapasite başka bir açık konudur. Örneklerde yönetilen eğitim ve gerçek zamanlı uç noktalar, sıcak havuzlar, S3 depolama, konteyner kayıtları ve Stable Diffusion için dört GPU kullanılıyor. Bu kaynaklar yinelenen ücretler oluşturabilir ve kaynak herhangi bir fiyatlandırma tahmini, kullanım verisi veya diğer dağıtım yaklaşımlarıyla karşılaştırma sağlamaz.
AWS özellikle okuyuculara testten sonra uç noktaları, uç nokta yapılandırmalarını, modelleri, S3 yapıtlarını, ECR görüntülerini ve isteğe bağlı MLflow kaynaklarını silmeleri talimatını verir. Bu temizleme kılavuzu, örneklerin ücretsiz yerel gösterimler değil, operasyonel bulut iş akışları olduğunun sinyalini veriyor. Güvenlik ve güvenilirlik ayrıntıları, üretimde kullanılmadan önce incelenmeyi hak eder. Kaynak, bir yürütme rolünün veya kullanıcının SageMaker ve S3 izinlerine ihtiyacı olduğunu ve eğitim veya sürekli entegrasyon sorumlularının Secrets Manager'dan gizli bilgileri okumak için izne ihtiyacı olduğunu söylüyor.
Kuruluşlar bu izinleri gözden geçirmeli, eğitim ve hizmet rollerini izole etmeli, kapsayıcılara hangi kodun senkronize edildiğini kontrol etmeli ve günlüklerin hataları veya hassas verileri nasıl ele aldığını belirlemelidir. Ayrıca soğuk başlatmayı, sıcak havuz davranışını, uç nokta ölçeklendirmeyi, model yüklemeyi ve arıza gidermeyi de test etmelidirler. Gönderide bölgesel kullanılabilirlik, hizmet kotaları, resmi destek durumu, bağımsız kıyaslama sonuçları veya örnek depoların gelecekteki SDK sürümleriyle senkronize kalıp kalmayacağı belirtilmez.