Ne oldu?
AWS bir teknik kılavuz yayınladı ve OpenAI'nin Whisper modelinin açık kaynaklı bir uzantısı olan WhisperX için bir Derin Öğrenme Kabı (DLC) yayınladı. Bu konteyner, hem gerçek zamanlı hem de eşzamansız uç noktaları destekleyen Amazon SageMaker AI üzerinde dağıtım için tasarlanmıştır. Sistem, standart transkripsiyona konuşmacı günlüğü tutma ve kelime düzeyinde zaman damgaları ekleyerek kurumsal iş yükleri için genel konuşmayı metne dönüştürme araçlarındaki sınırlamaları giderir.
AWS, WhisperX için Amazon SageMaker AI üzerinde dağıtılmaya hazır bir Derin Öğrenme Kabı'nı (DLC) kullanıma sundu. WhisperX, OpenAI'nin Whisper otomatik konuşma tanıma modelini toplu çıkarım, kelime başına zaman damgaları için wav2vec2 zorunlu hizalama ve konuşmacı günlüğü ekleyerek genişleten açık kaynaklı bir projedir. AWS DLC, bu bileşenleri standart SageMaker AI hizmet sözleşmesini izleyen GPU'ya hazır bir görüntü halinde paketleyerek kullanıcıların özel görüntüler oluşturma veya Hugging Face belirteçlerini yönetme ihtiyacını ortadan kaldırır.
Dağıtım iki uç nokta türünü destekler: gerçek zamanlı ve eşzamansız. Gerçek zamanlı uç nokta, SageMaker AI'nin 60 saniyelik yanıt sınırı dahilinde tamamlanan ve metni eşzamanlı olarak döndüren kısa, etkileşimli klipler için uygundur. Amazon S3 aracılığıyla giriş ve çıkışa aracılık ederek zaman sınırını ortadan kaldırdığı ve daha karmaşık işlemlere izin verdiği için, uzun ses dosyaları için eşzamansız uç nokta önerilir. Her iki uç nokta da, başlatma hatalarını önlemek için InferenceAmiVersion'ın al2-ami-sagemaker--gpu-3-1'e sabitlenmesi de dahil olmak üzere özel yapılandırma gerektirir.
Kaynak, dağıtımı test etmek için AWS Samples deposunda çalıştırılabilir bir JupyterLab not defteri sağlar. Örnekte, sistemin arka plan gürültüsüyle çok taraflı radyo santrallerini idare etme yeteneğini göstermek için US Airways Flight 1549'dan gelen hava trafik kontrol iletişimlerinin kamuya açık kaydı kullanılıyor. Çıktı, hassas ses analizi ve uyumluluk denetimi gerektiren uygulamalar için kritik olan bölümleri, kelime başına zaman damgalarını ve hoparlör etiketlerini içerir.
Kaynak ayrıntıları: aws.amazon.com ↗
Neden önemli?
Bu sürüm, wav2vec2 hizalama ve günlük oluşturma gibi karmaşık bileşenleri yönetilen, GPU'ya hazır bir görüntüde paketleyerek kuruluşların yüksek kaliteli ses analizi uygulama engelini azaltır. Ekiplerin, özel kapsayıcılar oluşturmadan konuşmacı etiketli transkripsiyonu dağıtmasına olanak tanır, iletişim merkezlerinde kullanım örneklerini, yasal keşifleri ve medya altyazılarını destekler. AWS, standartlaştırılmış bir hizmet sözleşmesi sağlayarak gelişmiş açık kaynaklı yapay zeka yeteneklerini yönetilen bulut altyapısına entegre ederek ölçeklenebilir ve uyumlu ses işlemeyi kolaylaştırır.
Genel konuşmayı metne dönüştürme araçları genellikle, iletişim merkezi analizi, yasal keşif ve medya altyazıları gibi kurumsal uygulamalar için gerekli olan güvenilir konuşmacı tanımlama ve kesin zaman damgaları sağlamada başarısız olur. WhisperX'i yönetilen bir DLC'de paketleyen AWS, derin altyapı uzmanlığı gerektirmeden bu boşlukları gideren, üretime hazır bir çözüm sağlar.
Konuşmacı günlüğü ve kelime düzeyinde hizalamanın entegrasyonu, ses verilerinin daha ayrıntılı analizine olanak tanır. Örneğin, iletişim merkezleri konuşma süresini ve komut dosyalarına uyumu ölçebilirken medya ekipleri de doğru SubRip Altyazı (SRT) ve Web Video Metin Parçaları (VTT) dosyalarını oluşturabilir. Bu yetenek, denetimler için konuşmanın doğru şekilde ilişkilendirilmesinin gerekli olduğu sağlık, hukuk ve finans sektörlerindeki mevzuat uyumluluğunu destekler.
Sürüm, bulut sağlayıcılarının özelleştirilmiş açık kaynaklı yapay zeka modellerini yönetilen hizmetlerine entegre etme eğilimini vurguluyor. Standartlaştırılmış bir kapsayıcı sunarak AWS, gelişmiş konuşma tanıma modellerinin dağıtımına yönelik operasyonel ek yükü azaltır ve bunları daha geniş bir geliştirici ve kuruluş yelpazesi için daha erişilebilir hale getirir.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
In AI, what are a model's "parameters"?
Bundan sonra ne izlenecek?
Bu kapsayıcıyı çalıştırmak için gereken GPU bulut sunucularına yönelik müşteri benimseme ölçümlerini ve belirli fiyatlandırma modellerini izleyin. WhisperX açık kaynak projesine yönelik, gelecekteki kapsayıcı sürümlerine yansıtılabilecek güncellemeleri izleyin ve bu dağıtım modelinin, yönetilen konuşmayı metne dönüştürme hizmetlerine yönelik daha geniş pazarı nasıl etkilediğini gözlemleyin.
Kaynak, kapsayıcıyı çalıştırmak için gereken GPU bulut sunucuları (ml.g4dn.xlarge veya ml.g5.2xlarge) için fiyatlandırmayı belirtmiyor ve GPU uç noktaları için sürekli faturalandırmanın maliyet sonuçlarını ayrıntılarıyla anlatmıyor. Kullanıcılar, SageMaker AI için AWS fiyatlandırma güncellemelerini ve maliyet kontrol özelliklerini izlemelidir.
WhisperX açık kaynak projesine yapılacak gelecekteki güncellemeler, AWS DLC'nin sonraki sürümlerine yansıtılan yeni özellikler veya iyileştirmeler sunabilir. Bu güncellemeleri takip etmek, konuşmacı günlüğü oluşturma ve hizalamadaki en son yeteneklere güvenen kullanıcılar için önemli olacaktır.
Bu kapsayıcının kurumsal müşteriler tarafından benimsenmesi, yönetilen, yüksek kaliteli konuşmayı metne dönüştürme hizmetlerine yönelik pazar talebini gösterecektir. AWS'nin bu aracı diğer konuşma tanıma tekliflerine göre nasıl konumlandırdığını gözlemlemek, rekabet ortamına dair içgörüler sağlayacaktır.