Ne oldu?
Economic Times, Vahan AI'nin, Hindistan'daki mavi yakalı ve iş çalışanlarına hizmet veren ses tabanlı bir işe alım hizmeti için 30 milyar parametreli Nemotron 3 Nano modeline ince ayar yapmak üzere Nvidia Inception programı aracılığıyla Nvidia'nin teknik ekibiyle birlikte çalıştığını bildirdi. Şirket, modelin üretimde olduğunu ve trafiğinin yaklaşık %10'unu idare ettiğini söylüyor.
Economic Times, Vahan AI'nin, şirketin ses tabanlı AI işe alma görevlisi için Nvidia'nin makalede 30 milyar parametreye sahip olduğu açıklanan Nemotron 3 Nano modeline ince ayar yaptığını bildirdi. Vahan AI'nin hizmeti, mavi yakalı iş arayanlarla konuşuyor, onları işlerle eşleştiriyor ve işe alım sürecinin bazı kısımlarında yardımcı oluyor. Makalede şirketin Nvidia'nin teknik ekibiyle Nvidia'nin Başlangıç programı aracılığıyla Vahan'ın özel işe alım verilerini kullanarak çalıştığı belirtiliyor.
Economic Times, ince ayarlı modelin üretimde kullanıldığını ve şu anda Vahan AI trafiğinin yaklaşık %10'unu yönettiğini bildirdi. Kurucu ve CEO Madhav Krishna, şirketin erken dönemde olumlu işaretler aldığını ancak zamanla daha geniş bir ölçeğin gelmesini beklediklerini söyledi. Makale, söz konusu trafik paylaşımına kaç çağrının veya kullanıcının dahil edildiğini, hangi bölgelerin veya dillerin kapsandığını veya şirketin dağıtımı ne zaman genişletmeyi beklediğini belirtmiyor.
The Economic Times'ın bildirdiği iddialara göre, ince ayarlı model, Vahan AI'nın daha önce kullandığı sisteme kıyasla yaklaşık 6,7 kat daha hızlı ilk yanıt süresi ve üç kat daha düşük ortalama uçtan uca gecikme süresi üretti. Şirket, önceki sisteminin kullanıma hazır 120 milyar parametreli bir dil modeline dayandığını söyledi. Vahan AI ayrıca yanıt doğruluğunu, insan benzeri yanıtları, dil eşleşmesini, işlev çağırmayı ve diğer araçlara iletilen talimatların doğruluğunu test ettiğini söyledi.
Economic Times, Vahan AI'nin eğitim verilerini mavi yakalı iş arayanlarla yapılan görüşmelerden oluşan bir veri havuzundan hazırladığını bildirdi. Krishna, veri kümesinin yaklaşık 20.000 ila 30.000 saatlik çağrı olduğunu tahmin etti. Şirket, uzmanlık eğitiminin, Hintçe'de yaygın kullanılan kelimeleri ifade etmenin farklı yolları da dahil olmak üzere, Hintçe konuşmadaki dil değişimi ve bölgesel farklılıklar ile sistemin başa çıkmasına yardımcı olduğunu söyledi. Vahan AI, modeli Hindistan merkezli bir bulut sağlayıcı aracılığıyla Nvidia GPU altyapısı üzerinde çalıştırmayı planlıyor ve ayrıca ses yığınının diğer bölümleri için açık kaynaklı konuşma modelleri üzerinde Nvidia ile çalışıyor.
Kaynak ayrıntıları: m.economictimes.com ↗
Neden önemli?
Bildirilen dağıtım, daha küçük bir dil modelini dar tanımlı, çok dilli bir ses uygulamasına uyarlayan bir şirketin somut bir örneğidir. Şirketin ilk sonuçları geçerli olursa, özel modeller, doğal konuşma ve yerel dil kullanımının önemli olduğu hizmetlerde yanıt gecikmelerini ve altyapı maliyetlerini azaltabilir.
Bildirilen değişiklik önemlidir çünkü ses uygulamaları gecikmeye duyarlıdır. Economic Times, Krishna'nın tipik 500 milisaniye ila bir saniyelik bir gecikmeyi etkileşimin doğal olmayan bir his vermesi olarak tanımladığını aktarıyor ve Vahan AI'nın ince ayarlı sistemin bu gecikmeyi azaltmasını beklediğini söylüyor. Daha hızlı ilk yanıtlar, otomatik aramaların takip edilmesini kolaylaştırabilir ancak makale, konuşma kalitesi veya kullanıcı memnuniyeti konusunda bağımsız bir test sunmamaktadır.
Bu örnek aynı zamanda genel amaçlı bir modelin üretim yapay zeka hizmeti için neden tek seçenek olmayabileceğini de gösteriyor. Vahan AI, modelinin Hindistan'daki belirli bir göreve, belirli bir iş gücüne ve çok dilli konuşma kalıplarına uyarlandığını söylüyor. Kaynak maliyet rakamlarını, donanım gereksinimlerini, enerji kullanımını veya toplam işletme giderlerinin bir karşılaştırmasını sağlamasa da, daha küçük veya daha dar bir şekilde ayarlanmış bir modelin bu görev için çalıştırılması çok daha büyük bir genel amaçlı modele göre potansiyel olarak daha kolay olabilir.
İşe alım sonuçsal bir ayardır. Sistemin insanları işlerle eşleştirmeye yardımcı olduğu ve işe alım sürecinin bazı kısımlarını desteklediği tanımlanıyor; böylece hatalar istihdama erişimi, adayların aldığı bilgileri veya bir süreçte ne kadar verimli ilerlediklerini etkileyebilir. Economic Times şirketin teknik karşılaştırmalarını rapor ediyor ancak demografik adalet ölçümlerini, dile veya bölgeye göre hata oranlarını, insan inceleme prosedürlerini veya sistemin işe alım sonuçlarını iyileştirdiğine dair kanıtları rapor etmiyor.
20.000 ila 30.000 saatlik konuşmaların kullanıldığı rapor edilmesi, rıza, mahremiyet, saklama, açıklama ekleme ve hassas istihdam bilgilerinin işlenmesiyle ilgili pratik soruları gündeme getiriyor. Şirket, Hindistan merkezli bir bulut sağlayıcı kullanmanın, verilerin ülke dışına çıkmaması anlamına geldiğini söylüyor. Bu, Vahan AI'ye atfedilen bir beyandır, sistemin veri akışlarına veya uyumluluk kontrollerine ilişkin bağımsız olarak onaylanmış bir değerlendirme değildir. Kaynak ayrıca, iş arayanların konuşmaların model eğitim için kullanılabileceği konusunda bilgilendirilip bilgilendirilmediğini de belirtmiyor.
İnteraktif Mekanizma: Aslında Nasıl Çalışıyor?
Bu gelişmenin arkasında yatan teknolojiyi etkileşimli olarak keşfedin.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Bundan sonra ne izlenecek?
Economic Times, Vahan AI'nin kıyaslama sonuçlarını, veri uygulamalarını veya bildirilen yerleştirme rakamlarını bağımsız olarak doğrulamaz. Sonraki önemli sorular, modelin başlangıçtaki trafik paylaşımının ötesine geçip geçmediği, gecikme ve doğruluk kazanımlarının geniş ölçekte devam edip etmediği, işe alım verilerinin nasıl yönetildiği ve sistemin yalnızca teknik ölçümler yerine iş arayanlar için sonuçları iyileştirip iyileştirmediğidir.
Bir sonraki ölçülebilir kilometre taşı, Vahan AI'nın ince ayarlı modeli üretim trafiğinde bildirilen %10'luk payın ötesine taşıyıp taşımadığıdır. Daha büyük bir dağıtım, yoğun talep, farklı aksanlar, kod değiştirme ve sesli konuşmalarda yaygın olan kesintiler dahil olmak üzere gerçek çalışma koşulları altında güvenilirlik hakkında daha fazla kanıt sağlayacaktır. Makale bu genişleme için herhangi bir zaman çizelgesi vermiyor.
Bağımsız değerlendirme şirketin iddialarını netleştirmeye yardımcı olacaktır. Economic Times, şirketin kıyaslamalarında gecikmede göreceli iyileşmeler ve geniş çaplı iyileştirmeler rapor ediyor, ancak her dil için kıyaslama tasarımını, örnek boyutlarını, temel yapılandırmaları, mutlak doğruluğu, güven aralıklarını veya sonuçları yayınlamıyor. Önceki 120 milyar parametreli sistemle karşılaştırmalar, altyapı ve hizmet konfigürasyonundaki açıklanmayan farklılıklara da bağlı olabilir.
Veri yönetimi, sistem geliştikçe yakından ilgiyi hak ediyor. Vahan AI'nin bildirdiği eğitim külliyatı, iş arayanlarla yapılan görüşmelerden oluşuyor ve şirket, ek özel işe alım modelleri oluşturduğunu söylüyor. Kamuya açık bilgiler arasında kayıtların ve transkriptlerin nasıl toplandığı, kişilerin bu tercihten vazgeçip vazgeçemeyeceği, kişisel bilgilerin nasıl kaldırıldığı, verilerin ne kadar süreyle tutulduğu ve sistem bir işe alım sürecini etkilediğinde ne gibi insan gözetiminin uygulandığı yer alır.
Raporda, Vahan AI'nın, ses sisteminin diğer bölümleri için açık kaynaklı konuşma modellerinin ince ayarını yapmak üzere Nvidia ile birlikte çalıştığı belirtiliyor. Ayrıca şirketin Hindistan merkezli bir bulut sağlayıcısı aracılığıyla Nvidia GPU altyapısını kullanmayı planladığı da belirtiliyor. Bilinmeyen şey ise, bu çabaların daha geniş bir ürün dağıtımı, daha düşük maliyetler, daha iyi yerleştirme oranları ya da yalnızca gelişmiş sistem yanıt verebilirliği üretip üretmeyeceğidir. Kaynak bu sonuçların hiçbirini bağımsız olarak doğrulamıyor.