ኮንሰርተር አርክቴክቸር
Conformer ሁለቱንም ጥሩ ጥራት ያላቸውን የአካባቢያዊ የድምጽ ቅጦችን እና የረጅም ጊዜ አውድ በአንድ ንብርብር ውስጥ የሚይዝ፣ ከራስ ትኩረት ጋር የሚጣመር የነርቭ አውታረ መረብ ብሎክ ነው።
አጠቃላይ እይታ
It became the de facto standard encoder for state-of-the-art speech recognition.
ጥልቅ ዳይቭ
በ2020 በGoogle የተዋወቀው ኮንፎርመር በድምጽ ሞዴሊንግ ቁልፍ ውጥረትን መለሰ፡ እራስን ትኩረት መስጠት (ከTransformers) በአለም አቀፋዊ ሁኔታ በጣም ጥሩ ነው ነገር ግን በአካባቢያዊ፣ ፎነሞችን በሚለዩ ጥሩ ጥራት ያላቸው ቅጦች ደካማ ነው፣ convolutions ግን ከአካባቢው የተሻሉ ናቸው ነገር ግን ረጅም ንግግርን ለማየት ይታገላሉ። የኮንፎርመር ብሎክ በ'ሳንድዊች' ንድፍ ውስጥ አንድ ላይ ይሰፋል፡ የግማሽ ደረጃ መጋቢ ወደፊት ሞጁል፣ ከዚያም ባለብዙ ጭንቅላት የራስ ትኩረት ሞጁል፣ ከዚያም የኮንቮሉሽን ሞጁል፣ ከዚያም ሁለተኛ የግማሽ ደረጃ መጋቢ-ማስተላለፊያ ሞጁል፣ በንብርብር መደበኛነት እና ቀሪ ግኑኝነቶች በጠቅላላ። የኮንቮሉሽን ሞጁል በጥልቀት የሚነጣጠሉ ውዝግቦችን እና ባለ በር መስመራዊ አሃድ ይጠቀማል። በእያንዳንዱ ብሎክ ውስጥ አካባቢያዊ እና አለምአቀፋዊ ሂደትን በማለፍ Conformer encoders ከንፁህ ትራንስፎርመር ወይም እንደ LibriSpeech ባሉ መመዘኛዎች ላይ የቃላት-ስህተት ዋጋዎችን በእጅጉ ይቀንሳል።
ቴክኒካዊ ግንዛቤ
የ'ማካሮን' ፊርማ መዋቅር ትኩረትን እና ውዝግብን በሁለት መጋቢ-ወደ ፊት ንብርብቶች መካከል ይጠቀለላል፣ እያንዳንዱም ግማሽ ክብደት ያለው ቀሪ (0.5 ፋክተር)፣ በTransformer FFN ጥንዶች ትንታኔዎች ተመስጦ ነው። የኮንቮሉሽን ሞጁሉ በተለምዶ የነጥብ ጠመዝማዛ ውዝግቡን ከጂኤልዩ አግብር፣ ጥልቅ ውዥንብር፣ ባች ኖርማልላይዜሽን፣ የስዊሽ ማግበር እና የመጨረሻው ነጥብ አቅጣጫዊ ኮንቮሉሽን - የመለኪያ ቆጠራ ሳይፈነዳ የአካባቢ አውድን ለመቅረጽ ቀልጣፋ መንገድ ነው።
ስልታዊ ተጽእኖ
መድረስ እና መድረስ
በጽሑፍ፣ በትረካ እና በድምፅ በይነገጾች ተደራሽነትን ያሻሽላል።
ወጪ እና በጀት
የሚዲያ ቡድኖች በትንሽ በጀቶች የተጣራ ድምጽ በፍጥነት መላክ ይችላሉ።
ፍጥነት እና ልኬት
ከደንበኛ ጋር የሚገናኙ ስርዓቶች የንግግር ግንኙነቶችን በትልቁ ደረጃ ማካሄድ ይችላሉ።
የኮንፎርመር አርክቴክቸር የወደፊት ዕጣ
Conformers አሁን ለትራንስዱስተር እና ለሲቲሲ/ትኩረት ASR የጀርባ አጥንት ኢንኮደር ሆነው ያገለግላሉ፣ እና ዲዛይኑ ወደ ንግግር ትርጉም፣ ድምጽ ማጉያ ማወቂያ እና የድምጽ ክስተት ፈልጎ ማግኘት ተሰራጭቷል። ንቁ ምርምር ትኩረትን ለረጅም ኦዲዮ (የቀጥታ እና የተሰነጠቀ ትኩረት ለዥረት ዥረት) ያቃልላል፣ Conformers በመሣሪያ ላይ ጥቅም ላይ እንዲውል ያደርጋል፣ እና በራስ ቁጥጥር ከሚደረግ የቅድመ ስልጠና ጋር ያጣምራል። እንደ Squeezeformer እና Efficient Conformer ያሉ ተለዋዋጮች ትክክለኝነት-በተቃራኒ-የማስላት ግብይትን የበለጠ ይገፋሉ።
የእውነተኛ-ዓለም አተገባበር
በድምጽ ረዳቶች እና በንግግሮች ጀርባ በምርት ዥረት ASR ስርዓቶች እንደ መቀየሪያ በማገልገል ላይ
የንግግር ቋንቋን የሚገለብጡ እና የሚተረጉሙ የንግግር ትርጉም ሞዴሎችን ማብቃት ከጫፍ እስከ ጫፍ
በስብሰባ ላይ ማን እንደተናገረ የሚለይ የጀርባ አጥንት ለተናጋሪ ማረጋገጫ እና ዳይሪዜሽን
የድምጽ ክስተት እና የድምጽ ምደባ፣ እንደ ማንቂያዎች፣ ንግግር ወይም ሙዚቃ በዥረት ውስጥ መፈለግ
አደጋዎች እና የጥበቃ መንገዶች
ስምምነት ሲጠፋ የድምፅ አላግባብ መጠቀም እና የማስመሰል አደጋዎች ይጨምራሉ።
ትክክለኛነት በአነጋገር ዘዬዎች፣ ቀበሌኛዎች ወይም ጫጫታ አካባቢዎች ላይ ሊወድቅ ይችላል።
ሰራሽ ኦዲዮ ግልጽ ምልክት ሳይደረግበት ለትክክለኛ ንግግር ሊሳሳት ይችላል።
የትግበራ ፍኖተ ካርታ
ለድምጽ ቀረጻ፣ ክሎኒንግ እና እንደገና ጥቅም ላይ ለማዋል ግልጽ የሆነ ፈቃድ ያግኙ።
በተለያዩ የድምጽ ማጉያዎች እና የበስተጀርባ ሁኔታዎች ላይ ጥራትን ይሞክሩ።
አንድ ሰው መቼ ውጤቶችን መገምገም ወይም ማጽደቅ እንዳለበት ይግለጹ።
ሰው ሰራሽ ኦዲዮን ይሰይሙ እና ለተጠያቂነት የፕሮቨንስ መዝገቦችን ያስቀምጡ።
ማሰስዎን ይቀጥሉ
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Conformer Architecture quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
ቀጣይ መመሪያ
DeepSpeech አርክቴክቸር
በተደጋጋሚ የሚጠየቁ ጥያቄዎች
What is Conformer Architecture?
Conformer ሁለቱንም ጥሩ ጥራት ያላቸውን የአካባቢያዊ የድምጽ ቅጦችን እና የረጅም ጊዜ አውድ በአንድ ንብርብር ውስጥ የሚይዝ፣ ከራስ ትኩረት ጋር የሚጣመር የነርቭ አውታረ መረብ ብሎክ ነው። ለዘመናዊ የንግግር እውቅና ትክክለኛ መደበኛ ኢንኮደር ሆነ።
የኮንፎርመር አርክቴክቸር በአንድ ብሎክ ውስጥ ምን ሁለት ስልቶችን ያጣምራል?
ኮንፎርመር (ለአካባቢያዊ ቅጦች) በራስ ትኩረት (ለአለማዊ አውድ) በእያንዳንዱ ብሎክ ውስጥ ውዝግቦችን ያዋህዳል።
ኮንቮሉሽን እና ትኩረትን ማጣመር በተለይ ለንግግር ጠቃሚ የሆነው ለምንድነው?
convolutions ፎነሞችን በመለየት ጥሩ-ጥራጥሬ የአካባቢ ምልክቶች ላይ የላቀ, ራስን ትኩረት ሞዴሎች በመላው አነጋገር ጥገኞች; Conformer ሁለቱንም ያገኛል.
የኮንፎርመር ብሎክ 'ማካሮን' ወይም ሳንድዊች መዋቅር ምንድነው?
Conformer የራስ ትኩረትን እና ኮንቮሉሽን ሞጁሎችን በሁለት መጋቢ-ማስተላለፍ ሞጁሎች መካከል ያስቀምጣቸዋል፣ እያንዳንዳቸው በግማሽ ክብደት ያለው ቀሪዎች ይተገበራሉ።
ኮንፎርመርን ያስተዋወቀው የትኛው ድርጅት ነው እና በየትኛው አመት ነው?
ተቋራጩ በ2020 በGoogle ተመራማሪዎች አስተዋወቀ እና በፍጥነት መደበኛ የንግግር-ማወቂያ ኢንኮደር ሆነ።
በኮንፎርመር ውስጥ ያለው የኮንቮሉሽን ሞጁል ምንን ያካትታል?
የኮንቮሉሽን ሞዱል ሰንሰለቶች በነጥብ አቅጣጫ ኮንቮሉሽን ከተከለለ መስመራዊ አሃድ፣ ጥልቀት ያለው ኮንቮሉሽን፣ ባች ኖርማልላይዜሽን እና የስዊሽ ማግበር፣ በሌላ ነጥብ አቅጣጫ ቅየራ ያበቃል።