कनेक्शनिस्ट टेम्पोरल वर्गीकरण

कनेक्शनिस्ट टेम्पोरल क्लासिफिकेशन (सीटीसी) एक हानि फ़ंक्शन और डिकोडिंग विधि है जो तंत्रिका नेटवर्क को प्रत्येक अक्षर के साथ प्रत्येक ध्वनि को हाथ से संरेखित किए बिना एक लंबे ऑडियो अनुक्रम को पाठ में बदलने की सुविधा देता है। इसने क्रूर संरेखण समस्या को हल करके एंड-टू-एंड वाक् पहचान को व्यावहारिक बना दिया।

भाषण गड़बड़ है: 'हैलो' शब्द 40 ऑडियो फ्रेम तक फैला हो सकता है, और कोई भी सटीक रूप से लेबल नहीं करता है कि कौन सा फ्रेम 'एच' है। 2006 में एलेक्स ग्रेव्स द्वारा शुरू की गई सीटीसी, इसे दरकिनार कर देती है। नेटवर्क प्रत्येक फ्रेम के लिए वर्णों (साथ ही एक विशेष 'रिक्त' टोकन) पर एक संभावना आउटपुट करता है। सीटीसी तब एक वैध संरेखण को किसी भी फ्रेम-दर-फ्रेम पथ के रूप में परिभाषित करता है जो दो नियमों के बाद लक्ष्य पाठ में समा जाता है: दोहराए गए वर्णों को मर्ज करें, फिर रिक्त स्थान हटाएं। क्योंकि कई पथ एक ही पाठ पर मैप होते हैं, सीटीसी एक गतिशील-प्रोग्रामिंग एल्गोरिदम (फॉरवर्ड-बैकवर्ड एल्गोरिदम) का उपयोग करके उन सभी की संभावना को जोड़ता है और उस कुल को अधिकतम करने के लिए नेटवर्क को प्रशिक्षित करता है। रिक्त टोकन एक चतुर चाल है जो मॉडल को 'यहां कुछ भी नया नहीं' कहने देती है और 'हैलो' में डबल-एल की तरह वास्तविक दोहराव को अलग करती है।