पाठ एंबेडिंग

They are the foundation for semantic search, recommendations, clustering, and the retrieval behind many AI assistants.

कंप्यूटर सीधे तौर पर कच्चे पाठ के बारे में तर्क नहीं कर सकते हैं, इसलिए एम्बेडिंग भाषा को संख्याओं के निश्चित-लंबाई वाले वैक्टर में बदल देती है, अक्सर कुछ सौ से लेकर एक हजार से अधिक आयामों तक। मुख्य गुण यह है कि इस वेक्टर स्थान में दूरी अर्थ को दर्शाती है: "खुश" और "खुश" एक-दूसरे के निकट हैं, जबकि "खुश" और "डामर" बहुत दूर हैं। Word2Vec और GloVe जैसे प्रारंभिक शब्द एम्बेडिंग ने प्रत्येक शब्द को एक निश्चित वेक्टर सौंपा, जो प्रसिद्ध रूप से राजा शून्य से पुरुष और महिला रानी के निकट उतरने जैसी उपमाओं को सक्षम करता है। उनकी सीमा यह थी कि "बैंक" जैसे शब्द का अर्थ एक ही था, चाहे इसका अर्थ नदी तट हो या वित्तीय बैंक। ट्रांसफार्मर मॉडल से आधुनिक प्रासंगिक एम्बेडिंग एक शब्द को उसके वाक्य के आधार पर एक अलग वेक्टर देकर इसे ठीक करते हैं। वाक्य और दस्तावेज़ एम्बेडिंग मॉडल आगे बढ़ते हैं, पूरे अनुच्छेदों को एक अर्थ-समृद्ध वेक्टर में संपीड़ित करते हैं जिसे आप खोज सकते हैं या क्लस्टर कर सकते हैं।