የቋንቋ AI መመሪያ

የሰነድ መቆራረጥ ስልቶች

የሰነድ መቆራረጥ ረጅም ጽሑፍን ለፍለጋ ወይም RAG ከመክተትዎ በፊት ወደ ተሰርስሮ ወደሚገኙ ቁርጥራጮች እንዴት እንደሚከፍሉ ነው።

2 ሚን አንብብለመጨረሻ ጊዜ የዘመነው

አጠቃላይ እይታ

The chunk size and boundaries quietly determine retrieval quality, so getting them right often matters more than picking a fancier model.

ጥልቅ ዳይቭ

መቆራረጥ ትላልቅ ሰነዶችን ወደ ንክሻ መጠን ወደ መክተቻ ሞዴል ይለውጣል እና ከጥያቄዎች ጋር የሚስማማ። የቋሚ መጠን መቆራረጥ በምልክት ወይም በቁምፊ ቆጠራ ይከፈላል፣ ብዙ ጊዜ ከተደራራቢ ጋር ስለዚህ ድንበር የሚሻገር ዓረፍተ ነገር ወላጅ አልባ አይሆንም። ተፈጥሯዊ መዋቅርን ለማክበር ተደጋጋሚ መቆራረጥ በተከፋዮች ተዋረድ (አንቀጾች፣ ከዚያም ዓረፍተ ነገር፣ ከዚያም ቃላት) ይከፈላል። የትርጓሜ ቡድኖች ዓረፍተ ነገሮችን ተመሳሳይነት በማካተት፣ ርዕሱ የሚቀየርበትን ቦታ በመስበር። በሰነድ አውቆ መቁረጥ ቅርጸቱን በራሱ ይከተላል፣ በማርክታውን አርዕስቶች፣ HTML መለያዎች ወይም በኮድ ተግባራት ላይ ይከፈላል። ዋናው ውጥረቱ ግርዶሽ ነው፡ ትናንሽ ቁርጥራጮች ትክክለኛ ግጥሚያዎችን ይሰጣሉ ነገር ግን በዙሪያው ያለውን አውድ ያጣሉ ፣ ትላልቅ ቁርጥራጮች ግን አውድ ይይዛሉ ነገር ግን ጠቀሜታውን ያጠፋሉ እና የማስመሰያ ገደቦችን ሊያልፍ ይችላል። ብዙ የቧንቧ መስመሮች ሰርስሮ ለማውጣት ትናንሽ ቁርጥራጮችን ያከማቻሉ ነገር ግን የተስፋፉ የወላጅ ምንባቦችን ወደ ሞዴሉ ይመገባሉ።

ቴክኒካዊ ግንዛቤ

መደራረብ በጣም ቀላሉ የአስተማማኝነት ዘዴ ነው፡ ከ10 እስከ 20 በመቶ የሚሆነውን ቶከኖች በአጎራባች ክፍልፋዮች መካከል መደጋገም በድንበር ላይ የተከፈለ እውነታ አሁንም ቢያንስ በአንድ ቁራጭ ውስጥ እንዳለ ያረጋግጣል። የትርጓሜ መቆራረጥ እያንዳንዱን ዓረፍተ ነገር በመክተት እና በጎረቤቶች መካከል ያለውን የኮሳይን ርቀት በመለካት ከዚያም ርቀቱ ከመነሻ በላይ በሚወጣበት ቦታ በመቁረጥ የበለጠ ይሄዳል። ይህ በመረጃ ጠቋሚ ወቅት ተጨማሪ የመክተት ስሌት ወጪን የሚሸፍን ተለዋዋጭ ርዝመት በገጽ ላይ ወጥነት ያለው ቁርጥራጮችን ይፈጥራል።

ስልታዊ ተጽእኖ

ፍጥነት እና ልኬት

የቋንቋ የስራ ፍሰቶች ወጥነትን ሳያጠፉ በፍጥነት ሊንቀሳቀሱ ይችላሉ።

መድረስ እና መድረስ

በቋንቋዎች እና በመግባቢያ ዘይቤዎች ተደራሽነትን ያሰፋዋል።

ግልጽ ውሳኔዎች

አውቶሜሽን ድግግሞሹን ሲቆጣጠር ቡድኖች በፍርድ ላይ ብዙ ጊዜ ሊያጠፉ ይችላሉ።

የወደፊት የሰነድ መቆራረጥ ስልቶች

ቸንክኪንግ ከተስተካከለ የቅድመ-ሂደት ደረጃ ወደ አስማሚ እና ሞዴል-ወደሚያውቅ ነገር እየተሸጋገረ ነው። ልክ እንደ ዘግይቶ መቆራረጥ መጀመሪያ መላውን ሰነድ መክተት፣ ከዚያም የፑንክ ቬክተሮች እያንዳንዱ ክፍል ዓለም አቀፋዊ አውድ እንዲይዝ ይቀርባሉ። አቀማመጥን የሚያውቁ ተንታኞች ጠረጴዛዎችን፣ ርእሶችን እና አሃዞችን ወደ ጫጫታ ጽሑፍ ከማስቀመጥ ይልቅ እየጠበቁ ናቸው። የአውድ መስኮቶች እያደጉ ሲሄዱ፣ አንዳንድ የቧንቧ መስመሮች ያነሱ ግን ትላልቅ ቁርጥራጮችን ያመጣሉ፣ ነገር ግን ብልጥ ጩኸት ለዋጋ፣ ዘግይቶ እና ትክክለኛ ትክክለኛነት ከመጥፋት ይልቅ አስፈላጊ ሆኖ ይቆያል።

የእውነተኛ-ዓለም አተገባበር

ባለ 200 ገጽ የምርት መመሪያ በክፍል ርእሶች ላይ መከፋፈል ስለዚህ ስለ 'የዋስትና ውሎች' ጥያቄ ሙሉውን መጽሐፍ ሳይሆን ያንን ክፍል ያወጣል።

የዓረፍተ ነገር መደራረብን በመጠቀም የአንዱን አንቀጽ መጨረሻ እና የሚቀጥለውን መጀመሪያ የሚሸፍነው ፍቺ ቢያንስ በአንድ ቁራጭ ውስጥ ይቆያል።

የጥናት ወረቀቱን በትርጓሜ በመቁረጥ ዘዴዎቹ ውይይት እና የውጤት ውይይቱ የተለያዩ፣ በርዕስ ወጥነት ያለው ምንባቦች ይሆናሉ።

የኮድ ቤዝ በተግባር ወይም በክፍል ድንበሮች መቆራረጥ ስለዚህ የገንቢ ጥያቄ ከግማሽ ተግባር ይልቅ የተሟላ እና የሚሰራ አሃድ ያወጣል።

አደጋዎች እና የጥበቃ መንገዶች

የተሳሳቱ እውነታዎች በጸጥታ ወደ ሪፖርቶች፣ የድጋፍ ፍሰቶች ወይም የምርምር ውጤቶችን ማስገባት ይችላሉ።

ፈጣን ትብነት በተመሳሳይ ጥያቄዎች ላይ የማይጣጣሙ ውጤቶችን ሊፈጥር ይችላል።

የመዳረሻ መቆጣጠሪያዎች ደካማ ከሆኑ ሚስጥራዊነት ያለው የጽሑፍ ውሂብ ሊጋለጥ ይችላል።

የትግበራ ፍኖተ ካርታ

1

ከመልቀቅዎ በፊት የውጤት ቅርጸትን፣ ድምጽን እና የጥራት ደረጃዎችን ይግለጹ።

2

ትክክለኛነት አስፈላጊ በሚሆንበት ጊዜ ሁሉ ከታመኑ ምንጮች ጋር ምላሾች።

3

ከፍተኛ ውጤት ለማግኘት የሰው የግምገማ ነጥብ አቆይ።

4

የውድቀት ንድፎችን ይከታተሉ እና ጥያቄዎችን ወይም የስራ ፍሰቶችን በመደበኛነት ያሠለጥኑ።

ማሰስዎን ይቀጥሉ

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Document Chunking Strategies quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

ጥያቄ ጀምር

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

ቀጣይ መመሪያ

HyDE መላምታዊ ሰነድ መክተቻዎች

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

What is Document Chunking Strategies?

የሰነድ መቆራረጥ ረጅም ጽሑፍን ለፍለጋ ወይም RAG ከመክተትዎ በፊት ወደ ተሰርስሮ ወደሚገኙ ቁርጥራጮች እንዴት እንደሚከፍሉ ነው። የጭራሹ መጠን እና ድንበሮች የመልሶ ጥራትን በጸጥታ ይወስናሉ፣ ስለዚህ እነሱን በትክክል ማግኘቱ ብዙውን ጊዜ የፋንሲየር ሞዴል ከመምረጥ የበለጠ አስፈላጊ ነው።

ለምንድነው መደራረብ ብዙ ጊዜ በአጎራባች ቁርጥራጮች መካከል የሚጨመረው?

መደራረብ በጎረቤቶች መካከል የተቆራረጡ ምልክቶችን ይደግማል ስለዚህ የተከፋፈለው መረጃ በግማሽ ተቆርጦ አይጠፋም.

የት እንደሚከፈል ለመወሰን የትርጉም ጩኸት ምን ይጠቀማል?

የትርጓሜ መቆራረጥ ዓረፍተ ነገሮችን ያጠቃልላል እና በጎረቤቶች መካከል የኮሳይን ርቀት በሚጨምርበት ጊዜ ይሰብራል፣ በርዕስ ወጥነት ያላቸው ቁርጥራጮችን ይፈጥራል።

በጣም ትንሽ እና በጣም ትልቅ በሆኑ ቁርጥራጮች መካከል ያለው ዋናው የንግድ ልውውጥ ምንድነው?

ጥቃቅን ቁርጥራጮች በትክክል ይዛመዳሉ ነገር ግን በዙሪያው ያለውን አውድ ያራቁታል፣ ትላልቅ ቁርጥራጮች ግን አውድ ይጠብቃሉ ነገር ግን ተገቢነትን ይቀንሱ እና የማስመሰያ ገደቦችን ሊመቱ ይችላሉ።

ተደጋጋሚ መቆራረጥ ጽሑፍ የት እንደሚሰበር የሚወስነው እንዴት ነው?

በመጠን ዒላማ ውስጥ እየቆዩ የተፈጥሮን መዋቅር ለማክበር ተደጋጋሚ መቆራረጥ ወደ መለያዎች ዝርዝር ይወርዳል።

ከ'ከትንሽ እስከ ትልቅ' ወይም ከወላጅ-ሰነድ የማውጣት ንድፍ በስተጀርባ ያለው ሀሳብ ምንድን ነው?

ለትክክለኛነቱ በትናንሽ ቁርጥራጮች ይመሳሰላሉ፣ ከዚያም በዙሪያው ወዳለው የወላጅ ጽሑፍ ያስፋፉ ስለዚህም ሞዴሉ ሙሉ አውድ ያገኛል።