ኮልበርት እና ባለብዙ ቬክተር መልሶ ማግኘት

This 'late interaction' captures fine-grained meaning while staying fast enough for large-scale search.

በ2020 በካታብ እና ዛሃሪያ የተዋወቀው ኮልበርት (በበርት ላይ አውድ የተደረገ ዘግይቶ መስተጋብር) በሁለት የማግኛ ጽንፎች መካከል ተቀምጧል። ነጠላ-ቬክተር ጥቅጥቅ ያሉ ሰርስሮዎች አንድን ሙሉ ምንባብ ወደ አንድ መክተት ጨምቀው ይህም ፈጣን ቢሆንም ዝርዝር ጉዳዮችን ያጣል። ተሻጋሪ ኢንኮደሮች ለትክክለኛነት በ BERT በኩል መጠይቅን ይመገባሉ፣ነገር ግን በሚሊዮን የሚቆጠሩ ምንባቦችን ደረጃ ለመስጠት በጣም ቀርፋፋ ናቸው። ኮልበርት መጠይቁን በኮድ ያስቀምጣቸዋል እና ሰነዱን ለብቻው ወደ ከረጢት ማስመሰያ መክተት፣ ይህም ሰነዶች አስቀድሞ እንዲሰሉ እና ከመስመር ውጭ እንዲጠቆሙ ያስችላቸዋል። በጥያቄ ጊዜ የማክስሲም ኦፕሬሽንን ይጠቀማል፡ ለእያንዳንዱ መጠይቅ ቶከን ቬክተር ከሁሉም የሰነድ ማስመሰያ ቬክተሮች መካከል ከፍተኛውን ተመሳሳይነት ይፈልጉ እና እነዚያን ከፍተኛውን ያጠቃልሉ። ይህ ዘግይቶ መስተጋብር የማስመሰያ ደረጃ ማዛመድን ይጠብቃል፣ይህም አልፎ አልፎ የማስታወስ ችሎታን በማሻሻል መዘግየትን ዝቅተኛ ያደርገዋል። ኮልበርቲቪ 2 መረጃ ጠቋሚውን በሚያስደንቅ ሁኔታ ለመቀነስ የቀረውን መጭመቂያ ጨምሯል።