ተመራማሪዎች የKFS-RAG ጥበቃን በዳግም ማግኛ ስርዓቶች ውስጥ የውሂብ ጎታ መፍሰስን ለመከላከል ሀሳብ አቅርበዋል

ምን ተፈጠረ

ተመራማሪዎች KFS-RAG፣ ጥሬ የተገኘ አውድ በተፅእኖ ፈጣሪ ቁልፍ ቃላቶች ዙሪያ በተፈጠሩ አነስተኛ እውነታዎች የሚተካ የዳግም ማግኛ-የተጨመሩ የትውልዶች ስርዓቶችን መከላከያ ሀሳብ አቅርበዋል። ወረቀቱ ይህ በአፋጣኝ መርፌ ጥቃቶች ወቅት የውሂብ ጎታ መፍሰስ አደጋን እንደሚቀንስ እና የምላሽ ትክክለኛነት እና አስፈላጊነትን እንደሚቀንስ ተናግሯል።

የarXiv መዝገብ በነሐሴ 21 ቀን 2026 የገባው “የመረጃ ቋት ዳታቤዝ መፍሰስን በRAG ሲስተምስ በቁልፍ ቃል ላይ የተመሰረተ እውነታ ምትክን መቀነስ” በሚል ርዕስ የተዘጋጀ ወረቀት ያሳያል። የደራሲዎቹ የመረጃ ቋት መፍሰስ እንደ የደህንነት ችግር ይቀርፃሉ ምክንያቱም ፈጣን መርፌ ጥቃቶች መልሶ ማግኛውን ወይም ጄነሬተሩን ወደ ስሱ የውሂብ ጎታ ይዘቶች ለማጋለጥ ሊሞክሩ ይችላሉ። በወረቀቱ ገለጻ ውስጥ፣ የተገኙት ምንባቦች የመነሻ ቁሳቁስ፣ ተጽዕኖ ፈጣሪ ቁልፍ ቃላት መካከለኛ መመሪያ ናቸው፣ እና የታመቁ እውነታዎች የመተኪያ አውድ ናቸው። እያንዳንዱ ደረጃ እንደ አንድ የመከላከያ አካል ሆኖ ቀርቧል፡ ቃላትን መለየት፣ እነዚያን ቃላት ለእውነታ ማመንጨት መመሪያ ተጠቀም እና የተገኘውን እውነታ ለጄነሬተሩ መስጠት። መግለጫው የውጭ ምንጩ ተወግዷል, መልሶ ማግኘት ይወገዳል, ወይም ሞዴሉ የተገኘውን መረጃ በመጠቀም ያቆማል አይልም; ከመጀመሪያው የተገኘ አውድ መልስ ከማውጣቱ በፊት እንደሚተካ ይናገራል።

የታቀደው ዘዴ KFS-RAG ተብሎ የሚጠራው, የመጀመሪያውን የተገኙ ምንባቦችን በቀጥታ ወደ መልስ ሰጪ ሞዴል አያልፍም. በመጀመሪያ፣ ወረቀቱ በተመለሰው አውድ ውስጥ እንደ ትንሽ ተደማጭነት ያላቸው ቁልፍ ቃላቶች የገለፀውን ይለያል። ዘዴው ትኩረትን መልቀቅን ከምክንያት መዛባት ጋር ያጣምራል፣ ይህም ረቂቅ ቃሉ ለተገኘው ቁሳቁስ በጣም አስፈላጊ የሆኑትን ቃላት ለመገመት መንገድ አድርጎ ያቀርባል። እነዚያ ቁልፍ ቃላቶች በተገኙት ምንባቦች ውስጥ የተመሰረቱ እውነቶችን በማዘጋጀት ረዳት የሆነ ትልቅ የቋንቋ ሞዴል ይመራሉ ። የአብስትራክት የቃላት አጻጻፍ ቁልፍ ቃሉን የመተካት ሂደት ዋና ያደርገዋል። ትኩረትን መልቀቅ እና የምክንያት መዛባት ተፅዕኖ ፈጣሪ ቃላትን ለመገመት እንደ ቴክኒኮች ተጠቅሰዋል፣ ረዳት ሞዴሉ ግን በአንቀጾቹ ውስጥ የተመሰረቱ እውነታዎችን እንደሚያመጣ ይገለጻል። የተገኙት እውነታዎች ከመጀመሪያው የተገኘ አውድ አንፃር የታመቁ ናቸው፣ ነገር ግን ምንጩ ያንን ቅነሳ በቁጥር አይገልጽም። ስለዚህ ዘዴው በዐውደ-ጽሑፍ ለውጥ የሚገለጽ ሲሆን ጄነሬተር በጥሬ ምንባቦች ምትክ የተሰበሰቡ እውነታዎችን ይቀበላል።

KFS-RAG በመጨረሻ ዋናውን አውድ በእነዚያ በተሰበሰቡ እውነታዎች ይተካል። ጄኔሬተሩ በጥሬው ከተወሰደው ጽሑፍ ይልቅ በተሻሻለው ማስረጃ ላይ ይሠራል። የወረቀቱ ማጠቃለያ ሙከራዎች እንደሚሉት ይህ አካሄድ የምላሽ ትክክለኛነት እና ተገቢነት በመጠበቅ በመርፌ ጥቃቶች ስር የውሂብ ጎታ መፍሰስ አደጋን በእጅጉ ቀንሷል። ምንጩ የሙከራዎቹ መጠን ወይም ስብጥር፣ የጥቃቱ ስኬት መጠኖች፣ ትክክለኛነት መለኪያዎች፣ ጥቅም ላይ የዋሉ ሞዴሎችን ወይም ከተወሰኑ ነባር መከላከያዎች ጋር ንጽጽር አይሰጥም። የተዘገበው ውጤት ሁለት ክፍሎች አሉት፡ በመርፌ ጥቃቶች ወቅት ዝቅተኛ የመረጃ ቋት - የመፍሰስ አደጋ እና የምላሽ ትክክለኛነት እና ተገቢነት መጠበቅ። እነዚያ በአብስትራክት የተገለጹት ውጤቶች ናቸው። ያለው መዝገብ ቃላቶቹ እንዴት እንደተለኩ ወይም ውጤቱ ምን ያህል በስፋት እንደሚተገበር አይገልጽም። በተለይም መዝገቡ የሙከራ ልኬቱን፣ የጥቃት ውጤቶችን፣ ትክክለኛ ውጤቶችን፣ የሞዴል ምርጫዎችን እና ንፅፅሮችን ይተዋል፣ ስለዚህ መግለጫው ሀሳቡን እና የተገለጹትን ግኝቶች ከወረቀት በላይ ሳያራዝም ሪፖርት ማድረግን ይደግፋል።

የምንጭ ዝርዝሮች: arxiv.org ↗

ለምን አስፈላጊ ነው።

RAG ሲስተሞች የቋንቋ ሞዴሎችን ከውጪ የውሂብ ጎታዎች ያገናኛሉ፣ ነገር ግን የተገኘው ቁሳቁስ አጥቂዎች ሞዴሎችን ለመግለጥ የሚሞክሩትን መመሪያዎችን ወይም ስሱ መረጃዎችን ሊይዝ ይችላል። ጄነሬተሩ ከመድረሱ በፊት አውድ ማጽዳት ያንን ተጋላጭነት ሊቀንስ ይችላል፣ ምንም እንኳን ምንጩ ምንም የቁጥር ውጤት ወይም ገለልተኛ ማረጋገጫ ባይሰጥም።

RAG ብዙ ጊዜ ጥቅም ላይ የሚውለው አጠቃላይ ዓላማ ያለው የቋንቋ ሞዴል የግል ወይም ልዩ መረጃ ማግኘት ሲፈልግ ነው። ያ ንድፍ መልሶችን የበለጠ ወቅታዊ ወይም ጎራ-ተኮር ሊያደርጋቸው ይችላል፣ነገር ግን በተገኘው መረጃ እና ሞዴል መመሪያዎች መካከል ድንበር ይፈጥራል። አጥቂ በዚያ ወሰን ላይ ተጽዕኖ ማድረግ ከቻለ ስርዓቱ በመረጃ ቋቱ ወይም በመተግበሪያው የተፈቀደ የስራ ሂደት ውስጥ ተወስኖ መቆየት ያለበትን መረጃ ወደማሳየት ሊገፋ ይችላል።

የወረቀቱ አቀራረብ በቀጥታ ያንን ወሰን ያነጣጠረ ነው. የተገኙ ምንባቦችን ከመውለዱ በፊት ወደ ጠባብ የእውነታዎች ስብስብ በመቀየር የመጨረሻው ሞዴል እንደ መመሪያ ሊተረጎም የሚችለውን የማይታመን ጽሁፍ መጠን ሊቀንስ ይችላል። ያ በተግባር ትርጉም ያለው የደህንነት ሃሳብ ነው ምክንያቱም አንድ ሞዴል ውሂብን ከትእዛዞች እንደሚለይ ከመገመት ይልቅ የማገገሚያ ምርትን እንደ ንፅህና እንደሚያስፈልገው ቁሳቁስ ስለሚቆጥር ነው። የታቀደው ዘዴ የውስጥ መዝገቦችን፣ የደንበኛ መረጃን ወይም ሌሎች የተከለከሉ የእውቀት መሠረቶችን ለሚይዙ መተግበሪያዎች ጠቃሚ ሊሆን ይችላል፣ ምንም እንኳን ምንጩ በእንደዚህ ዓይነት መቼት ውስጥ መሰማራትን ባያስቀምጥም።

የተዘገበው ጥቅም የአንድ የarXiv ወረቀት የይገባኛል ጥያቄ ነው እንጂ ራሱን የቻለ እውነት አይደለም። ረቂቅ ስልቱ የመፍሰስ አደጋን ይቀንሳል እና የመልስ ጥራትን ይጠብቃል፣ነገር ግን ምንም አይነት የቁጥር ማስረጃ፣የመተማመን ክፍተቶች፣የመነሻ መስመሮች እና ስለአደጋው ሞዴል ዝርዝር አይሰጥም ይላል። እንዲሁም ሚስጥራዊነት ያለው መረጃ ለማውጣት አስቸጋሪ እንዲሆን ከማድረግ ይልቅ እንደሚወገድ ወይም ዘዴው የቁልፍ ቃል ምርጫን እና እውነታን የመተካት ሂደትን በሚረዱ አስማሚ አጥቂዎች ላይ እንደሚሰራ አያሳይም።

ቀጥሎ ምን እንደሚታይ

ዋናው ጥያቄ KFS-RAG ከወረቀት ሙከራዎች ውጭ ውጤታማ ሆኖ ይቆያል ወይ የሚለው ነው። ተጨማሪ ስራ የጥቃት ቅንብሮችን፣ የውሂብ ስብስቦችን፣ የመፍሰሻ እና ትክክለኛነት መለኪያዎችን፣ የስሌት ወጪን፣ የውድቀት ጉዳዮችን፣ እና ረዳት የቋንቋ ሞዴል አዳዲስ ስህተቶችን ወይም ተጋላጭነቶችን ማስተዋወቁን ሪፖርት ማድረግ አለበት።

በጣም አስፈላጊው ክትትል ሊባዛ የሚችል ማስረጃ ነው. አንባቢዎች የወረቀቱን ሙሉ የሙከራ ዝርዝሮች ማለትም የውሂብ ጎታዎችን እና ጥቅም ላይ የዋሉ ሰነዶችን, የተሞከሩትን ፈጣን-መርፌ ቴክኒኮችን, የፍሳሽ ፍቺን, የጥቃቶችን ብዛት እና የመነሻ ስርዓቶችን ጨምሮ. ትክክለኝነት እና አግባብነት ከደህንነት ጋር መለካት አለበት፣ ምክንያቱም ኃይለኛ የንፅህና መጠበቂያ እርምጃ ለትክክለኛ መልሶች የሚያስፈልጉትን መረጃዎች በማስወገድ ልቅነትን ሊቀንስ ይችላል።

ዘዴው የተሰበሰቡ እውነታዎችን የሚፈጥር ረዳት የቋንቋ ሞዴልንም ያስተዋውቃል። ያ ተጨማሪ ሞዴል መመዘኛዎችን ሊተው፣ ግንኙነቶችን በተሳሳተ መንገድ ሊተው ወይም ሚስጥራዊነት ያላቸውን ዝርዝሮች በአዲስ መልክ ሊይዝ ይችላል። ወደፊት የሚደረጉ ግምገማዎች የተጨባጭ ታማኝነትን፣ የቀሩ መጠኖችን፣ ከተተኩ እውነታዎች የግላዊነት መልቀቅን፣ መዘግየትን፣ ወጪን ማስላት እና ባህሪን መፈተሽ አለባቸው ምንባቦች አሻሚ ወይም እርስ በርሱ የሚጋጩ መረጃዎችን ሲይዙ። እንዲሁም አጥቂዎች ተደማጭነት ያላቸውን ቁልፍ ቃላት መጠቀም ይችሉ እንደሆነ ወይም ደህንነቱ ያልተጠበቀ ማጠቃለያዎችን ለመፍጠር ረዳት ሞዴሉን ማነሳሳት ይችሉ እንደሆነ መመርመር አለባቸው።

ሰፋ ያለ የደህንነት ግምገማ KFS-RAG በተለያዩ ሰርስሮ ፈጣሪዎች፣ የጄነሬተር ሞዴሎች፣ የውሂብ ቅርጸቶች፣ ቋንቋዎች እና የመዳረሻ መቆጣጠሪያ ፖሊሲዎች መሞከር አለበት። መከላከያው በተዘዋዋሪ አፋጣኝ መርፌ፣ ከተመረዙ ሰነዶች፣ ተደጋጋሚ ጥያቄዎችን ከማውጣት፣ ወይም ምንም ጉዳት በሌላቸው እውነታዎች ውስጥ ከተቀመጡ ፍንጣቂዎች ይከላከል እንደሆነ የታወቀ ነገር የለም። ምንጩ በተጨማሪም ኮድ ወይም ህዝባዊ አተገባበር ይገኝ እንደሆነ፣ ውጤቶቹ የአቻ ግምገማ የተደረገባቸው ስለመሆኑ፣ ወይም አቀራረቡ ከተቋቋመ ማግለል፣ ማጣሪያ፣ ፍቃድ እና የክትትል ቁጥጥሮች ጋር እንዴት እንደሚወዳደር አይገልጽም።

ተዛማጅ መመሪያዎች እና ጥያቄዎች