LogicTrack ማዕቀፍ መደበኛ ሎጂክ ፈቺዎችን በመጠቀም የኤልኤልኤም አመክንዮዎችን ይመረምራል።

ምን ተፈጠረ

ትልቅ የቋንቋ ሞዴሎችን (LLMs) ምክንያታዊ በሆነ የተሳሳተ የአስተሳሰብ ሰንሰለቶች ትክክለኛ የመጨረሻ መልሶችን የሚያመጣውን ችግር ለመፍታት LogicTrack የተባለ አዲስ የምርምር ማዕቀፍ ቀርቧል። LogicTrack በሰንሰለት-ኦፍ-ሐሳብ (CoT) ሂደት ውስጥ ያሉትን ግለሰባዊ እርምጃዎች ወደ ተምሳሌታዊ ውክልና የሚያዘጋጅ እንደ ኒውሮ-ተምሳሌታዊ ሥርዓት ሆኖ ይሠራል። ከዚያም እነዚህ ውክልናዎች አመክንዮአዊ ወጥነት ለማረጋገጥ አውቶሜትድ ቲዎረም ማረጋገጫዎችን በመጠቀም ይረጋገጣሉ። ማዕቀፉ በመፍታት ወቅት የዛፍ ፍለጋን ወደ ኋላ ለመከታተል የሚያስችል ደረጃ-ጥበባዊ ውጤት የሚሰጥ በመፍታት ላይ የተመሰረተ የኋላ ትራኪንግ ሽልማት (SBR) ዘዴን ያስተዋውቃል። በተጨማሪም፣ ተመራማሪዎቹ ሎጂክ ትራክን ተጠቅመው ክትትል የሚደረግበት ጥሩ ማስተካከያ (SFT) መረጃን ለማመንጨት ሞዴሎች ደረጃ በደረጃ ኦዲት እንደ ውስጣዊ አቅም እንዲማሩ ያስችላቸዋል።

LogicTrack የኒውሮ-ምሳሌያዊ ንብርብርን በማስተዋወቅ የሰንሰለት-ኦፍ-ሀሳብ ምክንያታዊነት 'ጥቁር ሣጥን' ተፈጥሮን ይመለከታል። ቀጣዩን ደረጃ ለመወሰን በአምሳያው የውስጥ ፕሮባቢሊቲ ስርጭት ላይ ብቻ ከመተማመን ይልቅ ማዕቀፉ እያንዳንዱን የማመዛዘን እርምጃ ወደ መደበኛ ተምሳሌታዊ ቋንቋ ይቀይራል።

ስርዓቱ የእነዚህን ተምሳሌታዊ እርምጃዎች ትክክለኛነት ለመፈተሽ አውቶማቲክ ቲዎረም ማረጋገጫዎችን ይጠቀማል። አንድ እርምጃ በምክንያታዊነት ጤናማ ያልሆነ ሆኖ ከተገኘ፣ በፈቺ ላይ የተመሰረተ የኋላ ትራኪንግ ሽልማት (SBR) ዘዴ የዛፍ ፍለጋን ያስነሳል፣ ይህም ሞዴሉ አመክንዮአዊ ወጥነት ያለው አማራጭ የማመዛዘን መንገዶችን እንዲመረምር ያስገድደዋል።

ከፍላጎት-ጊዜ ኦዲት ባሻገር፣ ተመራማሪዎቹ ማዕቀፉን ተጠቅመው 'የኋላ መከታተያ ዱካዎች' የመረጃ ቋት ለመፍጠር ተጠቅመዋል። በዚህ መረጃ ላይ ያሉ ሞዴሎችን በጥሩ ሁኔታ በማስተካከል ሞዴሎቹ በራስ የመመርመር ዘዴን እንዲሠሩ አስችሏቸዋል ፣ ሞዴሉ በሁሉም የወደፊት ግምቶች ደረጃ ውጫዊ የቲዎሬም ማረጋገጫዎችን ሳያስፈልግ አመክንዮአዊ ምክንያታዊ መንገዶችን ቅድሚያ መስጠትን ይማራል።

የምንጭ ዝርዝሮች: arxiv.org ↗

ለምን አስፈላጊ ነው።

አሁን ባለው የኤልኤልኤም ስልጠና በውጤት ላይ የተመሰረተ ግብረመልስ ላይ ያለው እምነት ብዙውን ጊዜ 'የተጨባጭ' ወይም ምክንያታዊ ያልሆኑ የማመዛዘን እርምጃዎችን ይሸፍናል፣ ይህም ሂደቱ እንደ ውጤቱ አስፈላጊ በሆነበት እንደ መድሃኒት፣ ህግ ወይም ምህንድስና ባሉ ከፍተኛ ደረጃ ላይ ያሉ ጎራዎች ላይ ከፍተኛ አደጋዎችን ይፈጥራል። መደበኛ ተምሳሌታዊ ማረጋገጫን ወደ አመክንዮአዊ አቅጣጫ በማዋሃድ፣ LogicTrack ምክንያታዊ ጥብቅነትን ለማስፈጸም ዘዴን ይሰጣል። ይህ ከንፁህ ፕሮባቢሊቲካል ውፅዓት ወደ ተረጋገጠ ተምሳሌታዊ አመክንዮ መሸጋገር የ AI ስርዓቶችን ታማኝነት ያሳድጋል። ይህንን የኦዲት ሂደት በጥሩ ሁኔታ ማስተካከል መቻሉ ከመደበኛ የማረጋገጫ አካባቢ ውጭ በሚሰሩበት ጊዜም ቢሆን በተፈጥሯቸው ይበልጥ አስተማማኝ እና ለሎጂክ ስህተቶች እምብዛም ተጋላጭ ወደሆኑ ሞዴሎች የሚወስደውን መንገድ ይጠቁማል። የማዕቀፉ ውጤታማነት በስምንት የማመዛዘን መመዘኛዎች እና በሰባት የተለያዩ LLMs ላይ ታይቷል፣ ይህም የሞዴል አስተማማኝነትን ለማሻሻል ሰፊ ተፈጻሚነት እንዳለው ያሳያል።

አሁን ያለው የኤልኤልኤም የሥልጠና ምሳሌዎች ለመጨረሻው መልስ ቅድሚያ ይሰጣሉ፣ ይህም ከተሳሳተ አመክንዮ የመነጨ 'ትክክለኛ' መልሶችን ሊያመጣ ይችላል። ይህ የማመዛዘን ሒደቱ ኦዲት ሊደረግ የሚችል እና ሊረጋገጥ በሚችልበት ከፍተኛ ችግር ባለባቸው አካባቢዎች ችግር አለበት።

LogicTrack በፕሮባቢሊቲካል ነርቭ አውታሮች እና በሚወስነው ተምሳሌታዊ አመክንዮ መካከል ያለውን ክፍተት ያስተካክላል። አመክንዮአዊ ወጥነትን በማስፈጸም፣ የተሳሳቱ ወይም ትርጉም የለሽ መካከለኛ ደረጃዎች ትክክለኛ መደምደሚያዎች ላይ ሞዴሎችን የመድረስ እድልን ይቀንሳል።

የማዕቀፉ ስኬት በሰባት የተለያዩ ኤል.ኤም.ኤም.ዎች ውስጥ ያለው ስኬት ዘዴው ሞዴል-አግኖስቲክ እንደሆነ ይጠቁማል፣ ይህም በተለያዩ አርክቴክቸር ውስጥ የማመዛዘን ሰንሰለቶችን ጥራት ለማሻሻል ደረጃውን የጠበቀ መንገድ ይሰጣል።

ቀጥሎ ምን እንደሚታይ

ዋናው የማይታወቀው በማጣቀሻ ጊዜ አውቶሜትድ ቲዎረም ፕሮፌሽኖችን ከማሄድ ጋር የተቆራኘው የስሌት ወጪ ነው፣ ይህም በቅጽበት መዘግየትን በሚመለከቱ መተግበሪያዎች ውስጥ መሰማራትን ሊገድብ ይችላል። የወደፊት እድገቶች ይበልጥ የተወሳሰቡ፣ የሂሳብ ያልሆኑ የምክንያት ስራዎችን ለማስተናገድ፣ ተምሳሌታዊ ውክልና አስቸጋሪ በሚሆንበት ጊዜ የራስ-ፎርማላይዜሽን ሂደትን በማመቻቸት ላይ ያተኩራል። ይህ ማዕቀፍ ምን ያህል ወደ ትላልቅ እና ግልጽ ያልሆኑ ሞዴሎች እንደሚመዘን እና በምክንያታዊነት ትክክለኛነት የተገኘው የአፈጻጸም ውጤት ከቤንችማርክ ባልሆኑ አካባቢዎች ወደ እውነተኛው ዓለም አስተማማኝነት መተርጎሙን ማየት ያስፈልጋል። ተጠቃሚዎች ይህ አካሄድ ከንግድ ሞዴል ማሰልጠኛ ቧንቧዎች ጋር የተዋሃደ መሆኑን ወይም በዋነኛነት ለልዩ የማረጋገጫ ስራዎች የምርምር ደረጃ መሳሪያ ሆኖ ከቀጠለ መከታተል አለባቸው።

ጥናቱ በመረጃ ወቅት የቲዎሬም ፕሮቨሮችን ማስኬድ ያለውን የቆይታ ተፅእኖ አይገልጽም። ተግባራዊ ጉዲፈቻ ይህ ትርፍ ለምርት አከባቢዎች መቀነስ ይቻል እንደሆነ ይወሰናል።

የ'ራስ-ፎርማላይዜሽን' ወሰን ወሳኝ ገደብ ነው። ለሂሳብ እና አመክንዮአዊ መመዘኛዎች ውጤታማ ቢሆንም፣ ማዕቀፉ በተጨባጭ ወይም አሻሚ በሆኑ ጎራዎች ውስጥ ምክንያታዊነትን ምን ያህል ውጤታማ እንደሚያደርገው ግልፅ አይደለም።

የኮዱ መገኘት እና ጥቅም ላይ የዋሉት ልዩ የንድፈ ሃሳብ ማስረጃዎች በማስታወቂያው ውስጥ በዝርዝር አልተገለጹም, የዚህ ማዕቀፍ ለገለልተኛ ማረጋገጫ ወይም ትግበራ ተደራሽነት በአሁኑ ጊዜ የማይታወቅ ነው.

ተዛማጅ መመሪያዎች እና ጥያቄዎች