What is LoRA (Low-Rank Adaptation)? Definition | AI Understanding

ፍቺ

ዝቅተኛ ደረጃ አስማሚ ማትሪክቶችን የሚጨምር ፓራሜትር-ውጤታማ ጥሩ ማስተካከያ ዘዴ።

ተዛማጅ ውሎች

መለኪያ-ውጤታማ ጥሩ ማስተካከያ (PEFT)

ትንሽ የተጨመሩ መለኪያዎችን በማሰልጠን ሞዴሎችን የሚያስተካክሉ ዘዴዎች.

የማስታወስ ፍላጎትን ለመቀነስ ባለ 4-ቢት የክብደት መለኪያን ከ LoRA አስማሚዎች ጋር የሚያጣምረው ጥሩ የማስተካከል ዘዴ።

ጥሩ-ማስተካከል

አስቀድሞ የሰለጠነ ሞዴል ከአንድ የተወሰነ ተግባር ጋር ለማስማማት በጎራ-ተኮር መረጃ ላይ ስልጠና መቀጠል።

መመሪያ ማስተካከያ

የሚከተለውን ተግባር ለማሻሻል በመመሪያ-ምላሽ ጥንዶች ላይ ሞዴልን በጥሩ ሁኔታ ማስተካከል።

DPO (የቀጥታ ምርጫ ማመቻቸት)

የተለየ የሽልማት ሞዴል ሳያስፈልገው በምርጫ ጥንዶች ላይ ሞዴሎችን በቀጥታ የሚያስተካክል የስልጠና ዘዴ።

ማለስለስ የሚል ምልክት ያድርጉ

አጠቃላይነትን ለማሻሻል ጠንካራ መለያዎችን የሚያለሰልስ የመደበኛነት ዘዴ።

በነጻ መመሪያዎቻችን ውስጥ የበለጠ ይረዱ

AI Workflow Automation Barlow Twins and Redundancy Reduction Domain Adaptation Kubeflow and ML Pipeline Orchestration

ተመልከት

Learning Rate Loss Function Large Language Model (LLM)Machine Learning (ML)Latency Memory (Agent Memory)Mixture of Experts (MoE)Knowledge Graph

ሙሉውን AI መዝገበ ቃላት ያስሱ ሁሉንም ነፃ AI መመሪያዎችን ያስሱ