AI ቅዠቶች መመሪያ | AI Understanding

አጠቃላይ እይታ

It is the single biggest trust problem with today's language models.

ጥልቅ ዳይቭ

ቅዠቶች በተለመደው ስሜት ውስጥ ሳንካዎች አይደሉም; ሞዴሉ እንዴት እንደሚሰራ ይወድቃሉ. የቋንቋ ሞዴል የሰለጠነው እውነትን ለማረጋገጥ ሳይሆን በስታቲስቲካዊ ምክንያታዊ ጽሑፍ ለማዘጋጀት ነው። ክፍተት ሲገጥመው - ያልተማረው እውነታ ወይም በስልጠናው ውስጥ ግልጽ መልስ የሌለው ጥያቄ - 'አላውቅም' አይልም. ይልቁንስ በራስ የመተማመን ፈጠራ ሊሆን የሚችል በጣም ሊከሰት የሚችል-ድምጽ ቀጣይነትን ይፈጥራል። ውፅኢቱ ድማ ንባብ፣ ስለዚ ስህተቱ ንዓና ንዓና ንኹሉ ንዕኡ ክንምልስ ይግባእ። የተለመዱ ቅጾች የተፈለሰፉ የመጽሐፍ ርዕሶች ወይም ህጋዊ ጉዳዮች፣ የውሸት ዩአርኤሎች፣ የተሳሳቱ ጥቅሶች እና አሳማኝ ግን-የተሳሳቱ ቁጥሮች ያካትታሉ። በተለይም እንደ መድሃኒት፣ ህግ እና ፋይናንስ ባሉ ከፍተኛ ደረጃ ላይ ባሉ ቦታዎች አደገኛ ናቸው፣ አቀላጥፎ የተሳሳተ መልስ ግልጽ ከሆነው የበለጠ ዋጋ ያለው ነው። በአስፈላጊ ሁኔታ, ትክክለኛ ሰነዶች ቢቀርቡም, ሞዴሎች አሁንም ሊቃወሟቸው ወይም ችላ ሊሉዋቸው ይችላሉ.

ቴክኒካዊ ግንዛቤ

ዋናው መንስኤ የስልጠናው አላማ ነው፡ የሚቀጥለውን ቶከን ተንብዮ አሳማኝነትን ከፍ ለማድረግ፣ አብሮ የተሰራ የእውነት ፍተሻ እና ለ'እርግጠኛ አይደለሁም' ለሚለው አስተማማኝ የውስጥ ምልክት የለም። የዳግም ማግኛ-የተጨመረ ትውልድ (RAG) ትክክለኛ ምንጭ ሰነዶችን ወደ ጥያቄው ውስጥ በማስገባት ይረዳል ነገር ግን ፈውስ አይደለም - ጥናቶች እንደሚያሳዩት ሞዴሎች አሁንም ማግኘት ጫጫታ ሲሆን ወይም የአምሳያው ውስጣዊ 'ዕውቀት' ከተገኘው ጽሑፍ ጋር ሲጋጭ ያዳምጣሉ። ሌሎች ማቃለያዎች በጥቅሶች ውስጥ ምላሾችን መትከል፣ የተገኙ ማስረጃዎችን እንደገና ደረጃ መስጠት እና ታማኝ፣ በምንጭ የተደገፉ ውጤቶችን የሚሸልሙ ምርጫዎችን ማስተካከልን ያካትታሉ።

ስልታዊ ተጽእኖ

ፍጥነት እና ልኬት

የቋንቋ የስራ ፍሰቶች ወጥነትን ሳያጠፉ በፍጥነት ሊንቀሳቀሱ ይችላሉ።

መድረስ እና መድረስ

በቋንቋዎች እና በመግባቢያ ዘይቤዎች ተደራሽነትን ያሰፋዋል።

ግልጽ ውሳኔዎች

አውቶሜሽን ድግግሞሹን ሲቆጣጠር ቡድኖች በፍርድ ላይ ብዙ ጊዜ ሊያጠፉ ይችላሉ።

የ AI Hallucinations የወደፊት

ቅዠቶች ይቀንሳሉ እንጂ አይወገዱም - ከእነዚህ ሞዴሎች ፕሮባቢሊቲ ኮር ጋር የተሳሰሩ ናቸው. የተሻለ ልኬት (እርግጠኛ አለመሆንን የሚጠቁሙ ሞዴሎች)፣ ሊረጋገጡ በሚችሉ ጥቅሶች የበለጠ ጥብቅ መሬት ማድረግ፣ በራስ-ሰር ራስን መፈተሽ እና እውነታን ማረጋገጥ፣ እና ሞዴሉ ከመገመት ይልቅ የሚወድቁበትን ባህሪያትን 'በመታቀብ' ይጠብቁ። ቤንችማርኮች እና ደንቦች ሻጮች የቅዠት መጠንን ሪፖርት እንዲያደርጉ ይገፋፋቸዋል። ለአሁን፣ ተግባራዊ መልሱ የሰው ግምገማ እና ሰርስሮ ማውጣት እና ማረጋገጥ ነው፣በተለይ የትም ቦታ ላይ በራስ የመተማመን የተሳሳተ መልስ ዋጋ ከፍተኛ ነው።

የእውነተኛ-ዓለም አተገባበር

የሕግ ረዳት የሌሉ የፍርድ ቤት ጉዳዮችን በመጥቀስ፣ በተጨባጭ የሚመስሉ ስሞች እና የሰነድ ቁጥሮች

ቻትቦት አሳማኝ ነገር ግን የውሸት የትምህርት ወረቀት እና ደራሲ ምንጭ ሲጠየቅ

የላይብረሪውን ተግባር ወይም የኤፒአይ ልኬትን በጭራሽ እውነት ያልሆነ የሚጠራ የኮድ ረዳት

ከተሰጠበት ምንጭ ሰነድ ጋር የሚቃረን አስተማማኝ መጠን የሚገልጽ የህክምና ማጠቃለያ

አደጋዎች እና የጥበቃ መንገዶች

የተሳሳቱ እውነታዎች በጸጥታ ወደ ሪፖርቶች፣ የድጋፍ ፍሰቶች ወይም የምርምር ውጤቶችን ማስገባት ይችላሉ።

ፈጣን ትብነት በተመሳሳይ ጥያቄዎች ላይ የማይጣጣሙ ውጤቶችን ሊፈጥር ይችላል።

የመዳረሻ መቆጣጠሪያዎች ደካማ ከሆኑ ሚስጥራዊነት ያለው የጽሑፍ ውሂብ ሊጋለጥ ይችላል።

የትግበራ ፍኖተ ካርታ

ከመልቀቅዎ በፊት የውጤት ቅርጸትን፣ ድምጽን እና የጥራት ደረጃዎችን ይግለጹ።

ትክክለኛነት አስፈላጊ በሚሆንበት ጊዜ ሁሉ ከታመኑ ምንጮች ጋር ምላሾች።

ከፍተኛ ውጤት ለማግኘት የሰው የግምገማ ነጥብ አቆይ።

የውድቀት ንድፎችን ይከታተሉ እና ጥያቄዎችን ወይም የስራ ፍሰቶችን በመደበኛነት ያሠለጥኑ።

ማሰስዎን ይቀጥሉ

ChatGPT እና LLMs

የዘመናዊ ቋንቋ ሞዴሎች እንዴት እንደሚያመነጩ እና እንደሚያስቡ ይመልከቱ።

መመሪያ ያንብቡ

NLP መሰረታዊ ነገሮች

ከእነዚህ መሳሪያዎች በስተጀርባ ያለውን የቋንቋ ማቀናበሪያ መሰረታዊ ነገሮችን ይማሩ።

መመሪያ ያንብቡ

Free newsletter

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the AI Hallucinations quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

ጥያቄ ጀምር

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

ቀጥሎ በ AI መሠረቶች ውስጥ

AI አፈ ታሪኮች

ቀጣዩን መመሪያ ያንብቡ ሁሉንም ጥያቄዎች ያስሱ

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

What is AI Hallucinations?

የ AI ቅዠት አንድ ሞዴል አንድ ነገር እውነት እንደሆነ አድርጎ ሐሰት ሲናገር - የውሸት ጥቅስ፣ የተሰራ ስታስቲክስ፣ የተሳሳተ እውነታ - አቀላጥፎ እና በራስ መተማመን። የዛሬዎቹ የቋንቋ ሞዴሎች ብቸኛው ትልቁ የመተማመን ችግር ነው።

የቋንቋ ሞዴሎች የሚያዳምጡበት ዋናው ምክንያት ምንድን ነው?

ሞዴሎች በስታቲስቲክስ ለሚቀጥሉት ቶከኖች ያመቻቻሉ። አብሮ የተሰራ የእውነት ፍተሻ ሳይኖር፣ ሐሰት ሊሆን በሚችል አሳማኝ የድምፅ ውፅዓት ክፍተቶችን ይሞላሉ።

ቅዠቶች በተለይ አደገኛ የሆኑት ለምንድነው?

የውሸት ውፅዓት አቀላጥፎ እና በራስ መተማመን ስለሆነ፣ ከትክክለኛ መልሶች ጋር ይጣመራል እና ለተጠቃሚዎች እምነት ቀላል ነው።

መልሶ ማግኛ-የተጨመረው ትውልድ (RAG) ቅዠቶችን ሙሉ በሙሉ ያስወግዳል?

RAG ምላሾችን በእውነተኛ ምንጮች በመሬት ላይ በማድረግ ቅዠቶችን ይቀንሳል፣ ነገር ግን ሞዴሎች አሁንም ማግኘቱ ፍጽምና የጎደለው ከሆነ ወይም ከውስጥ እውቀታቸው ጋር በሚጋጭበት ጊዜ ቅዠትን ሊያሳዩ ይችላሉ።

የቅዠት እውነተኛ ምሳሌ የትኛው ነው?

የሌለ ነገር ግን እውነተኛ የሚመስል ጥቅስ መፍጠር ክላሲክ ቅዠት ነው - በራስ መተማመን፣ የተወሰነ እና ውሸት።

ቅዠትን ለመቀነስ የታወቀው መንገድ የትኛው አካሄድ ነው?

በእውነተኛ ሰነዶች ላይ መመስረት፣ ምንጮችን መጥቀስ፣ ማስረጃዎችን እንደገና መስጠት እና ታማኝነትን ማስተካከል ሁሉም ፈጠራን ለመቀነስ ይረዳል።