የማህበረሰብ መመሪያ

ሞዴል ማውጣት እና መስረቅ ጥቃቶች

የሞዴል የማውጣት ጥቃቶች አንድ ባላጋራ የህዝብ ኤፒአይውን በመጠየቅ እና በመልሶቹ ላይ ቅጂ በማሰልጠን ብቻ የባለቤትነት AI ሞዴል እንዲይዝ አስችሎታል።

2 ሚን አንብብለመጨረሻ ጊዜ የዘመነው

አጠቃላይ እይታ

It matters because companies spend millions training models that can be approximated for the price of a few thousand API calls.

ጥልቅ ዳይቭ

የሞዴል ማውጣት (ወይም ሞዴል መስረቅ) ጥቃት የተዘረጋውን ሞዴል እንደ ቃል ይቆጥረዋል። አጥቂው ግብዓቶችን ይልካል፣ ውጤቱን ይመዘግባል እና ባህሪውን ለመኮረጅ ምትክ ሞዴል ያሰለጥናል። የዒላማው ሞዴል ራሱ የተማረ ተግባር ግብአቶችን ወደ ውፅዓቶች ማዛመድ ስለሆነ፣ በቂ የግብአት-ውፅዓት ጥንዶችን መቅዳት ኦርጅናሉን ክብደቶች ወይም የሥልጠና መረጃዎችን በጭራሽ ሳያይ የቅርብ መጠጋጋትን እንደገና መገንባት ይችላል። ተመራማሪዎች የምስል ክላሲፋየሮችን የውሳኔ ድንበሮች ሰርቀዋል አልፎ ተርፎም ትክክለኛ ትናንሽ ንብርብሮችን ክብደት አግኝተዋል። እ.ኤ.አ. በ2024፣ አንድ ቡድን የOpenAI እና Google የምርት ሞዴል የተከተቱ ንብርብሮች ከጥቂት መቶ ዶላር በታች ሊወጡ እንደሚችሉ አሳይቷል። የተሰረቁ ቅጂዎች የሚከፈልባቸው አገልግሎቶችን ተቆርጠዋል፣የደህንነት ማጣሪያዎችን ማለፍ እና እንደ ተቃራኒ ምሳሌዎችን መፍጠር ያሉ ተጨማሪ ነጭ ሳጥን ጥቃቶችን አንቃ።

ቴክኒካዊ ግንዛቤ

የኤፒአይ ምላሽ በበለፀገ ቁጥር ስርቆቱ ርካሽ ይሆናል። ሙሉ ፕሮባቢሊቲ ቬክተሮችን ወይም ሎጊቶችን መመለስ ከአንድ ከፍተኛ-1 መለያ ይልቅ በአንድ መጠይቅ ብዙ መረጃ ይፈሳል፣ ስለዚህ አጥቂዎች ባነሱ መጠይቆች ድንበሮችን እንደገና ይገነባሉ። የንቁ-ትምህርት ስልቶች ከውሳኔ ወሰኖች አቅራቢያ በጣም መረጃ ሰጪ ጥያቄዎችን ይመርጣሉ። ጉልህ የሆነ ውጤት እንደሚያሳየው ከውጤት ልኬት ብዛት በላይ መጠይቅ የመጨረሻውን የመስመር ትንበያ ንብርብር በትክክል በመስመራዊ አልጀብራ በኩል መልሶ ማግኘት ይችላል፣ ምክንያቱም ይህ ንብርብር የምላሾችን ርዝመት ማትሪክስ ነው።

ስልታዊ ተጽእኖ

አደጋ እና ደህንነት

አስከፊ እና የዕለት ተዕለት የ AI ጉዳቶች ሁለቱም አደጋዎችን የሚረዳው እና ማን እርምጃ ሊወስድ በሚችል ላይ የተመካ ነው።

ግልጽ ውሳኔዎች

ህዝባዊ እና ሙያዊ ማንበብና መጻፍ ጠንካራ የደህንነት ፖሊሲ በፖለቲካዊ መልኩ ይቻል እንደሆነ ይቀርፃል።

በማበረታቻ መቁረጥ

ግልጽ ማብራሪያዎች በማስታወቂያ፣ በቤተ ሙከራ እና ግልጽ ያልሆነ የስነምግባር ቲያትር መያዝን ይቀንሳሉ።

የሞዴል ማውጣት እና የስርቆት ጥቃቶች የወደፊት ዕጣ

መከላከያዎች ከመከልከል ወደ ማወቂያ እና ማሽቆልቆል እየተሸጋገሩ ነው፡ ተመን መገደብ፣ የተጠጋጋ ወይም ከፍተኛ-1-ብቻ ውጤቶችን መመለስ፣ የተስተካከለ ድምጽ መጨመር፣ የተሰረቁ ቅጂዎች የጣት አሻራ እንዲሆኑ የውሃ ምልክት ማድረጊያ ሞዴል ባህሪ እና የመጠይቅ ስርዓተ-ጥለቶችን ለፊርማዎች መከታተል። ማውጣትን እንደ ስርቆት የሚቆጥሩ የቁጥጥር እና የፈቃድ ቃላቶችን ይጠብቁ፣ እንዲሁም ለመውጣት አስቸጋሪ በሆኑ አርክቴክቸር ላይ ንቁ ምርምር ያድርጉ። ሞዴሎች እያደጉ ሲሄዱ፣ ሙሉ ለሙሉ ማውጣት ብዙ ወጪ የሚጠይቅ ሆኖ ይቆያል፣ ነገር ግን ጠቃሚ የሆኑ ክፍሎችን በከፊል ማውጣት እና የዲቲሌሽን አይነት ክሎኒንግ ቀጣይነት ያለው የንግድ እና የደህንነት ስጋት ይሆናል።

የእውነተኛ-ዓለም አተገባበር

አንድ ጀማሪ የተፎካካሪውን የሚከፈልበት ምስል-ማወቂያ ኤፒአይ በሺዎች ለሚቆጠሩ ጊዜያት ይጠይቃል እና ትክክለኛነቱን የሚደግም ነፃ ክሎይን ያሰለጥናል።

የደህንነት ተመራማሪዎች ጥቂት መቶ ዶላሮችን ብቻ የሚያወጡ በጥንቃቄ የተሰሩ የኤፒአይ መጠይቆችን በመጠቀም የምርት ቋንቋ ሞዴል የመጨረሻውን የመክተት-ፕሮጀክሽን ንብርብር ያወጣሉ።

አንድ አጥቂ አይፈለጌ መልዕክት ወይም ማጭበርበር ክላሲፋየርን ከመስመር ውጭ እንዲመረምረው እና እንዳይታወቅ የሚከለክሉ ግብዓቶችን እንዲሰራ በአካባቢው ይዘጋዋል።

የደመና አቅራቢ የመዳረሻ ጥለት ከንቁ-ትምህርት ማውጣት ጋር የሚዛመድ እና ምላሾቹን የሚያደናቅፍ መለያን የሚጠቁም የጥያቄ ደረጃ ክትትልን ይጨምራል።

አደጋዎች እና የጥበቃ መንገዶች

የችሎታ ውህዶች እያለ ነባራዊ ስጋትን እንደ sci-fi ማከም።

ግራ የሚያጋባ የገጽታ ምርት ደህንነት በከፍተኛ ራስን በራስ የማስተዳደር አሰላለፍ።

ዝቅተኛ ጥራት ባላቸው ምንጮች ብቻ እንግሊዝኛ ያልሆኑ እና ባለሙያ ያልሆኑ ታዳሚዎችን መተው።

የትግበራ ፍኖተ ካርታ

1

የተለየ የምርት ጉዳት፣ አላግባብ መጠቀም እና መቆጣጠርን ማጣት/የማዛመድ አደጋዎች።

2

በጊዜ እና በክብደት ላይ ያለዎትን አመለካከት ምን አይነት ማስረጃ እንደሚለውጥ ይጠይቁ።

3

ከገበያ የይገባኛል ጥያቄዎች ይልቅ ዋና ምንጮችን እና ተጨባጭ ግምገማዎችን ይምረጡ።

4

አንድ የድርጊት መንገድን ይለዩ፡ ሙያ፣ ፖሊሲ፣ የገንዘብ ድጋፍ ወይም ችሎታ - ግንዛቤን ብቻ አይደለም።

ማሰስዎን ይቀጥሉ

AI ደህንነት

ከምርት ውድቀቶች እስከ አስከፊ አደጋ።

መመሪያ ያንብቡ

AI አሰላለፍ

ኃይለኛ ስርዓቶች የታቀዱ ግቦችን እንዲያሳድዱ ማድረግ.

መመሪያ ያንብቡ

ኤጂአይ

ምን ዓይነት አጠቃላይ ስርዓቶች ይለወጣሉ.

መመሪያ ያንብቡ

AI አስተዳደር

የድንበር ልማትን ማን ሊገድበው ይችላል።

መመሪያ ያንብቡ

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Model Extraction and Stealing Attacks quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

ጥያቄ ጀምር

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

ቀጣይ መመሪያ

የአባልነት ኢንፈረንስ ጥቃቶች

ቀጣዩን መመሪያ ያንብቡ ሁሉንም ጥያቄዎች ያስሱ

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

What is Model Extraction and Stealing Attacks?

የሞዴል የማውጣት ጥቃቶች አንድ ባላጋራ የህዝብ ኤፒአይውን በመጠየቅ እና በመልሶቹ ላይ ቅጂ በማሰልጠን ብቻ የባለቤትነት AI ሞዴል እንዲይዝ አስችሎታል። ኩባንያዎች በጥቂት ሺዎች የኤፒአይ ጥሪዎች ዋጋ ሊገመቱ የሚችሉ በሚሊዮን የሚቆጠሩ የሥልጠና ሞዴሎችን ስለሚያወጡ አስፈላጊ ነው።

ከሞዴል ማውጣት ጥቃት በስተጀርባ ያለው ዋና ሀሳብ ምንድን ነው?

ኤክስትራክሽን የተዘረጋውን ሞዴል እንደ ኦራክል ይቆጥረዋል፡ አጥቂው የግብአት-ውፅዓት ጥንዶችን ይሰበስባል እና ባህሪውን ለመኮረጅ የኮፒ ካት ሞዴልን ያሰለጥናል፣የመጀመሪያውን ክብደት በጭራሽ ሳይደርስ።

ለምን ሙሉ ፕሮባቢሊቲ ቬክተሮችን መመለስ ከፍተኛ-1 መለያን ብቻ ከመመለስ ማውጣት ቀላል ያደርገዋል?

እያንዳንዱ ሙሉ የመሆን እድሉ ቬክተር ስለ ሞዴሉ ውስጣዊ የውሳኔ ገጽ ከአንድ መለያ የበለጠ ብዙ ያሳያል፣ ይህም አጥቂው በጥቂት መጠይቆች ድንበሩን እንደገና እንዲገነባ ያስችለዋል።

በየመጠይቁ የሚወጣውን መረጃ የሚቀንስ የትኛው የመከላከያ ዘዴ ነው?

ውጽዓቶች ማጠር፣ ለምሳሌ የላይኛውን መለያ ብቻ መመለስ ወይም የተጠጋጉ ዕድሎች፣ እያንዳንዱ ምላሽ ለአጥቂ የሚሰጠውን ምልክት ይቀንሳል፣ ይህም የማውጣት ወጪን ይጨምራል።

እ.ኤ.አ. በ 2024 የተገኘው ውጤት አጥቂዎች የትኛውን የምርት ቋንቋ ሞዴል በርካሽ በትክክል መልሰው ማግኘት እንደሚችሉ አሳይቷል?

ተመራማሪዎች የመጨረሻው መስመራዊ ትንበያ ንብርብር በትክክል በጥቂት መቶ ዶላሮች ሊመለስ እንደሚችል አረጋግጠዋል፣ ምክንያቱም ምላሾቹ ሊታደስ የሚችል ማትሪክስ ናቸው።

ለምንድነው የተሰረቀው ተተኪ ሞዴል ከጠፋ ገቢ በላይ አደገኛ የሆነው?

አንድ ጊዜ አጥቂዎች የአካባቢ ቅጂ ካላቸው በኋላ የመጀመሪያውን የተዘረጋውን ስርዓት የሚያሞኙ የተቃዋሚ ግብአቶችን ወይም የማምለጫ ጥቃቶችን ለመንደፍ በነፃነት መመርመር ይችላሉ።

ተዛማጅ መመሪያዎች