ክሱ xAI የሰለጠነ Grok በ CSAM ላይ የተረፈውን ያሳያል

ምን ተፈጠረ

ብሬትባርት እንደዘገበው ጄን ዶ የተባለች ሴት የኤሎን ሙክን xAI ክስ መስርታለች፣ ሪፖርቱ አሁን የስፔስ ኤክስ አካል እንደሆነች ገልጿል፣ ይህም Grok እሷን በሚያሳዩ ህጻናት ወሲባዊ ጥቃት ላይ የሰለጠነች እንደሆነ ገልጿል። ሪፖርቱ ክሱ ዶ በቅድመ ትምህርት ቤት በነበረበት ጊዜ የተፈጠሩ እና በኋላም የምስል ሃሾችን ተጠቅመው ክትትል የሚደረግባቸው ምስሎችን ይመለከታል ብሏል።

ብሪትባርት እንደዘገበው ጄን ዶ በኤሎን ማስክ xAI ላይ የታቀደውን የክፍል-እርምጃ ክስ መስርታለች፣ ኩባንያው Grok ቻትቦትን በልጆች ላይ በሚያሳዩት የወሲብ ጥቃት ላይ እንዳሰለጠነች በመግለጽ። በሪፖርቱ መሰረት ዋናው በደል የተከሰተው ዶ በ2000ዎቹ መጀመሪያ ላይ የቅድመ ትምህርት ቤት ተማሪ በነበረበት ወቅት ሲሆን የጎልማሶች ወንዶች ምስሎችን በኋላ ላይ በመስመር ላይ ተሰራጭተዋል. ሪፖርቱ ምስሎቹ በብሔራዊ የጠፉ እና የሚበዘበዙ ሕፃናት እና የካናዳ የሕፃናት ጥበቃ ማዕከል የተጨፈጨፉ ሲሆን አገልግሎቶቹ በድጋሚ ሲታዩ ቅጂዎችን እንዲለዩ ያስችላቸዋል ብሏል።

የብሪትባርት የአቤቱታ ዘገባ እንደሚለው፣ የካናዳ የሕፃናት ጥበቃ ማእከል በኤአይአይ የተፈጠረ CSAM እሷን የሚያሳይ በxAI ላይ መገኘቱን ለዶ ተናግሯል። በብሪትባርት እንደተጠቀሰው እና እንደተገለጸው፣ ዶይን ከሚያሳዩ ምስሎች ጋር የተያያዙ የታወቁ የሃሽ እሴቶች በxAI ጥቅም ላይ የዋለ የውሂብ ስብስብ አካል መሆናቸውን ይገልፃል። ሪፖርቱ በተጨማሪም ቅሬታው የታወቁትን በሕይወት የተረፉ ሰዎችን የሚያሳይ በ AI የመነጨ CSAM ስለመፍጠር ከኦንላይን ውይይቶች ጋር ያገናኛል ብሏል። እነዚህ በሙግት ላይ ያሉ ክሶች እንጂ በፍርድ ቤት የተረጋገጡ ግኝቶች አይደሉም።

ብሪትባርት እንደዘገበው ቅሬታው xAI በGrok የተፈጠሩ ምስሎችን ያከማቻል እና ሞዴሉን የበለጠ ለማሰልጠን ወይም ለማሰልጠን እንደገና ይጠቀምባቸዋል። ጽሁፉ በተጨማሪም የGrok የአገልግሎት ውል በX እና Grok ላይ የህዝብ ልጥፎችን በነባሪነት እንደ የሥልጠና መረጃ ይመለከታቸዋል። ይህ በአደባባይ የሚለጠፉ ወይም በስርአቱ የሚመረቱ አስጸያፊ ጽሑፎች ወደ ማሰልጠኛ መስመር እንዲገቡ እና በኋላ ላይ በሚወጡት ውጤቶች ላይ ተጽእኖ ሊያሳድር እንደሚችል ቅሬታው ተከራክሯል። ምንጩ የትኛውም የተለየ ምስል Grok ላይ እንዴት እንደነካ የሚያሳይ በተናጥል የተረጋገጡ ቴክኒካዊ ማስረጃዎችን አያቀርብም።

ሪፖርቱ xAI ዓመፀኛ ነገሮችን ከሥልጠና መረጃ እንደሚያጣራ ነገር ግን ቃላቱ በተለይ CSAMን፣ ስምምነት የሌላቸውን የቅርብ ምስሎችን ወይም ሌሎች ወሲባዊ ቁሳቁሶችን አያካትቱ ብሏል። የዶይ ክስ xAI የፌዴራል የሕፃናት-ፖርኖግራፊ ሕጎችን እና የማሻን ሕግ በመጣስ ይከሳል። ብሪትባርት እንደዘገበው ክሱ ለተጠቂዎች ኪሣራ እንደሚፈልግ እና Grok በእውነተኛ ፎቶዎቻቸው ላይ በመመስረት CSAM እንዳመነጨ፣እንዲሁም xAI የተከማቸ ወይም ከስልጠና ጋር የተገናኘ የመነጨ CSAMን ለማጥፋት እና የወደፊቱን ትውልድ ለመከላከል xAI የሚያስፈልጋቸው ትዕዛዞች ለተጎጂዎች ኪሣራ እንደሚፈልግ ዘግቧል። የትኛውም ፍርድ ቤት ጥያቄዎቹን ተቀብሎ እንደተቀበለ ምንጩ አልተናገረም።

የምንጭ ዝርዝሮች: breitbart.com ↗

ለምን አስፈላጊ ነው።

ክሱ የተረጋገጠ ከሆነ፣ ጉዳዩ AI ኩባንያዎች በስልጠና መረጃ፣ በተፈጠሩ ውጤቶች እና በተጠቃሚ በተሰቀሉ ይዘቶች ላይ የታወቁ አላግባብ መጠቀምን እንዴት እንደሚይዙ ሊፈትን ይችላል። እንዲሁም አንድ ሞዴል ከታወቀ ሰው ጋር የተሳሰሩ ነገሮችን ሲባዛ ወይም ሲቀይር ምን አይነት ህጋዊ ግዴታዎች እንደሚተገበሩ ግልጽ ሊያደርግ ይችላል።

ክሶቹ በጄኔሬቲቭ AI ደህንነት ላይ ማዕከላዊ ችግርን የሚመለከቱ ናቸው፡ አንድ ኩባንያ የስር ፋይሎችን ከማግኘቱ ወይም ከማስወገድዎ በፊት ሞዴል ጎጂ በሆኑ ነገሮች ሊጎዳ ይችላል። ብሪትባርት እንደዘገበው ቅሬታው ምስልን ከህዝብ ምንጭ መሰረዝ ቀድሞውንም ከሰለጠነ ሞዴል ተጽእኖውን ላያስወግደው እንደሚችል ይከራከራሉ። ያ ቴክኒካዊ ነጥብ በማቅረቢያው ውስጥ እንደ የይገባኛል ጥያቄ ቀርቧል; ምንጩ Grok በተገለጸው ዘዴ ማንኛውንም ምስል እንደያዘ፣መሸመዱ ወይም መባዛቱን አላረጋገጠም።

የሚታወቀው CSAM በተለምዶ በሃሽ ክትትል ስለሚደረግ የመሣሪያ ስርዓቶች ቅጂዎችን ደጋግመው ለግምገማ ሳያከፋፍሉ ማግኘት ይችላሉ። ሪፖርቱ ቅሬታው በxAI የውሂብ ስብስብ ውስጥ ለረጅም ጊዜ የቆዩ እና የታወቁ የሃሽ እሴቶች ያሏቸው ምስሎች ጥቅም ላይ እንደዋሉ ይናገራል። ከተረጋገጠ፣ በመረጃ አሰባሰብ ወቅት ነባር የፍተሻ ስርዓቶች ተፈጻሚ ስለመሆኑ፣ በመረጃ ቱቦው ውስጥ ልዩ ሁኔታዎች ወይም ክፍተቶች ስለመኖራቸው እና የመነጩ ውጤቶች ተለይተው የተቃኙ እና የተወገዱ ስለመሆኑ ጥያቄዎችን ያስነሳል።

ጉዳዩ ከxAI በላይ አንድምታ ሊኖረው ይችላል ምክንያቱም ብዙ አመንጪ ሲስተሞች መጠነ ሰፊ የድር ውሂብን፣ የተጠቃሚ ይዘትን እና በአምሳያ የመነጨ ቁሳቁሶችን ያጣምራል። ብሪትባርት ቀደም ሲል የLAION ምስል መረጃ ጠቋሚን ያካተተ ጥናትን በመጥቀስ በ AI ዳታቤዝ ውስጥ ከ3,200 በላይ በልጆች ላይ ጥቃት የሚፈጸምባቸው ምስሎችን ለይቷል። ያ ቀደምት ምሳሌ በብሪትባርት የተዘገበ ዳራ ነው እንጂ Grok ተመሳሳይ ነገር መጠቀሙን ወይም ሁሉም የተጠረጠሩ ምስሎች እንደ CSAM መረጋገጡን የሚያሳይ አይደለም።

ህጋዊ የይገባኛል ጥያቄዎች የውሂብ አጠቃቀም ውሎችንም በምርመራ ውስጥ ያስቀምጣሉ። የሕዝብ ልጥፎች እና የሞዴል ውጤቶች በነባሪነት ለሥልጠና ጥቅም ላይ ከዋሉ፣ ተጠቃሚዎች እና በሕይወት የተረፉ ሰዎች ጎጂ ነገሮች እንዴት እንደሚገለበጡ፣ እንደሚያዙ ወይም እንደገና ጥቅም ላይ እንደሚውሉ ላይ የተገደበ የተግባር ቁጥጥር ሊኖራቸው ይችላል። ምንጩ xAI በዚህ ጉዳይ ላይ ውሎቹን እንዴት እንደሚተረጉም፣ እንደለወጣቸው፣ በCSAM ላይ ምን አይነት መከላከያዎች እንደሚተገበሩ፣ ወይም የተጠረጠሩት ምስሎች ሆን ተብሎ፣ በአጋጣሚ ወይም በሶስተኛ ወገን የውሂብ ስብስብ ውስጥ እንደገቡ አይገልጽም።

ቀጥሎ ምን እንደሚታይ

ዋናዎቹ ጥያቄዎች የአቤቱታ ቴክኒካል የይገባኛል ጥያቄዎች መደገፍ ይቻል እንደሆነ፣ xAI ምላሽ ሰጠ ወይም ክሱን መቃወም እና ፍርድ ቤቱ እንዲጠበቅ፣ እንዲሰረዝ፣ እንዲያጣራ ወይም ሌሎች ለውጦችን በGrok ላይ ማዘዙ ናቸው። ጉዳዩ ለሕዝብ ልጥፎች እና የሞዴል ውጤቶች ነባሪ የውሂብ አጠቃቀም ቃላቶችን ትኩረት ሊስብ ይችላል።

ኩባንያው ምስሎቹ ወደ Grok የሥልጠና መረጃ እንደገቡ መካድ፣ በ Grok ውጤቶች እና በዶ እውነተኛ ምስሎች መካከል ያለውን ግንኙነት መጨቃጨቅ ወይም ማንኛውንም ምርመራ እና ማሻሻያ መግለጽን ጨምሮ ከ xAI የተሰጠ ምላሽ አስፈላጊ ይሆናል። የብሪትባርት ዘገባ ከxAI የተሰጠ ምላሽን አያካትትም እና ምንም አይነት ገለልተኛ የቴክኒክ ኦዲት የቅሬታ ሂሳብን የሚያረጋግጥ አልተጠቀሰም።

የፍርድ ቤት ማቅረቢያዎች እና ውሳኔዎች የመነጩ ቁሳቁሶችን ከአንድ የተወሰነ የተረፉ ምስሎች ጋር ለማገናኘት እና የxAI እውቀትን ወይም ባህሪን ለመመስረት ከሳሽ ምን ማስረጃ ማቅረብ እንዳለበት ማብራራት አለባቸው። ምንጩ ክሱ እንደ ክፍል ክስ የቀረበ ቢሆንም ክፍሉ ይመሰክራል አይሁን፣ የይገባኛል ጥያቄዎቹ ቀደም ብለው ከተነሱት ጉዳዮች ይተርፋሉ ወይም ፍርድ ቤት ተጠያቂነትን በተመለከተ ግኝቶችን ማድረጉን አልገለጸም።

ሊመለከቷቸው የሚገቡ ተግባራዊ መከላከያዎች በመረጃ ቋት ውስጥ በሚገቡበት ጊዜ ሃሽ ማዛመድን፣ እውነተኛ ህጻናትን ወይም የተረፉ ሰዎችን የሚያካትቱ ጥያቄዎችን እና ውጤቶችን ማገድ፣ ለተፈጠሩ ምስሎች የማቆየት እና የመሰረዝ ፖሊሲዎች እና የሞዴል ውጤቶችን እንደ የስልጠና ውሂብ የመጠቀም ቁጥጥርን ያካትታሉ። ሪፖርቱ ከእነዚህ ልኬቶች ውስጥ የትኛው xAI በአሁኑ ጊዜ እንደሚሰራ ወይም ከተመዘገበው ጊዜ ጀምሮ የተለወጡ እንዳሉ አይገልጽም።

የተጠየቁት መፍትሄዎች የGrok ሰፋ ያለ የወሲብ ይዘት ፖሊሲዎችንም ሊነኩ ይችላሉ። ብሪትባርት እንደዘገበው ቅሬታው ስምምነት የሌላቸውን የጠበቀ ምስሎችን እና ሌሎች የግብረ-ሥጋ ግንኙነት ውጤቶችን ሊሸፍኑ የሚችሉ ገደቦችን እንደሚፈልግ፣ ጽሁፉ ከGrok የተሻሻለ NSFW ችሎታዎች ጋር የሚያገናኘውን ይዘት ጨምሮ። ፍርድ ቤት እንደዚህ አይነት ሰፊ ገደቦችን መጣል አለመሆኑ፣ xAI በፈቃደኝነት እንደሚቀበላቸው፣ ወይም የትኛውም ትዕዛዝ በተፈጠሩ ይዘቶች እና የስልጠና ስርዓቶች ላይ እንዴት እንደሚተገበር የማይታወቅ ነገር የለም።

ተዛማጅ መመሪያዎች እና ጥያቄዎች