Anthropic ዋና ሥራ አስፈፃሚ የኤአይ ኩባንያዎች የድንበር ልማትን እንዲቀንሱ አሳስበዋል

ምን ተፈጠረ

CNN en Español እንደዘገበው Anthropic ዋና ስራ አስፈፃሚ ዳሪዮ አሞዴይ AI ኩባንያዎች የድንበር-ሞዴል ልማትን ፍጥነት እንዲያስተካክሉ አሳስበዋል ። ከሰራተኞች ጋር ተመሳሳይነት ያለው ተደራሽነት ያላቸውን ገለልተኛ ገምጋሚዎችን አቅርቧል፣የደህንነት አሠራሮችን ለመገምገም፣አደጋዎችን ሪፖርት ለማድረግ እና ሞዴሎችን እና የስራ ሂደቶችን የማሰልጠን ስልጣን ተሰጥቶታል። ሪፖርቱ የ OpenAI ዋና ስራ አስፈፃሚ ሳም አልትማን የግምገማውን ሀሳብ እንደደገፈ እና የ xAI ዋና ስራ አስፈፃሚ ኢሎን ማስክ መስማማቱን ገልጿል። CNN en Español በተጨማሪም አሞዴይ በቅዳሜው ቃለ ምልልስ እና በድረ-ገፃቸው ላይ ባሳተመው አጭር መጣጥፍ ላይ ጉዳዩን እንደሰራ ዘግቧል።

CNN en Español እንደዘገበው አሞዴይ የአይአይ ኢንዱስትሪ ቴክኖሎጂውን ማሳደግ በሚቀጥልበት ጊዜ የሞዴል አቅሞች የሚሻሻሉበትን ፍጥነት መቀነስ አለበት ሲል ተከራክሯል። ኩባንያዎች አደገኛ የእድገት ጎዳናዎችን ለማስወገድ በጋራ ሊሰሩ እንደሚገባ ጠቁመው AI ለሳይበር ጥቃት፣ ለባዮ ሽብርተኝነት እና ለከፍተኛ የኢኮኖሚ መቆራረጥ ሊያገለግል ይችላል ብለዋል። በ CNN en Español እንደዘገበው እነዚህ የአሞዴይ ማስጠንቀቂያዎች ናቸው እንጂ በቀረበው ጽሑፍ ውስጥ በግል የተረጋገጡ ግኝቶች አይደሉም።

በሪፖርቱ ውስጥ የተገለፀው ተጨባጭ መለኪያ የኤአይአይ ኩባንያዎች በቡድናቸው ውስጥ የሚካተቱ የውጭ ገምጋሚዎችን ለመቅጠር ቁርጠኝነት ነው። እንደ CNN en Español ዘገባ፣ ገምጋሚዎቹ የደህንነት ልምዶችን ይገመግማሉ፣ ክስተቶችን ሪፖርት ያደርጋሉ እና ሞዴሎችን፣ የስልጠና ሂደቶችን እና የስራ ሂደቶችን ይቆጣጠራሉ። Amodei Anthropic አቀራረቡን በአንድ ወገን እየወሰደ ነበር፣ ነገር ግን ሪፖርቱ የገምጋሚዎቹን ማንነት፣ ስልጣን፣ የመዳረሻ ገደቦችን ወይም የህትመት መስፈርቶችን አይገልጽም።

CNN en Español እንደዘገበው ሳም አልትማን OpenAI ተመሳሳይ አካሄድ እንደሚከተል እና ኤሎን ማስክ ከአሞዴይ ጋር በይፋ መስማማቱን ዘግቧል። ሪፖርቱ ሃሳቡን ሰፋ ባለው የፖሊሲ አውድ ውስጥ አስቀምጦታል፡ መንግስታት ለድንበር AI ገና ሁሉን አቀፍ እና የተቀናጁ ህጎችን አላወጡም ብሏል። ምንም የምርት ማስጀመር፣ የተጠቃሚ መዳረሻ ለውጥ ወይም የዋጋ መረጃ አልተሰጠም።

የምንጭ ዝርዝሮች: cnnespanol.cnn.com ↗

ለምን አስፈላጊ ነው።

ሀሳቡ የ AI ደህንነት ቁጥጥርን ከፍቃደኝነት ውስጣዊ ግምገማ ባለፈ የውጭ ሰራተኞችን ትርጉም ያለው የእድገት ሂደቶችን ወደ ሚያካትት ሞዴል ያንቀሳቅሳል። ተቀባይነት ካገኘ፣ ያ ክስተት ሪፖርት ማድረግን እና ከፍተኛ አቅም ያላቸውን ስርዓቶች መመርመርን ሊያሻሽል ይችላል፣ ነገር ግን ሪፖርቱ ኩባንያዎች ለጋራ ማዕቀፍ መስማማታቸውን ወይም ገምጋሚዎች በህጋዊ መንገድ ተፈጻሚነት ያለው ስልጣን እንዳላቸው አላስቀመጠም።

ገለልተኛ ቁጥጥር በኩባንያዎች ህዝባዊ መግለጫዎች ላይ ብቻ ከመተማመን ይልቅ ብቁ ለሆኑ ገምጋሚዎች የልማት ልምዶችን እና የአደጋ መዝገቦችን እንዲያገኙ በማድረግ የደህንነት ጥያቄዎችን የበለጠ ሊሞከር ይችላል። ሞዴሎቹ የበለጠ ችሎታ ያላቸው እና ወደ ሚስጥራዊነት ያላቸው ስርዓቶች ሲዋሃዱ ያ አስፈላጊ ሊሆን ይችላል።

የቀረበው ሒሳብ በፈቃደኝነት ይቆያል። ሪፖርቱ ራሱን የቻለ የAnthropic ትግበራን አያረጋግጥም፣ OpenAI ገምጋሚዎችን መሾሙን አያረጋግጥም፣ ወይም የትኛውም ኩባንያ ለገምጋሚ ነፃነት፣ ምስጢራዊነት፣ እድገት ወይም የህዝብ ሪፖርት አቀራረብ ደረጃዎችን እንዳሳተመ ያሳያል። እነዚያ ዝርዝሮች ሀሳቡ ትርጉም ያለው ቁጥጥር መሆን አለመሆኑን ወይም ቃል ኪዳን መቆየቱን ይወስናሉ።

ለፖሊሲ አውጪዎች ያለው ተግባራዊ አንድምታ በኢንዱስትሪ የሚመሩ ገምጋሚዎች ጊዜያዊ የፍተሻ ሽፋን ሊሰጡ ይችላሉ፣ መንግስታት መደበኛ ህጎችን ሲከራከሩ። በቀረበው ሪፖርት መሰረት የህዝብ ማስፈጸሚያዎችን አይተኩም ወይም በኩባንያዎች ውስጥ የጋራ ግዴታዎችን አይመሰረቱም።

ቀጥሎ ምን እንደሚታይ

ዋናው ፈተና Anthropic፣ OpenAI እና ሌሎች ኩባንያዎች የገምጋሚዎችን ነፃነት፣ የመዳረሻ መብቶች፣ የሪፖርት ስራዎችን እና ከጣልቃ ገብነት የሚጠበቁ መሆናቸውን ይገልፃሉ። መንግስታት በጋራ የደህንነት መስፈርቶች ላይ የማስተባበር ችሎታም እንዲሁ አልተፈታም። CNN en Español የታቀዱት ጥበቃዎች በዘርፉ እየሰሩ መሆናቸውን የተጠናቀቀ የጊዜ ሰሌዳ፣ የትግበራ እቅድ፣ ወጪ፣ ወይም ማስረጃ አላቀረበም።

ለተሰየሙ ገምጋሚዎች፣ የጽሁፍ መዳረሻ ዋስትናዎች እና ገምጋሚዎች የስልጠና የስራ ሂደቶችን፣ ሞዴሎችን እና ክስተቶችን ያለኩባንያው ቬቶ መፈተሽ እንደሚችሉ የሚያሳይ ማስረጃ ይመልከቱ። ሪፖርቱ የጊዜ ሰሌዳ ወይም የአሠራር ዝርዝሮችን አይሰጥም።

ኩባንያዎች ተመጣጣኝ ደረጃዎችን መውሰዳቸውን እና ገምጋሚዎቹ ከባድ ግኝቶችን ለተቆጣጣሪዎች ወይም ለሕዝብ መግለጽ ይችሉ እንደሆነ ይከታተሉ። CNN en Español የዘገበው ድጋፎችን እንጂ የተጠናቀቀ የኢንዱስትሪ ስምምነት አይደለም።

በጋራ የደህንነት መስፈርቶች ላይ የመንግስት እርምጃን ይጠብቁ። ሪፖርቱ ቅንጅቱ አሁንም አልተፈታም ይላል, እና የወጡ ህጎችን ወይም ሁሉን አቀፍ ቁጥጥር ያለው ባለስልጣን አይለይም.

ስለ ቁጥጥር መጥፋት እና ፈጣን የችሎታ እድገት ሪፖርት የተደረገ ትንበያዎች እንደ አሞዴኢ እና ሌሎች ተመራማሪዎች ማስጠንቀቂያዎች መታየት አለባቸው እንጂ በተናጥል የተረጋገጡ ውጤቶች አይደሉም።

ተዛማጅ መመሪያዎች እና ጥያቄዎች