እየሄደ ያለው የAnthropic ተመራማሪ የላቀ AI ላይ ጠንካራ ቁጥጥሮችን ይጠይቃል

ምን ተፈጠረ

አርስ ቴክኒካ እንደዘገበው የኤአይአይ ተመራማሪው ጃኮብ ኮክሰን ከAnthropic መነሳቱን ተጠቅሞ ራስን በማሻሻል AI እድገት ላይ ጠንካራ ቁጥጥር እንዲደረግ ጥሪ አቅርቧል። የእሱ ይፋዊ ማስጠንቀቂያ ከዛሬዎቹ ሞዴሎች በላይ አቅም ያላቸውን የወደፊት ስርዓቶችን ይመለከታል።

ሪፖርቱ በተጨማሪም የAnthropic አሰላለፍ ተመራማሪው ኢቫን ሁቢንገር ስለወደፊቱ ከባድ አደጋዎች የራሱን ስጋት የገለፀውን አስተያየት ይገልፃል። እነዚህ መግለጫዎች የተመራማሪዎች ግምገማ እንጂ አስከፊ ውጤት እርግጠኛ ለመሆኑ ወይም አስቀድሞ ለመከሰቱ ማስረጃዎች አይደሉም።

የምንጭ ዝርዝሮች: arstechnica.com ↗

ለምን አስፈላጊ ነው።

ልዩነቱ አስፈላጊ ነው ምክንያቱም ስለወደፊት ችሎታዎች ማስጠንቀቂያ ከተሰማራ ምርት ውድቀት የተለየ ስለሆነ። ጽሑፉ ልማትን ስለማፋጠን ሁለቱንም ስጋቶች እና የአሁኑ የቴክኒክ ግስጋሴ በተመሳሳይ ፍጥነት እንደሚቀጥል እርግጠኛ አለመሆንን ያብራራል።

ቀጥሎ ምን እንደሚታይ

ኮክሰን በላብራቶሪዎች መካከል የበለጠ ቅንጅት እንዲፈጠር እና የላቁ ስርዓቶችን የበለጠ ጠንከር ያለ ግንዛቤ ከማስፋት በፊት አሳስቧል። እነዚያን የውሳኔ ሃሳቦች መገምገም የርእስ ዜና ትንበያን እንደ የተረጋገጠ እድል ከመመልከት ይልቅ ስለ ችሎታዎች፣ መከላከያዎች እና ማስፈጸሚያዎች የተለየ ማስረጃ ያስፈልገዋል።

ተዛማጅ መመሪያዎች እና ጥያቄዎች