อัพเดททุกวัน4654 เรื่องราวที่ได้รับการยืนยัน
ข่าวเอไอ ปราศจากเสียงรบกวน
การรายงานข่าว AI ที่ตรวจสอบแหล่งที่มาเกี่ยวกับการเปิดตัวผลิตภัณฑ์ การเปลี่ยนแปลงนโยบาย การวิจัยด้านความปลอดภัย และการเคลื่อนไหวในอุตสาหกรรม ซึ่งอธิบายเป็นภาษาอังกฤษง่าย ๆ โดยทีมการศึกษาขององค์กรไม่แสวงหากําไร
แหล่งที่มาที่ได้รับการยืนยัน
ทุกเรื่องราวเชื่อมโยงกับหลักฐานที่แข็งแกร่งที่สุดที่มีอยู่: แหล่งข่าวต้นฉบับเมื่อมี หรือรายงานที่ชัดเจนว่ามีแหล่งอ้างอิง
ภาษาอังกฤษธรรมดา
เกิดอะไรขึ้น เหตุใดจึงสำคัญ และจะดูอะไรดี โดยไม่มีศัพท์เฉพาะ
ไม่มีฟิลเลอร์
เมื่อสัญญาณเบาบาง เราจะไม่เผยแพร่สิ่งใดนอกจากการเติมฟีด
เรื่องราวเพิ่มเติม
9 เรื่องราวนวัตกรรม
Paper รายงานองค์กรโมดูลาร์ที่เหมือนสมองที่เกิดขึ้นภายในโมเดลภาษาขนาดใหญ่
การพิมพ์ล่วงหน้าของ arXiv ใหม่กล่าวว่าโมเดลภาษาขนาดใหญ่จะพัฒนาโครงสร้างภายในเฉพาะทางเชิงฟังก์ชันที่สอดคล้องกับเครือข่ายสมองของมนุษย์ที่แตกต่างกัน โดยอิงจากการวิเคราะห์วงจรในงาน 46 งานในโดเมนการรับรู้สี่โดเมน หน้าบทคัดย่อไม่ได้ระบุรายละเอียดหลักวิธีปฏิบัติที่สำคัญarxiv.orgนวัตกรรม
กระดาษค้นหาชั้นหลังของโมเดลแบบผสมผสานของผู้เชี่ยวชาญที่ทนทานต่อการปิดบังโดยผู้เชี่ยวชาญจำนวนมาก
รายงานก่อนพิมพ์ระบุว่าการปิดใช้งานผู้เชี่ยวชาญที่มีขนาดต่ำในห้าเลเยอร์สุดท้ายของโมเดล Mixture-of-Experts ที่มีพารามิเตอร์ 35 พันล้านพารามิเตอร์ จะรักษาเอาต์พุตการแปลโค้ดที่ใช้งานได้มากกว่าการกระจายการตัดแบบเดียวกันในทุกเลเยอร์ โดยครอบคลุมหนึ่งโมเดลและหนึ่งเกณฑ์มาตรฐาน และบทคัดย่อรายงานว่าไม่มีข้อมูลพื้นฐานที่ไม่เปิดเผยarxiv.orgความปลอดภัย
ข้อบกพร่องของ CoreBreak ปล่อยให้ Agent Tools ทำงานโดยไม่ต้องมีการเรียกโมเดล
บันทึกการวิจัยของ Cloud Security Alliance อธิบายถึง CoreBreak ซึ่งเป็นรูปแบบของข้อบกพร่องใน Amazon Bedrock AgentCore, Agent Development Kit ของ Google และแพ็คเกจควบคุม AI SDK ของ Vercel ที่อนุญาตให้เครื่องมือดำเนินการโดยไม่ต้องเปลี่ยนโมเดล ทำให้เหลือราวกั้นระดับโมเดลโดยไม่มีอะไรต้องตรวจสอบlabs.cloudsecurityalliance.orgนโยบาย
Anthropic รายละเอียดว่าลายน้ำข้อความของ Claude ทำงานอย่างไร
Anthropic กล่าวว่าโมเดล Claude ในอนาคตจะฝังลายน้ำทางสถิติตาม Google ข้อความ SynthID ของ DeepMind เพื่อให้สอดคล้องกับพระราชบัญญัติ AI ของสหภาพยุโรป บริษัทบอกว่าจะไม่เพิ่มอักขระ โทเค็น หรือข้อมูลระบุตัวตนของผู้ใช้ และการเขียนใหม่ทั้งหมดก็เอาชนะมันได้
anthropic.comอุตสาหกรรม
เคอร์เซอร์กล่าวว่าการเข้าซื้อกิจการโดย SpaceX ได้ปิดอย่างเป็นทางการแล้ว
เคอร์เซอร์เผยแพร่โพสต์สั้น ๆ ว่า SpaceX ได้เสร็จสิ้นการเข้าซื้อเครื่องมือเข้ารหัส AI แล้ว และเสร็จสิ้นกระบวนการที่กล่าวว่าเริ่มต้นในเดือนเมษายนด้วยความร่วมมือด้านการฝึกอบรมโมเดลกับ SpaceXAI โพสต์ดังกล่าวสัญญาว่าจะเข้าถึงสิ่งที่เรียกว่ากลุ่ม GPU ที่ใหญ่ที่สุดในโลก แต่ไม่เปิดเผยข้อกำหนด ไทม์ไลน์ หรือการเปลี่ยนแปลงผลิตภัณฑ์
cursor.comนวัตกรรม
เกณฑ์มาตรฐานใหม่พบว่าตัวแทน AI บล็อกงานที่ได้รับการอนุมัติอย่างไม่ถูกต้อง 28% ของเวลา
การพิมพ์ล่วงหน้าจะแนะนำ SteerBench-Work ซึ่งเป็นการทดสอบ 106 สถานการณ์ในช่วงเวลาที่เจ้าหน้าที่ AI ตัดสินใจที่จะดำเนินการหรือหยุดชั่วคราวเพื่อตรวจสอบ จากเงื่อนไขแบบจำลอง 30 ข้อ ผู้เขียนรายงานว่าการเก็บงานเคลียร์อย่างไม่ถูกต้องนั้นพบบ่อยกว่าการปล่อยให้งานที่ไม่ปลอดภัยอย่างผิดพลาดประมาณ 28 เท่าarxiv.orgนวัตกรรม
Paper Reports ผู้พิพากษา Frontier LLM พลิกคำตัดสิน 25-71% ภายใต้การตอบกลับ
การทดสอบความเครียดก่อนพิมพ์ arXiv ใหม่จะทดสอบโมเดลชายแดนเก้าโมเดลที่ใช้เป็นตัวให้คะแนนแบบอัตโนมัติ และรายงานว่าโมเดลทั้งหมดเปลี่ยนคำตัดสินของตนภายใต้ความท้าทาย และคำตัดสินที่เปลี่ยนแปลงมักจะเคลื่อนห่างจากคำตอบที่ถูกต้อง ไม่ใช่หันไปหาคำตอบนั้นarxiv.orgนวัตกรรม
Paper Argues Evolution Strategies เอาชนะ RL ในการรักษาคำตอบ LLM ทำให้มีความหลากหลาย
การพิมพ์ล่วงหน้าของ arXiv ใหม่ให้เหตุผลว่า LLM หลังการฝึกอบรมที่มีกลยุทธ์วิวัฒนาการ ซึ่งเป็นวิธีการแบบอิงตามประชากร ไม่มีการไล่ระดับสี ซึ่งรบกวนน้ำหนักโดยตรง เหนือกว่าการเรียนรู้แบบเสริมกำลังบน pass@k และความครอบคลุมของโซลูชัน บทคัดย่ออ้างอิงผลลัพธ์ทางคณิตศาสตร์เปรียบเทียบได้ดีกว่า แต่ไม่มีการระบุชื่อแบบจำลอง การวัดประสิทธิภาพ หรือตัวเลขarxiv.orgความปลอดภัย
Paper กล่าวว่าเจ้าหน้าที่ AI ที่พัฒนาตนเองสามารถเปลี่ยนความสำเร็จที่ไม่ปลอดภัยให้กลายเป็นทักษะที่นำมาใช้ซ้ำได้
การพิมพ์ล่วงหน้า arXiv ใหม่จะวัดประสิทธิภาพโหมดความล้มเหลวของเอเจนต์เฉพาะ: เมื่อเอเจนต์ที่พัฒนาตนเองเขียนขั้นตอนที่ไม่ปลอดภัยลงในหน่วยความจำ ก็จะสามารถดึงข้อมูลและดำเนินการได้ในเซสชันภายหลัง การทดสอบการกำหนดค่าที่พัฒนาแล้วทุกครั้งทำให้เกิดส่วนที่ไม่ปลอดภัย และงานที่เป็นอันตรายสามงานเพิ่มความสำเร็จในการโจมตีแบบส่งต่อมากกว่าสองเท่าarxiv.org
Jump to a page
การบรีฟที่มีประโยชน์หนึ่งครั้งต่อสัปดาห์
ตาม AI โดยไม่ต้องอยู่ในฟีด
รับข่าวสาร AI ที่ได้รับการยืนยันประจําสัปดาห์ ข้อมูลต้นฉบับ เครื่องมือที่เป็นประโยชน์ ตัวเลือกการเรียนรู้ และงาน AI ใหม่ ๆ
เข้าถึงผู้คนที่กำลังเรียนรู้ AI
การจ้างมืออาชีพด้าน AI หรือเปิดตัวผลิตภัณฑ์ AI ที่มีประโยชน์?นําเสนอให้คนที่มาที่นี่เพื่อเรียนรู้และลงมือทํา
ลงงาน AIส่งเครื่องมือ AI