Актуализира се ежедневно1797 проверени истории

AI новини.Без шума.

Проверено от източници AI покритие на пускането на продукти, промените в политиките, изследванията на безопасността и индустриалните ходове, обяснено на ясен език от образователен екип на неправителствена организация.

Потвърден източник

Всяка история се свързва с най-силните налични доказателства: оригинални източници, когато са налични, иначе ясно приписани доклади.

Обикновен английски

Какво се случи, защо има значение и какво да гледаме - без жаргон.

Без пълнител

Когато сигналът е слаб, ние не публикуваме нищо, вместо да допълваме емисията.

Архив на новини

Архив с новини за AI — Страница 149

Истории за изкуствен интелект с проверени източници, първо най-новите, за хора, които трябва да разбират изкуствения интелект, без да преследват реклами.

Source-provided image accompanying Paper Proposes Grading AI Security Agents Without Labels by Measuring Convergence to a Stronger ModelТоп история
Иновация7 min прочети
Иновация7 min прочети

Документът предлага класифициране на AI агенти за сигурност без етикети чрез измерване на конвергенцията към по-силен модел

Нов предпечат на arXiv твърди, че екипите по сигурността могат да преценят дали AI агент, оборудван с памет или извличане, се учи, като измерва доколко затваря празнината спрямо по-силен модел на „учител“, а не по етикетирани бенчмаркове, които често са оскъдни или остарели. Съдейки по модел с подобно захранване не даде използваем сигнал.

Прочетете историята Потвърден източник: arxiv.org
Иновация7 min прочети

Нов сравнителен тест тества дали асистентите с изкуствен интелект могат да запомнят една година използване на телефона

Технически доклад от 17 автори, публикуван в arXiv, представя MobileMem, бенчмарк и рамка за дългосрочна памет на устройството, изградена от годишна колекция от мобилни преживявания. Резюмето описва дизайна, но не отчита резултати, а ключови подробности за основните данни остават неразкрити.

arxiv.org
Иновация7 min прочети

Доклади за подобна на мозъка модулна организация, появяваща се в големи езикови модели

Нов препринт на arXiv казва, че големите езикови модели развиват функционално специализирана вътрешна структура, която се подрежда с отделни човешки мозъчни мрежи, въз основа на анализи на вериги в 46 задачи в четири когнитивни области. Страницата с резюмета оставя ключови методологични подробности непосочени.

arxiv.org

Още истории

9 истории
  1. Иновация7 min прочети

    Хартията открива късни слоеве на смесен модел на експерти, толериращи тежко маскиране на експерти

    Предварителен печат докладва, че дезактивирането на експерти с ниска величина в последните пет слоя на 35-милиарден параметърен модел Mixture of Experts запазва много по-използваеми изходи за превод на код, отколкото разпределянето на едни и същи съкращения във всички слоеве. Той обхваща един модел и един бенчмарк, а резюмето не съобщава за немаскирана базова линия.

    arxiv.org
  2. Сигурност7 min прочети

    Недостатъците на CoreBreak позволяват на инструментите на агента да работят, без моделът изобщо да бъде извикан

    Изследователска бележка на Cloud Security Alliance описва CoreBreak, модел на недостатъци в Amazon Bedrock AgentCore, комплекта за разработка на агенти на Google и пакетите за AI SDK на Vercel, които позволяват на инструментите да се изпълняват без обръщане на модела – оставяйки предпазните парапети на ниво модел без нищо за проверка.

    labs.cloudsecurityalliance.org
  3. Политика6 min прочети

    Anthropic Подробности как ще работи текстовият воден знак на Claude

    Anthropic казва, че бъдещите модели Claude ще вграждат статистически воден знак, базиран на Google SynthID-Text на DeepMind, за да отговарят на Закона за изкуствен интелект на ЕС. Компанията казва, че не добавя знаци, токени или потребителска самоличност - и че пълното пренаписване го побеждава.

    anthropic.com
  4. Индустрия6 min прочети

    Cursor казва, че придобиването му от SpaceX е официално затворено

    Cursor публикува кратка публикация, в която се казва, че SpaceX е завършила придобиването на инструмента за кодиране на AI, завършвайки процес, който според него е започнал през април с партньорство за обучение на модели със SpaceXAI. Публикацията обещава достъп до това, което нарича най-голямата флотилия от графични процесори в света, но не разкрива условия, срокове или промени в продукта.

    cursor.com
  5. Иновация7 min прочети

    Нов бенчмарк открива, че AI агентите погрешно блокират одобрена работа в 28% от случаите

    Предварителен печат въвежда SteerBench-Work, тест от 106 сценария за момента, в който AI агент реши да действа или да спре за преглед. В 30 моделни условия авторите съобщават, че погрешното задържане на разрешена работа е приблизително 28 пъти по-често, отколкото погрешното допускане на опасна работа.

    arxiv.org
  6. Иновация7 min прочети

    Paper Reports Frontier LLM Съдиите отменят присъди 25-71% под отхвърляне

    Нов стрес-тест за предварително отпечатване на arXiv девет гранични модела, използвани като автоматизирани градери, и съобщава, че всички те променят присъдите си при предизвикателство — и че променените присъди обикновено се отдалечават от правилния отговор, а не към него.

    arxiv.org
  7. Иновация7 min прочети

    Хартията аргументира еволюционните стратегии, които надминават RL при поддържането на различни набори от отговори на LLM

    Нов препринт на arXiv твърди, че LLM след обучение със стратегии за еволюция – базиран на населението метод без градиенти, който директно смущава теглата – побеждава обучението с подсилване на pass@k и покритието на решението. Резюмето цитира по-добри резултати от математически бенчмаркове, но не назовава модели, бенчмаркове или числа.

    arxiv.org
  8. Сигурност7 min прочети

    Документът казва, че самоусъвършенстващите се AI агенти могат да превърнат един опасен успех в умение за многократна употреба

    Нов предпечат на arXiv сравнява специфичен режим на отказ на агент: когато самоусъвършенстващ се агент запише опасна процедура в паметта, тя може да бъде извлечена и изпълнена в по-късни сесии. Всяка тествана еволюирала конфигурация създава опасни артефакти, а три злонамерени задачи повече от удвояват успеха на пренесената атака.

    arxiv.org
  9. Сигурност6 min прочети

    SEAG Paper предлага псевдоним на чувствителни обекти, преди RAG заявките да достигнат до външни LLM

    Предварителен печат, публикуван в arXiv, описва рамка, която разменя чувствителни имена в заявки и извлечени документи за псевдоними, преди да ги изпрати на модел на трета страна. Авторите съобщават за над 80% точност на техния показател за потребителя от край до край и нива на пълно прикриване между 74,91% и 77,83% в три малки модела.

    arxiv.org

Един полезен брифинг всяка седмица

Поддържайте изкуствения интелект, без да живеете в потока.

Получете потвърдените новини за AI за седмицата, оригинални данни, полезни инструменти, учебни предложения и нови AI работни места.

Send me
One email a week. Switch any time.

Достигнете до хора, които учат AI

Наемане на AI професионалист или пускане на полезен AI продукт? Представете го пред хора, които са дошли тук, за да учат и действат.

Публикувайте работа за AI Изпратете AI инструмент