Оновлюється щодня3936 перевірені історії
Новини AI. Без шуму.
Перевірений джерелом штучний інтелект висвітлює випуск продуктів, зміни в політиці, дослідження безпеки та зміни в галузі, пояснені простою англійською мовою некомерційною освітньою командою.
Перевірене джерело
Кожна історія пов’язана з найвагомішими наявними доказами: оригінальними джерелами, якщо вони доступні, в іншому випадку чітко зазначеними повідомленнями.
Звичайна англійська
Що сталося, чому це важливо та що дивитися — без жаргону.
Без наповнювача
Коли сигнал слабкий, ми нічого не публікуємо, а лише доповнюємо канал.
Більше історій
9 історіїІнновація
Google DeepMind планує поетапне дослідження ШІ в постійних ігрових світах EVE
Google DeepMind каже, що розширює дослідження ігор завдяки партнерству з Fenris Creations, студією, що стоїть за всесвітом EVE. Програма тестуватиме пам’ять агентів, постійне навчання, довгострокове планування та поведінку кількох агентів, починаючи з офлайн-середовища EVE Online.
deepmind.googleБезпека
Open-source app warns about nearby smart glasses, but its signals are only a rough proxy
The Nearby Glasses project uses Bluetooth data to flag some smart-glasses devices on Android and iOS. Its own documentation says the system can produce false positives, miss devices and should not be used to confront people.github.comБезпека
Google Threat Intelligence повідомляє про дослідження вразливостей за допомогою ШІ та автономне шкідливе програмне забезпечення
Google Threat Intelligence Group каже, що зловмисники використовують штучний інтелект для прискорення дослідження вразливостей, уникнення виявлення, автоматизації дій зловмисного програмного забезпечення та націлювання на ланцюг поставок програмного забезпечення навколо систем ШІ.
cloud.google.comБезпека
Вихідні дані мовної моделі препринтів звітів можуть витікати секрети, що зберігаються в контексті
Препринт arXiv повідомляє, що мовні моделі можуть розкривати конфіденційні дані, розміщені в контексті, навіть після відмови в прямих запитах вилучення. У контрольованих експериментах автори кажуть, що адаптивні атаки відновили короткі секрети зі звичайних результатів і витягли повні номери соціального страхування від агента в стилі виробництва.arxiv.orgІнновація
Тест Thinkingbox показує, що агентам штучного інтелекту важко надійно завершувати бізнес-процеси з підтримкою стану
Нова стаття arXiv представляє Thinkingbox, пісочницю та еталонний тест для тестування агентів штучного інтелекту на багатоетапних бізнес-завданнях. Найсильніша перевірена модель отримала 65,36% результатів проходження@1, але лише 25,25% результатів^20, підкреслюючи розрив між випадковим успіхом і надійним виконанням.arxiv.orgІнновація
Preprint повідомляє про асиметричні ризики, які можуть пропустити метрики стиснення LLM
Препринт arXiv, що оцінює 3 LLM за допомогою 11 методів стиснення, повідомляє, що сукупна точність і перплексія можуть приховувати нерівномірну втрату знань, надмірну впевненість у нещодавно втраченій інформації та зміщення упередженості підгруп, що компенсують одне одного.arxiv.orgІнновація
Preprint виявляє, що нерелевантний текст може передбачувано змінювати судження мультимодальних моделей
An arXiv preprint reports that task-irrelevant text consistently biases multimodal language models in visual judgments, and describes the effect as a measurable affine shift in decision margins.arxiv.orgІнновація
Preprint пропонує SingularClip для збереження пластичності навчання при зміні завдань
An arXiv preprint identifies growing imbalance among neural-network weight singular values as a possible cause of lost adaptability, then proposes periodically clipping those values in continual and reinforcement learning.arxiv.orgІнновація
Preprint пропонує протестований зондом гейт для динамічних ансамблів в умовах зсуву розподілу
Новий препринт arXiv представляє діагностику для визначення того, коли комбінації моделей регресії для конкретних регіонів можуть перевершити фіксовану суміш. У тестах, описаних авторами, невеликий маркований зонд цільового домену передбачив виграші та допоміг відхилити одне розгортання, яке призвело до втрат, що більш ніж у 30 разів перевищували статичні.arxiv.org
Один корисний брифінг щотижня
Будьте в курсі ШІ, не живучи в стрічці.
Отримуйте перевірені новини про штучний інтелект, оригінальні дані, корисні інструменти, підбірки для навчання та нові вакансії зі штучного інтелекту.
Охопіть людей, які вивчають ШІ
Найняти професіонала ШІ чи запустити корисний продукт ШІ? Покажіть це людям, які прийшли сюди вчитися та діяти.
Опублікувати роботу ШІНадішліть інструмент ШІ