Що сталося
AWS оголосила про розширені можливості створення політики в Amazon Bedrock AgentCore. Постачальник каже, що функція перетворює документи політики природною мовою на правила Dogwood, які можна перевірити та застосувати монітором Dogwood у шлюзі AgentCore.
AWS повідомляє, що розширила Policy Authoring, керовану штучним інтелектом функцію в Amazon Bedrock AgentCore, для перекладу документів політики природною мовою в синтаксично та семантично дійсні специфікації Dogwood. У джерелі Dogwood описано як мова управління з відкритим кодом. Отримані політики застосовуються до дій агента в реальному часі за допомогою монітора Dogwood, вбудованого в AgentCore Gateway. AWS створює цю функцію як спосіб для команд перенести наявні письмові засоби контролю в систему контролю, не вимагаючи від кожного автора політики писати Dogwood від руки.
Розширені можливості охоплюють кілька типів обмежень. AWS каже, що згенеровані політики можуть обмежувати дії агента в часі, включаючи передумови, послідовне впорядкування, кумулятивні ефекти та обмеження швидкості. Вони також можуть обмежувати параметри введення інструментів і викликати перевірки Amazon Bedrock , щоб виявити неприйнятний або конфіденційний вміст у тексті довільної форми. У дописі показано ці елементи керування за допомогою роздрібного банківського агента, який може підтверджувати особу, ініціювати перекази, здійснювати відшкодування, подавати суперечки та запитувати схвалення керівника.
Приклади показують, як проза зіставляється з конкретними подіями та полями в схемі інструментів агента. Правило відшкодування може вимагати часове вікно та максимальну суму. Переказ можна заблокувати, якщо не було успішно підтверджено особу для того самого облікового запису протягом попередніх 15 хвилин. Кумулятивне обмеження переказів може підсумовувати спроби переказів за попередні 12 годин, тоді як обмеження відшкодування може підраховувати спроби для одного облікового запису протягом одногодинного вікна. Ще один приклад відмови в поданні оскарження, коли перевірка виявляє в описі номер соціального страхування США. AWS також демонструє правило, яке блокує відшкодування понад 500 доларів США, якщо відповідне схвалення для того самого стягнення не було зареєстровано протягом 30 хвилин.
Згідно з AWS, авторський конвеєр спочатку розкладає документ політики на атомарні правила, а потім маршрутизує правила відповідно до того, чи можна їх виразити Dogwood та його доступними моніторами. Правила, які залишаються, перекладаються за допомогою наданої схеми інструментів, доступних перевірок і дозволених заяв про ідентифікацію. Кожен кандидат перевіряється за допомогою інструментів командного рядка Dogwood, щоб перевірити синтаксис і наявність імен, на які посилаються, у схемі. AWS каже, що відхилені кандидати можуть бути перекладені знову за допомогою діагностики компілятора протягом обмеженої кількості раундів. Вихід відокремлює політики, які перевіряють, від правил, які були відкладені. Джерело підкреслює, що перевірка підтверджує правильно сформовану та сумісність зі схемою, а не те, чи політика точно відображає наміри власника.
Деталі джерела: aws.amazon.com ↗
Чому це важливо
Запуск вирішує практичну проблему управління: організації часто зберігають засоби контролю як прозу, тоді як системи агентів вимагають машинних правил. Джерело описує шлях від письмових процедур до обмежень часу виконання, але не надає незалежного тестування, доказів клієнтів, цін, регіональної доступності чи виміряних рівнів помилок.
Основна проблема є наслідковою, оскільки агент штучного інтелекту може викликати інструменти, які переміщують гроші, змінюють записи або спілкуються ззовні. Правило, написане для людського персоналу, може містити умови щодо часу, послідовності, ідентичності, порогових значень або сукупної активності, які важко виконати, якщо воно залишається лише в посібнику. Підхід AWS намагається зв’язати ці робочі правила з викликами, зробленими агентом, включаючи факти про попередні події в тому самому сеансі.
Тимчасові приклади більш конкретні, ніж простий список дозволених або блокованих. Вони відрізняють спробу дзвінка від завершеного дзвінка, співвідносять попередні події з поточним рахунком або платою та оцінюють суми або підрахунки за визначений період. Ці відмінності мають значення з точки зору роботи. Обмеження на основі спроб може включати дзвінки, які були відхилені або невдалі, тоді як передумова може залежати від успішної відповіді. AWS чітко попереджає, що неоднозначне формулювання може призвести до вибору тлумачення перекладу, наприклад, підрахунок запитів на передачу, коли в політиці лише зазначено, що передано.
Ця функція може зменшити технічний бар’єр для вираження елементів керування, але джерело не встановило, що вона покращує безпеку на практиці. AWS надає приклади та описує детерміновану перевірку компілятора, але не повідомляє про незалежну оцінку точності перекладу, про відсутність частоти помилкових дозволів або помилкових заборон, про вимірювання затримки чи доступності та про результати розгортання замовником. У дописі також зазначено, що деякі вимоги не належать до механізму авторизації: загальні судження, такі як дія в найкращих інтересах клієнта, перетворення, такі як редагування, концепції календаря, які не підтримуються Dogwood, і обмеження, об’єднані для одночасних сеансів. Ці межі є важливими, оскільки політика, яка перевіряє, все ще може залишити матеріальний контроль невиконаним, якщо вимога розміщена в неправильній системі.
Interactive Mechanism: How It Actually Works
Explore the underlying technology behind this development interactively.
crm_get_transaction(id='4092').What is the most accurate way to describe what AI Agents can do today?
Що дивитися далі
Ключове питання полягає в тому, чи надійно згенеровані політики відповідають намірам їх авторів у виробництві. Організаціям потрібно буде перевірити, як система обробляє неоднозначні правила, непідтримувані вимоги, невдалі або заблоковані виклики інструментів, міжсеансову активність, конфіденційний текст і зміни схем або документів політики.
Перше питання, на яке варто звернути увагу, — перевірка людьми. AWS каже, що згенеровані політики повертаються разом із правилами природної мови, які їх створили, і вона несе відповідальність за оцінку намірів власнику політики. На практиці це означає, що організаціям знадобляться процедури перевірки порогових значень, граничних умов, часових поясів, типів подій, кореляції ідентифікаційних даних і обробки невдалих або заблокованих спроб. Синтаксично дійсне правило не є доказом того, що воно реалізує намічену бізнес-політику.
Друге питання – це покриття реальних операційних потреб. Джерело каже, що виконання оцінюється в межах сеансу та не може безпосередньо виражати обмеження, об’єднане для одночасних сеансів. У ньому також сказано, що Dogwood не має засобу доступу до дня тижня та календаря свят, а механізм політики дозволяє або забороняє дзвінки, а не змінює дані. Команди, які користуються цією функцією, повинні будуть визначити, які засоби контролю застосовуються AgentCore, які належать до або іншого етапу конвеєра, а які залишаються залежними від інструкцій агента, оцінок, навчання або людських процесів.
Джерело залишає кілька питань щодо розгортання без відповіді. Він не вказує ціни, географічну доступність, квоти послуг, підтримувані формати документів, поведінку збоїв, коли недоступні перевірки авторства чи виконання, або те, як зміни політики перевіряються версіями та перевіряються. Він також не забезпечує виміряну продуктивність семантичних перевірок на основі і не пояснює, як організації повинні тестувати згенеровані правила на протилежність і неоднозначні запити. Ці деталі визначатимуть, чи є функція лише допоміжним засобом перекладу чи надійною частиною керування виробництвом для агентських систем.