СледваСледващо ръководство
Client Confidentiality When Lawyers Use AI Tools
общество
Техническо РЪКОВОДСТВО
Използване на инструменти за формиране на инструменти и самоук
Toolformer е 2023 Meta AI метод, който позволява на езиков модел да се обучава кога и как да извиква външни инструменти като калкулатори, търсачки и преводачи.
Чуйте това ръководствоAI-разказан · ~2 min
На тази страница2 минути четене
Преглед
Instead of humans labeling tool calls, the model generates and filters its own training examples, then fine-tunes on the ones that actually help.
Дълбоко гмуркане
Toolformer, от Schick et al. на Meta AI се справя с парадокс: големите модели са страхотни в езика, но са лоши в аритметиката, свежите факти и прецизните търсения. Тренировъчният цикъл се самонаблюдава. На модела са дадени шепа написани от човека примери, показващи синтаксиса на API-извикване, след което е подканен да вмъкне кандидат-извиквания (опаковани в специални токени) на много позиции в голям текстов корпус. Всяко извикване на кандидат действително се изпълнява и резултатът се включва. Ключовата стъпка за филтриране запазва извикване на инструмент само ако наличието на резултат от API намалява объркването на модела относно предстоящия реален текст повече, отколкото да не се извиква или да се извиква по различен начин. След това моделът се настройва фино върху този филтриран, самостоятелно генериран набор от данни, като се научава да извиква пет инструмента: калкулатор, QA система, търсачка, преводач и календар.
Внедряване в реалния свят
Извикване на API на калкулатор по средата на изречението, за да получите точна аритметика, вместо да познаете цифров отговор.
Запитване към система за търсене или QA за извличане на актуална или рядко срещана фактическа информация.
Извикване на инструмент за машинен превод за изобразяване на фраза на друг език в генерирания текст.
Използване на инструмент за календар/дата за разрешаване на относителни препратки като „следващия петък“ към конкретна дата.
Бъдещето на машината за формиране на инструменти и самообученото използване на инструменти
Toolformer заложи днешните агенти, използващи инструменти и извикващи функции. Границата се движи от фиксирана шепа инструменти към десетки или стотици, открити по време на изпълнение, като моделите разсъждават кой инструмент да извикат, верижно свързване на повиквания и обработка на грешки. Очаквайте по-тясна интеграция с обучение за подсилване и цикли на агенти, плюс обучение в движение на нови API, така че самообученото използване на инструменти да се превърне в стандартна възможност, а не в специализирана фина настройка.
Прилагайки го на практика
Защо има значение
- Разходи и бюджет. Архитектурните решения стимулират производителността и оперативните разходи в продължение на години.
- По-ясни решения. Техническото образование помага на екипите да изберат правилния стек, а не само най-новия.
- Контрол на качеството. По-добрият инженерен избор намалява инцидентите, свързани с надеждността в производството.
Внимавайте за
- Оптимизирането на един бенчмарк може да скрие по-широки системни слабости.
- Разходите за инфраструктура и поддръжка често се подценяват.
- Пропуските в сигурността и видимостта могат да нарастват, когато системите стават по-сложни.
Следващи стъпки
- Определете целите за латентност, качество и разходи преди внедряването.
- Бенчмарк при реалистични условия на натоварване и данни.
- Мониторинг на инструмента за грешки, отклонение и въздействие върху потребителя.
- Подгответе пътеките за връщане назад и реакция на инцидент преди мащабиране.
Продължете да изследвате
Безплатен бюлетин
Получавайте дневния AI бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Take the Toolformer and Self-Taught Tool Use quiz
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Често задавани въпроси
What is Toolformer and Self-Taught Tool Use?
Toolformer е 2023 Meta AI метод, който позволява на езиков модел да се обучава кога и как да извиква външни инструменти като калкулатори, търсачки и преводачи. Вместо хората да маркират извиквания на инструменти, моделът генерира и филтрира свои собствени примери за обучение, след което прецизира тези, които действително помагат.
Какво прави подхода на Toolformer за използване на инструменти за обучение отличителен?
Toolformer се самонаблюдава: моделът предлага кандидат извиквания на API, изпълнява ги и запазва само полезните, без човешка анотация за правилна употреба.
Кой критерий използва Toolformer, за да реши дали да запази извикване на кандидат API?
Повикване се запазва само ако вмъкването на неговия резултат намалява объркването/загубата на модела върху предстоящия реален текст над прага, което показва, че е било наистина полезно.
Какъв набор от инструменти се научи да използва оригиналният Toolformer?
Toolformer беше обучен да извиква пет API: калкулатор, система за отговори на въпроси, търсачка, машинен преводач и календар.
Как се представят извикванията на инструменти в текста по време на процеса на Toolformer?
Извикванията на кандидати и върнатите от тях резултати се вмъкват в текста с помощта на специални токени, така че моделът научава разположението и аргументите заедно.
Каква основна слабост на големите езикови модели мотивира Toolformer?
Въпреки силните езикови умения, LLMs се борят с точна аритметика, актуални факти и прецизно извличане на информация, които външни инструменти могат да предоставят.
Продължавай да учиш
Свързани ръководства
Още ръководства, избрани за тази тема