개요
추가 교육 없이도 다단계 추론을 의미 있게 향상시키는 간단한 프롬프트 조정입니다.
심층 분석
Lei Wang과 동료들이 2023년 ACL 논문에서 소개한 계획 및 해결 프롬프트는 제로샷 사고 사슬의 특정 약점에 대한 응답이었습니다. 모델은 종종 단계를 건너뛰거나, 계산을 잘못하거나, 질문을 잘못 읽습니다. PS는 '단계적으로 생각해보자'라는 단일 지침을 '먼저 문제를 이해하고 이를 해결하기 위한 계획을 고안하자'라는 두 부분으로 구성된 지시어로 대체합니다. 그러면 계획을 실행하고 단계별로 문제를 해결해 봅시다.' 향상된 변형인 PS+에는 관련 변수를 추출하고, 중간 결과를 계산하고, 숫자에 주의하라는 알림을 추가합니다. GSM8K 및 SVAMP와 같은 벤치마크에서 PS+는 프롬프트에서 작업 예제가 필요하지 않은 동시에 몇 번의 사고 사슬로 많은 격차를 해소했습니다.
실제 구현
모델이 먼저 수량을 나열한 다음 순서대로 계산하는 다단계 초등학교 수학 단어 문제(GSM8K)를 해결합니다.
구현 코드를 작성하기 전에 기능 및 엣지 케이스의 개요를 코딩 도우미에게 안내합니다.
먼저 사용자의 기본 목표를 식별한 다음 해결 단계의 순서를 지정하도록 고객 지원 상담원을 구성합니다.
복잡한 데이터 분석 요청을 '쿼리 계획'과 '결과 실행 및 결합' 단계로 나눕니다.
계획 및 해결 프롬프트의 미래
계획하고 해결하는 사고 방식은 이제 기본적으로 계획과 실행을 분리하는 에이전트 프레임워크와 '추론' 모델에 적용됩니다. 계획 프롬프트가 도구 사용, 자체 검증 및 트리 검색 방법과 병합되고 수동 프롬프트가 아닌 추론 학습 모델의 내부 기본 동작이 될 것으로 기대합니다. 지속적인 교훈은 행동하기 전에 작업을 분해하는 것이 저렴하고 광범위하게 이전 가능한 신뢰성 향상이라는 것입니다.
실천에 옮기기
왜 중요한가요?
- 비용 및 예산. 아키텍처 결정은 수년 동안 성능과 운영 비용을 결정합니다.
- 더 명확한 결정들. 기술 교육은 팀이 최신 스택뿐만 아니라 올바른 스택을 선택하는 데 도움이 됩니다.
- 품질 관리. 더 나은 엔지니어링 선택은 생산 시 신뢰성 사고를 줄입니다.
조심하세요
- 하나의 벤치마크를 최적화하면 더 광범위한 시스템 약점을 숨길 수 있습니다.
- 인프라 및 유지 관리 비용은 종종 과소평가됩니다.
- 시스템이 더욱 복잡해짐에 따라 보안 및 관찰 가능성의 격차가 커질 수 있습니다.
다음 단계
- 구현하기 전에 지연 시간, 품질, 비용 목표를 정의하세요.
- 현실적인 로드 및 데이터 조건에서 벤치마킹합니다.
- 오류, 드리프트 및 사용자 영향에 대한 계측기 모니터링.
- 확장하기 전에 롤백 및 사고 대응 경로를 준비하세요.
계속 탐색하세요
무료 뉴스레터
일일 AI 브리핑 받기
매주 평일 아침마다 3개의 검증된 AI 스토리를 일반 영어로 작성합니다. 무료이며, 광고 없음.
매주 평일마다 한 번 이메일을 받습니다. 한 번 클릭으로 구독 해지. 주소를 판매하거나 공유하지 않습니다.
자신을 테스트해 보세요
Take the Plan-and-Solve Prompting quiz
모든 답변에 즉각적인 피드백과, 과정을 통과하면 검증 가능한 ID가 있는 공유 가능한 인증서를 제공합니다.
무료 AI 교육을 지원합니다. AI Understanding는 501(c)(3) 비영리 단체입니다 — 광고 없음, 유료 장벽 없음, 영원히. 기부하기
자주 묻는 질문
계획 및 해결 프롬프트란 무엇입니까?
PS(Plan-and-Solve) 프롬프트는 언어 모델에 먼저 명시적인 계획을 고안한 다음 단계별로 실행하여 '단계적으로 생각하자' 프롬프트가 남긴 실패를 수정하도록 지시합니다. 추가 교육 없이도 다단계 추론을 의미 있게 향상시키는 간단한 프롬프트 조정입니다.
계획 및 해결 프롬프트는 표준 제로샷 사고방식에 어떤 핵심적인 변화를 가져옵니까?
PS 프롬프트는 '단계적으로 생각해보자'라는 단 하나의 라인 대신에 지시 사항을 계획을 고안한 다음 단계별로 실행하는 것으로 나눕니다.
Plan-and-Solve는 단순한 사고 사슬의 어떤 구체적인 약점을 해결하도록 설계되었습니까?
저자는 제로샷 사고방식이 자주 발생하는 단계 누락 오류와 산술/계산 실수를 목표로 삼았습니다.
향상된 PS+ 변형은 기본 계획 및 해결 프롬프트에 무엇을 추가합니까?
PS+에는 관련 변수를 추출하고, 중간 결과를 계산하고, 숫자에 주의를 기울이도록 하는 자세한 알림이 추가되어 자체 생성된 스캐폴드를 선명하게 합니다.
계획 및 해결은 어떤 유형의 벤치마크에서 눈에 띄게 평가되었습니까?
PS 및 PS+는 GSM8K 및 SVAMP와 같은 수학 추론 벤치마크와 기타 추론 데이터세트에서 테스트되었습니다.
세부 단계 전에 계획을 생성하는 것이 자기회귀 모델에 도움이 되는 이유는 무엇입니까?
생성은 자동 회귀적이므로 상위 수준 계획 토큰은 후속 단계별 추론을 안내하는 컨텍스트가 되어 건너뛴 단계를 줄입니다.