생성 에이전트 및 시뮬레이션 사회
생성 에이전트는 믿을 수 있는 사람처럼 기억하고, 계획하고, 반응하는 언어 모델을 기반으로 하는 AI 캐릭터입니다.
개요
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
심층 분석
2023년 Stanford와 Google 프로젝트인 Smallville에서 연구원들은 GPT-3.5가 구동하는 25명의 에이전트를 샌드박스 타운에 배치하고 그들이 커뮤니티처럼 행동하는 것을 지켜보았습니다. 각 요원은 짧은 자기소개를 하고 일어나 아침을 요리하고 출근하며 이웃과 대화를 나눴습니다. 결정적으로 행동은 스크립트로 작성되지 않았습니다. 한 요원이 발렌타인 데이 파티를 열기로 결정했고, 시뮬레이션된 이틀 동안 초대장이 입소문으로 퍼지고 요원들이 시간을 조율했으며 여러 명이 함께 나타났습니다. 아키텍처는 메모리 스트림, 검색, 반영 및 계획을 결합하므로 에이전트는 몇 분 전에 일어난 일을 잊지 않고 오랜 시간 동안 일관되게 행동합니다.
기술적 통찰력
핵심 트릭은 메모리 스트림입니다. 즉, 에이전트가 관찰하는 모든 것에 대한 타임스탬프가 포함된 긴 로그입니다. 조치를 취하기 위해 에이전트는 최신성, 중요도, 현재 상황과의 유사성을 기준으로 점수가 매겨진 관련 기억을 검색한 다음 이를 언어 모델 프롬프트에 제공합니다. 주기적인 성찰 단계는 원시 기억을 더 높은 수준의 통찰력(예: 누군가가 연구에 열정적이라고 추론)으로 요약하여 다시 저장하고 향후 계획과 대화를 안내합니다.
전략적 영향
비용 및 예산
아키텍처 결정은 수년 동안 성능과 운영 비용을 결정합니다.
더 명확한 결정들
기술 교육은 팀이 최신 스택뿐만 아니라 올바른 스택을 선택하는 데 도움이 됩니다.
품질 관리
더 나은 엔지니어링 선택은 생산 시 신뢰성 사고를 줄입니다.
생성 에이전트와 시뮬레이션 사회의 미래
생성 에이전트는 게임에서 더 풍부한 비플레이어 캐릭터를 지원하고, 협상이나 위기 대응을 위한 훈련 시뮬레이션을 제공하며, 실제 출시 전에 소문, 가격 또는 정책이 어떻게 확산되는지 연구하기 위한 합성 테스트 모집단을 기대합니다. 모델이 저렴해지고 컨텍스트 창이 확장됨에 따라 시뮬레이션은 수십에서 수천 명의 에이전트로 확장됩니다. 연구자들은 또한 편견과 조작, 그리고 이러한 장난감 사회가 인간을 얼마나 충실하게 반영하는지에 대한 열린 질문을 제기하면서 사회 과학 실험실로서 그들을 조사하고 있습니다.
실제 구현
25명의 에이전트가 발렌타인 데이 파티를 자율적으로 조직하고 참석하는 스탠포드의 스몰빌 시뮬레이션
과거 플레이어 상호 작용을 기억하고 원한이나 우정을 유지하는 비디오 게임의 믿을 수 있는 기억 중심 NPC
마케팅 메시지 또는 제품 기능을 사전 테스트하기 위해 다양한 고객 페르소나 역할을 수행하는 종합 포커스 그룹
재난 대응이나 외교 훈련 중 훈련생의 결정에 AI 마을 사람들이 반응하는 훈련 시뮬레이터
위험 및 가드레일
하나의 벤치마크를 최적화하면 더 광범위한 시스템 약점을 숨길 수 있습니다.
인프라 및 유지 관리 비용은 종종 과소평가됩니다.
시스템이 더욱 복잡해짐에 따라 보안 및 관찰 가능성의 격차가 커질 수 있습니다.
구현 로드맵
구현하기 전에 지연 시간, 품질, 비용 목표를 정의하세요.
현실적인 로드 및 데이터 조건에서 벤치마킹합니다.
오류, 드리프트 및 사용자 영향에 대한 계측기 모니터링.
확장하기 전에 롤백 및 사고 대응 경로를 준비하세요.
계속 탐색하세요
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
다음 가이드
에이전트 루프의 자기 성찰
자주 묻는 질문
What is Generative Agents and Simulated Societies?
생성 에이전트는 믿을 수 있는 사람처럼 기억하고, 계획하고, 반응하는 언어 모델을 기반으로 하는 AI 캐릭터입니다. 시뮬레이션된 세계에 함께 배치된 그들은 사회적 행동이 저절로 나타나는 작은 사회를 형성합니다.
스탠포드의 스몰빌 시뮬레이션에서 어떤 유명한 행동이 나타났습니까?
한 에이전트가 발렌타인 데이 파티를 주최하기로 결정했고 여러 에이전트가 협력하여 나타날 때까지 초대가 사회적으로 전파되었지만 그 중 어느 것도 스크립트로 작성되지 않았습니다.
생성 에이전트의 '메모리 스트림'이란 무엇입니까?
메모리 스트림은 에이전트 관찰에 대한 타임스탬프가 포함된 긴 기록으로, 시스템은 이를 활용하여 작업과 대화를 알립니다.
에이전트가 행동 방법을 결정할 때 관련 기억은 어떻게 선택됩니까?
검색은 최신성, 중요도, 현재 상황과의 유사성을 기준으로 기억의 순위를 매긴 다음 가장 높은 기억을 프롬프트에 제공합니다.
에이전트 아키텍처에서 '반사' 단계는 무엇을 합니까?
성찰은 많은 낮은 수준의 관찰을 이후의 행동을 안내하는 추상적인 결론(성격 특성이나 목표 등)으로 주기적으로 종합합니다.
신뢰할 수 있는 상담원에게 계획이 중요한 이유는 무엇인가요?
기억과 성찰이 결합된 계획은 순간순간 모순되는 것이 아니라 시뮬레이션된 전체 하루 동안 에이전트의 행동을 일관되게 유지합니다.