인공일반지능
AGI(Artificial General Intelligence)는 번역이나 이미지 라벨링과 같은 하나의 좁은 기술이 아니라 대부분의 인지 작업에 걸쳐 광범위한 인간 수준(또는 그 이상)의 역량을 갖춘 AI 시스템을 의미합니다.
심층 분석
AGI에 대해 합의된 단일 정의는 없습니다. 어떤 사람들은 '대부분의 지식 작업에서 중간 수준의 인간 전문가와 일치'를 의미하고, 다른 사람들은 '경제적으로 가치 있는 작업의 대부분을 자동화할 수 있음'을 의미하며, 다른 사람들은 과학과 전략 전반에 걸쳐 스스로를 향상하거나 인류를 능가할 수 있는 시스템에 대한 용어를 사용합니다. 정책, 투자 및 안전 계획은 모두 그러한 시스템이 언제 도착할지, 그리고 무엇을 할 수 있는지에 달려 있기 때문에 정의가 중요합니다. 현재의 대규모 언어 모델은 엄격한 정의에 따르면 AGI는 아니지만 이미 광범위한 역량과 빠른 개선을 보여주고 있습니다. 이것이 타임라인에 대해 논쟁이 벌어지는 이유이며 실존 위험 연구자들이 AGI(및 그 이상의 시스템)를 공상 과학이 아닌 실제 계획 문제로 취급하는 이유입니다. AGI 수준 시스템이 제한된 감독 하에 작동할 수 있다면 정렬 및 제어 문제는 더 이상 학문적이지 않습니다.
기술적 통찰력
더 넓은 역량을 향한 발전은 주로 데이터, 컴퓨팅 및 알고리즘의 확장에서 이루어졌습니다. 모델을 더 유용하게 만드는 사후 훈련으로부터; 모델이 세상에서 행동할 수 있게 해주는 도구/에이전트도 있습니다. 신뢰할 수 있는 장거리 기관, 기반이 있는 세계 모델, 일관된 진실성에는 격차가 남아 있습니다. 안전 관련 질문에는 갑자기 나타나는 기능, 평가에서 이를 감지하는지 여부, 위험이 증가할 때 실험실이 배포를 일시 중지하거나 게이트할 수 있는지 여부 등이 포함됩니다.
전략적 영향
위험과 안전
치명적인 AI 피해와 일상적인 AI 피해는 누가 위험을 이해하고 누가 조치를 취할 수 있는지에 따라 달라집니다.
더 명확한 결정들
공공 및 전문 지식은 강력한 안전 정책이 정치적으로 가능한지 여부를 결정합니다.
과장된 과장을 뚫고 나가기
명확한 설명은 과대광고, 연구실 홍보, 모호한 윤리 연극에 의한 포착을 줄입니다.
일반 인공지능의 미래
일정에 대한 지속적인 토론, 최전선 훈련 실행에 대한 정부의 더 많은 관심, 측정 가능한 역량 임계값을 정의하라는 압력을 기대합니다. 대중에게 유용한 정보는 정확한 연도가 아닙니다. 여행 방향이 보다 일반적이고 보다 자율적인 시스템을 향하고 있으며 안전 작업이 그 곡선보다 앞서야 한다는 것입니다.
실제 구현
개척 모델이 채팅에서 코딩, 연구 지원 및 다단계 도구 사용으로 어떻게 확장되는지 추적합니다.
AGI에 대한 연구소의 공개 정의와 그들이 주장하는 기준이 안전 정책에 중요한지 비교합니다.
시스템이 대규모 원격 인지 노동을 대체할 수 있는 경우 경제적 및 보안 영향을 계획합니다.
위험 및 가드레일
실존적 위험을 공상과학처럼 다루면서 능력을 합성합니다.
높은 자율성 하에서 정렬과 표면 제품 안전성을 혼동합니다.
영어가 아니거나 전문가가 아닌 청중에게는 품질이 낮은 소스만 남겨 둡니다.
구현 로드맵
제품 손상, 오용, 통제력 상실/잘못 정렬 위험을 분리합니다.
일정과 심각도에 대한 귀하의 견해를 바꿀 수 있는 증거가 무엇인지 물어보십시오.
마케팅 주장보다 기본 소스와 구체적인 평가를 선호하세요.
인식뿐만 아니라 경력, 정책, 자금 조달 또는 기술 등 하나의 행동 경로를 식별하십시오.
계속 탐색하세요
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Artificial General Intelligence quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
다음 가이드
애플 인텔리전스
자주 묻는 질문
What is Artificial General Intelligence?
AGI(Artificial General Intelligence)는 번역이나 이미지 라벨링과 같은 하나의 좁은 기술이 아니라 대부분의 인지 작업에 걸쳐 광범위한 인간 수준(또는 그 이상)의 역량을 갖춘 AI 시스템을 의미합니다.
인공 일반 지능을 대안과 비교할 때 가장 유용한 접근 방식은 무엇입니까?
실제 작업은 공정한 테스트입니다. 인공 일반 지능이 적합한지 여부를 선택할 때 인기와 참신함은 약한 신호입니다.
일반 인공지능이 제작에 실수를 했을 때 최선의 대응은 무엇인가?
인공 일반 지능의 각 실패를 안전 장치를 강화하는 기회로 삼는 것이 신뢰성을 향상시키는 방법입니다.
인공 일반 지능(Artificial General Intelligence)의 사용이 조직 전반에 걸쳐 확대됨에 따라 가장 중요한 것은 무엇입니까?
규모에 따라 인공 일반 지능은 조건과 위험이 진화하기 때문에 지속적인 모니터링과 거버넌스가 필요합니다.
인공일반지능(Artificial General Intelligence)을 처음 배우기 시작할 때 가장 유용한 사고방식은 무엇입니까?
인공 일반 지능에 대한 진정한 이해는 단지 한 줄의 정의가 아니라 그 강점, 실패 모드 및 결과 확인 방법을 아는 것을 의미합니다.
오늘날 인공일반지능(Artificial General Intelligence)이 할 수 있는 일을 가장 정확하게 설명하는 방법은 무엇입니까?
균형 잡힌 견해는 인공 일반 지능이 적절한 작업에 유용하지만 여전히 주의가 필요하다는 것을 인식합니다.