Общий искусственный интеллект
Общий искусственный интеллект (AGI) относится к системам искусственного интеллекта с широкой компетентностью человеческого уровня (или выше) в решении большинства когнитивных задач, а не только с одним узким навыком, таким как перевод или маркировка изображений.
Глубокое погружение
Единого согласованного определения ОИИ не существует. Некоторые люди имеют в виду «соответствует среднему уровню специалистов-людей в большинстве интеллектуальных работ», другие имеют в виду «могут автоматизировать большинство экономически ценных задач», а третьи оставляют этот термин для систем, которые могут совершенствоваться или опережать человечество в науке и стратегии. Определение имеет значение, поскольку политика, инвестиции и планирование безопасности зависят от того, когда, по вашему мнению, появятся такие системы и что они смогут сделать. Современные модели больших языков не являются AGI по строгим определениям, но они уже демонстрируют широкую компетентность и быстрое улучшение — именно поэтому сроки оспариваются, и почему исследователи экзистенциальных рисков рассматривают AGI (и системы за его пределами) как живую проблему планирования, а не как научную фантастику. Если системы уровня AGI смогут действовать с ограниченным надзором, проблемы согласования и контроля перестанут быть академическими.
Техническая информация
Прогресс в расширении компетенции произошел в основном за счет масштабирования данных, вычислений и алгоритмов; от постобучения, которое делает модели более удобными для использования; и от инструментов/агентов, которые позволяют моделям действовать в мире. Остаются пробелы в надежном долгосрочном агентстве, обоснованных мировых моделях и последовательной правдивости. Вопросы, связанные с безопасностью, включают в себя: какие возможности появляются внезапно, обнаруживают ли их эксперты и могут ли лаборатории приостановить или запретить развертывание при повышении риска.
Стратегическое воздействие
Риски и безопасность
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Более четкие решения
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Пробивая шумиху
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Будущее искусственного общего интеллекта
Ожидайте продолжения дебатов по поводу сроков, увеличения интереса правительства к тренировочным забегам на границе и давления с целью определить измеримые пороговые значения возможностей. Для общественности полезным выводом является не конкретный год, а то, что движение направлено к более общим, более автономным системам, и что работа по обеспечению безопасности должна опережать эту кривую.
Реальная реализация
Отслеживание того, как передовые модели расширяются от чата до кодирования, помощи в исследованиях и многоэтапного использования инструментов.
Сравнение публичных определений AGI в лабораториях и того, какие пороговые значения, по их утверждениям, имеют значение для политики безопасности.
Планирование последствий для экономики и безопасности, если системы смогут заменить большие классы удаленного когнитивного труда.
Риски и ограничения
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Дорожная карта реализации
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Artificial General Intelligence quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Apple Интеллект
Часто задаваемые вопросы
What is Artificial General Intelligence?
Общий искусственный интеллект (AGI) относится к системам искусственного интеллекта с широкой компетентностью человеческого уровня (или выше) в решении большинства когнитивных задач, а не только с одним узким навыком, таким как перевод или маркировка изображений.
Какой подход наиболее полезен при сравнении искусственного общего интеллекта с альтернативами?
Ваши реальные задачи — это честный тест: популярность и новизна — слабые сигналы при выборе того, подходит ли искусственный общий интеллект.
Каков наилучший ответ, когда общий искусственный интеллект допускает ошибку в производстве?
Рассматривая каждый сбой общего искусственного интеллекта как шанс усилить меры безопасности, можно повысить надежность.
Что становится наиболее важным по мере того, как использование общего искусственного интеллекта распространяется по всей организации?
В масштабе общий искусственный интеллект нуждается в постоянном мониторинге и управлении, поскольку условия и риски меняются.
Когда вы впервые начинаете изучать общий искусственный интеллект, какой образ мышления наиболее полезен?
Реальное понимание общего искусственного интеллекта означает знание его сильных сторон, способов отказа и способов проверки результатов, а не просто однострочное определение.
Как наиболее точно описать, на что способен сегодня общий искусственный интеллект?
Сбалансированный взгляд признает, что общий искусственный интеллект полезен для подходящих задач, но все же нуждается в уходе.