ДалееСледующее руководство
Закон штата Юта о политике в области искусственного интеллекта
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Общий искусственный интеллект
Общий искусственный интеллект (AGI) относится к системам искусственного интеллекта с широкой компетентностью человеческого уровня (или выше) в решении большинства когнитивных задач, а не только с одним узким навыком, таким как перевод или маркировка изображений.
Прослушайте это руководствоОзвучено ИИ · ~2 min
На этой странице2 минуты чтения
Глубокое погружение
Единого согласованного определения ОИИ не существует. Некоторые люди имеют в виду «соответствует среднему уровню специалистов-людей в большинстве интеллектуальных работ», другие имеют в виду «могут автоматизировать большинство экономически ценных задач», а третьи оставляют этот термин для систем, которые могут совершенствоваться или опережать человечество в науке и стратегии. Определение имеет значение, поскольку политика, инвестиции и планирование безопасности зависят от того, когда, по вашему мнению, появятся такие системы и что они смогут сделать. Современные модели больших языков не являются AGI по строгим определениям, но они уже демонстрируют широкую компетентность и быстрое улучшение — именно поэтому сроки оспариваются, и почему исследователи экзистенциальных рисков рассматривают AGI (и системы за его пределами) как живую проблему планирования, а не как научную фантастику. Если системы уровня AGI смогут действовать с ограниченным надзором, проблемы согласования и контроля перестанут быть академическими.
Реальная реализация
Отслеживание того, как передовые модели расширяются от чата до кодирования, помощи в исследованиях и многоэтапного использования инструментов.
Сравнение публичных определений AGI в лабораториях и того, какие пороговые значения, по их утверждениям, имеют значение для политики безопасности.
Планирование последствий для экономики и безопасности, если системы смогут заменить большие классы удаленного когнитивного труда.
Будущее искусственного общего интеллекта
Ожидайте продолжения дебатов по поводу сроков, увеличения интереса правительства к тренировочным забегам на границе и давления с целью определить измеримые пороговые значения возможностей. Для общественности полезным выводом является не конкретный год, а то, что движение направлено к более общим, более автономным системам, и что работа по обеспечению безопасности должна опережать эту кривую.
Применение на практике
Почему это важно
- Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
- Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
- Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Следите за
- Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
- Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
- Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Следующие шаги
- Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
- Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
- Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
- Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the Artificial General Intelligence quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
What is Artificial General Intelligence?
Общий искусственный интеллект (AGI) относится к системам искусственного интеллекта с широкой компетентностью человеческого уровня (или выше) в решении большинства когнитивных задач, а не только с одним узким навыком, таким как перевод или маркировка изображений.
What distinguishes artificial general intelligence from narrow AI?
Narrow systems excel at specific tasks like chess or translation; AGI refers to flexible, human-level competence across a wide range of tasks.
What does Moravec's paradox observe?
Hans Moravec noted that high-level reasoning was comparatively easy to automate, while sensorimotor skills refined by evolution proved hard.
Which benchmark did François Chollet propose as a concrete way to measure skill-acquisition efficiency on abstract puzzles?
ARC presents small grid puzzles requiring new rules from a few examples, targeting generalization rather than memorized knowledge.
What is the 'intelligence explosion' hypothesis associated with I. J. Good?
Good argued in 1965 that an ultraintelligent machine could design even better machines, leading to recursive self-improvement.
Rich Sutton's essay 'The Bitter Lesson' argues what about AI progress?
Sutton argued that general methods using more computation have repeatedly proved more effective over time than methods built around handcrafted domain knowledge.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме