Общий искусственный интеллект
Общий искусственный интеллект (AGI) относится к системам искусственного интеллекта с широкой компетентностью человеческого уровня (или выше) в решении большинства когнитивных задач, а не только с одним узким навыком, таким как перевод или маркировка изображений.
Обзор
Общий искусственный интеллект (AGI) относится к системам искусственного интеллекта с широкой компетентностью человеческого уровня (или выше) в решении большинства когнитивных задач, а не только с одним узким навыком, таким как перевод или маркировка изображений.
Общий искусственный интеллект находится на стыке возможностей, власти и общественного выбора, где безопасность, управление и легитимность решают, будет ли продвинутый ИИ помогать или вредить в масштабе.
Глубокое погружение
Единого согласованного определения ОИИ не существует. Некоторые люди имеют в виду «соответствует среднему уровню специалистов-людей в большинстве интеллектуальных работ», другие имеют в виду «могут автоматизировать большинство экономически ценных задач», а третьи оставляют этот термин для систем, которые могут совершенствоваться или опережать человечество в науке и стратегии. Определение имеет значение, поскольку политика, инвестиции и планирование безопасности зависят от того, когда, по вашему мнению, появятся такие системы и что они смогут сделать. Современные модели больших языков не являются AGI по строгим определениям, но они уже демонстрируют широкую компетентность и быстрое улучшение — именно поэтому сроки оспариваются, и почему исследователи экзистенциальных рисков рассматривают AGI (и системы за его пределами) как живую проблему планирования, а не как научную фантастику. Если системы уровня AGI смогут действовать с ограниченным надзором, проблемы согласования и контроля перестанут быть академическими.
Техническая информация
Прогресс в расширении компетенции произошел в основном за счет масштабирования данных, вычислений и алгоритмов; от постобучения, которое делает модели более удобными для использования; и от инструментов/агентов, которые позволяют моделям действовать в мире. Остаются пробелы в надежном долгосрочном агентстве, обоснованных мировых моделях и последовательной правдивости. Вопросы, связанные с безопасностью, включают в себя: какие возможности появляются внезапно, обнаруживают ли их эксперты и могут ли лаборатории приостановить или запретить развертывание при повышении риска.
Освоение общего искусственного интеллекта
Чтобы добиться глубокого понимания, рассматривайте общий искусственный интеллект как операционную модель, а не как отдельную функцию. Определите желаемые результаты, проясните предположения и отделите то, что система может делать надежно, от того, что все еще требует экспертной оценки.
На практике сильные команды, использующие общий искусственный интеллект, сочетают рост возможностей с управлением, безопасностью и четкими структурами подотчетности. Они документируют явные критерии успеха, проводят тестирование на основе реалистичных данных и рабочих процессов, а также выполняют итерации на основе наблюдаемых моделей неудач, а не разовых побед в тестах. Именно здесь теоретическое понимание превращается в прочные возможности в отношении продукта, политики и операций.
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать. В то же время, отношение к экзистенциальному риску как к научной фантастике, в то время как возможности растут. Самый устойчивый подход — сочетать скорость экспериментирования с дисциплиной управления: запускать пилотные проекты, собирать доказательства, публиковать журналы решений и постоянно обновлять меры безопасности по мере развития поведения модели, ожиданий пользователей и нормативных требований.
Стратегическое воздействие
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать. В высококачественных развертываниях это выражается в измеримых рабочих правилах, границах владения и повторяющихся ритуалах проверки, что позволяет командам повышать уверенность, а не увеличивать двусмысленность.
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности. В высококачественных развертываниях это выражается в измеримых рабочих правилах, границах владения и повторяющихся ритуалах проверки, что позволяет командам повышать уверенность, а не увеличивать двусмысленность.
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра. В высококачественных развертываниях это выражается в измеримых рабочих правилах, границах владения и повторяющихся ритуалах проверки, что позволяет командам повышать уверенность, а не увеличивать двусмысленность.
Реальная реализация
Отслеживание того, как передовые модели расширяются от чата до кодирования, помощи в исследованиях и многоэтапного использования инструментов.
Сравнение публичных определений AGI в лабораториях и того, какие пороговые значения, по их утверждениям, имеют значение для политики безопасности.
Планирование последствий для экономики и безопасности, если системы смогут заменить большие классы удаленного когнитивного труда.
Создание повторяемого рабочего процесса искусственного общего интеллекта с четкими критериями успеха и контрольными точками проверки человеком.
Шаблоны реализации
Общий искусственный интеллект на практике
Отслеживание того, как передовые модели расширяются от чата до кодирования, помощи в исследованиях и многоэтапного использования инструментов.
Команды обычно добиваются лучших результатов, когда заранее определяют пороговые значения качества, сохраняют путь человеческой эскалации для крайних случаев и отслеживают как рост производительности, так и затраты на ошибки с течением времени.
Общий искусственный интеллект на практике
Сравнение публичных определений AGI в лабораториях и того, какие пороговые значения, по их утверждениям, имеют значение для политики безопасности.
Команды обычно добиваются лучших результатов, когда заранее определяют пороговые значения качества, сохраняют путь человеческой эскалации для крайних случаев и отслеживают как рост производительности, так и затраты на ошибки с течением времени.
Общий искусственный интеллект на практике
Планирование последствий для экономики и безопасности, если системы смогут заменить большие классы удаленного когнитивного труда.
Команды обычно добиваются лучших результатов, когда заранее определяют пороговые значения качества, сохраняют путь человеческой эскалации для крайних случаев и отслеживают как рост производительности, так и затраты на ошибки с течением времени.
Общий искусственный интеллект на практике
Создание повторяемого рабочего процесса искусственного общего интеллекта с четкими критериями успеха и контрольными точками проверки человеком.
Команды обычно добиваются лучших результатов, когда заранее определяют пороговые значения качества, сохраняют путь человеческой эскалации для крайних случаев и отслеживают как рост производительности, так и затраты на ошибки с течением времени.
Риски и ограничения
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Дорожная карта реализации
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Относитесь к этому как к доказательству: если критерии не выполняются, приостановите внедрение, ликвидируйте пробел и только затем расширяйте использование.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Относитесь к этому как к доказательству: если критерии не выполняются, приостановите внедрение, ликвидируйте пробел и только затем расширяйте использование.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Относитесь к этому как к доказательству: если критерии не выполняются, приостановите внедрение, ликвидируйте пробел и только затем расширяйте использование.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Относитесь к этому как к доказательству: если критерии не выполняются, приостановите внедрение, ликвидируйте пробел и только затем расширяйте использование.
Продолжайте исследовать
Check your understanding
Test yourself: take the Artificial General Intelligence quiz