Что случилось
Газета South China Morning Post сообщает, что американо-китайское соревнование в области ИИ все больше фокусируется на рекурсивном самосовершенствовании: системах, использующих ИИ для помощи в исследовании, обучении и оценке более способных преемников. Американские компании, похоже, лидируют в исследованиях с использованием искусственного интеллекта, в то время как китайские лаборатории разрабатывают соответствующие подходы к самообучению и «саморазвитию». В докладе говорится, что ни одна из сторон не продемонстрировала открытого, полностью автономного цикла улучшений.
Газета South China Morning Post сообщает, что ведущие американские и китайские компании в области искусственного интеллекта используют передовые модели для написания кода, разработки экспериментов и разработки методов обучения для более сильных моделей. Он описывает долгосрочную цель как рекурсивное самосовершенствование, при котором системы ИИ автономно вносят вклад в обучение и улучшение систем-преемников. В отчете говорится, что OpenAI недавно описал работу по созданию автоматизированного исследователя ИИ, а также признал неопределенность относительно того, как безопасно достичь полностью согласованного рекурсивного самосовершенствования.
Согласно отчету, американские компании в настоящее время на несколько месяцев опережают использование ИИ для самостоятельного проведения исследований в области ИИ. В нем цитируются сообщения Anthropic о работе моделей Claude по проектированию экспериментов, написанию кода и разработке методов постобучения, а также описание Gemini 3.8 Flash Google DeepMind как подходящего для долгосрочной разработки программного обеспечения и автономных агентов. В отчете также говорится, что OpenAI сообщил об автоматизированном исследовательском стажере, способном проводить некоторые эксперименты, на которые у опытного исследователя уйдут дни. Эти утверждения принадлежат газете South China Morning Post и компаниям или исследователям, на которых она ссылается; здесь они не подтверждены независимо.
В отчете говорится, что китайские лаборатории преследуют схожие цели, используя такие термины, как «саморазвитие» и «полное самообучение». Сообщается, что основатель Z.ai Тан Цзе описал дорожную карту для GLM-6.0, в которой ИИ будет управлять конвейером обучения от предварительного обучения до пост-обучения. В отчете также обсуждается работа, связанная с MiniMax и DeepSeek, при этом отмечается критика экспертов о том, что автономные агенты и возможности самообучения еще не приводят к подлинному рекурсивному улучшению. Ключевой нерешенный вопрос заключается в том, может ли система решить, является ли изменение фактически улучшением, не полагаясь на отдельный человеческий авторитет.
Подробности об источнике: scmp.com ↗
Почему это важно
Если системы искусственного интеллекта смогут надежно улучшить методы, используемые для создания их преемников, прогресс может ускориться и затруднить надзор. В отчете описываются потенциальные преимущества в разработке программного обеспечения, планировании экспериментов и эффективности обучения, но также предупреждается, что ошибочные модели могут передавать ошибки или несогласованность в последующие поколения. Практическое значение остается неопределенным, поскольку нынешние системы по-прежнему полагаются на человеческое суждение, вычислительную инфраструктуру и внешнюю оценку.
Рекурсивное самосовершенствование может создать петлю обратной связи, в которой ИИ помогает создавать более эффективные модели, потенциально сокращая циклы разработки и повышая стратегическую важность вычислений, исследовательской инфраструктуры и оценки. В отчете говорится, что американские аналитики видят преимущество в американском доступе к вычислениям, в то время как китайские исследователи характеризуются как эффективные в извлечении производительности из более ограниченного оборудования.
Проблемы безопасности имеют центральное значение, поскольку обучение будущих систем на несовершенных предшественниках может усугубить ошибки или несогласованность. В докладе приводятся предупреждения исследователей обеих стран об ускорении, побегах из «песочницы» и возможных последствиях для национальной безопасности. Однако в нем также сообщается, что фундаментальные архитектурные прорывы и суждения о том, полезны ли изменения, по-прежнему зависят от человеческого опыта. Масштаб, скорость и надежность любого будущего рекурсивного улучшения остаются неизвестными.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Что посмотреть дальше
Следите за независимо проверяемыми демонстрациями того, что система ИИ может предлагать, внедрять и оценивать улучшения без отдельного проверяющего, определяемого человеком. Также следите за тем, публикуют ли компании оценки безопасности, ограничения по развертыванию и доказательства того, что системы самосовершенствования не усугубляют ошибки и не обходят меры безопасности. Условия доступа, цены и общая доступность не документированы, поскольку отчет касается исследований и разработок, а не публичного запуска продукта.
Наиболее важным доказательством будет воспроизводимая система, которая самостоятельно выявляет полезные изменения, внедряет их, оценивает результаты и совершенствует собственный процесс оценки. Газета South China Morning Post сообщает, что публичных доказательств этой открытой способности по-прежнему мало, поэтому утверждения о «самоэволюции» не следует рассматривать как доказательство автономного рекурсивного самосовершенствования.
В отчете не документированы публичный выпуск, доступ потребителей, цены или график развертывания обсуждаемых систем. Он также не обеспечивает независимой проверки заявлений компаний о производительности. Будущие отчеты должны установить, какие задачи эти системы могут выполнять без вмешательства человека, какие меры безопасности их ограничивают, как измеряются результаты и выявляются ли сбои до того, как изменения достигнут производственных систем.