Что случилось
CNN en Español сообщает, что генеральный директор Anthropic Дарио Амодей призвал компании, занимающиеся искусственным интеллектом, снизить темпы разработки передовых моделей. Он предложил использовать независимых оценщиков с доступом, аналогичным доступу сотрудников, уполномоченным проверять правила техники безопасности, сообщать об инцидентах и контролировать модели и рабочие процессы обучения. В отчете говорится, что генеральный директор OpenAI Сэм Альтман одобрил предложение оценщика, а генеральный директор xAI Илон Маск выразил согласие. CNN en Español также сообщает, что Амодей изложил это в субботнем интервью и в коротком эссе, опубликованном на его веб-сайте.
CNN en Español сообщает, что Амодей утверждает, что индустрия искусственного интеллекта должна замедлить темпы улучшения возможностей моделей, продолжая при этом развивать технологию. Он сказал, что компании должны работать вместе, чтобы избежать опасных путей развития, и сказал, что ИИ может быть использован не по назначению для кибератак, биотерроризма и серьезных экономических потрясений. Это предупреждения Амодеи, как сообщает CNN en Español, а не независимо подтвержденные выводы в предоставленном материале.
Конкретной мерой, описанной в отчете, является обязательство компаний, занимающихся искусственным интеллектом, нанять внешних оценщиков, которые будут включены в их команды. По данным CNN en Español, оценщики будут проверять правила техники безопасности, сообщать об инцидентах и контролировать модели, процессы обучения и рабочие процессы. Амодей сказал, что Anthropic принял этот подход в одностороннем порядке, но в отчете не указаны личности оценщиков, полномочия, ограничения доступа или требования к публикации.
CNN en Español сообщает, что Сэм Альтман сказал, что OpenAI примет аналогичный подход, и что Илон Маск публично согласился с Амодеем. В докладе также рассматривается это предложение в более широком политическом контексте, в котором говорится, что правительства еще не установили всеобъемлющие и скоординированные правила для передового ИИ. Никакого запуска продукта, изменения доступа пользователей или информации о ценах не предоставляется.
Подробности об источнике: cnnespanol.cnn.com ↗
Почему это важно
Это предложение позволит вывести надзор за безопасностью ИИ за пределы добровольной внутренней проверки к модели с участием внешнего персонала, имеющего значимый доступ к процессам разработки. В случае принятия это могло бы улучшить отчетность об инцидентах и проверку высокопроизводительных систем, но в отчете не утверждается, что компании согласились на общую структуру или что оценщики будут иметь юридически закрепленные полномочия.
Независимый надзор может сделать заявления о безопасности более проверяемыми, предоставив квалифицированным экспертам доступ к практикам разработки и записям об инцидентах, а не полагаясь исключительно на публичные заявления компаний. Это может иметь значение, поскольку модели становятся более функциональными и интегрируются в чувствительные системы.
Предложение остается добровольным в предоставленном отчете. Отчет не проверяет независимо реализацию Anthropic, не подтверждает, что OpenAI назначил оценщиков, и не показывает, что какая-либо компания опубликовала стандарты независимости оценщиков, конфиденциальности, эскалации или публичной отчетности. Эти детали определят, станет ли идея значимым надзором или останется залогом.
Практическим выводом для политиков является то, что отраслевые оценщики могут обеспечить промежуточный уровень контроля, пока правительства обсуждают формальные правила. Судя по предоставленному отчету, они не заменят государственное правоприменение или не установят общие обязательства между компаниями.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Что посмотреть дальше
Ключевой тест заключается в том, определяют ли Anthropic, OpenAI и другие компании независимость оценщиков, права доступа, обязанности по отчетности и защиту от вмешательства. Способность правительств координировать свои действия по общим стандартам безопасности также не решена. CNN en Español не сообщает об окончательном графике, плане реализации, стоимости или доказательствах того, что предлагаемые меры защиты уже действуют во всей отрасли.
Следите за именами оценщиков, письменными гарантиями доступа и доказательствами того, что рецензенты могут проверять рабочие процессы обучения, модели и инциденты без вето компании. В отчете не приводятся ни графики, ни оперативные подробности.
Отследите, принимают ли компании сопоставимые стандарты и могут ли оценщики раскрывать серьезные выводы регулирующим органам или общественности. CNN en Español сообщает об одобрении, а не о завершенном отраслевом соглашении.
Следите за действиями правительства по общим стандартам безопасности. В отчете говорится, что координация остается нерешенной, и в нем не указаны принятые законы или назначенный орган, осуществляющий всесторонний надзор.
Сообщаемые прогнозы о потере контроля и быстром росте возможностей следует рассматривать как предупреждения Амодеи и других исследователей, а не как независимо установленные результаты.