Что случилось
Газета Straits Times, переиздавая отчет Reuters, сообщает, что США призвали чиновников G20 в Северной Каролине избегать широкого нового регулирования ИИ и вместо этого сосредоточиться на новых ситуациях, связанных с ИИ. Советник по технологиям Майкл Крациос продвигал Каролинские принципы, в то время как Китай, как сообщается, подписал их.
Газета Straits Times со ссылкой на Reuters сообщила, что 1 сентября Соединенные Штаты оказали давление на членов «Большой двадцатки», чтобы они заняли невмешательство в регулирование ИИ во время двухдневной встречи по технологиям и торговле в Чапел-Хилл, Северная Каролина. Майкл Крациос, американский советник по технологиям и один из организаторов встречи, продвигал то, что он назвал «принципами Каролины». Согласно отчету, страны, подписавшие принципы, согласились не создавать совершенно новые правила для ИИ, а вместо этого решать новые ситуации, связанные с этой технологией. Крациос утверждал, что политикам не следует рассматривать каждую новую технологию как отдельную, первую в своем роде политическую проблему.
В докладе говорится, что Крациос сообщил журналистам, что Китай подписал эти принципы. В нем также говорится, что он не предоставил копию документа и что посольство Китая не сразу ответило на запрос о комментариях. Согласно сообщению, министр технологий и науки Китая Инь Хэцзюнь представлял Коммунистическую партию Китая на собрании. Крациос охарактеризовал свою двустороннюю встречу со своим китайским коллегой как «замечательную», но в статье не было приведено совместное заявление, формулировка принципов, список подписавших сторон или доказательства, показывающие, как было достигнуто соглашение, о котором сообщалось. Таким образом, заявленная китайская подпись не имеет независимого подтверждения в предоставленных материалах.
Согласно отчету Straits Times, несколько руководителей технологических компаний выступили на встрече по видеосвязи. Руководитель Google DeepMind Демис Хассабис призвал провести испытания безопасности систем искусственного интеллекта. Глава Meta Марк Цукерберг заявил, что странам не следует ограничивать модели открытого веса, основные элементы которых общедоступны. Исполнительный директор SpaceX Илон Маск раскритиковал технологическое регулирование Европейского Союза и призвал страны за пределами Китая разрабатывать новые источники энергии для центров обработки данных. Соучредитель Anthropic Том Браун должен был выступить перед группой 2 сентября, тогда как агентство Reuters ранее сообщало, что исполнительный директор OpenAI Сэм Альтман и исполнительный директор Nvidia Дженсен Хуанг отдельно выступят с министром торговли Говардом Лютником.
Подробности об источнике: straitstimes.com ↗
Почему это важно
Встреча выявила конкурирующие подходы к управлению ИИ: представители США и отрасли выступали против широких ограничений, а Демис Хассабис из Google DeepMind призвал к проведению испытаний на безопасность. В докладе также связываются дебаты с конкуренцией с Китаем и будущим моделей с открытым весом.
Встреча имеет значение, поскольку она может повлиять на то, как крупнейшие экономики описывают политические проблемы, создаваемые все более мощными системами искусственного интеллекта. Подход, о котором сообщает Straits Times, будет препятствовать широкому, конкретному технологическому регулированию и сохранять новые правила для ситуаций, которые считаются действительно новыми. Это политическое направление, а не демонстративное изменение законодательства. Источник не устанавливает, что Каролинские принципы носят обязательный характер, что они были официально приняты «Большой двадцаткой» или что они препятствуют применению существующих правил защиты потребителей, конкуренции, безопасности или отраслевых правил к ИИ.
Дискуссия также выявила раскол в отношении баланса между открытостью, инновациями и гарантиями. Призыв Хассабиса к проведению испытаний на безопасность указывает на более систематическую оценку систем искусственного интеллекта. Согласно отчету, противодействие Цукерберга ограничениям на модели открытого веса отражает обеспокоенность тем, что меры контроля могут ограничить общественный доступ к компонентам модели. Критика Маском правил ЕС представляет собой отдельный аргумент в отношении нормативного бремени. Эти позиции были заявлениями отдельных лидеров отрасли на встрече; источник не показывает, что они представляют собой общую позицию «Большой двадцатки» или окончательную политику правительства США.
Отчет Straits Times помещает дебаты о регулировании в рамки более широкой технологической конкуренции между США и Китаем. В нем говорится, что китайские модели открытого веса становятся более функциональными по сравнению с запатентованными системами американских компаний и могут привлечь пользователей или предприятия, ищущие альтернативы американским платформам. Вивек Чилукури из Центра новой американской безопасности сообщил изданию, что администрация хочет, чтобы остальной мир оставался в рамках американской технологической экосистемы. Это делает нормативное предложение актуальным не только для безопасности и надзора, но также для доступа к рынкам, геополитического влияния и распределения инфраструктуры искусственного интеллекта. Отчет независимо не устанавливает сравнительную способность моделей и не дает количественной оценки какого-либо полученного экономического эффекта.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
Why can ethical evaluation not be reduced to one model score?
Что посмотреть дальше
Текст принципов, лица, подписавшие их, а также юридические и политические последствия остаются неясными. Дальнейшие выступления Сэма Альтмана из OpenAI, Дженсена Хуанга из Nvidia и Тома Брауна из Anthropic, а также подготовка к декабрьскому саммиту лидеров G20 могут показать, станет ли это предложение более широкой политической позицией.
Первым приоритетом является проверка самих Каролинских принципов. Публично доступный текст разъяснит, являются ли они добровольными принципами, политической декларацией или чем-то более формальным; какие страны подписали; что считается новой ситуацией; и как этот подход соотносится с существующими законами об ИИ. В предоставленном отчете говорится, что копия не была предоставлена, и не зафиксировано никакого немедленного ответа от посольства Китая. Пока эти пробелы не будут устранены, к сообщениям о китайской подписи и практическому значению принципов следует относиться с осторожностью.
На следующем этапе встречи, возможно, будет представлена более подробная информация. В отчете говорится, что соучредитель Anthropic Том Браун должен был выступить 2 сентября, а Сэм Альтман из OpenAI и Дженсен Хуанг из Nvidia должны были выступить отдельно с министром торговли Говардом Лютником. Их замечания могут указывать на то, поддерживают ли компании общие тесты на безопасность, ограничения на модели открытого веса или добровольную структуру. Любые подобные замечания останутся пропагандой или политической позицией, если за ними не последует документально оформленное правительственное соглашение или конкретная реализация.
В докладе также говорится, что встреча в Северной Каролине является одной из серии встреч, ведущих к саммиту лидеров G20 в Майами в декабре. Освещение должно отслеживать, появляются ли принципы в последующих коммюнике, объявляют ли участвующие правительства о конкретных мерах и становятся ли испытания безопасности оперативным обязательством. В статье развитие центров обработки данных определяется как растущая политическая проблема США и отмечается, что протестующие собрались возле митинга. Он не устанавливает масштаб общественного противодействия, экологические последствия любого конкретного проекта или результаты более широких дебатов по вопросам регулирования. Они остаются значимыми неизвестными.