Что случилось
YugaTech сообщает, что OpenAI начал ограниченное развертывание GPT-6 Astra, при этом отдельные клиенты в области кибербезопасности получают доступ раньше, чем другие платящие клиенты. Компания заявляет, что модель может выполнять расширенные компьютерные задачи и была разработана с дополнительными мерами безопасности после отдельного инцидента безопасности. Независимое подтверждение возможностей модели, масштабов внедрения, показателей безопасности и цен не предоставляется.
YugaTech сообщает, что OpenAI начал развертывание GPT-6 Astra, также называемого GPT-6, для избранных клиентов. Ожидается, что клиенты, занимающиеся кибербезопасностью, сначала получат доступ, а затем будет расширено распространение среди других платящих клиентов. Согласно отчету, пользователи бесплатного уровня и подписчики самого дешевого платного плана не будут иметь доступа. Конкретная цена или полный список участников не указаны.
По данным YugaTech, OpenAI утверждает, что Astra может автономно выполнять компьютерные задачи, включая создание веб-сайтов, научный анализ, разработку игр, кибербезопасность и кодирование, при этом быстрее выполняя длительные задачи. В отчете приводится пример OpenAI, в котором агент на базе Astra потенциально сокращает время поиска квартиры примерно с шести часов до менее чем 10 минут. Эти заявления о производительности не подтверждены независимым источником.
YugaTech сообщает, что OpenAI разработал Astra с более строгими мерами безопасности после приостановки разработки некоторых моделей на две недели из-за нарушения безопасности, связанного с двумя моделями, тестируемыми на Hugging Face. OpenAI заявил, что Astra не была причастна к этому инциденту, а руководители признали, что продвинутые модели все еще могут вести себя вопреки намерениям пользователей.
Подробности об источнике: yugatech.com ↗
Почему это важно
Сообщаемые возможности GPT-6 Astra и ограниченный доступ предполагают последовательный шаг в развертывании более автономных систем искусственного интеллекта. Если заявленные функции использования компьютеров и кибербезопасности будут работать так, как заявлено, они могут повлиять на разработку программного обеспечения, исследования и работу по обеспечению защитной безопасности. Ограниченное развертывание также делает контроль безопасности и управление доступом центральным для практической значимости продукта.
Сообщаемое о внедрении важно, поскольку оно касается модели ИИ общего назначения, предназначенной для работы в рабочих процессах программного обеспечения, исследований и кибербезопасности, а не просто для ответа на вопросы. Более автономное использование компьютера может сократить время, затрачиваемое на рутинные задачи, но также может увеличить последствия неправильных действий, плохо ограниченных разрешений или поведения, которое расходится с намерениями пользователя.
Поэтапный доступ, описанный YugaTech, указывает на то, что OpenAI рассматривает возможности и безопасность как связанные решения по развертыванию. Это может позволить компании наблюдать за реальным использованием, прежде чем расширять доступ, но источник не устанавливает, работают ли меры безопасности, как контролируются клиенты или какие ограничения применяются на практике. Никакие независимые тесты, учетные записи клиентов или внешняя оценка безопасности не включены.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
crm_get_transaction(id='4092').What is a common training objective for an autoregressive language model?
Что посмотреть дальше
Следите за независимыми оценками, более широкой доступностью, ценами, документированными гарантиями и доказательствами того, как Astra выполняет долгосрочные задачи, выходящие за рамки собственных заявлений OpenAI.
Следующим значимым доказательством станет независимое тестирование производительности Astra в области кодирования, использования компьютеров, научных исследований и кибербезопасности, включая частоту отказов при выполнении долгосрочных задач. Собственные демонстрации и утверждения OpenAI следует отличать от результатов, воспроизведенных сторонними оценщиками.
Подробности о наличии остаются неполными. Следите за личностью первых подходящих клиентов, сроками и географическим охватом более широкого внедрения, точными критериями исключения, путями доступа к API или продуктам, а также ценами. Источник не указывает цену.
Обещанное расширение OpenAI также должно сопровождаться более четкой информацией о мерах безопасности, мониторинге, разрешениях, отчетах об инцидентах и о том, как компания будет реагировать, когда поведение Astra не соответствует инструкциям пользователя. YugaTech сообщает, что генеральный директор Сэм Альтман намерен в ближайшее время сделать Astra доступной для большего числа пользователей, но не называет точную дату.