Что случилось
Google DeepMind объявила о техническом обновлении своей платформы Private AI , представив уровень постоянной памяти, который позволяет помощникам AI сохранять контекст между устройствами, сохраняя при этом строгие стандарты конфиденциальности. Система использует аппаратно защищенные анклавы в облаке для временного дешифрования и обработки данных, при этом криптографические ключи хранятся исключительно на пользовательских устройствах. Это обновление переводит платформу из модели без сохранения состояния в модель, поддерживающую непрерывную долгосрочную помощь.
Google DeepMind в сотрудничестве с командами «Платформы и устройства», «Ядро» и «Облако» обновили свою архитектуру частных вычислений с использованием искусственного интеллекта. Основное изменение — добавление постоянного уровня памяти, который функционирует как безопасное цифровое хранилище в облаке. В отличие от предыдущих реализаций без сохранения состояния, которые стирали контекст после каждой задачи, эта новая система обеспечивает долгосрочную непрерывность помощи ИИ на разных устройствах.
Архитектура основана на сочетании защищенных анклавов с аппаратной поддержкой и криптографических протоколов. Когда модели искусственного интеллекта требуется доступ к пользовательским данным, аутентифицированный канал со сквозным шифрованием подключает устройство пользователя к изолированной облачной среде. Внутри этого безопасного анклава данные временно расшифровываются в изолированной памяти для обработки запроса, а любой новый контекст сохраняется и немедленно повторно шифруется. Важно отметить, что криптографические ключи, необходимые для разблокировки этих данных, хранятся исключительно на личных устройствах пользователя, что гарантирует, что даже Google не сможет получить доступ к данным в виде открытого текста.
Чтобы укрепить доверие к этой новой возможности, Google публикует общедоступную защищенную от несанкционированного доступа запись своего серверного программного обеспечения. Это позволяет устройствам, на которых работает Private AI , проверять подлинность и неизменность программного обеспечения перед передачей каких-либо личных данных. Кроме того, компания делится обновленным техническим документом и результатами независимого аудита, проведенного ведущей фирмой по кибербезопасности, приглашая более широкое сообщество по обеспечению конфиденциальности проверить уровень защиты системы.
Подробности об источнике: deepmind.google ↗
Почему это важно
Эта разработка устраняет критическое ограничение нынешних архитектур конфиденциальности ИИ: неспособность поддерживать долгосрочный контекст без ущерба для безопасности данных. Сохраняя ключи шифрования на пользовательских устройствах и используя изолированные облачные анклавы, Google утверждает, что обеспечивает возможности искусственного интеллекта в облачном масштабе с конфиденциальностью на уровне устройства. Это важно для будущего персональных помощников с искусственным интеллектом, поскольку обеспечивает бесперебойную работу мобильных, веб- и носимых устройств без раскрытия конфиденциальных пользовательских данных поставщику облачных услуг или третьим лицам. Публикация защищенной от несанкционированного доступа общедоступной записи серверного программного обеспечения и результатов независимого аудита еще больше повышает прозрачность и доверие к заявлениям о безопасности системы.
Это обновление решает давнюю дилемму в области конфиденциальности ИИ: как обеспечить вычислительную мощность облака для передовых моделей, сохраняя при этом гарантии конфиденциальности, обычно связанные с обработкой на устройстве. Локальная обработка была золотым стандартом конфиденциальности, но ей не хватает вычислительных ресурсов для сложных задач ИИ. Эта архитектура устраняет этот разрыв, позволяя выполнять вычисления в облачном масштабе, не раскрывая пользовательские данные поставщику облачных услуг.
Практическим смыслом является создание по-настоящему личных и непрерывных помощников ИИ. Пользователи могут, например, возобновить сложный разговор, начатый на мобильном телефоне, на ноутбуке или получить доступ к инструкциям по сборке, которые ранее просматривались на умных очках, при этом ИИ надежно сохраняет необходимый контекст. Этот уровень преемственности необходим для следующего поколения взаимодействий ИИ, которые, как ожидается, будут более интуитивными и глубоко интегрированными в повседневную жизнь.
Меры прозрачности, включая общедоступную запись программного обеспечения и независимый аудит, имеют важное значение для установления доверия. Позволяя пользователям и сообществу проверять целостность системы, Google решает распространенные проблемы конфиденциальности данных в облачных службах искусственного интеллекта. Этот подход может установить новый стандарт для архитектур искусственного интеллекта, сохраняющих конфиденциальность, в отрасли.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Что посмотреть дальше
Следите за выпуском обновленного технического описания и доказательств безопасности для проверки архитектурных претензий. Следите за независимой проверкой защищенных от несанкционированного доступа записей программного обеспечения и результатами аудита кибербезопасности. Посмотрите, интегрирована ли эта технология в конкретные потребительские продукты, такие как Gemini или Android, и как она обрабатывает крайние случаи при синхронизации между устройствами.
Выпуск и содержание обновленного технического описания частных вычислений на базе искусственного интеллекта, а также доказательства безопасности будут иметь решающее значение для проверки технических утверждений. Независимые эксперты, вероятно, будут тщательно изучать криптографические методы и гарантии изоляции безопасных анклавов.
Интеграция этой технологии в продукты, ориентированные на потребителя, определит ее реальное влияние. Следите за объявлениями о его использовании в Gemini, Android или других сервисах Google, а также о том, как он на практике обрабатывает согласие пользователей и управление данными.
Реакция сообщества конфиденциальности и безопасности на опубликованные результаты аудита и протоколы проверки программного обеспечения станет важным индикатором надежности системы. Любые выявленные уязвимости или ограничения в архитектуре необходимо устранить, чтобы сохранить доверие пользователей.