Что случилось
BBC сообщает, что Джейкоб Коксон, бывший исследователь Anthropic и OpenAI, предупредил, что исследователи ИИ опасаются темпов развития и его возможных последствий для человечества. Он поддержал призывы к более медленному развитию, регулированию и независимому мониторингу, в то время как Anthropic защищал свою работу по обеспечению безопасности. В отчете добавлены новые реакции на существующий призыв генерального директора Anthropic Дарио Амодея к большей осторожности.
BBC сообщает, что 27-летний Коксон сказал, что исследователи ИИ «искренне боятся» нынешних темпов прогресса, и заявил, что человечество может столкнуться с очень высоким риском смерти в ближайшем будущем, если развитие не замедлится. Он приветствовал предложение Амодея о сдержанности в масштабах всей отрасли, но сказал, что Китаю необходимо будет принять участие, чтобы избежать международной гонки. Это взгляды Коксона, изложенные BBC, а не независимые прогнозы.
В отчете комментарии Коксона связаны с эссе генерального директора Anthropic Дарио Амодея, опубликованным 12 числа, согласно источнику, в котором утверждается, что разработка ИИ сама по себе не является проблемой, но что компаниям и правительствам нужно время для устранения серьезных рисков. BBC также сообщает о поддержке замедления разработки, регулирования или независимого мониторинга со стороны генерального директора OpenAI Сэма Альтмана и генерального директора xAI Илона Маска.
Anthropic сообщил BBC News, что постоянно признавал как серьезные преимущества, так и беспрецедентные риски, связанные с ИИ. Представитель компании заявил, что компания разрабатывает надежные меры безопасности, исследует, как работают модели, тестирует модели на предмет рисков несогласованности и публикует результаты. Источник не дает независимой оценки этих гарантий.
BBC сообщает о дополнительных предупреждениях от ученого Anthropic Эвана Хубингера и ученого-компьютерщика Джеффри Хинтона, каждый из которых дал личные оценки возможности вымирания человечества. В нем также сообщается о критике со стороны генерального директора Hugging Face Клемана Деланга и генерального директора факультета Марка Уорнера, которые заявили, что такие вероятности трудно установить. Источник не содержит технических доказательств, подтверждающих какую-либо из этих оценок.
Подробности об источнике: bbc.com ↗
Почему это важно
Отчет имеет большое значение, поскольку он документирует растущее общественное разногласие внутри и вокруг ведущих компаний, занимающихся искусственным интеллектом, по поводу того, движется ли развитие быстрее, чем работа по обеспечению безопасности и государственный надзор. Описанные практические предложения заключаются в более медленном развертывании мощных моделей, независимом мониторинге и международной координации, в том числе с Китаем. Однако наиболее серьезные претензии — это прогнозы или личные оценки, а не результаты, продемонстрированные независимыми экспертами. Источник не устанавливает неизбежность исчезновения, не дает количественной оценки подтвержденного риска и не показывает, что какое-либо правительство или компания приняли новые ограничения.
Это значимое развитие безопасности ИИ, поскольку публичный отчет бывшего сотрудника представлен рядом с призывом руководителя компании к более медленному развитию и мерам безопасности. В совокупности эти заявления показывают, что обеспокоенность не ограничивается внешними критиками, хотя в отчете не измеряется, насколько репрезентативны эти взгляды среди исследователей ИИ.
Практический вывод заключается в том, что аргументы в пользу безопасности могут все больше влиять на управление выбросами, регулирование и международную координацию. Эти последствия остаются перспективными: источник не сообщает о новом законе, соглашении, приостановке развертывания или независимо проверенном инциденте. Никакие условия доступа к продукту или цены не актуальны и не документированы.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
Why can ethical evaluation not be reduced to one model score?
Что посмотреть дальше
Следите за конкретной политикой или действиями компании после призывов к сдержанности: формальные требования к мониторингу, ограничения на развертывание, международные соглашения или изменения в процессах выпуска моделей. Источник не документирует новый продукт, изменение доступа, цену, результаты испытаний на безопасность или обязательную политику. Он также не проверяет независимо вероятность исчезновения, о которой говорили интервьюируемые, и не устанавливает время проведения интервью по отношению к текущему 96-часовому окну.
Превратят ли Anthropic или другие компании, занимающиеся искусственным интеллектом, призывы к сдержанности в поддающиеся проверке практики, такие как независимый мониторинг моделей, опубликованные пороговые значения оценки или более медленные выпуски.
Реагируют ли правительства конкретными правилами или международными дискуссиями, а не общими заявлениями о конкуренции и рисках ИИ.
Подтверждают ли независимые технические исследования, сужают или оспаривают оценки серьезного риска, приведенные в отчете. Источник не предоставляет доказательств, достаточных для разрешения этого спора.
В исходном тексте не указана дата публикации, поэтому актуальность лежащих в основе интервью не может быть независимо подтверждена на основе предоставленных материалов.