Що сталося
CNBC повідомляє, що генеральний директор Anthropic Даріо Амодей опублікував есе, в якому закликає компанії зі штучним інтелектом навмисно уповільнювати темпи вдосконалення можливостей моделей. Він запропонував триетапний план, спрямований на стримування розвитку без шкоди для комерційної переваги чи лідерства Сполучених Штатів у сфері штучного інтелекту, водночас визнаючи, що деякі заходи можуть бути легшими для впровадження, ніж інші. Наданий звіт не описує окремі кроки.
CNBC повідомляє, що Amodei опублікував есе в суботу, 12 вересня, закликаючи компанії ШІ стежити за тим, як швидко вони вдосконалюють можливості моделей. У звіті пропозиція описується як триетапний план, але він не відтворює та не пояснює ці кроки детально.
Як повідомляє CNBC, Амодей сказав, що такий підхід може стримати розвиток без шкоди для комерційної переваги чи лідерства США в області ШІ. Він також визнав, що деякі частини пропозиції може бути легше реалізувати, ніж інші.
CNBC розміщує есе в контексті закликів дедалі більшої кількості дослідників до скоординованого уповільнення. У ньому також повідомляється, що есе було написане після від’їзду дослідника Anthropic і публічного оголошення на початку тижня. Надане джерело не підтверджує незалежного змісту есе, окрім облікового запису CNBC, і не визначає будь-яких офіційних зобов’язань інших компаній.
Чому це важливо
Пропозиція ставить узгоджені обмеження на передовий прогрес штучного інтелекту в публічне обговорення як питання галузевої практики, а не розглядає безпеку лише як питання захисту навколо вже розгорнутих систем. Якщо його прийняти, швидкість може вплинути на те, як швидко компанії навчатимуть, випускатимуть і масштабуватимуть дедалі ефективніші моделі. У звіті CNBC не встановлено, що Anthropic чи інші компанії погодилися на план, а також не показано, як ця пропозиція буде реалізована чи узгоджена з конкурентним тиском.
Швидкість удосконалення прикордонних моделей може стати важливим питанням політики та управління, оскільки воно стосується темпів розвитку самих можливостей. Повільніший прогрес може дати експертам з оцінки безпеки, політикам і громадськості більше часу для оцінки нових систем, але джерело не надає доказів про ймовірний ефект пропозиції Амодея.
Комерційний компроміс є центральним у пропозиції. CNBC повідомляє, що Амодей сформулював план як сумісний із збереженням бізнес-переваги та лідерства США, але у звіті не пояснюється, як компанії координуватимуть свою діяльність, не створюючи стимулів для конкурентів рухатися швидше.
Ця пропозиція є наслідковою як викладена позиція керівника великої компанії штучного інтелекту, але вона залишається пропозицією в наданому звіті. Немає задокументованих часових рамок впровадження, механізму примусового виконання, угоди між компаніями чи доказів того, що доступність моделі чи практика навчання змінилися.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
Which component of an AI application is the machine-learning model itself?
Що дивитися далі
Ключовою наступною подією є те, чи надає Anthropic оперативні деталі для трьох кроків і чи відповідають інші компанії ШІ, уряди чи незалежні дослідники безпеки. Слідкуйте за доказами конкретних зобов’язань, спільних стандартів оцінки, затримок випуску або інших вимірних змін у практиках розробки. Наданий звіт також не встановлює, чи есе змінює поточні модельні плани Anthropic, комерційну стратегію чи очікуваний час IPO.
Наступне публічне пояснення Anthropic має роз’яснити, що вимагають три кроки, які організації братимуть участь і чи залежить план від добровільної координації чи державної політики.
Докази впровадження включатимуть конкретні зміни в розкладі навчання, рішення про випуск моделі, оцінки, звітність або доступ для зовнішніх дослідників безпеки. Жодна з цих змін не задокументована в наданому звіті CNBC.
У звіті згадується очікувана підготовка Anthropic до IPO, але не встановлюється зв’язок між запропонованим уповільненням і планами фінансування компанії. Тому терміни, комерційні наслідки та вплив на конкурентоспроможність США залишаються невідомими.
У наданому звіті не зазначено, чи уряди, конкуренти чи дослідники схвалили чи відхилили пропозицію. Їхні відповіді визначатимуть, чи стане есе ширшою галузевою ініціативою чи залишиться окремою керівною посадою.