Що сталося
NPR повідомляє, що дослідники навчили моделі ШІ на великих колекціях послідовностей ДНК і попросили їх створити нові вірусні геноми. Дослідники ввели в бактерії приблизно 300 послідовностей, розроблених ШІ; 16 створили функціонуючі віруси, здатні інфікувати інші бактерії. Роботу нещодавно опублікували в Science, повідомляє NPR.
У звіті NPR Short Wave від 25 серпня йдеться, що дослідники навчили моделі штучного інтелекту на послідовності ДНК, розглядаючи генетичний алфавіт із чотирьох літер — A, C, G і T — як мову, з якої системи можуть вивчати шаблони. Метою було не просто відтворення відомих вірусів, а створення нових послідовностей вірусного геному. Джерело описує роботу як залучену до вірусів, які вражають бактерії, а не людей. Іншими словами, звіт розрізняє задачу генерації послідовності моделі від тверджень про захворювання чи лікування людини.
Згідно з NPR, дослідники ввели вірусну ДНК, згенеровану ШІ, в бактерії, які потім виробляли віруси, здатні інфікувати інші бактерії. Вони перевірили приблизно 300 дизайнів, і 16 працювали в тому сенсі, що створювали діючі віруси. NPR ідентифікує Брайана Хі зі Стенфорда як одного з дослідників і повідомляє, що для завершення проекту знадобилося близько року. Таким чином, повідомлений рівень успіху був результатом цього конкретного набору тестів, а не твердженням, що більшість дизайнів працюватимуть.
NPR повідомляє, що дослідники вжили запобіжних заходів, щоб зробити роботу безпечною, і повідомляє, що дослідження було опубліковано в Science. У ньому також повідомляється, що лабораторія Хіє вважає, що вона була першою, хто здійснив такий експеримент. Цю першу у своєму роді характеристику, процедури безпеки та результати експериментів повідомляє NPR; вони не підтверджені незалежно в наданому джерелі, яке не надає методів статті, даних послідовності, контролів або повних експериментальних результатів. Ці обмеження є важливими, оскільки наданий обліковий запис узагальнює висновки без надання основного технічного запису для окремого перегляду.
Чому це важливо
Результат припускає, що штучний інтелект може врешті-решт допомогти дослідникам розробити бактеріофаги — віруси, які заражають і вбивають бактерії — для боротьби зі стійкими до ліків інфекціями. NPR також повідомляє, що той самий прогрес може зменшити технічні бар'єри для розробки небезпечної біології, оскільки технологія стане більш дієвою та доступною.
Найближча медична можливість, описана NPR, полягає в розробці бактеріофагів, адаптованих до стійких до ліків бактеріальних інфекцій. Існуючі бактеріофаги можуть інфікувати та вбивати бактерії, і дослідники сподіваються, що штучний інтелект допоможе створити нові версії, оскільки бактерії розвиватимуть стійкість до лікування. Якщо це буде підтверджено в подальшій роботі, це може додати інструмент для лікування інфекцій, які дедалі важче лікувати. Таким чином, у звіті описується можлива допомога в дослідженні, ефективність і практичне використання якого все ще залежить від подальшої перевірки.
NPR також повідомляє про набагато довгострокове бачення: використання штучного інтелекту для розробки більших генетичних систем або біологічних шляхів, у яких кілька генів працюють разом. Хі сказав NPR, що такі інструменти можуть зрештою сприяти підходам до захворювань, включаючи рак або хворобу Альцгеймера, підкреслюючи, що ця ідея виходить за межі поточної статті. У звіті це представлено як спекулятивний напрямок дослідження, а не як доступне лікування чи продемонстрований клінічний результат. NPR не повідомляє, що ці ширші програми були створені, протестовані на пацієнтах або показали, що вони працюють.
Ця ж здатність має подвійний вимір. Том Інглсбі з Центру охорони здоров’я Джонса Гопкінса, який не брав участі в дослідженні, сказав NPR, що ця робота стала великим проривом, але попередив, що управління не існує, щоб запобігти випадковому або навмисному неправильному використанню. NPR повідомляє, що сучасні методи біологічної інженерії вже дозволяють модифікувати або синтезувати деякі віруси та організми, але спеціалізована експертиза та доступ залишаються значними перешкодами. У звіті не вказано, як швидко ці бар’єри впадуть і чи буде легше створити зброю на практиці створені штучним інтелектом проекти. Його попередження стосується напряму спроможності та потреби в управлінні, а не твердження, що цей експеримент завдав шкоди.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
Which component of an AI application is the machine-learning model itself?
Що дивитися далі
NPR повідомляє, що експерти виступають за регулювання моменту, коли цифрові дизайни стають фізичною ДНК, включаючи замовлення на перевірку небезпечних послідовностей. У звіті йдеться про те, що двопартійний законопроект був запропонований Сенату з цього питання, але не встановлюється, чи буде цей законопроект просунутий і чи поточні гарантії виявлять кожен шкідливий проект.
NPR повідомляє, що експерти розглядають виготовлення ДНК на замовлення як можливу контрольну точку. Навіть якби хтось створив небезпечну послідовність цифровим способом, йому все одно потрібно було б отримати фізичну ДНК для проведення експерименту. У звіті йдеться про те, що компанії, які виробляють спеціальну ДНК, можуть бути зобов’язані перевіряти замовлення на небезпечні послідовності, і що двопартійний законопроект Сенату вимагав би такої перевірки. Запропоноване втручання спрямоване на перехід від комп’ютерно створеної послідовності до матеріальної біологічної вихідної точки.
Головне політичне питання полягає в тому, чи зможе скринінг у постачальників ДНК йти в ногу з дедалі ефективнішими системами проектування. NPR повідомляє, що Кевін Есвельт з Массачусетського технологічного інституту підтримує державне регулювання, але каже, що уряди не бажають визначати, які експерименти можна проводити. Інглсбі сказав NPR, що підготовка до світу, в якому стане легше викликати пандемію, може бути ефективнішою, ніж спроба лише обмежити доступ до моделей ШІ. Джерело не вказує номер законопроекту, авторів, статус або запропонований стандарт перевірки. Ці деталі без відповіді ускладнюють оцінку практичного ефекту пропозиції лише на основі звіту.
Звіт залишає невирішеними основні невизначеності. Науковий кореспондент NPR каже, що невідомо, чи біологічні інструменти, розроблені ШІ, зрештою принесуть більше користі, ніж шкоди. В експерименті брали участь бактеріофаги, а не віруси, що заражають людину, і джерело не надає доказів того, що дослідники створили патоген, лікували пацієнтів або продемонстрували клінічну корисність. Читачі повинні стежити за незалежним відтворенням, дослідженнями контролю безпеки, деталями скринінгу порядку ДНК та доказами клінічних або лабораторних досліджень, які показують, чи медичні обіцянки виходять за межі цієї ранньої демонстрації. Ці спостереження визначають поточні межі доказів, описаних у звіті NPR.