Що сталося
The Guardian повідомляє, що Білл Гейтс запропонував виділяти певні робочі місця для людей у міру вдосконалення ШІ та роботів. У есе на 6000 слів Гейтс порівняв ці ролі з природними заповідниками та назвав орієнтовану на людину допомогу, включаючи повідомлення про серйозні медичні діагнози, як роботу, яку машини не повинні замінити. Він також попередив, що уряди не готові до впливу ШІ на зайнятість, освіту, оподаткування, вибори, охорону здоров’я, фінанси та інші системи.
The Guardian повідомляє, що Білл Гейтс запропонував категорію «людсько стриманої» роботи в есе на 6000 слів під назвою «Бурхлива ера штучного інтелекту настала. Вибір, який ми робимо, є критичним». Гейтс стверджував, що в міру вдосконалення систем штучного інтелекту та роботів суспільства можуть вирішити залишити деякі види діяльності для людей, навіть якщо технічно їх можуть виконувати машини. Він порівняв цей вибір із природними заповідниками: місцями, де будівництво можливе, але від нього відмовляються, оскільки втрати будуть вважатися занадто великими.
Гейтс навів охорону здоров'я як свій яскравий приклад. The Guardian повідомляє, що він посилався на професіоналів, які доглядали за його батьком, який помер від хвороби Альцгеймера шість років тому, і сказав, що в цьому догляді є незамінна людськість. Зокрема, він поставив під сумнів, чи повинен робот передавати новини про те, що у пацієнта невиліковна хвороба, водночас визнаючи, що немає жодних технічних причин, через які робот не міг би це зробити. У звіті це представлено як судження Гейтса про те, що має залишатися під керівництвом людини, а не як доказ того, що поточні системи можуть самостійно виконувати повний спектр медичних або доглядових обов’язків.
The Guardian повідомляє, що Гейтс попередив, що уряди не готові до масштабу впливу ШІ. Він писав, що національні та міжнародні рамки повинні стосуватися не лише національної безпеки, але й зайнятості, освіти, оподаткування, енергетики, виборів, повітря та води, охорони здоров’я, фінансів, правоохоронних органів, транспорту, державних земель та систем інформаційних технологій. Гейтс порівняв цю проблему з великою реорганізацією уряду США після терактів 11 вересня, сказавши, що штучний інтелект вимагатиме набагато ширшої відповіді.
У звіті також йдеться, що Гейтс закликав до певної співпраці між Сполученими Штатами та Китаєм у рамках глобальних зусиль щодо зменшення ризиків, пов’язаних зі штучним інтелектом. Його співробітники працюють над організацією зустрічі з президентом Китаю Сі Цзіньпіном у листопаді, повідомляє The Guardian. Джерело каже, що Гейтс востаннє зустрічався з Сі три роки тому, але це не підтверджує, що була запланована нова зустріч або що будь-який уряд прийняв конкретні рамки.
Щодо освіти The Guardian повідомляє, що Гейтс попереджав, що штучний інтелект може мати суперечливі наслідки: він може допомогти людям вчитися більше, а також змушувати деяких людей вчитися менше. Він процитував одне попереднє опитування, яке пов’язувало більш інтенсивне використання штучного інтелекту з менш критичним мисленням, із сильнішим ефектом серед молоді. Джерело не описує детально опитування та не встановлює причинно-наслідковий зв’язок.
Деталі джерела: theguardian.com ↗
Чому це важливо
Пропозиція розглядає впровадження штучного інтелекту як питання суспільного вибору, а не лише технічних можливостей. У звіті The Guardian підкреслюється напруга між використанням штучного інтелекту для розширення доступу та продуктивності при збереженні форм роботи, які залежать від довіри, відповідальності та присутності людини. Гейтс також пов’язав управління ШІ з міжнародним співробітництвом, сказавши, що буде потрібна певна співпраця між Сполученими Штатами та Китаєм.
Ця пропозиція має значення, оскільки вона зміщує дискусію з того, чи може штучний інтелект виконати завдання, на те, чи заміна людей зашкодить чомусь, що цінується суспільством. У прикладі Гейтса відповідними якостями є не просто точність чи швидкість. Вони включають емпатію, довіру, відповідальність і досвід турботи іншої людини. Ці якості важко звести до рівня технічної ефективності, і звіт не містить жодних ознак того, що уряди домовилися про те, як їх вимірювати або захищати.
Акаунт Guardian також розміщує управління штучним інтелектом у багатьох сферах політики одночасно. Якщо ШІ впливає на працевлаштування, освіту, оподаткування, вибори, охорону здоров’я, фінансові системи та правоохоронні органи, рішення, прийняті в одній сфері, можуть вплинути на інші. Наприклад, зміни в автоматизації робочого місця можуть вплинути на податкові надходження та освітні потреби, тоді як використання штучного інтелекту в державних службах може викликати питання щодо підзвітності та доступу. Джерело повідомляє про попередження Гейтса про таку широту, але не документує відповіді уряду чи конкретного інституційного плану.
Питання працевлаштування має важливе значення, навіть якщо есе не містить прогнозу втрати робочих місць, списку захищених професій або графіку переміщення. Згідно з The Guardian, Гейтс каже, що багато робочих місць зникнуть назавжди, але звіт не підтверджує незалежного прогнозу. Тому читачам слід розрізняти попередження видатного технологічного діяча від виважених доказів щодо майбутнього ринку праці. Стаття не містить нових даних про зайнятість, економічної моделі чи оцінки того, які завдання найімовірніше зміняться.
Аргумент освіти має подібне обмеження. Попереднє опитування, яке пов’язує більш інтенсивне використання штучного інтелекту з менш критичним мисленням, може виправдати подальші дослідження, але саме по собі воно не може показати, що штучний інтелект спричинив повідомлену асоціацію або що результат стосується вікових груп, суб’єктів чи видів використання. У звіті The Guardian не наводиться вибірка, дизайн, вимірювання чи статус опитування. Ця невизначеність важлива для шкіл і сімей, які вирішують, чи слід обмежувати штучний інтелект, викладати його як інструмент або включити в навчання.
Запропонована зарезервована категорія може стати актуальною для державної політики, якщо уряди чи професійні організації почнуть визначати межі для автоматизації. Такі правила можуть захистити вразливих людей і зберегти цінні форми обслуговування, але вони також можуть створити складні питання щодо вартості, персоналу, доступу та нерівного ставлення. Джерело не повідомляє, що Гейтс запропонував закон або що будь-яка влада розглядає його ідею.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
Why can ethical evaluation not be reduced to one model score?
Що дивитися далі
Основні невирішені питання полягають у тому, які роботи, якщо такі є, отримуватимуть офіційний захист, хто прийматиме рішення та як такий захист буде запроваджуватися. The Guardian повідомляє, що співробітники Гейтса працюють над організацією листопадової зустрічі з президентом Китаю Сі Цзіньпіном, але джерело не підтвердило цю зустріч. Наведені докази впливу ШІ на критичне мислення також є попередніми, і джерело не надає детальної методології чи результатів.
Перше питання, на яке слід звернути увагу, полягає в тому, чи залишиться «людська стриманість» принципом чи стане конкретною політичною пропозицією. У звіті The Guardian наводяться приклади з догляду, але немає правового визначення, механізму забезпечення виконання, моделі фінансування чи списку професій. Будь-які серйозні політичні дебати повинні вирішувати, чи поширюється захист на цілі професії, конкретні завдання чи ситуації, пов’язані з уразливими людьми та рішеннями з високими ставками.
Друге питання — розвиток міжнародного управління ШІ. The Guardian повідомляє, що Гейтс вважає, що співпраця між США та Китаєм буде необхідною, і що його співробітники працюють над організацією зустрічі з Сі Цзіньпіном у листопаді. Зустріч не підтверджена незалежним джерелом, і не надано порядку денного чи узгоджених результатів. У подальшому звіті слід визначити, чи відбулася зустріч і чи виникла конкретна пропозиція, а не загальний заклик до співпраці.
Третє питання — це докази тверджень про ШІ та критичне мислення. Опитування, на яке посилається Гейтс, називають лише попереднім. Корисне подальше спостереження включатиме методи дослідження, різницю між кореляцією та причинно-наслідковим зв’язком, типи досліджуваного використання ШІ та те, чи відтворюють результати незалежні дослідники. Без цієї інформації це відкриття не слід розглядати як остаточну інформацію про те, як ШІ впливає на молодь.
Уряди та роботодавці також можуть відреагувати за допомогою планування робочої сили, перепідготовки, освітньої політики та правил автоматизованого прийняття рішень. The Guardian повідомляє, що Гейтс вважає ШІ актуальним для всіх цих сфер, але не визначає жодних нових офіційних заходів, пов’язаних із його есе. Практичне питання полягає в тому, чи можуть інституції достатньо чітко визначити відповідальність людини, щоб зберегти її, коли інструменти штучного інтелекту будуть вбудовані в звичайні сервіси.
Нарешті, читачі повинні стежити за більш чітким розмежуванням між можливостями та легітимністю. Здатність системи надавати інформацію, надавати допомогу чи виконувати адміністративну роботу не вирішує, чи має вона це робити, під яким наглядом або за допомогою якого засобу захисту від помилок. Есе Гейтса піднімає ці питання, але джерело не дає відповідей і не проводить незалежного тестування можливостей будь-якої системи ШІ.