Загальний штучний інтелект
Загальний штучний інтелект (AGI) відноситься до систем штучного інтелекту з широкою компетентністю людського рівня (або вищою) для більшості когнітивних завдань, а не лише для однієї вузької навички, як переклад або маркування зображень.
Огляд
Загальний штучний інтелект (AGI) відноситься до систем штучного інтелекту з широкою компетентністю людського рівня (або вищою) для більшості когнітивних завдань, а не лише для однієї вузької навички, як переклад або маркування зображень.
Загальний штучний інтелект знаходиться на перетині можливостей, влади та суспільного вибору, де безпека, управління та легітимність вирішують, чи допоможе розширений ШІ чи зашкодить у великих масштабах.
Глибоке занурення
Немає єдиного узгодженого визначення AGI. Деякі люди мають на увазі «відповідає середній кількості професіоналів у більшості наукових робіт», інші мають на увазі «можуть автоматизувати більшість економічно цінних завдань», а треті залишають цей термін для систем, які можуть самоудосконалюватися або випереджати людство в науці та стратегії. Визначення має значення, оскільки політика, інвестиції та планування безпеки залежать від того, коли, на вашу думку, з’являться такі системи та що вони можуть зробити. Сучасні великі мовні моделі не є AGI за строгим визначенням, але вони вже демонструють широку компетенцію та швидке вдосконалення — тому часові рамки суперечать і чому дослідники екзистенціального ризику розглядають AGI (і системи поза ним) як проблему планування в реальному часі, а не як наукову фантастику. Якщо системи рівня AGI можуть діяти з обмеженим наглядом, проблеми узгодження та контролю перестають бути академічними.
Технічне розуміння
Прогрес у напрямку ширшої компетенції стався в основному завдяки масштабуванню даних, обчислень і алгоритмів; від постнавчання, що робить моделі більш зручними для використання; а також від інструментів/агентів, які дозволяють моделям діяти у світі. Залишаються прогалини в надійній довгостроковій діяльності, обґрунтованих світових моделях і послідовній правдивості. Питання, пов’язані з безпекою, включають: які можливості з’являються раптово, чи виявляють їх evals і чи можуть лабораторії призупинити або запустити розгортання, коли ризик зростає.
Оволодіння загальним штучним інтелектом
Щоб побудувати глибоке розуміння, розглядайте загальний штучний інтелект як операційну модель, а не як окрему функцію. Визначте бажані результати, уточніть припущення та відокремте те, що система може зробити надійно, від того, що все ще потребує експертної оцінки.
На практиці сильні команди, які використовують загальний штучний інтелект, поєднують зростання потенціалу з управлінням, безпекою та чіткими структурами підзвітності. Вони документують чіткі критерії успіху, перевіряють реалістичні дані та робочі процеси та виконують ітерацію на основі спостережуваних моделей невдач, а не одноразових перемог у тестах. Саме тут теоретичне розуміння перетворюється на довгострокову здатність щодо продуктів, політики та операцій.
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти. У той же час розгляд екзистенціального ризику як наукової фантастики в той час як з’єднання можливостей. Найбільш стійкий підхід полягає в поєднанні швидкості експериментів із дисципліною управління: запускайте пілотні проекти, збирайте докази, публікуйте журнали рішень і постійно оновлюйте запобіжні заходи в міру розвитку поведінки моделі, очікувань користувачів і нормативних вимог.
Стратегічний вплив
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти. У високоякісних розгортаннях це перетворюється на вимірювані правила роботи, межі власності та регулярні ритуали перегляду, щоб команди могли масштабувати впевненість замість масштабування неоднозначності.
Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки. У високоякісних розгортаннях це перетворюється на вимірювані правила роботи, межі власності та регулярні ритуали перегляду, щоб команди могли масштабувати впевненість замість масштабування неоднозначності.
Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром. У високоякісних розгортаннях це перетворюється на вимірювані правила роботи, межі власності та регулярні ритуали перегляду, щоб команди могли масштабувати впевненість замість масштабування неоднозначності.
Реалізація в реальному світі
Відстеження того, як передові моделі переходять від чату до кодування, допомоги в дослідженнях і використання багатоетапного інструменту.
Порівняння загальнодоступних визначень лабораторій AGI та порогових значень, які вони заявляють, мають значення для політики безпеки.
Планування впливу на економіку та безпеку, якщо системи можуть замінити великі класи віддаленої когнітивної праці.
Побудова повторюваного робочого процесу загального штучного інтелекту з чіткими критеріями успіху та контрольними точками перевірки людиною.
Шаблони реалізації
Загальний штучний інтелект на практиці
Відстеження того, як передові моделі переходять від чату до кодування, допомоги в дослідженнях і використання багатоетапного інструменту.
Команди зазвичай отримують кращі результати, коли заздалегідь визначають порогові значення якості, зберігають шлях людської ескалації для крайніх випадків і відстежують підвищення продуктивності та витрати на помилки з часом.
Загальний штучний інтелект на практиці
Порівняння загальнодоступних визначень лабораторій AGI та порогових значень, які вони заявляють, мають значення для політики безпеки.
Команди зазвичай отримують кращі результати, коли заздалегідь визначають порогові значення якості, зберігають шлях людської ескалації для крайніх випадків і відстежують підвищення продуктивності та витрати на помилки з часом.
Загальний штучний інтелект на практиці
Планування впливу на економіку та безпеку, якщо системи можуть замінити великі класи віддаленої когнітивної праці.
Команди зазвичай отримують кращі результати, коли заздалегідь визначають порогові значення якості, зберігають шлях людської ескалації для крайніх випадків і відстежують підвищення продуктивності та витрати на помилки з часом.
Загальний штучний інтелект на практиці
Побудова повторюваного робочого процесу загального штучного інтелекту з чіткими критеріями успіху та контрольними точками перевірки людиною.
Команди зазвичай отримують кращі результати, коли заздалегідь визначають порогові значення якості, зберігають шлях людської ескалації для крайніх випадків і відстежують підвищення продуктивності та витрати на помилки з часом.
Ризики та огорожі
Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Дорожня карта впровадження
Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
Розглядайте це як джерело доказів: якщо критерії не відповідають, призупиніть розгортання, закрийте прогалину й лише потім розширюйте використання.
Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
Розглядайте це як джерело доказів: якщо критерії не відповідають, призупиніть розгортання, закрийте прогалину й лише потім розширюйте використання.
Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
Розглядайте це як джерело доказів: якщо критерії не відповідають, призупиніть розгортання, закрийте прогалину й лише потім розширюйте використання.
Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Розглядайте це як джерело доказів: якщо критерії не відповідають, призупиніть розгортання, закрийте прогалину й лише потім розширюйте використання.
Продовжуйте досліджувати
Check your understanding
Test yourself: take the Artificial General Intelligence quiz