ДаліНаступний посібник
Utah Artificial Intelligence Policy Act
суспільство
Суспільство GUIDE
Загальний штучний інтелект
Загальний штучний інтелект (AGI) відноситься до систем штучного інтелекту з широкою компетентністю людського рівня (або вищою) для більшості когнітивних завдань, а не лише для однієї вузької навички, як переклад або маркування зображень.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Глибоке занурення
Немає єдиного узгодженого визначення AGI. Деякі люди мають на увазі «відповідає середній кількості професіоналів у більшості наукових робіт», інші мають на увазі «можуть автоматизувати більшість економічно цінних завдань», а треті залишають цей термін для систем, які можуть самоудосконалюватися або випереджати людство в науці та стратегії. Визначення має значення, оскільки політика, інвестиції та планування безпеки залежать від того, коли, на вашу думку, з’являться такі системи та що вони можуть зробити. Сучасні великі мовні моделі не є AGI за строгим визначенням, але вони вже демонструють широку компетенцію та швидке вдосконалення — тому часові рамки суперечать і чому дослідники екзистенціального ризику розглядають AGI (і системи поза ним) як проблему планування в реальному часі, а не як наукову фантастику. Якщо системи рівня AGI можуть діяти з обмеженим наглядом, проблеми узгодження та контролю перестають бути академічними.
Реалізація в реальному світі
Відстеження того, як передові моделі переходять від чату до кодування, допомоги в дослідженнях і використання багатоетапного інструменту.
Порівняння загальнодоступних визначень лабораторій AGI та порогових значень, які вони заявляють, мають значення для політики безпеки.
Планування впливу на економіку та безпеку, якщо системи можуть замінити великі класи віддаленої когнітивної праці.
Майбутнє загального штучного інтелекту
Очікуйте продовження дебатів щодо часових рамок, більшого інтересу уряду до тренувань на кордоні та тиску щодо визначення вимірюваних порогових значень можливостей. Для громадськості корисним висновком є не точний рік — це те, що напрямок руху спрямований на більш загальні, більш автономні системи, і що робота з безпеки має бути попереду цієї кривої.
Застосування на практиці
Чому це важливо
- Ризики та безпека. Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
- Чіткіші рішення. Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
- Прорізаючи ажіотаж. Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Зверніть увагу на
- Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
- Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
- Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Наступні кроки
- Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
- Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
- Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
- Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Artificial General Intelligence quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is Artificial General Intelligence?
Загальний штучний інтелект (AGI) відноситься до систем штучного інтелекту з широкою компетентністю людського рівня (або вищою) для більшості когнітивних завдань, а не лише для однієї вузької навички, як переклад або маркування зображень.
Що відрізняє загальний штучний інтелект від вузького ШІ?
Вузькі системи відмінно справляються з конкретними завданнями, такими як шахи чи переклад; AGI відноситься до гнучкої компетенції людського рівня в широкому діапазоні завдань.
У чому полягає парадокс Моравека?
Ханс Моравец зауважив, що міркування високого рівня порівняно легко автоматизувати, тоді як сенсомоторні навички, вдосконалені еволюцією, виявилося важко.
Which benchmark did François Chollet propose as a concrete way to measure skill-acquisition efficiency on abstract puzzles?
ARC представляє невеликі головоломки, що вимагають нових правил із кількох прикладів, націлених на узагальнення, а не на запам’ятовування знань.
Що таке гіпотеза «вибуху інтелекту», пов’язана з І. Дж. Гудом?
У 1965 році Гуд стверджував, що ультрарозумна машина може створювати ще кращі машини, що призведе до рекурсивного самовдосконалення.
У есе Річа Саттона «Гіркий урок» стверджується, що щодо прогресу ШІ?
Sutton argued that general methods using more computation have repeatedly proved more effective over time than methods built around handcrafted domain knowledge.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми