Загальний штучний інтелект
Загальний штучний інтелект (AGI) відноситься до систем штучного інтелекту з широкою компетентністю людського рівня (або вищою) для більшості когнітивних завдань, а не лише для однієї вузької навички, як переклад або маркування зображень.
Глибоке занурення
Немає єдиного узгодженого визначення AGI. Деякі люди мають на увазі «відповідає середній кількості професіоналів у більшості наукових робіт», інші мають на увазі «можуть автоматизувати більшість економічно цінних завдань», а треті залишають цей термін для систем, які можуть самоудосконалюватися або випереджати людство в науці та стратегії. Визначення має значення, оскільки політика, інвестиції та планування безпеки залежать від того, коли, на вашу думку, з’являться такі системи та що вони можуть зробити. Сучасні великі мовні моделі не є AGI за строгим визначенням, але вони вже демонструють широку компетенцію та швидке вдосконалення — тому часові рамки суперечать і чому дослідники екзистенціального ризику розглядають AGI (і системи поза ним) як проблему планування в реальному часі, а не як наукову фантастику. Якщо системи рівня AGI можуть діяти з обмеженим наглядом, проблеми узгодження та контролю перестають бути академічними.
Технічне розуміння
Прогрес у напрямку ширшої компетенції стався в основному завдяки масштабуванню даних, обчислень і алгоритмів; від постнавчання, що робить моделі більш зручними для використання; а також від інструментів/агентів, які дозволяють моделям діяти у світі. Залишаються прогалини в надійній довгостроковій діяльності, обґрунтованих світових моделях і послідовній правдивості. Питання, пов’язані з безпекою, включають: які можливості з’являються раптово, чи виявляють їх evals і чи можуть лабораторії призупинити або запустити розгортання, коли ризик зростає.
Стратегічний вплив
Ризики та безпека
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
Чіткіші рішення
Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
Прорізаючи ажіотаж
Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Майбутнє загального штучного інтелекту
Очікуйте продовження дебатів щодо часових рамок, більшого інтересу уряду до тренувань на кордоні та тиску щодо визначення вимірюваних порогових значень можливостей. Для громадськості корисним висновком є не точний рік — це те, що напрямок руху спрямований на більш загальні, більш автономні системи, і що робота з безпеки має бути попереду цієї кривої.
Реалізація в реальному світі
Відстеження того, як передові моделі переходять від чату до кодування, допомоги в дослідженнях і використання багатоетапного інструменту.
Порівняння загальнодоступних визначень лабораторій AGI та порогових значень, які вони заявляють, мають значення для політики безпеки.
Планування впливу на економіку та безпеку, якщо системи можуть замінити великі класи віддаленої когнітивної праці.
Ризики та огорожі
Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Дорожня карта впровадження
Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Artificial General Intelligence quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
Apple Intelligence
Часті запитання
What is Artificial General Intelligence?
Загальний штучний інтелект (AGI) відноситься до систем штучного інтелекту з широкою компетентністю людського рівня (або вищою) для більшості когнітивних завдань, а не лише для однієї вузької навички, як переклад або маркування зображень.
Порівнюючи загальний штучний інтелект з альтернативами, який підхід є найкориснішим?
Ваші реальні завдання — це справедливий тест — популярність і новизна — слабкі сигнали під час вибору того, чи підходить загальний штучний інтелект.
Яка найкраща відповідь, коли загальний штучний інтелект робить помилку під час виробництва?
Ставлення до кожного збою загального штучного інтелекту як до шансу посилити захист — це те, як підвищується надійність.
Оскільки використання загального штучного інтелекту масштабується в масштабах організації, що, як правило, має найбільше значення?
У великому масштабі загальний штучний інтелект потребує постійного моніторингу та управління, оскільки умови та ризики змінюються.
Коли ви вперше починаєте вивчати загальний штучний інтелект, яке мислення є найкориснішим?
Справжнє розуміння загального штучного інтелекту означає знання його сильних сторін, способів збоїв і способів перевірки результатів, а не просто визначення в одному рядку.
Який найточніший спосіб описати те, що може зробити загальний штучний інтелект сьогодні?
Збалансований погляд визнає, що загальний штучний інтелект є цінним для відповідних завдань, але все одно потребує догляду.