Изкуствен общ интелект
Изкуственият общ интелект (AGI) се отнася до AI системи с широка компетентност на човешко ниво (или по-висока) в повечето когнитивни задачи — не само едно тясно умение като превод или етикетиране на изображения.
Преглед
Изкуственият общ интелект (AGI) се отнася до AI системи с широка компетентност на човешко ниво (или по-висока) в повечето когнитивни задачи — не само едно тясно умение като превод или етикетиране на изображения.
Изкуственият общ интелект се намира в пресечната точка на възможности, сила и обществен избор – където безопасността, управлението и легитимността решават дали усъвършенстваният ИИ помага или вреди в мащаб.
Дълбоко гмуркане
Няма единна съгласувана дефиниция на AGI. Някои хора имат предвид „съвпада със средните човешки професионалисти в повечето дейности, свързани със знанието“, други означават „може да автоматизира по-голямата част от икономически ценните задачи“, а трети запазват термина за системи, които могат да се самоусъвършенстват или да изпреварят човечеството в областта на науката и стратегията. Дефиницията има значение, защото политиката, инвестициите и планирането на безопасността зависят от това кога смятате, че такива системи пристигат и какво могат да направят. Настоящите големи езикови модели не са AGI по стриктни дефиниции, но те вече показват широка компетентност и бързо подобрение - поради което времевите линии се оспорват и защо изследователите на екзистенциалния риск третират AGI (и системите извън него) като проблем за планиране на живо, а не като научна фантастика. Ако системите на ниво AGI могат да действат с ограничен надзор, проблемите с подравняването и контрола престават да бъдат академични.
Техническа информация
Напредъкът към по-широка компетентност идва до голяма степен от мащабиране на данни, изчисления и алгоритми; от след обучение, което прави моделите по-използваеми; и от инструменти/агенти, които позволяват на моделите да действат в света. Остават пропуски в надеждната дългосрочна агенция, обоснованите световни модели и последователната правдивост. Въпросите, свързани с безопасността, включват: кои способности се появяват внезапно, дали оценките ги откриват и дали лабораториите могат да поставят на пауза или да разрешат внедряването, когато рискът се повиши.
Овладяване на изкуствения общ интелект
За да изградите дълбоко разбиране, третирайте изкуствения общ интелект като оперативен модел, а не като отделна функция. Дефинирайте желаните резултати, изяснете предположенията и отделете това, което системата може да направи надеждно, от това, което все още изисква експертна преценка.
На практика силните екипи, използващи изкуствен общ интелект, съчетават растежа на способностите с управление, безопасност и ясни структури на отчетност. Те документират изрични критерии за успех, тестват срещу реалистични данни и работни потоци и повтарят въз основа на наблюдавани модели на неуспех, а не на еднократни победи в бенчмарка. Това е мястото, където теоретичното разбиране се превръща в трайна способност за продукти, политики и операции.
Катастрофалните и ежедневните вреди от ИИ зависят от това кой разбира рисковете и кой може да действа. В същото време Третирането на екзистенциалния риск като научна фантастика, докато способностите се комбинират. Най-устойчивият подход е да се комбинира скоростта на експериментиране с дисциплината на управление: стартирайте пилотни проекти, събирайте доказателства, публикувайте регистрационни файлове за решения и непрекъснато актуализирайте предпазните мерки, докато поведението на модела, очакванията на потребителите и регулаторните изисквания се развиват.
Стратегическо въздействие
Катастрофалните и ежедневните вреди от ИИ зависят от това кой разбира рисковете и кой може да действа.
Катастрофалните и ежедневните вреди от ИИ зависят от това кой разбира рисковете и кой може да действа. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Обществената и професионалната грамотност определя дали силната политика за безопасност е политически възможна.
Обществената и професионалната грамотност определя дали силната политика за безопасност е политически възможна. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Ясните обяснения намаляват улавянето от шум, лабораторен PR и неясен етичен театър.
Ясните обяснения намаляват улавянето от шум, лабораторен PR и неясен етичен театър. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Внедряване в реалния свят
Проследяване на това как граничните модели се разширяват от чат към кодиране, помощ при изследване и използване на многоетапен инструмент.
Сравняването на публичните дефиниции на лабораториите за AGI и праговете, които те заявяват, имат значение за политиката за безопасност.
Планиране на въздействието върху икономиката и сигурността, ако системите могат да заменят големи класове дистанционен когнитивен труд.
Изграждане на повтарящ се работен процес за изкуствен общ интелект с изрични критерии за успех и контролни точки за проверка от човек.
Модели на изпълнение
Изкуствен общ интелект на практика
Проследяване на това как граничните модели се разширяват от чат към кодиране, помощ при изследване и използване на многоетапен инструмент.
Екипите обикновено получават по-добри резултати, когато предварително определят праговете за качество, поддържат човешка ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Изкуствен общ интелект на практика
Сравняването на публичните дефиниции на лабораториите за AGI и праговете, които те заявяват, имат значение за политиката за безопасност.
Екипите обикновено получават по-добри резултати, когато предварително определят праговете за качество, поддържат човешка ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Изкуствен общ интелект на практика
Планиране на въздействието върху икономиката и сигурността, ако системите могат да заменят големи класове дистанционен когнитивен труд.
Екипите обикновено получават по-добри резултати, когато предварително определят праговете за качество, поддържат човешка ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Изкуствен общ интелект на практика
Изграждане на повтарящ се работен процес за изкуствен общ интелект с изрични критерии за успех и контролни точки за проверка от човек.
Екипите обикновено получават по-добри резултати, когато предварително определят праговете за качество, поддържат човешка ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Рискове и предпазни огради
Третирането на екзистенциалния риск като научна фантастика, докато способностите се смесват.
Объркваща безопасност на повърхностния продукт с подравняване при висока автономност.
Оставяйки неанглийската и неекспертната публика само с източници с ниско качество.
Пътна карта за изпълнение
Отделете рисковете от увреждане на продукта, неправилна употреба и загуба на контрол/неправилно подравняване.
Отнасяйте се към това като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Попитайте кои доказателства биха променили мнението ви за сроковете и тежестта.
Отнасяйте се към това като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Предпочитайте първичните източници и конкретните оценки пред маркетинговите твърдения.
Отнасяйте се към това като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Определете един път на действие: кариера, политика, финансиране или умения - не само информираност.
Отнасяйте се към това като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Продължете да изследвате
Check your understanding
Test yourself: take the Artificial General Intelligence quiz