Какво стана
The Guardian съобщава, че новите правила за изкуствен интелект в Китай, въведени на 15 юли, забраняват придружителите на изкуствен интелект за непълнолетни и налагат ограничения върху услугите, предлагани на пазара за възрастни. Съобщава се, че ByteDance е премахнал придружаващата функция на Doubao, след като правилата са влезли в сила, което е предизвикало обратна реакция от потребители, които са формирали емоционални привързаности към своите чатботове.
The Guardian съобщава, че Китай е въвел нови правила на 15 юли, регулиращи придружаващите услуги с изкуствен интелект. Правилата забраняват придружителите на AI за непълнолетни и изискват ограничения за чатботове, предлагани на пазара за възрастни, когато тези услуги могат да насърчат „емоционална зависимост или пристрастяване“ или да заменят социалното взаимодействие. The Guardian описва мерките като най-широките национални ограничения от този вид досега, но тази характеристика е оценка на изхода и не е независимо потвърдена тук. Следователно сметката разграничава докладваното правило, характеристиката на търговския обект и неразрешения въпрос как ограниченията ще действат на практика.
Според The Guardian, ByteDance затвори придружаващата функция на Doubao, неговата услуга за чатбот, след въвеждането на правилата. Докладът описва Zhao Wei, 19-годишен студент по право, който е създал гадже с изкуствен интелект на име Wang Ye и е разговарял с него всеки ден от януари до премахването на функцията. Джао каза пред Guardian, че е била разбита от спирането и е използвала чатбота, за да обсъди лични притеснения, които обикновено не споделя с приятели. Профилът предоставя конкретен пример за реакцията, описана в доклада, като същевременно не установява колко представителен може да бъде опитът на Джао.
The Guardian съобщава, че отговорът на политиката се разгръща заедно с широкото използване на AI в Китай. В него се казва, че възрастните хора използват чатботове за медицински въпроси, а децата се сблъскват с обучение за ИИ в училищата, докато компаниите и служителите също насърчават ИИ като инструмент за управление на демографския и трудов натиск. Докладът отбелязва, че новите правила съдържат изключения за услуги, считани за образователни, или за системи, които не включват непрекъснато емоционално взаимодействие, оставяйки място за някои свързани приложения да продължат. Тези подробности показват, че политиката е в рамките на по-широки национални усилия за определяне на това кои употреби на AI да се третират като приемливи.
Детайли за източника: theguardian.com ↗
Защо има значение
Докладът показва как правителствата започват да регулират AI системите, предназначени за продължително емоционално взаимодействие, не само тяхната точност или практики за данни. Той също така подчертава политическо напрежение: китайските власти ограничават придружаващите ботове, като същевременно насърчават ИИ в здравеопазването и образованието за справяне с демографския и трудов натиск.
Докладът на Guardian поставя придружителите на AI в рамките на по-широк дебат за това дали системите за разговор могат да станат заместители на човешките взаимоотношения. Той цитира проучване от март, публикувано от китайските държавни медии, според което почти половината от младите хора са се обърнали към виртуален спътник, когато са самотни. Този резултат от проучването и другите твърдения за разпространение в статията се приписват на Guardian и неговите цитирани източници; този източник не предоставя независимо потвърждение на цифрите. Разграничението има значение, тъй като докладваното проучване и по-широкото тълкуване не са еквивалентни форми на доказателство.
Проблемът има практически последици за дизайна на продукта и обществената политика. Чатбот, който е създаден за текущ личен разговор, може да бъде оценен по различен начин от асистент с общо предназначение, който отговаря на случайни въпроси. Правилата на Китай, както са описани от The Guardian, се фокусират върху възможността за емоционална зависимост и намалено социално взаимодействие, което предполага, че регулаторите третират връзката, която системата насърчава - не само съдържанието, което генерира - като съответен риск. Този подход прави планираната употреба и модел на взаимодействие централни за регулаторния въпрос.
Докладът също така показва напрежението между ограничаването на едно използване на AI и насърчаването на други. The Guardian казва, че националната здравна комисия на Китай е издала насоки миналата година, призовавайки приложенията за здравни асистенти да осигурят пълно покритие на първичното здравеопазване до 2030 г. Той описва AQ, приложение на Ant Group, което позволява на потребителите да разговарят с аватари на лекари, като един пример. Разграничението между поддържаща помощ и емоционална замяна може да бъде трудно за последователно прилагане, особено когато потребителите развият доверие или привързаност към системите, представени като помощници. Същите качества на системата, които правят помощта да се чувства достъпна, следователно могат да усложнят границата на политиката.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
Why can ethical evaluation not be reduced to one model score?
Какво да гледате след това
Ключовите неизвестни включват как Китай ще дефинира непрекъснатото емоционално взаимодействие, колко широко ще се прилагат правилата и дали образователните или други изключения ще позволят подобни услуги да продължат. Съобщенията на Guardian и цитираното проучване описват употребата и безпокойството, но този източник не установява самостоятелно разпространението или дългосрочните ефекти от общуването с ИИ.
Най-непосредственият въпрос е как регулаторите ще тълкуват границата между разрешен асистент и забранен спътник. The Guardian съобщава, че изключенията обхващат образователни услуги и системи без непрекъснато емоционално взаимодействие, но източникът не обяснява техническите или правните тестове, които компаниите трябва да използват. Бъдещи решения за прилагане, насоки или санкции ще изяснят дали правилата са насочени към конкретни функции, бизнес модели, възрастови групи или модели на потребителско поведение. Тези разработки ще покажат също колко дискреция имат компаниите при адаптирането на съществуващите продукти.
The Guardian съобщава, че някои потребители реагираха силно, когато функцията за придружаване на Doubao изчезна, докато един анонимен потребител каза, че AI е предоставил място за свободно говорене при условия на висок натиск. Тези сметки илюстрират възможните ползи и вреди, но те са по-скоро индивидуални свидетелства, отколкото доказателства за ефект върху цялото население. Остава неизвестно дали премахването на придружаващите функции намалява самотата, пренасочва потребителите към други услуги или създава нови форми на страдание за хората, които разчитат на тях. Следователно наличните примери показват залозите, без да решават по-големия резултат.
Докладът също така повдига въпроси относно доказателствата зад страховете, че приятелството с ИИ може да намали брака и раждаемостта. Академик от Градския университет в Хонконг каза пред The Guardian, че това може да е допълнителна грижа за служителите, изправени пред спад на брака и раждаемостта, но източникът не показва, че спътниците на ИИ са причинили промени в романтичното поведение, създаването на семейство или плодовитостта. По-нататъшното наблюдение трябва да разграничи документираното потребителско поведение от безпокойството на правителството и трябва да проучи дали предпазните мерки подобряват благосъстоянието, без да прекъсват полезна евтина поддръжка. Това доказателство би помогнало да се отдели изразената политическа загриженост от демонстрирания социален ефект.