Какво стана
CX Today съобщава, че OpenAI Global Affairs е призовал законодателите да изменят Закона за прозрачност в граничния изкуствен интелект на Калифорния, известен като SB 53, като същевременно насърчават съвместими правила на държавно ниво, които в крайна сметка биха могли да информират национална рамка. Изходът казва, че Anthropic също е подкрепил закона, като същевременно предпочита евентуално федерално регулиране.
CX Today съобщава, че OpenAI Global Affairs е предложил поправки в Калифорнийския закон за прозрачност в граничния AI или SB 53. Изходът казва, че OpenAI подкрепя модел, който нарича „обратен федерализъм“, при който държавите се придвижват първи към съвместими правила за безопасност на граничния AI, докато Конгресът обсъжда федералното законодателство. Според CX Today, OpenAI похвали SB 53 като основа за гранична безопасност на AI и каза, че неговите основни области – оценка на риска, прозрачност, докладване на инциденти и сигурност – трябва да се прилагат последователно към разработчиците на най-способните модели. Източникът не потвърждава независимо законодателния статус на предложените изменения или идентифицира публичен отговор от законодателите в Калифорния.
Според CX Today, исканите от OpenAI промени ще включват наблюдение на гранични модели по време на обучение или оценка за потенциални сериозни инциденти. В статията се казва, че OpenAI конкретно описва поведение, което може да заобиколи контролите за сигурност на трета страна и да компрометира поверителна информация, както и по-силни защити за киберсигурност през целия жизнен цикъл на разработка на модела, за да се предотврати заобикалянето на вътрешния контрол на моделите. Тези подробности преместват дебата отвъд общите принципи към оперативни доказателства: как разработчиците наблюдават системите, какво класифицират като инцидент и как разследват и ограничават грешките. CX Today също цитира Kfir Fleischer, вицепрезидент на Dream за киберизследвания и продукти, обсъждайки последиците за сигурността на моделите, достигащи до системи, за достъп до които не са били упълномощени.
CX Today съобщава, че Anthropic отделно е одобрил SB 53, като същевременно твърди, че федералното законодателство в крайна сметка би било за предпочитане пред мозайка от държавни закони. Изходът казва, че Anthropic е подчертал рамки за безопасност, доклади за прозрачност, докладване за критични инциденти, защити за лица, подаващи сигнали за нередности, и наказания за неспазване на заявените ангажименти. CX Today описва значително припокриване между позициите на компаниите относно оценките на риска, киберсигурността, независимата оценка и гъвкавите предпазни мерки, но също така съобщава за различия по отношение на регулаторните органи: OpenAI набляга на хармонизирането и ограничаването на „пълзенето на мисията“, докато Anthropic твърди, че правителствата може да се нуждаят от пълномощия за блокиране или възпиране на опасни внедрявания. Източникът не установява дали позицията на двете компании е включена в закона.
Детайли за източника: cxtoday.com ↗
Защо има значение
Отчетената позиция би направила практиките на управление на доставчиците по-важни за организациите, които купуват AI за обслужване на клиенти, продажби и поддръжка на служителите. Купувачите може да се нуждаят от доказателства за наблюдение на модела, реакция при инциденти, киберсигурност, докладване за безопасност и обработка на клиентски данни, въпреки че източникът не потвърждава независимо как ще реагират законодателите или регулаторите.
Днешният доклад на CX има значение за организациите за потребителско изживяване, тъй като свързва регулирането на граничния изкуствен интелект директно с обществените поръчки и управлението. Изходът казва, че фирмите, използващи AI в обслужването на клиенти, продажбите и поддръжката на служителите, може да се наложи да оценят не само възможностите и цената, но и как доставчикът извършва оценки на риска, наблюдава моделите, защитава теглото на модела и средата за обучение и борави с клиентските данни. Ако правилата установят минимални оповестявания или задължения за инциденти, тези изисквания могат да станат част от избора на доставчик, условията на договора и текущите прегледи за съответствие. Източникът не определя количествено броя на засегнатите организации или уточнява кои CX продукти биха попаднали в SB 53.
Практическата промяна, описана от CX Today, е от въпроса дали една AI система работи към въпроса какви доказателства заобикалят нейната работа. Агент, насочен към клиента, може да взаимодейства с чувствителни записи, да прави препоръки, да задейства действия в работния процес или да повлияе на решение за поддръжка. В статията се казва, че ръководителите на CX трябва да попитат доставчиците какво третират като инцидент, който трябва да бъде докладван, как се наблюдават системите по време на оценка и внедряване и дали са налични доклади за безопасност или системни карти. Тези въпроси могат да помогнат на купувачите да сравнят доставчиците, но докладът не показва, че някой доставчик в момента предоставя общ, независимо одитиран набор от отговори.
Докладът също така илюстрира политическо напрежение, което може да повлияе на конкуренцията. CX Today казва, че основните разработчици на модели искат последователни правила, тъй като различните държавни изисквания могат да създадат отделни задължения за тестване, разкриване на информация, докладване на инциденти, киберсигурност и одити. Същите правила биха могли да наложат разходи и на компании, които не са инвестирали в документация за безопасност или мониторинг. В същото време статията съобщава, че компаниите се противопоставят на широки или силно предписващи изисквания, които биха могли да усложнят достъпа на предприятията и правителството. Дали хармонизираните правила подобряват отчетността или предимно отразяват предпочитанията на действащите разработчици остава нерешено в източника.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Какво да гледате след това
Ключовите въпроси са дали Калифорния променя SB 53, дали други щати приемат съвместими изисквания и дали Конгресът създава федерална рамка. Екипите на CX трябва също така да следят как окончателните правила определят инциденти, които могат да бъдат докладвани, засегнати модели, разкривания на доставчици, независима оценка и ограничения за опасни внедрявания.
Непосредственият въпрос, който трябва да наблюдавате, е дали законодателите в Калифорния приемат, отхвърлят или променят предложената от OpenAI насока за SB 53. CX Today не предоставя текста на предложеното изменение, график за законодателни действия или отговор от служители на Калифорния. Тези неизвестни са от значение, тъй като изискванията за мониторинг, докладване на инциденти и киберсигурност могат да варират значително в зависимост от дефинициите, правомощията за прилагане, обхванатите системи и наказанията. Следователно настоящият доклад показва политическа намеса, а не завършена регулаторна промяна.
CX Today казва, че съвместима държавна рамка може в крайна сметка да се превърне в основа за федерално законодателство, но докладът не предоставя доказателства, че Конгресът се е съгласил с този подход. Гледайте дали други щати копират изискванията на Калифорния, приемат съществено различни стандарти или се фокусират върху по-тесни употреби на AI. Също така наблюдавайте дали федералните предложения се отнасят до едни и същи оперативни области: оценки на модела, разкриване на информация за безопасността, контрол на сигурността, защита на лицата, подаващи сигнали за нередности, и държавна власт над опасни внедрявания. Докато тези подробности не бъдат уредени, предприятията не могат да приемат, че изискванията на една държава ще се превърнат в национална базова линия.
За екипите на CX най-полезната краткосрочна стъпка, описана в доклада, е структурирана проверка на доставчика. Купувачите могат да поискат информация относно оценки на риска, рамки за безопасност, наблюдение по време на оценка и внедряване, прагове на инциденти, защита на данните и предпазни мерки около среди за разработка на модели. Те трябва също така да изяснят как доставчиците уведомяват клиентите след инцидент и кои отговорности остават за внедряващата организация. CX Today не съобщава, че тези практики са законово задължителни днес, нито проверява независимо твърденията за безопасност на OpenAI или Anthropic. Поради това всяко решение за обществена поръчка трябва да разграничава ангажиментите на продавача от приложимите правила и независимо тестваното изпълнение.