Какво стана
Според WIRED, OpenAI проучва правната осъществимост на координирането с други лаборатории за изкуствен интелект, за да забави развитието, стратегия, предложена от неговия главен учен за гарантиране на безопасността. Докато двупартиен законопроект, представен през юли, има за цел да осигури антитръстов имунитет за такова сътрудничество, той все още не е приет, оставяйки индустрията в състояние на правна несигурност.
WIRED съобщава, че OpenAI в момента оценява дали координирано забавяне на развитието на ИИ би било законно според антитръстовите закони на САЩ. Това запитване следва публикация в блога на OpenAI, главен учен Якуб Пачоцки, който твърди, че координирането за забавяне на бъдещото развитие е от съществено значение за гарантиране на безопасността на самоусъвършенстващите се AI системи. Pachocki предложи доброволното забавяне да стане обичайно, докато не бъдат установени общи стандарти за безопасност.
Правни експерти, цитирани от WIRED, включително Никълъс Фелстед, отбелязват, че такава координация може потенциално да наруши антитръстовия закон на Шърман, като ограничи изхода. Докато законността ще зависи от конкретните подробности на всяко споразумение, произтичащата от това правна несигурност действа като мощен възпиращ фактор за компаниите, които обмислят сътрудничество в областта на безопасността. OpenAI не отговори на искането на WIRED за коментар по този въпрос.
В отговор на тези опасения, двупартийна група от законодатели въведе през юли „Закон за сътрудничество при състезателни заплахи и рискове за сигурността“. Този законопроект изрично ще позволи на лабораториите за изкуствен интелект да координират работата по сигурността и безопасността, без да се сблъскват с антитръстови рискове. Въпреки това версията на законопроекта в Камарата на представителите е отнесена до съдебната комисия и все още не е взета за по-нататъшни действия.
Калеб Нап от AI Policy Network, който подкрепи законопроекта, заяви, че Конгресът има нарастващ апетит за законодателство за безопасност на AI, но приемането му може да бъде отложено до предстоящите междинни избори. Междувременно някои лидери на ИИ, включително Джон Шулман, твърдят, че антитръстовите опасения са удобно извинение за компаниите да избягват да се занимават с по-дълбоки конкурентни и философски разногласия относно безопасността на ИИ.
Детайли за източника: wired.com ↗
Защо има значение
Тази правна неяснота създава значителна пречка пред колективните действия относно безопасността на ИИ. Без ясна правна защита, големите технологични компании може да избегнат координирането на мерките за безопасност поради риска от антитръстови съдебни дела, което потенциално позволява конкурентната надпревара за по-мощни модели да продължи без контрол, въпреки нарастващите опасения за сигурността и обществените рискове.
Потенциалът за антитръстова отговорност създава значителна бариера пред координацията на безопасността в цялата индустрия. С нарастването на възможностите на ИИ рискът от инциденти със сигурността и обществени вреди се увеличава, но правната рамка в момента обезсърчава самото сътрудничество, необходимо за смекчаване на тези рискове.
Тази правна несигурност може да позволи конкурентната надпревара за гранични модели да продължи без значими проверки за безопасност. Компаниите могат да дадат приоритет на скоростта и пазарния дял пред усилията за колективна безопасност, особено ако смятат, че координирането с конкуренти може да ги изложи на правни предизвикателства.
Ситуацията подчертава критична празнина в настоящата политика на САЩ. Въпреки че има двупартиен интерес към безопасността на изкуствения интелект, липсата на прието законодателство поставя лабораториите за изкуствен интелект в несигурна позиция, неспособни уверено да се ангажират с вида координация, който според експертите е необходим за безопасното развитие.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Какво да гледате след това
Наблюдавайте напредъка на „Закона за сътрудничество при състезателни заплахи и рискове за сигурността“ в съдебната комисия на Камарата на представителите и следете за всякакви публични изявления от OpenAI или други големи лаборатории относно желанието им да се ангажират с координиране на безопасността, след като бъде установена правна яснота.
Следващите стъпки за „Сътрудничество по Закона за състезателни заплахи и рискове за сигурността“ в съдебната комисия на Камарата на представителите ще бъдат ключов индикатор за ангажимента на Конгреса за разрешаване на правната неяснота около координирането на безопасността на ИИ.
Публичните изявления от OpenAI и други големи лаборатории за изкуствен интелект относно тяхната позиция относно координацията на безопасността ще бъдат внимателно наблюдавани, особено с развитието на правната среда и засилване на конкурентния натиск за пускане на нови модели.
Всички допълнителни инциденти със сигурността, включващи AI модели, като неотдавнашното нарушение на Hugging Face, може да увеличат натиска върху законодателите да действат бързо и да предоставят ясни правни насоки за индустрията.