Какво стана
На събитието Reuters Momentum AI в Остин, рисковият капиталист Джо Лонсдейл твърди, че регулирането на ИИ не трябва да се диктува от страх. Той конкретно критикува усилията на лица, свързани с големи фирми за ИИ, като Anthropic и OpenAI, да повлияят на външни групи, които се застъпват за по-строг надзор. Лонсдейл предположи, че тези регулаторни напъни биха могли по невнимание да дадат на водещите компании прекомерен контрол върху индустриалните стандарти, като по този начин засилят конкурентните им позиции.
Говорейки на събитието на Reuters Momentum AI в Остин, Джо Лонсдейл, основател на 8VC, се обърна към настоящия климат на регулиране на ИИ. Въпреки че признава, че безопасността на ИИ е основателна загриженост, той предупреди, че политиката не трябва да се ръководи основно от страх от напреднали системи.
Лонсдейл конкретно критикува това, което той характеризира като усилия на хора, близки до Anthropic и OpenAI, да подкрепят външни организации, които лобират за по-строги регулации за ИИ. Той твърди, че такова застъпничество може да позволи на малка група от доминиращи компании да упражняват непропорционално влияние върху правилата, управляващи целия сектор, като потенциално укрепват пазарните си позиции за сметка на по-малките конкуренти.
Въпреки критиката си към регулаторния тласък, Лонсдейл изрази подкрепа за техническия прогрес, постигнат от Anthropic, където той държи малка инвестиция. Той похвали главния изпълнителен директор Дарио Амодей и таланта на компанията, като отбеляза ролята й на водещ конкурент в AI индустрията.
Лонсдейл също засегна ролята на AI в отбраната, заявявайки, че автономните системи и оръжията, задвижвани от AI, вероятно ще станат централни за съвременната война. Той подчерта, че независимо от технологичния напредък, крайната отговорност трябва да остане на човешките военни лидери и лицата, вземащи решения.
Детайли за източника: entarabi.com ↗
Защо има значение
Коментарите на Lonsdale подчертават нарастващото напрежение в технологичния сектор по отношение на пресечната точка на застъпничеството за безопасност и пазарната конкуренция. Тъй като AI компаниите все повече се ангажират с политиците, дебатът се съсредоточава върху това дали регулациите, насочени към безопасността, са истински опити за смекчаване на екзистенциалните рискове или стратегически маневри за ограничаване на конкуренцията. Този дискурс е от решаващо значение, тъй като правителствата по целия свят преценяват как да управляват усъвършенствани AI системи, без да задушават иновациите или да създават регулаторни рамки, завладени от индустрията.
Забележките подчертават значителен разрив в индустрията на ИИ по отношение на мотивацията зад регулирането, фокусирано върху безопасността. Критиците твърдят, че големите AI лаборатории могат да използват разкази за „екзистенциален риск“, за да оформят политиката по начини, които благоприятстват тяхната собствена инфраструктура и протоколи за безопасност, като ефективно създават бариери за навлизане на по-малки стартиращи компании.
Тъй като ИИ става все по-интегриран в критичната инфраструктура и националната сигурност, балансът между бързото развитие и необходимите предпазни мерки се превръща в централен стълб на обществената политика. Гледната точка на Lonsdale подчертава риска от регулаторно улавяне, при което регулираните компании стават главните архитекти на законите, предназначени да ги ограничават.
Дебатът също така отразява по-широки опасения относно концентрацията на власт в индустрията на ИИ. Като оказват влияние върху регулаторния пейзаж, доминиращите фирми може да са в състояние да насочват траекторията на технологията по начини, които са в съответствие с техните специфични бизнес модели, потенциално ограничавайки разнообразието от разработване и внедряване на ИИ.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Какво да гледате след това
Продължаващото влияние на големите лаборатории за ИИ върху законодателните програми остава ключова област на фокус. Наблюдателите трябва да наблюдават как политиците разграничават легитимните опасения за безопасността от промишленото лобиране, особено след като дебатът относно автономните оръжия и изискванията за човек в цикъла за военния ИИ се засилва.
Бъдещите законодателни сесии и публични изслушвания, включващи ръководители на AI, ще бъдат от решаващо значение за гледане, тъй като те ще разкрият каква тежест придават законодателите на ръководените от индустрията предложения за безопасност в сравнение с независим експертен анализ.
Разработването на международни стандарти за автономни военни системи ще бъде ключов индикатор за това как правителствата възнамеряват да се справят с изискването за „човек в цикъла“, което подчерта Лонсдейл.
Продължаващото наблюдение на връзката между големите лаборатории за изкуствен интелект и групите за застъпничество, които те подкрепят, ще бъде необходимо, за да се определи дали настоящият регулаторен тласък води до широки стандарти за безопасност или специфични за индустрията защити.